Diffusers documentation
TCDScheduler
TCDScheduler
Trajectory Consistency Distillation, de Jianbin Zheng, Minghui Hu, Zhongyi Fan, Chaoyue Wang, Changxing Ding, Dacheng Tao y Tat-Jen Cham, introdujo un Strategic Stochastic Sampling (Algoritmo 4) capaz de generar buenas muestras en un pequeño número de pasos. Al distinguirlo como una iteración avanzada del multistep scheduler (Algoritmo 1) en los Consistency Models, el Strategic Stochastic Sampling está específicamente diseñado para la función de consistencia de trayectoria.
El resumen del artículo es:
Latent Consistency Model (LCM) extiende el Consistency Model al espacio latente y aprovecha la técnica de destilación de consistencia guiada para lograr un rendimiento impresionante en la aceleración de la síntesis de texto a imagen. Sin embargo, observamos que LCM tiene dificultades para generar imágenes con claridad y detalle intrincado a la vez. Para abordar esta limitación, inicialmente profundizamos y elucidamos las causas subyacentes. Nuestra investigación identifica que el problema principal proviene de errores en tres áreas distintas. En consecuencia, introducimos Trajectory Consistency Distillation (TCD), que abarca la función de consistencia de trayectoria y la muestreo estocástico estratégico. La función de consistencia de trayectoria reduce los errores de destilación ampliando el alcance de la condición de frontera de autoconsistencia y dotando a TCD de la capacidad de trazar con precisión toda la trayectoria del ODE de flujo de probabilidad. Además, el muestreo estocástico estratégico está diseñado específicamente para evitar los errores acumulados inherentes al muestreo de consistencia de múltiples pasos, y está meticulosamente adaptado para complementar el modelo TCD. Los experimentos demuestran que TCD no solo mejora significativamente la calidad de la imagen con bajos NFE, sino que también produce resultados más detallados en comparación con el modelo maestro con altos NFE.
El código original se puede encontrar en jabir-zheng/TCD.
TCDScheduler
clase diffusers.TCDScheduler
< source >( num_train_timesteps: int = 1000beta_start: float = 0.00085beta_end: float = 0.012beta_schedule: str = 'scaled_linear'trained_betas: numpy.ndarray | list[float] | None = Noneoriginal_inference_steps: int = 50clip_sample: bool = Falseclip_sample_range: float = 1.0set_alpha_to_one: bool = Truesteps_offset: int = 0prediction_type: str = 'epsilon'thresholding: bool = Falsedynamic_thresholding_ratio: float = 0.995sample_max_value: float = 1.0timestep_spacing: str = 'leading'timestep_scaling: float = 10.0rescale_betas_zero_snr: bool = False )
Parámetros
- num_train_timesteps (
int, por defecto1000) — El número de pasos de difusión para entrenar el modelo. - beta_start (
float, por defecto0.00085) — El valor inicial debetapara la inferencia. - beta_end (
float, por defecto0.012) — El valor final debeta. - beta_schedule (
str, por defecto"scaled_linear") — La programación de beta, un mapeo desde un rango de beta hasta una secuencia de betas para dar pasos al modelo. Elija entrelinear,scaled_linearosquaredcos_cap_v2. - trained_betas (
np.ndarrayolist[float], opcional) — Pase un array de betas directamente al constructor para omitirbeta_startybeta_end. - original_inference_steps (
int, por defecto50) — El número predeterminado de pasos de inferencia utilizados para generar un calendario de pasos de tiempo espaciados linealmente, del cual finalmente tomaremosnum_inference_stepspasos de tiempo equiespaciados para formar el calendario de pasos de tiempo final. - clip_sample (
bool, por defectoFalse) — Recorta la muestra predicha para la estabilidad numérica. - clip_sample_range (
float, por defecto1.0) — La magnitud máxima para el recorte de muestras. Solo es válido cuandoclip_sample=True. - set_alpha_to_one (
bool, por defectoTrue) — Cada paso de difusión utiliza el valor del producto de alfas en ese paso y en el anterior. En el paso final no hay un alfa anterior. Cuando esta opción esTrue, el producto del alfa anterior se fija en1; de lo contrario, se utiliza el valor de alfa del paso 0. - steps_offset (
int, por defecto0) — Un desplazamiento que se suma a los pasos de inferencia, tal como lo requieren algunas familias de modelos. - prediction_type (
str, defaults to"epsilon") — Prediction type of the scheduler function; can beepsilon(predicts the noise of the diffusion process),sample(directly predicts the noisy sample) orv_prediction` (see section 2.4 of Imagen Video paper). - thresholding (
bool, por defectoFalse) — Si se debe utilizar el método de “umbral dinámico”. No es adecuado para modelos de difusión en el espacio latente, como Stable Diffusion. - dynamic_thresholding_ratio (
float, por defecto0.995) — La proporción para el método de umbral dinámico. Solo es válido cuandothresholding=True. - sample_max_value (
float, por defecto1.0) — El valor umbral para el umbral dinámico. Solo es válido cuandothresholding=True. - timestep_spacing (
str, por defecto"leading") — La forma en que se deben escalar los pasos de tiempo. Consulte la tabla 2 de Common Diffusion Noise Schedules and Sample Steps are Flawed para obtener más información. - timestep_scaling (
float, por defecto10.0) — El factor por el que se multiplicarán los timesteps al calcular las condiciones de frontera del modelo de consistenciac_skipyc_out. Aumentar este valor reducirá el error de aproximación (aunque el error de aproximación con el valor por defecto de10.0ya es bastante pequeño). - rescale_betas_zero_snr (
bool, por defectoFalse) — Si se deben reescalar los betas para tener un SNR terminal cero. Esto permite al modelo generar muestras muy brillantes y oscuras en lugar de limitarse a muestras con un brillo medio. Relacionado de forma laxa con--offset_noise.
TCDScheduler incorpora el Strategic Stochastic Sampling introducido por el artículo Trajectory Consistency Distillation, extendiendo el Multistep Consistency Sampling original para permitir la exploración de trayectorias sin restricciones.
Este código se basa en el repositorio oficial de TCD(https://github.com/jabir-zheng/TCD).
Este modelo hereda de SchedulerMixin y ConfigMixin. ~ConfigMixin se encarga de almacenar todos los atributos de configuración que se pasan en la función __init__ del scheduler, como num_train_timesteps. Se pueden acceder mediante scheduler.config.num_train_timesteps. SchedulerMixin proporciona funcionalidad general de carga y guardado a través de las funciones SchedulerMixin.save_pretrained() y from_pretrained().
add_noise
< source >( original_samples: Tensornoise: Tensortimesteps: IntTensor ) → torch.Tensor
Parámetros
- original_samples (
torch.Tensor) — Las muestras originales a las que se les añadirá ruido. - noise (
torch.Tensor) — El ruido que se añadirá a las muestras. - timesteps (
torch.IntTensor) — Los pasos de tiempo que indican el nivel de ruido para cada muestra.
Devuelve
torch.Tensor
Las muestras ruidosas.
Añada ruido a las muestras originales según la magnitud del ruido en cada paso temporal (este es el proceso de difusión hacia adelante).
get_velocity
< source >( sample: Tensornoise: Tensortimesteps: IntTensor ) → torch.Tensor
Calcule la predicción de velocidad a partir de la muestra y el ruido según la fórmula de velocidad.
index_for_timestep
< source >( timestep: typing.Union[float, torch.Tensor]schedule_timesteps: typing.Optional[torch.Tensor] = None ) → int
Parámetros
- timestep (
floatotorch.Tensor) — El valor de timestep que se debe buscar en la programación. - schedule_timesteps (
torch.Tensor, opcional) — El calendario de pasos de tiempo en el que buscar. Si esNone, usaself.timesteps.
Devuelve
int
El índice del paso de tiempo en la programación. Para el primer paso, devuelve el segundo índice si existen múltiples coincidencias para evitar omitir una sigma al comenzar a mitad de la programación (p. ej., para imagen a imagen).
Encuentra el índice de un paso de tiempo dado en la programación de pasos de tiempo.
previous_timestep
< source >( timestep: int ) → int or torch.Tensor
Calcule el paso de tiempo anterior en la cadena de difusión.
scale_model_input
< source >( sample: Tensortimestep: typing.Union[int, torch.Tensor, NoneType] = None ) → torch.Tensor
Garantiza la interoperabilidad con los programadores que necesitan escalar la entrada del modelo de desruido en función del paso temporal actual.
set_begin_index
< source >( begin_index: int = 0 )
Establece el índice inicial para el programador. Esta función debe ejecutarse desde la tubería antes de la inferencia.
set_timesteps
< source >( num_inference_steps: int | None = Nonedevice: typing.Union[str, torch.device, NoneType] = Noneoriginal_inference_steps: int | None = Nonetimesteps: list[int] | None = Nonestrength: float = 1.0 )
Parámetros
- num_inference_steps (
int, opcional) — El número de pasos de difusión utilizados al generar muestras con un modelo preentrenado. Si se usa,timestepsdebe serNone. - device (
strotorch.device, opcional) — El dispositivo al que deben moverse los timesteps. Si esNone, los timesteps no se mueven. - original_inference_steps (
int, opcional) — El número original de pasos de inferencia, que se utilizará para generar un calendario de pasos de tiempo linealmente espaciado (que es diferente de la implementación estándar dediffusers). A continuación, tomaremosnum_inference_stepspasos de tiempo de este calendario, espaciados uniformemente en términos de índices, y usaremos eso como nuestro calendario final de pasos de tiempo. Si no se establece, este valor será por defecto el atributooriginal_inference_steps. - timesteps (
list[int], opcional) — Pasos de tiempo personalizados para admitir un espaciado arbitrario entre los pasos de tiempo. Si esNone, se utiliza la estrategia de espaciado de pasos de tiempo predeterminada, que consiste en un espaciado igual entre los pasos de tiempo en la programación de pasos de tiempo de entrenamiento/destilación. Si se pasatimesteps,num_inference_stepsdebe serNone. - strength (
float, por defecto1.0) — Se utiliza para determinar el número de pasos de tiempo (timesteps) empleados para la inferencia al usar img2img, inpaint, etc.
Establece los pasos discretos utilizados para la cadena de difusión (para ejecutarse antes de la inferencia).
paso
< source >( model_output: Tensortimestep: typing.Union[int, torch.Tensor]sample: Tensoreta: float = 0.3generator: typing.Optional[torch.Generator] = Nonereturn_dict: bool = True ) → TCDSchedulerOutput or tuple[torch.Tensor, torch.Tensor]
Parámetros
- model_output (
torch.Tensor) — La salida directa del modelo de difusión aprendido. - timestep (
intotorch.Tensor) — El paso de tiempo discreto actual en la cadena de difusión. - sample (
torch.Tensor) — Una instancia actual de una muestra creada por el proceso de difusión. - eta (
float, por defecto0.3) — Un parámetro estocástico (denominadogammaen el artículo) utilizado para controlar la estocasticidad en cada paso. Cuando eta = 0, representa una muestreo determinista, mientras que eta = 1 indica un muestreo completamente estocástico. - generator (
torch.Generator, opcional) — Un generador de números aleatorios. - return_dict (
bool, por defectoTrue) — Si se devuelve un TCDSchedulerOutput o untuple.
Devuelve
TCDSchedulerOutput o tuple[torch.Tensor, torch.Tensor]
If return_dict is True, TCDSchedulerOutput is returned, otherwise a
tuple is returned containing the previous sample and the predicted noised sample.
Predice la muestra del paso de tiempo anterior invirtiendo el SDE. Esta función propaga el proceso de difusión a partir de las salidas del modelo aprendido (con mayor frecuencia, el ruido predicho).
TCDSchedulerOutput
clase diffusers.schedulers.scheduling_tcd.TCDSchedulerOutput
< source >( prev_sample: Tensorpred_noised_sample: typing.Optional[torch.Tensor] = None )
Parámetros
- prev_sample (
torch.Tensorde forma(batch_size, num_channels, height, width)para imágenes) — Muestra calculada(x_{t-1})del paso de tiempo anterior.prev_sampledebe usarse como entrada del modelo en el bucle de desruido. - pred_noised_sample (
torch.Tensorde forma(batch_size, num_channels, height, width)para imágenes, opcional) — La muestra con ruido predicha(x_{s})basada en la salida del modelo del paso de tiempo actual.
Clase de salida para la función step del programador.