PEFT documentation
Métodos auxiliares
Métodos auxiliares
Una colección de funciones auxiliares para PEFT.
Comprobar si un modelo es un modelo PEFT
peft.helpers.check_if_peft_model
< source >( model_name_or_path: str ) → bool
Comprueba si el modelo es un modelo PEFT.
Escalar temporalmente el parámetro de escala del adaptador en los módulos LoraLayer
peft.helpers.rescale_adapter_scale
< source >( model: Modulemultiplier: float | int )
Parámetros
- model — El modelo que contiene los módulos
LoraLayercuya escala se debe ajustar. - multiplier (float o int) —
El multiplicador que reescala el atributo
scaling. Debe ser de tipo float o int.
Lanza
ValueError
ValueError— Si el modelo no contiene ninguna instancia deLoraLayer, lo que indica que el modelo no admite el escalado.
Gestor de contexto para reescalar temporalmente la escala del adaptador LoRA en un modelo.
Los valores de escalado originales se restauran cuando se sale del administrador de contexto. Este administrador de contexto funciona con los modelos de transformers y diffusers que han cargado adaptadores LoRA directamente.
Para LoRA, aplicar este gestor de contexto con un multiplicador en [0, 1] es estrictamente equivalente a aplicar wise-ft (consulte #1940 para más detalles). Puede mejorar el rendimiento del modelo si existe un cambio de distribución entre los datos de entrenamiento utilizados para el ajuste fino y los datos de prueba utilizados durante la inferencia.
Warning: Se ha reportado que, al usar el backend MPS de Apple para PyTorch, es necesario añadir un breve tiempo de espera después de salir del contexto antes de que las escalas se restablezcan por completo.
Gestor de contexto para deshabilitar el cambio de tipo de datos de entrada en el método forward de las capas LoRA
peft.helpers.disable_input_dtype_casting
< source >( model: Moduleactive: bool = True )
El gestor de contexto desactiva el cambio de tipo de datos de entrada al tipo de datos del peso.
Gestor de contexto para habilitar el almacenamiento en caché de DoRA (más rápido en el momento de la inferencia, pero requiere más memoria)
Gestor de contexto para habilitar el almacenamiento en caché de DoRA, lo que mejora la velocidad de inferencia de DoRA a costa de la memoria.
Con la caché activa, el peso materializado de LoRA (B @ A) y la norma del peso (peso base + peso de LoRA) se almacenan en caché.
Incluso en el contexto de la caché, si el modelo está en modo de entrenamiento, la caché se desactiva. Cuando el modelo cambia al modo de entrenamiento, la caché se limpia.
Ejemplo:
>>> from peft.helpers import DoraCaching
>>> model.eval() # put in eval model for caching to work
>>> with DoraCaching(): # use as a context manager
... output = model(inputs)
>>> dora_caching = DoraCaching()
>>> dora_caching(enabled=True) # permanently enable caching
>>> output = model(inputs)
>>> dora_caching(enabled=False) # permanently disable caching
>>> output = model(inputs)Creando una configuración LoRA ficticia para el intercambio en caliente
Vea comenzar con un adaptador de prueba para el flujo de trabajo y el script de línea de comandos.
peft.helpers.create_dummy_lora_config
< source >( configs: Sequence ) → LoraConfig
Parámetros
- configs (
Sequence[LoraConfig]) — Secuencia no vacía de configuraciones de LoRA compatibles para el mismo modelo base. Cada una debe tenertarget_modulesexplícitos y no vacíos; no se admiten cadenas (incluidas expresiones regulares y"all-linear") ni objetivos inferidos. Se admiten LoRA estándar y rsLoRA, sin módulos, sesgos o parámetros adicionales guardados.
Devuelve
LoraConfig
Una configuración con inicialización de salida cero y un rango máximo uniforme.
Lanza
TypeError o ValueError
TypeError— Si alguna configuración no es una configuración de LoRA.ValueError— Si no se proporcionan configuraciones, o si sus ajustes no son compatibles o son incompatibles entre sí.
Cree una configuración de LoRA sin operación que reserve capacidad para el intercambio en caliente.
El propósito de esta función auxiliar es crear una configuración LoRA ficticia que se puede utilizar para inicializar un modelo LoRA antes de intercambiar en caliente diferentes adaptadores LoRA (ver https://huggingface.co/docs/peft/main/en/package_reference/hotswap). Un problema con el intercambio en caliente es que el primer adaptador LoRA que se carga debe instalar los pesos LoRA en todas las capas que los LoRA intercambiados en caliente posteriores apuntarán. Si estos LoRA apuntan a capas disjuntas, ninguno de ellos puede servir como el primer LoRA. Esta función auxiliar crea un LoRA ficticio que apunta a la unión de las capas de todos los LoRA individuales. También preasigna pesos LoRA con un rango suficientemente grande.
La configuración de LoRA generada no está destinada a usarse para un entrenamiento adicional.
No se cargan pesos de modelo base ni de adaptadores. Los filtros y exclusiones de capas se eliminan para cubrir cada adaptador, lo que puede provocar una sobreasignación de pesos LoRA en capas adicionales.
Instancia el resultado con get_peft_model y luego llama a prepare_model_for_compiled_hotswap antes de compilar. El
adaptador dummy se inicializa de tal manera que es una operación sin efecto (no-op), es decir, no es necesario desactivarlo para ejecutar la inferencia en el
modelo base.
Tenga en cuenta que algunos argumentos de LoraConfig no están admitidos y provocarán un error. Esto se debe a que no sería posible combinar esas configuraciones en una sola configuración ficticia.
Hay un script auxiliar en el repositorio de PEFT para crear la configuración dummy de LoRA desde la línea de comandos:
python scripts/create-dummy-lora-for-hotswap.py adapter0 adapter1 [...] --output-dir dummy-lora
Selección de objetivos de KappaTune
KappaTuneSelector y find_kappa_target_modules implementan un proceso general de selección de objetivos a partir del artículo de KappaTune.
El método identifica módulos con mayor flexibilidad (mayor entropía diferencial de salida) y menor especialización (menor sensibilidad a direcciones de entrada específicas).
Estas propiedades hacen que los módulos seleccionados sean buenos candidatos para mitigar el olvido catastrófico en cualquier método de adaptación que añada parámetros entrenables, incluidos LoRA, DoRA, LoHa, AdaLoRA e incluso el ajuste fino directo de los pesos originales.
clase peft.helpers.KappaTuneSelector
< source >( model: Modulemax_dim_size_to_analyze: int = 16384moe_param_suffixes: tuple[str, ...] | None = Noneshow_progress: bool = True )
Utilidad ligera para calcular los números de condición por módulo / por parámetro y devolver los mejores objetivos de LoRA.
Soporta:
- Módulos nn.Linear clásicos (target_modules en LoraConfig)
- Pesos MoE fusionados modernos almacenados como nn.Parameter de 3D (gate_up_proj / down_proj, gate_proj / up_proj, etc.) utilizados en Llama-4, Qwen2_MoE, Qwen3_MoE, Mixtral, OLMoE y modelos similares. Se devuelven a través de target_parameters.
Notas:
- El cálculo del número de condición requiere ejecutar SVD y puede tardar varios minutos en modelos muy grandes. Una barra de progreso se puede mostrar/desactivar mediante
show_progress.
peft.find_kappa_target_modules
< source >( model: Moduletop_p: float = 0.2max_dim_size_to_analyze: int = 16384moe_param_suffixes: tuple[str, ...] | None = Noneshow_progress: bool = True )
Parámetros
- model (nn.Module) — Modelo base cuyos pesos se analizarán para los números de condición.
- top_p (float, opcional) — Selecciona la fracción superior de módulos/parámetros candidatos con los números de condición más bajos.
- max_dim_size_to_analyze (int, opcional) — Límite superior de la dimensión máxima de la matriz analizada mediante SVD. El valor predeterminado es 16384.
- moe_param_suffixes (Optional[tuple[str, …]], opcional) —
Sufijos de nombres de parámetros utilizados para identificar tensores MoE fusionados que deben devolverse a través de
target_parameters. Si es None, se utilizan valores predeterminados razonables. - show_progress (bool, opcional) — Si se muestra una barra de progreso mientras se calculan los números de condición (basados en SVD) en los tensores/módulos candidatos. Desactívelo en CI u otros entornos no interactivos. El valor predeterminado es True.
Función de conveniencia de una línea para la selección de objetivos de KappaTune. Devuelve tanto target_modules como target_parameters.