PEFT documentation

PEFT

Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

PEFT

🤗 PEFT (Parameter-Efficient Fine-Tuning), bir modelin tüm parametrelerini ince ayar yapmak maliyet açısından kabul edilemez düzeyde yüksek olduğu için, büyük önceden eğitilmiş modelleri çeşitli aşağı akış uygulamalarına verimli bir şekilde uyarlamak için kullanılan bir kütüphanedir. PEFT yöntemleri, yalnızca küçük bir (ek) model parametresi kümesini ince ayarlayarak hesaplama ve depolama maliyetlerini önemli ölçüde azaltır ve tam olarak ince ayarlanmış bir modelle karşılaştırılabilir performans elde eder. Bu, büyük dil modellerinin (LLM) ve diğer büyük modellerin tüketici donanımlarında eğitilmesini ve depolanmasını daha erişilebilir hale getirir.

PEFT, büyük modelleri çıkarım için daha hızlı ve kolay bir şekilde yüklemek, eğitmek ve kullanmak için Transformers, Diffusers ve Accelerate kütüphaneleriyle entegre edilmiştir.

Mevcut modelleri "uyarlamanın" birçok yöntemi vardır ve bu yöntemler genellikle modele derinlemesine entegre edilir. PEFT, model uyarlama yöntemlerinin (ağırlıkları değiştirme, katmanları sarma, KV önbelleklerini manipüle etme, ...) herhangi bir yöntemi için bir çerçeve olarak düşünülebilirken, aynı zamanda birçok ince ayar yöntemi için referans bir uygulama görevi görür.
Update on GitHub