PEFT documentation
PEFT
PEFT
🤗 PEFT (Parameter-Efficient Fine-Tuning), bir modelin tüm parametrelerini ince ayar yapmak maliyet açısından kabul edilemez düzeyde yüksek olduğu için, büyük önceden eğitilmiş modelleri çeşitli aşağı akış uygulamalarına verimli bir şekilde uyarlamak için kullanılan bir kütüphanedir. PEFT yöntemleri, yalnızca küçük bir (ek) model parametresi kümesini ince ayarlayarak hesaplama ve depolama maliyetlerini önemli ölçüde azaltır ve tam olarak ince ayarlanmış bir modelle karşılaştırılabilir performans elde eder. Bu, büyük dil modellerinin (LLM) ve diğer büyük modellerin tüketici donanımlarında eğitilmesini ve depolanmasını daha erişilebilir hale getirir.
PEFT, büyük modelleri çıkarım için daha hızlı ve kolay bir şekilde yüklemek, eğitmek ve kullanmak için Transformers, Diffusers ve Accelerate kütüphaneleriyle entegre edilmiştir.
