Fine-Tuning nedir?
İnce Ayar
Önceden eğitilmiş bir modeli, belirli bir görev veya alana uyarlamak için daha küçük ve özel bir veri setiyle ek eğitimden geçirme işlemi.
Fine-tuning (ince ayar), genel amaçlı büyük bir veriyle önceden eğitilmiş bir modeli sıfırdan eğitmek yerine, hedef göreve ait daha küçük bir veri setiyle eğitmeye devam etme yöntemidir. Model genel bilgisini korurken belirli bir üsluba, biçime veya alana uyum sağlar. Bu yaklaşım transfer öğrenmenin bir uygulamasıdır.
Dil modellerinde ince ayar genellikle soru-cevap veya girdi-çıktı çiftleriyle yapılır. Tüm ağırlıkları güncellemek çok kaynak gerektirdiği için LoRA gibi parametre-verimli yöntemlerde yalnızca küçük ek katmanlar eğitilir; bu, maliyeti ve donanım ihtiyacını ciddi ölçüde düşürür.
İnce ayar her problem için doğru araç değildir. Modelin güncel veya sık değişen bilgilere erişmesi gerekiyorsa RAG genellikle daha uygun ve ucuzdur. İyi yazılmış bir prompt bile çoğu zaman yeterli olabilir. İnce ayar daha çok tutarlı bir çıktı biçimi, belirli bir ton veya özel bir sınıflandırma görevi gerektiğinde değer katar.
Örneğin bir firma, destek taleplerini kendi kategorilerine göre sınıflandırmak için geçmiş etiketli taleplerle bir modele ince ayar yapabilir.
Örnek: İnce ayar için örnek eğitim verisi (JSONL)
{"messages": [{"role": "user", "content": "Bilgisayarım açılmıyor, fan dönüyor ama ekran yok."}, {"role": "assistant", "content": "Kategori: Donanım / Ekran-RAM"}]}
{"messages": [{"role": "user", "content": "Faturamı e-posta ile alamadım."}, {"role": "assistant", "content": "Kategori: Muhasebe"}]}İpuçları
- Önce prompt ve RAG ile deneyin; ince ayara ancak bunlar yetersiz kalırsa geçin.
- Az sayıda ama temiz ve tutarlı örnek, çok sayıda gürültülü örnekten daha iyi sonuç verir.
