Halüsinasyon nedir?
AI Hallucination
Bir yapay zekâ modelinin gerçeğe dayanmayan, uydurma ama kendinden emin ve inandırıcı görünen bilgi üretmesi.
Yapay zekâda halüsinasyon, modelin gerçekte var olmayan bilgileri doğruymuş gibi sunmasıdır. Var olmayan bir makaleye atıf yapmak, yanlış bir tarih vermek veya kütüphanede bulunmayan bir fonksiyonu kullanan kod yazmak tipik örneklerdir. En tehlikeli yanı, uydurma bilginin genellikle akıcı ve ikna edici bir dille sunulmasıdır.
Bunun temel nedeni, dil modellerinin bir bilgi veritabanı gibi değil, istatistiksel olarak olası metni üreten sistemler gibi çalışmasıdır. Model, bilgiyi bilmediği durumda da dilbilgisel olarak makul bir devam üretebilir. Eğitim verisindeki eksik veya hatalı bilgiler ve belirsiz sorular da riski artırır.
Halüsinasyonu tamamen ortadan kaldırmak şu an mümkün değildir ama azaltılabilir: modele güvenilir kaynaklar vermek (RAG), cevapları kaynak göstermeye zorlamak, emin olmadığında 'bilmiyorum' demesine açıkça izin vermek ve kritik çıktıları insan veya otomatik testlerle doğrulamak etkili yöntemlerdir.
Özellikle hukuk, sağlık ve finans gibi alanlarda YZ çıktılarının doğrulanmadan kullanılması ciddi sonuçlar doğurabilir.
Örnek: Halüsinasyonu fark etme senaryosu
1. Model bir kod örneğinde 'pandas.read_magic()' fonksiyonunu öneriyor.
2. Kodu çalıştırınca AttributeError alınıyor.
3. Resmî dokümantasyonda böyle bir fonksiyon bulunmuyor -> halüsinasyon.
4. Çözüm: Modele kütüphanenin sürümünü ve ilgili doküman bölümünü verip tekrar sorun,
önerilen kodu her zaman test ederek kullanın.İpuçları
- Modelin verdiği kaynakları, linkleri ve paket adlarını mutlaka kendiniz kontrol edin.
- Prompt'a 'Bilmiyorsan bilmiyorum de' gibi bir talimat eklemek riski azaltır ama sıfırlamaz.
