Hallucination
Halüsinasyon
Modelin yanlış ya da uydurma bir bilgiyi kendinden emin bir dille sunması.
LLM'ler gerçekleri bir veri tabanından okumaz; öğrendikleri örüntülere göre akıcı görünen metin üretir. Bu yüzden bir bilgiyi bilmediğinde bile ikna edici bir cevap uydurabilir. Var olmayan bir makale, kişi ya da kaynak göstermek tipik örneklerdir.
Halüsinasyonu azaltmanın yolları arasında modele güvenilir bir kaynak vermek (RAG), "emin değilsen bilmediğini söyle" demek ve önemli bilgileri ikinci bir kaynaktan doğrulamak yer alır.
Örnek
Bir modele kaynak istediğinde gerçekte var olmayan bir akademik makale adı ve yazar listesi verebilir. Bu yüzden kaynakları mutlaka kontrol etmelisin.