RAG
Getirmeyle Güçlendirilmiş Üretim
Modelin cevap üretmeden önce dış bir kaynaktan ilgili bilgiyi bulup getirmesi ve cevabı buna dayandırması.
RAG, Retrieval-Augmented Generation ifadesinin kısaltmasıdır. Önce sorunla ilgili belgeler bir arama adımıyla bulunur (çoğunlukla embedding'ler kullanılarak), sonra bu belgeler prompt'a eklenir ve model cevabı bu bilgiye dayanarak yazar.
Bu yaklaşım modeli yeniden eğitmeden güncel ya da şirkete özel bilgiyi kullanmasını sağlar ve halüsinasyon riskini azaltır. Cevabın hangi kaynağa dayandığını göstermek de mümkün olur.
Günlük hayattan bir benzetme
Açık kitap sınavı gibi: model cevabı ezberden değil, önündeki kaynaklara bakarak verir.
Örnek
Bir şirket içi asistan, çalışanın "yıllık izin kuralı nedir?" sorusuna İK el kitabındaki ilgili bölümü bulup ona göre cevap verebilir.