Context Window
Bağlam penceresi
Bir modelin tek seferde dikkate alabildiği en fazla metin miktarı.
Bağlam penceresi, token cinsinden ölçülür ve hem senin yazdığın mesajı hem de modelin verdiği cevabı kapsar. Konuşma bu sınırı aştığında model en eski kısımları göremez ve konuşmanın başında söylediklerini "unutmuş" gibi davranabilir.
Pencere büyüdükçe modele uzun bir belgeyi ya da bütün bir kod deposunu birlikte verebilirsin. Ancak daha uzun bağlam her zaman daha iyi sonuç anlamına gelmez; çok uzun metinlerde bazı ayrıntılar gözden kaçabilir.
Günlük hayattan bir benzetme
Masanın üzerine aynı anda sığdırabildiğin kâğıt sayısı gibi: masa doluysa yeni kâğıt için eskisini kaldırman gerekir.
Örnek
Yüzlerce sayfalık bir raporu modele yapıştırıp özet istemek, ancak rapor bağlam penceresine sığıyorsa tek adımda mümkündür.