Kazanimlar:
- Halüsinasyonun nedenlerini ve grounding'in (bağlama dayandırma) rolünü açıklamak
- Bağlamda yoksa modele 'bilmiyorum' dedirten teknikleri uygulamak
- Yanıtlara doğrulanabilir kaynak/citation ekleyerek güven ve denetlenebilirlik sağlamak
Bir dil modelinin en tehlikeli davranışı, bilmediği bir şeyi özgüvenli ve ikna edici bir tonla uydurmasıdır. Buna halüsinasyon denir. Kurumsal bir asistanda halüsinasyon sadece can sıkıcı değil, doğrudan risklidir: yanlış izin günü, yanlış fiyat, yanlış yasal madde bir çalışanı veya müşteriyi gerçekten zarara uğratabilir. Bu ünitede halüsinasyonun neden olduğunu, RAG'de nasıl azaltılacağını ve cevabı nasıl doğrulanabilir kılacağımızı işliyoruz.
Halüsinasyon Neden Olur?
Model, bir sonraki en olası kelimeyi üretmek üzere eğitilmiştir; "gerçeği söyle" diye değil, "akıcı ve makul metin üret" diye. Bilgi eksikse boşluğu istatistiksel olarak makul ama gerçekte yanlış bir şeyle doldurabilir. Üç tipik tetikleyici:
- Bağlamda cevap yok ama model yine de bir şey söylemek zorunda hissediyor.
- Bağlam çelişkili veya yetersiz; model aradaki boşluğu tahminle kapatıyor.
- Soru bağlamı aşıyor; model kendi genel (ve muhtemelen eski) bilgisine dönüyor.
RAG halüsinasyonu azaltır çünkü modele gerçek kaynak verir — ama sıfırlamaz. Yanlış parça getirirseniz veya modele "boşluğu doldurma özgürlüğü" bırakırsanız, RAG'li sistem de uydurabilir.
Halüsinasyon türü
Belirti
Kök neden
Çözüm katmanı
Retrieval kaynaklı
Doğru cevap dokümanda var ama gelmedi
Yanlış/eksik parça getirildi
Chunking, hybrid, re-ranking (Ünite 3-4)
Generation kaynaklı
Doğru parça geldi ama cevap yanlış/eklemeli
Model boşluğu tahminle doldurdu
Grounding, "bilmiyorum" izni, düşük yaratıcılık
Atıf kaynaklı
Cevap doğru ama kaynak yanlış
Model yanlış parçaya atıf yaptı
Atıf doğrulama (bkz. Ünite 8)
İpucu: Halüsinasyonu ikiye ayırın. Retrieval kaynaklı: yanlış/eksik parça geldi (çözüm: retrieval'ı iyileştir). Generation kaynaklı: doğru parça geldi ama model yanlış okudu/ekledi (çözüm: prompt ve grounding). Hangisi olduğunu anlamadan düzeltemezsiniz.
Grounding: Cevabı Bağlama Çivilemek
Grounding (bağlama dayandırma), modele "yalnızca sana verdiğim metne dayan, dışına çıkma" demenin tüm tekniklerine verilen addır. En temel ve en etkili tekniği: modele 'bilmiyorum' deme iznini açıkça vermek. İnsan gibi model de "bilmiyorum" demeye çekinir; bunu ona açıkça izinli kılmalısınız.
Yalnızca aşağıdaki BAĞLAM'a dayanarak yanıtla.Cevap bağlamda AÇIKÇA yer almıyorsa, tam olarak şunu yaz:"Bu konuda dokümanlarda yeterli bilgi bulamadım."Bağlamda olmayan hiçbir sayı, tarih veya isim ekleme. Tahmin etme.
Ek grounding teknikleri:
- Alıntı zorunluluğu: Her iddiadan önce bağlamdan birebir alıntı yaptır ("Dokümanda şöyle geçiyor: '...'"). Uydurma alıntı üretmek modele daha zordur.
- Düşük sıcaklık: Sıcaklık (temperature, yaratıcılık/rastgelelik ayarı) düşük olmalı. Not: bazı güncel modellerde bu parametre kaldırılmıştır; onlarda grounding'i prompt ile sağlarsınız. Yüksek yaratıcılık kurumsal doğrulukta düşmandır.
- Kapsam sınırı: "Sadece izin politikası konularında yanıtla; kapsam dışını nazikçe reddet."
Kaynak Gösterimi (Citation)
Halüsinasyona karşı en güçlü sistemsel savunma, cevabı doğrulanabilir kılmaktır. Kullanıcı cevabın hangi dokümana dayandığını görebiliyorsa: (1) yanlışı kendisi yakalayabilir, (2) denetim (audit) mümkün olur, (3) güven artar, (4) model de "kaynak göstermem gerekecek" bilinciyle daha temkinli üretir.
İki yaygın yaklaşım:
Satır içi atıf: Her iddianın yanına kaynak etiketi. "Yıllık izin 14 gündür [1]." Aşağıda [1]'in tam dokümanı verilir.
Yapılandırılmış çıktı: Modelden cevabı ve kaynak listesini ayrı alanlarda üretmesini istemek; arayüzde kaynakları tıklanabilir link olarak göstermek.
# Modele kaynaklı yapılandırılmış cevap ürettirme (kavramsal)Cevabını şu yapıda ver:- cevap: <bağlama dayalı yanıt>- kaynaklar: [{"parca_no": 1, "dosya": "...", "bolum": "..."}]- guven: <yuksek|orta|dusuk> # bağlam ne kadar net destekliyor?Eğer bağlam cevabı desteklemiyorsa cevap alanına"bilgi bulunamadı" yaz ve kaynakları boş bırak.
Citation'ın gerçekten işe yaraması için atıfın doğru olduğunu doğrulamak gerekir. Model bazen doğru cevap verip yanlış kaynak gösterebilir. İleri sistemler, üretilen her iddianın gösterdiği parçada gerçekten desteklendiğini otomatik kontrol eder (bir sonraki ünitedeki "faithfulness" ölçümü).
Zayıf / Güçlü: Halüsinasyona Karşı Prompt
Zayıf (boşluğu doldurmaya davet):
Elindeki bilgiyle soruyu en iyi şekilde cevapla: {baglam} Soru: {soru}# "En iyi şekilde" model için "bilmiyorsan tahmin et" demektir.
Güçlü (grounding + bilmiyorum izni + kaynak + güven):
Yalnızca BAĞLAM'a dayan. Yoksa "bilgi bulamadım" de; sayı/tarih/isim uydurma.Her iddiaya [n] kaynak numarası ekle. Bağlamın desteklediği güven düzeyini belirt.BAĞLAM: [1]... [2]... SORU: {soru}
Üç Mini Vaka
Vaka 1 — Uydurulan madde numarası. Bir hukuk asistanı, bağlamda olmayan bir "Madde 17/B" uydurup çalışana yanlış bilgi vermiş. "Bağlamda olmayan madde numarası verme, yoksa bilmiyorum de" talimatı + alıntı zorunluluğu eklenince uydurma madde vakaları 40 örnekte 11'den 0'a inmiş.
Vaka 2 — Doğru cevap, yanlış kaynak. Bir destek asistanı doğru iade süresini söylüyor ama yanlış makaleyi kaynak gösteriyordu; müşteri linke tıklayınca alakasız sayfa açılıyordu. Atıf doğrulaması (iddianın gösterilen parçada geçip geçmediği kontrolü) eklenince yanlış-kaynak oranı %23'ten %2'ye indi.
Vaka 3 — "Bilmiyorum" izni verilmemişti. Bir İK asistanı, dokümanda olmayan bir soruya makul ama yanlış bir cevap uydurmuştu. Prompt'a açık "bilmiyorum" izni ve tam metni ("Bu konuda dokümanlarda bilgi bulamadım") eklenince, cevabı olmayan sorularda uydurma yerine dürüst ret oranı %8'den %95'e çıktı.
Sık yapılan hatalar
- "Bilmiyorum" iznini vermemek: Model boşluğu uydurmayla doldurur.
- Yaratıcılığı yüksek tutmak: Kurumsal doğrulukta rastgelelik zararlıdır.
- Kaynağı doğrulamadan güvenmek: Model doğru cevaba yanlış kaynak iliştirebilir.
- İki halüsinasyon türünü ayırmamak: Retrieval mı generation mı kaynaklı bilinmeden yanlış yeri düzeltirsiniz.
- Citation'ı kozmetik sanmak: Kaynak gösterimi hem doğrulama hem caydırıcı; ciddiye alın.
Dikkat: "Model çok emin görünüyor" ile "model doğru" aynı şey değildir. Halüsinasyonlar genelde en akıcı ve en özgüvenli cümlelerdir. Güveni cümlenin tonundan değil, gösterdiği kaynaktan okuyun.
Özetle
- Halüsinasyon, modelin bilgi boşluğunu makul ama yanlış metinle doldurmasıdır; RAG azaltır ama sıfırlamaz.
- Halüsinasyon retrieval (yanlış parça) veya generation (yanlış okuma) kaynaklı olabilir; önce hangisi olduğunu belirleyin.
- Grounding'in en güçlü tekniği modele açık "bilmiyorum" izni vermek; ayrıca alıntı zorunluluğu ve düşük yaratıcılık.
- Kaynak gösterimi (citation) cevabı doğrulanabilir kılar; hem güven verir hem modeli temkinli üretmeye iter.
- Atıfın doğruluğu ayrıca kontrol edilmeli; doğru cevaba yanlış kaynak iliştirilebilir.
Uygulama görevi
(1) Asistanınıza sorulacak, cevabı dokümanlarda olmayan 4 soru hazırlayın (tuzak sorular). Zayıf ve güçlü prompt'la her birini test edip modelin uydurup uydurmadığını işaretleyin. (2) Cevabı dokümanda olan 4 soru için modelden kaynak numarası ürettirin ve gösterdiği kaynağın gerçekten doğru parça olup olmadığını elle doğrulayın. (3) En az bir vakada modelin "doğru cevap, yanlış kaynak" verip vermediğini kontrol edin ve bunu nasıl otomatik yakalayabileceğinizi bir cümleyle yazın.
Kontrol listesi
- [ ] Halüsinasyonun neden olduğunu ve RAG'in onu azalttığını ama sıfırlamadığını anlatabiliyorum.
- [ ] Retrieval ve generation kaynaklı halüsinasyonu ayırt edip doğru yeri düzeltebiliyorum.
- [ ] Prompt'a açık "bilmiyorum" izni ve grounding kurallarını ekliyorum.
- [ ] Cevaba doğrulanabilir kaynak (citation) ekletiyorum.
- [ ] Atıfın doğruluğunu ayrıca kontrol etme ihtiyacını biliyorum.