Kazanimlar:
- Bilgiye dayalı üretim (RAG) mantığını ve neden halüsinasyonu azalttığını kavrayabilme
- Modelin yalnızca verilen kaynak belgelere dayanarak, alıntıyla yanıt vermesini sağlayabilme
- Kaynakta olmayan soruları uydurmadan, güvenle devrederek yönetebilme
Bir dil modeli çok şey "bilir" ama sizin şirketinizin bugünkü iade politikasını, güncel fiyat listenizi veya dün değişen kargo anlaşmanızı bilmez. Daha kötüsü, bilmediğinde bunu genellikle uydurur ve son derece emin bir tonla yazar. Müşteri hizmetlerinde bu ölümcül bir kusurdur: model, "İadeler 30 gün içinde yapılır" derken sizin politikanız 14 gün olabilir. İşte bu boşluğu kapatan yaklaşımın adı RAG: Retrieval-Augmented Generation, yani "getirmeyle güçlendirilmiş üretim".
Fikir basittir: Model soruyu kendi ezberinden değil, o an önüne konan doğru kaynak belgelerden yanıtlar. Önce soruyla ilgili doğru belge parçası "getirilir" (retrieval), sonra model yalnızca o parçaya dayanarak yanıt "üretir" (generation). Bu ünitede RAG mantığını kavrayacak ve modeli yalnızca sizin verdiğiniz doğrulanmış kaynağa sadık kalacak biçimde nasıl dizginleyeceğinizi öğreneceksiniz.
Not: Bu ünite RAG'ın çalışma mantığını ve prompt tarafını öğretir. Kurumsal ölçekte otomatik belge getirme sistemleri (vektör veritabanı vb.) teknik bir kurulum gerektirir; buradaki disiplin, o sistemin doğru yanıt vermesinin de temelidir.
RAG Neden Halüsinasyonu Azaltır?
Halüsinasyon, modelin gerçek olmayan bir bilgiyi gerçekmiş gibi üretmesidir. Model, boşluk gördüğünde "olası" görünen bir yanıt üretmeye programlıdır; doğru olup olmadığını bilmez. RAG bu boşluğu doldurur: modele soruyla birlikte ilgili gerçek metni de verirsiniz ve "yalnızca buradan yanıtla" dersiniz. Böylece modelin uydurmaya "ihtiyacı" kalmaz.
Üç bileşen vardır:
- Bilgi tabanı (knowledge base): SSS, politika belgeleri, ürün kılavuzları, fiyat listesi gibi güvenilir metinler.
- Getirme (retrieval): Sorunun cevabını içeren belge parçasının bulunup modele verilmesi.
- Sınırlı üretim: Modelin sadece verilen parçaya dayanarak, alıntıyla yanıt vermesi.
Adım Adım: Kaynağa Sadık Yanıt
- Kaynağı hazırlayın. Yanıtın dayanacağı metni (politika, SSS) net ve güncel biçimde bulun.
- Kaynağı prompta gömün. Metni <kaynak> gibi bir etiket içine koyun.
- Sadakat kuralını yazın. "Yalnızca kaynaktaki bilgiyi kullan; kaynak dışına çıkma."
- Alıntı zorunluluğu koyun. Yanıtın hangi bölüme dayandığını belirtsin.
- Kaynak-dışı davranışı tanımlayın. Cevap kaynakta yoksa "Bu bilgi elimde yok" desin ve devretsin.
- Doğrulayın. Yanıtı, dayandığı kaynak cümlesiyle karşılaştırıp teyit edin.
Kopyalanabilir Promptlar
Temel kaynağa dayalı yanıt promptu:
Rol: Bir müşteri destek asistanısın. Soruyu YALNIZCA aşağıdaki <kaynak>bloğundaki bilgiye dayanarak yanıtla. Kaynakta olmayan hiçbir bilgiyi ekleme,tahmin etme veya genel bilginden yanıtlama.Yanıtının sonuna dayandığın bölümü "[Kaynak: ...]" biçiminde ekle.Cevap kaynakta yoksa şunu yaz: "Bu konuda elimde kesin bilgi yok, sizidoğru yanıtı verebilecek bir yetkiliye aktarıyorum."<kaynak>{{ politika_veya_sss_metni }}</kaynak>Soru: {{ musteri_sorusu }}
Çok kaynaklı durumda, hangi belgeye dayandığını izlettiren prompt:
Aşağıda numaralı birden çok kaynak var. Soruyu yanıtlarken kullandığınkaynağın numarasını [Kaynak 2] gibi belirt. Birden çok kaynak çelişiyorsabunu açıkça söyle ve hangisinin daha güncel olduğunu sorman gerektiğini bildir.<kaynaklar>1) {{ kaynak_1 }}2) {{ kaynak_2 }}3) {{ kaynak_3 }}</kaynaklar>Soru: {{ musteri_sorusu }}
Kaynak-dışı soruyu güvenle yöneten prompt:
Eğer sorunun cevabı kaynakta KISMEN varsa: yalnızca kaynağın kapsadığıbölümü yanıtla, kalan kısım için "bu detay kaynakta yok" de. Eksik olankısmı asla tahminle tamamlama.
Yanıtı müşteri diline çeviren, ama kaynağa sadık kalan prompt:
Kaynaktaki resmi/teknik ifadeyi müşterinin anlayacağı sade bir dile çevir,ancak anlamı ve sayısal değerleri (gün, tutar, oran) DEĞİŞTİRME. Örneğin"14 takvim günü" ifadesini "yaklaşık iki hafta" diye yuvarlama; tam değeri koru.
Zayıf Prompt / Güçlü Prompt
Zayıf prompt
Güçlü prompt
"İade politikamızı anlat"
Kaynağı gömer + "yalnızca buradan yanıtla" + alıntı ister
Modelin ezberinden (belki yanlış) yanıt
Sizin güncel belgenizden yanıt
Kaynakta yoksa uydurur
"Bu bilgi elimde yok" deyip devreder
Sayıları yuvarlayıp bozabilir
Gün/tutar/oranı birebir korur
Fark, güçlü promptun modele bir çıpa (kaynak metin) ve bir yasak (kaynak dışına çıkma) vermesidir. Model artık hafızasından değil, önündeki gerçekten konuşur.
Üç Mini Vaka
Vaka 1 — Eski politika tuzağı. Bir mağazanın botu, kaynak verilmeden çalışırken "İadeler 30 gün içinde kabul edilir" diyordu; oysa şirket süreyi 14 güne indirmişti. RAG kurulumunda güncel politika metni kaynağa eklenince bot artık "14 takvim günü [Kaynak: İade Politikası, madde 2]" yanıtı veriyor. Yanlış vaatten doğan iade anlaşmazlıkları sıfırlandı.
Vaka 2 — Çelişkiyi yakalama. Bir müşteri kargo ücretini sordu. Sisteme hem eski hem yeni fiyat listesi kaynak olarak girilmişti. Model, çok kaynaklı prompt sayesinde "İki kaynak farklı ücret veriyor (49 TL ve 59 TL); güncel olanı teyit etmem gerekiyor" dedi ve konuyu insana aktardı. Yanlış bir tutarı müşteriye söylemek yerine belirsizliği dürüstçe bildirdi.
Vaka 3 — Kısmi cevap disiplini. "Ürünü yurt dışına gönderiyor musunuz ve gümrük vergisini kim öder?" sorusunda kaynak yalnızca gönderim yapıldığını söylüyordu, vergiyi kimin ödediğine dair bir şey yoktu. Model "Evet, yurt dışına gönderim yapılıyor [Kaynak: Kargo SSS]. Ancak gümrük vergisini kimin ödediği bu belgede belirtilmemiş; bunu netleştirmesi için sizi yetkiliye aktarıyorum" dedi. Yarısı doğru, yarısı uydurma bir yanıt yerine dürüst ve güvenli bir çıktı üretti.
İpucu: Bilgi tabanınızın en güncel ve tek doğru sürümünü (single source of truth) tutun. Aynı bilginin (ör. iade süresi) üç ayrı belgede farklı yazması, RAG'ın en büyük düşmanıdır; model hangisine bakarsa ona göre farklı yanıt verir. Önce belgelerinizi tekilleştirin, sonra otomatikleştirin.
Doğrulama: Kaynak Var Diye Rahatlamayın
RAG halüsinasyonu büyük ölçüde azaltır ama sıfırlamaz. Model bazen kaynağı yanlış yorumlayabilir, iki cümleyi karıştırabilir veya kaynakta olmayan bir "sonuç" çıkarabilir. Bu yüzden alıntı zorunluluğu kritiktir: yanıtın dayandığını iddia ettiği bölümü açıp gerçekten öyle yazıp yazmadığını kontrol edin. Özellikle sayı (gün, tutar, oran) ve koşul (istisna, şart) içeren yanıtlarda bu kontrol pazarlık konusu değildir.
Dikkat: Kaynağın kendisi yanlış veya eskiyse, RAG o yanlışı sadakatle tekrar eder. "Model kaynaktan konuşuyor" demek "model doğru konuşuyor" demek değildir; kaynağınızın güncelliği ve doğruluğu sizin sorumluluğunuzdadır.
Bilgi Tabanını Yanıta Hazır Tutmak
RAG'ın kalitesi, büyük ölçüde kaynak metnin nasıl yazıldığına bağlıdır. Model, iyi yapılandırılmış, başlıklı ve tek konuya odaklı metinlerden çok daha isabetli yanıt getirir. Pratik öneriler: politikalarınızı uzun ve iç içe paragraflar yerine kısa, başlıklı bölümler halinde yazın; her bölüm tek bir soruyu yanıtlasın ("İade süresi kaç gün?", "Hangi ürünler iade edilemez?"). Sık sorulan soruları (SSS) soru-cevap biçiminde tutmak, modelin doğru parçayı bulmasını kolaylaştırır. Tarih, tutar ve oran gibi değerleri metnin içinde net ve tek bir yerde belirtin; aynı sayının farklı bölümlerde farklı yazılması modeli şaşırtır.
Bir diğer önemli alışkanlık, bilgi tabanını canlı tutmaktır. Politikalar, fiyatlar ve kampanyalar değişir; kaynak güncellenmezse model eski gerçeği güvenle tekrarlamaya devam eder. Her politika değişikliğinde kaynağı güncelleyin ve değişen konuyla ilgili birkaç test sorusunu modele yeniden sorarak doğru yanıtı verdiğini teyit edin. Küçük ama düzenli bu bakım, RAG sisteminin zamanla "sessizce yanlışlaşmasını" önler.
Sık yapılan hatalar
- Kaynağı gömmeden "politikamızı anlat" deyip modelin ezberine güvenmek.
- "Yalnızca kaynaktan yanıtla" sınırını ve kaynak-dışı davranışını tanımlamamak.
- Alıntı/kaynak referansı istemeyip yanıtı doğrulanamaz bırakmak.
- Aynı bilginin birden çok belgede çelişen sürümlerini bilgi tabanında tutmak.
- Sayısal değerleri modelin yuvarlamasına/yorumlamasına izin vermek.
- Kaynağı güncellemeyi unutup modelin eski bilgiyi sadakatle tekrarlamasına yol açmak.
Özetle
- RAG, modelin cevabını ezberinden değil, verilen güncel kaynak belgeden üretmesidir.
- Halüsinasyonu azaltmanın en pratik yolu: kaynağı göm, "yalnızca buradan yanıtla" de, alıntı iste.
- Cevap kaynakta yoksa model uydurmamalı; "elimde yok" deyip devretmelidir.
- Çelişen kaynakları modele fark ettirin; sayısal değerleri birebir koruttun.
- RAG doğruluğu kaynağınızın güncelliğine bağlıdır; alıntıyı her zaman teyit edin.
Uygulama görevi
Kendi işinizden gerçek bir politika metni (iade, kargo veya üyelik) alın ve yukarıdaki temel RAG promptuna kaynak olarak gömün. Sonra üç soru sorun: (1) cevabı kaynakta net olan bir soru, (2) cevabı kaynakta hiç olmayan bir soru, (3) cevabı kaynakta yalnızca yarım olan bir soru. Modelin sırasıyla doğru yanıt verdiğini, "elimde yok" dediğini ve kısmi yanıtla eksiği dürüstçe işaretlediğini doğrulayın. Sapan davranışları prompttaki sadakat ve kaynak-dışı kurallarını güçlendirerek düzeltin.
Kontrol listesi
- [ ] Yanıtın dayanacağı güncel kaynağı prompta gömdüm.
- [ ] "Yalnızca kaynaktan yanıtla, dışına çıkma" kuralını ekledim.
- [ ] Kaynak referansı / alıntı zorunluluğu koydum.
- [ ] Cevap kaynakta yoksa devretme davranışı tanımladım.
- [ ] Sayısal değerlerin birebir korunmasını şart koştum.
- [ ] Yanıtı dayandığı kaynak cümlesinden teyit ettim.