Kazanimlar:
- RAG'ın (parçalama, erişim, kaynağa bağlı üretim) nasıl çalıştığını ve halüsinasyonu nasıl azalttığını kavrayabilme
- Güncel, net, çelişkisiz ve tek doğru kaynağa sahip bir bilgi tabanı kurup cevap kalitesini yükseltebilme
- Modele 'kaynakta yoksa bilmediğini söyle' talimatını verip cevaplayamadığı soruları bilgi tabanı iyileştirmesine dönüştürebilme
Bir botun ya da temsilci asistanının verdiği cevap ancak dayandığı bilgi kadar iyidir. Müşteri "kampanya devam ediyor mu" diye sorduğunda, doğru cevap modelin belleğinde değil, kurumun güncel bilgi tabanındadır. İşte bu yüzden çağrı merkezi yapay zekasının kalbi bilgi tabanıdır (İngilizcesiyle knowledge base / KB): ürünler, politikalar, SSS'ler, prosedürler ve kuralların yazılı olarak tutulduğu, güncel kaynak. Ve bu bilgi tabanını yapay zekaya güvenli biçimde bağlayan yönteme RAG denir: Retrieval-Augmented Generation (Erişimle Zenginleştirilmiş Üretim) — modelin cevabı kendi belleğinden uydurmak yerine, önce ilgili bilgi parçalarını kaynaktan çekip (retrieval), sonra yalnızca o parçalara dayanarak cevap üretmesidir (generation).
RAG, halüsinasyonu (uydurmayı) önlemenin en güçlü yöntemidir. Model "kredi faizi kaç" sorusuna kafasından bir sayı üretmez; bilgi tabanından güncel faiz metnini çeker ve ona dayanarak cevaplar. Bu ünitede bilgi tabanının nasıl kurulacağını, RAG'ın nasıl çalıştığını ve iyi bir bilgi tabanının cevap kalitesini nasıl belirlediğini göreceğiz.
RAG nasıl çalışır: dört adım
RAG'ı bir kütüphaneci gibi düşünün. Müşteri soru sorar; sistem önce kütüphanenin doğru rafından ilgili sayfaları bulur, sonra o sayfaları okuyup cevabı yazar. Teknik adımlar şöyledir:
- Parçalama (chunking): Bilgi tabanındaki uzun belgeler küçük, anlamlı parçalara bölünür (ör. her SSS bir parça). Çünkü model bir soruya, ilgili küçük parçalarla daha isabetli cevap verir.
- Gömme ve indeksleme (embedding): Her parça, anlamını temsil eden sayısal bir forma (embedding — metnin anlamını temsil eden sayı dizisi) çevrilir ve aranabilir bir veritabanına konur. Böylece "kelime eşleşmesi" değil "anlam eşleşmesi" yapılır; müşteri "param ne zaman yatar" dese de "iade süresi" parçası bulunabilir.
- Erişim (retrieval): Müşterinin sorusuna anlamca en yakın parçalar çekilir (ör. en yakın 3-5 parça).
- Üretim (generation): Model, YALNIZCA çekilen parçalara dayanarak cevabı yazar ve mümkünse kaynağı gösterir.
Kritik nokta 4. adımdadır: modele "sadece verilen parçalara dayan, yoksa bilmediğini söyle" talimatı verilir. Bu talimat olmadan RAG, modelin uydurmasını engellemez.
İpucu: RAG'ın altın kuralı: "Kaynakta yoksa cevap yok." İyi bir RAG sistemi, bilgi tabanında olmayan bir soruya "Bu konuda kesin bilgim yok" der; asla boşluğu tahminle doldurmaz. Bir botun "bilmiyorum" diyebilmesi, zayıflık değil güvenlik özelliğidir.
İyi bir bilgi tabanı: cevap kalitesinin gerçek kaynağı
RAG ne kadar iyi olursa olsun, bilgi tabanı kötüyse cevap kötüdür. Bilgi tabanı kalitesi şu özelliklerle ölçülür:
Özellik
Kötü bilgi tabanı
İyi bilgi tabanı
Güncellik
Aylarca güncellenmez
Değişince hemen güncellenir
Netlik
Uzun, dolambaçlı metin
Kısa, tek konulu maddeler
Yapı
Dağınık PDF yığını
Etiketli, parçalanabilir maddeler
Tutarlılık
Çelişen iki cevap
Tek doğru kaynak (single source of truth)
Kapsam
Boşluklar çok
Sık sorulanları kapsar
Sahiplik
Kimse sorumlu değil
Her konunun bir sahibi var
Çağrı merkezi bağlamında en tehlikeli sorun çelişkidir: bilgi tabanında iki farklı iade süresi yazıyorsa, RAG hangisini çekerse onu söyler ve müşteriye tutarsız cevap gider. Bu yüzden "tek doğru kaynak" ilkesi kritiktir: bir bilgi tek yerde, güncel tutulur; kopyalar değil, o kaynağa referanslar kullanılır.
Adım adım: bir RAG destekli cevap sistemi kurmak
- Bilgi tabanını temizle: Güncel olmayan, çelişen, mükerrer maddeleri ayıklayın. Her maddeyi kısa ve tek konulu yapın.
- Parçalara böl ve etiketle: Her maddeye konu etiketi ve son güncelleme tarihi ekleyin.
- Erişimi kur: Soru geldiğinde ilgili parçaları çeken bir mekanizma bağlayın (kurumsal RAG araçları bunu sağlar).
- Sıkı istem yaz: Modele "yalnızca verilen parçalara dayan, kaynağı belirt, yoksa bilmediğini söyle" deyin.
- Kaynak göster: Cevabın altında hangi maddeye dayandığını gösterin; hem güven verir hem doğrulamayı kolaylaştırır.
- Boşlukları izle: Botun "bilmiyorum" dediği soruları toplayın; bunlar bilgi tabanındaki eksikleri gösterir, oradan besleyin.
Dört kopyalanabilir şablon
1) Sıkı RAG cevap istemi:
Aşağıdaki [KAYNAK] parçalarına DAYANARAK cevap ver.Kurallar: (1) sadece kaynaktaki bilgiyi kullan, (2) kaynakta yoksa"Bu konuda kesin bilgim yok, sizi temsilciye bağlayayım" de,(3) hangi maddeye dayandığını [Kaynak: madde-no] olarak belirt,(4) tutar/süre/koşulu kaynaktan aynen aktar, yuvarlama/uydurma yapma.[KAYNAK]: <<çekilen parçalar>>Soru: "<<müşteri sorusu>>"
2) Bilgi tabanı maddesi yazımı:
Aşağıdaki dağınık politika metnini, RAG'a uygun bir SSS maddesine dönüştür.Format: Soru (müşterinin dilinde) / Kısa cevap (2-3 cümle) /Koşullar (madde madde) / Son güncelleme tarihi / Konu etiketi.Belirsiz kalan noktaları "netleştirilecek" diye işaretle, uydurma.Ham metin: <<metin>>
3) Çelişki ve boşluk taraması:
Aşağıdaki bilgi tabanı maddelerini incele.(1) Birbiriyle ÇELİŞEN madde çiftlerini işaretle (ör. farklı iade süresi).(2) Sık sorulacak ama karşılığı OLMAYAN konu boşluklarını tahmin et.Sadece verilen maddelere bak; yeni politika üretme.Maddeler: <<liste>>
4) "Bilmiyorum" günlüğünden iyileştirme:
Aşağıda botun cevaplayamadığı (kaynak bulamadığı) sorular var.Bunları konu başlıklarına grupla ve her grup için bilgi tabanınaeklenmesi gereken maddenin başlığını öner. Cevap içeriğini uydurma,sadece hangi maddenin eksik olduğunu söyle.Sorular: <<liste>>
Zayıf prompt / Güçlü prompt
Zayıf prompt:
Müşterinin iade sorusunu yanıtla.
Kaynak yok; model belleğinden uydurabilir, tutar/süre yanlış çıkabilir, doğrulanamaz.
Güçlü prompt:
Yalnızca aşağıdaki iade politikası maddesine dayanarak yanıtla.Kaynakta yoksa "kesin bilgim yok" de. Süre ve koşulu aynen aktar,[Kaynak: İADE-03] biçiminde referans ver.[KAYNAK: İADE-03]: "Kullanılmamış ürün 14 gün içinde iade edilebilir.Kişiselleştirilmiş ürünler iade kapsamı dışıdır."Soru: "20 gün önce aldığım kişiselleştirilmiş ürünü iade edebilir miyim?"
Fark: kaynak bağlı, referans zorunlu, uydurma yasağı net; model doğru cevabı ("14 gün geçmiş ve kişiselleştirilmiş, iade edilemez") kaynaktan üretir.
Üç mini vaka
Vaka 1 — Halüsinasyonu bitirmek. Bir telekom botunun kampanya sorularına cevap doğruluğu, RAG'sız kurulumda %71'di; model bazen eski kampanyaları uyduruyordu. Güncel kampanya sayfaları RAG'a bağlanıp "kaynakta yoksa söyleme" kuralı eklenince doğruluk %96'ya çıktı ve "yanlış kampanya sözü" şikâyetleri neredeyse bitti.
Vaka 2 — Çelişkinin bedeli. Bir e-ticaret firmasının bilgi tabanında iki sayfada iki farklı kargo ücreti yazıyordu (biri güncel, biri unutulmuş eski sayfa). Bot rastgele birini çekiyor, müşterilerin bir kısmına yanlış ücret söylüyordu. Tek doğru kaynak ilkesiyle eski sayfa arşivlenince tutarsızlık ortadan kalktı. Ders: RAG çelişkiyi çözmez, çelişkiyi olduğu gibi yayar.
Vaka 3 — "Bilmiyorum" günlüğünün değeri. Bir bankada bot, ayda ~4.000 soruya "kesin bilgim yok" diyordu. Bu sorular gruplanınca %40'ının "yurt dışı kart kullanımı" konusunda olduğu görüldü; bu konuda hiç madde yoktu. İlgili maddeler eklenince hem bu sorular çözüldü hem de o konudaki insana devir %55 azaldı. Botun bilmediğini söylemesi, iyileştirmenin yol haritası oldu.
Sık yapılan hatalar
- Kaynağa bağlamadan cevaplatmak. RAG olmadan model somut bilgiyi uydurur; her somut cevap kaynağa bağlı olmalı.
- "Bilmiyorum" seçeneğini kapatmak. Modeli her soruya cevap vermeye zorlamak, uydurmayı garantiler.
- Çelişen/eski bilgiyi temizlememek. RAG çelişkiyi yayar; tek doğru kaynak şart.
- Parçalamayı ihmal etmek. Koca PDF'leri olduğu gibi vermek isabetli erişimi bozar; kısa, tek konulu maddeler kullanın.
- Kaynağı gizlemek. Cevabın hangi maddeye dayandığını göstermemek, doğrulamayı ve güveni zayıflatır.
Dikkat: RAG doğruluğu artırır ama %100 garanti vermez. Model bazen çekilen parçayı yanlış yorumlayabilir. Bu yüzden mali, hukuki ve güvenlik konularında kaynak gösterilse bile insan onayı gerekir; RAG halüsinasyonu azaltır, sorumluluğu kaldırmaz.
Özetle
Bilgi tabanı ve RAG, çağrı merkezi yapay zekasının doğruluğunun temelidir. RAG, modelin cevabı belleğinden uydurmasını engelleyip yalnızca güncel kaynağa dayandırarak halüsinasyonu büyük ölçüde önler. Ama RAG ancak bilgi tabanı kadar iyidir: güncel, net, yapılı, çelişkisiz ve tek doğru kaynağa sahip bir bilgi tabanı şarttır. Modele "kaynakta yoksa bilmediğini söyle" deyin, kaynağı gösterin ve botun cevaplayamadığı soruları bilgi tabanını iyileştirmek için kullanın. Yüksek riskli konularda kaynağa rağmen insan onayını koruyun.
Uygulama görevi
Kendi sektörünüzden 8 gerçek/gerçekçi müşteri sorusu ve bunlara karşılık gelen 8 kısa bilgi tabanı maddesi yazın (her madde: soru, kısa cevap, koşullar, tarih, etiket). Ardından "1) Sıkı RAG cevap istemi" şablonunu kullanıp, biri bilgi tabanında olmayan bir soruyu da sorarak modelin "bilmiyorum" diyip diyemediğini test edin. Son olarak "3) Çelişki ve boşluk taraması" ile maddelerinizi denetleyin.
Kontrol listesi
- [ ] Botun/asistanın verdiği her somut cevap güncel bilgi tabanına (RAG ile) bağlı.
- [ ] Modele "kaynakta yoksa bilmediğini söyle" talimatını verdim ve test ettim.
- [ ] Bilgi tabanım güncel, net, tek konulu maddelerden oluşuyor.
- [ ] Çelişen ve eski maddeleri temizledim; her bilgi için tek doğru kaynak var.
- [ ] Cevaplar hangi maddeye dayandığını (kaynak) gösteriyor.
- [ ] "Bilmiyorum" denen soruları toplayıp bilgi tabanını besliyorum.