Daromadlar:
- Bilimga asoslangan avlod (RAG) mantig'ini tushunish va nima uchun u gallyutsinatsiyalarni kamaytiradi
- Modelga faqat taqdim etilgan manba hujjatlari asosida iqtibos bilan javob berish imkoniyati
- Manbada bo'lmagan savollarni savollar tuzmasdan, ularni xavfsiz uzatish orqali boshqarish qobiliyati
Til modeli ko'p narsani "biladi", lekin u bugungi kunda kompaniyangizning qaytarish siyosatini, joriy narxlar ro'yxatini yoki kecha o'zgargan yuk tashish shartnomangizni bilmaydi. Eng yomoni, u bilmasa, tez-tez o'ylab topadi va nihoyatda ishonchli ohangda yozadi. Bu mijozlarga xizmat ko'rsatishdagi halokatli kamchilik: modelda "To'lovlar 30 kun ichida qaytariladi" deb yozilgan, sizning siyosatingiz esa 14 kun bo'lishi mumkin. Ushbu bo'shliqni yopadigan yondashuv RAG: Retrieval-Augmented Generation, ya'ni "retrieval-augmented production" deb nomlanadi.
G'oya oddiy: model savolga xotiradan emas, balki o'sha paytda uning oldiga qo'yilgan to'g'ri manba hujjatlaridan javob beradi. Birinchidan, savolga tegishli hujjatning to'g'ri qismi "qidiruv" bo'lib, keyin model faqat shu qism asosida javobni "hosil qiladi". Ushbu bo'limda siz RAG mantig'ini tushunasiz va modelni faqat siz taqdim etgan tasdiqlangan manbaga yopishib olishi uchun qanday boshqarishni o'rganasiz.
Eslatma: Ushbu birlik RAG ning ish mantig'ini va tezkor tomonini o'rgatadi. Korxona miqyosidagi avtomatik hujjatlarni qidirish tizimlari (vektor ma'lumotlar bazasi va boshqalar) texnik o'rnatishni talab qiladi; Bu erda tartib-intizom bu tizimning to'g'ri javob berishi uchun asosdir.
Nima uchun RAG gallyutsinatsiyalarni kamaytiradi?
Gallyutsinatsiya - bu model haqiqiy bo'lmagan ma'lumotni ishlab chiqaradi. Model bo'shliqni ko'rganda "mumkin" ko'rinadigan javob ishlab chiqarish uchun dasturlashtirilgan; Bu haqiqatmi yoki yo'qmi, bilmaydi. RAG bu bo'shliqni to'ldiradi: siz modelga savol bilan birga haqiqiy tegishli matnni berasiz va "faqat shu erdan javob bering" deysiz. Shunday qilib, model mos kelishiga "kerak emas".
Uchta komponent mavjud:
- Bilimlar bazasi: Tez-tez so'raladigan savollar, siyosat hujjatlari, mahsulot qo'llanmalari, narxlar ro'yxati kabi ishonchli matnlar.
- Qidiruv: savolga javobni o'z ichiga olgan hujjat qismini topish va uni modelga berish.
- Cheklangan nashr: Model faqat taqdim etilgan qismga asoslangan taklif bilan javob beradi.
Bosqichma-bosqich: Manbaga sodiq javob
- Manbani tayyorlang. Javob asos bo'ladigan matnni (siyosat, FAQ) aniq va dolzarb formatda toping.
- Manbani taklifga kiriting. Matnni <source> kabi tegga qo'ying.
- Sodiqlik qoidasini yozing. "Faqat manbadagi ma'lumotlardan foydalaning; manbadan chetga chiqmang."
- Iqtibosni talab qiling. Javob qaysi bo'limga asoslanganligini ko'rsatsin.
- Resurs bo'lmagan xatti-harakatlarni aniqlang. Agar javob manbada bo‘lmasa, “menda bu ma’lumot yo‘q” desin va uzatsin.
- Tasdiqlash. Javobni u asos bo‘lgan manba gap bilan solishtirib tasdiqlang.
Ko‘chirish mumkin bo‘lgan takliflar
Asosiy manbaga asoslangan javob so'rovi:
Rol: Siz mijozlarni qo'llab-quvvatlash bo'yicha yordamchisiz. Savolga FAQAT quyidagi <manba>blokidagi ma'lumotlarga asoslanib javob bering. Manbada bo'lmagan har qanday ma'lumotni qo'shmang, taxmin qiling yoki umumiy bilimingizdan javob bering. Javobingizning oxiriga "[Manba: ...]" formatida tayanadigan bo'limni qo'shing. Agar javob manbada bo'lmasa, quyidagilarni yozing: "Menda bu mavzu bo'yicha aniq ma'lumot yo'q, men sizni to'g'ri javob beradigan rasmiy shaxsga topshiraman."<source>{{ policy_or_faq_text }}</source>Savol: {{ customer_question }}
Ko'p manbali bo'lsa, u qaysi hujjatga asoslanganligini ko'rsatish taklifi:
Quyida raqamlangan bir nechta manbalar mavjud. Savolga javob berayotganda siz foydalangan manbaning raqamini ayting, masalan, [2-manba]. Agar bir nechta manbalar sizga zid boʻlsa, aniq ayting va qaysi biri dolzarbroq ekanligini soʻrash kerakligini ayting.<manbalar>1) {{ source_1 }}2) {{ source_2 }}3) {{ source_3 }}</sources>Savol: {{ customer_question }}
Manba bo'lmagan savolni xavfsiz boshqaradigan taklif:
Agar savolga javob manbada QISMAN topilgan bo'lsa: faqat manbada yoritilgan qismga javob bering, qolgan qismi uchun "bu tafsilot manbada yo'q" deb ayting. Hech qachon etishmayotgan qismni taxmin qilish orqali to'ldirmang.
Javobni mijoz tiliga tarjima qiladigan, lekin manbaga sodiq qoladigan taklif:
Manbadagi rasmiy/texnik iborani mijoz tushunadigan sodda tilga tarjima qiling, lekin maʼno va raqamli qiymatlarni (kun, miqdor, stavka) oʻzgartirmang. Masalan, "14 kalendar kuni" ni "taxminan ikki hafta" ga yaxlitlash; to'liq qiymatni saqlang.
Zaif taklif / Kuchli taklif
Zaif taklif
Kuchli so'rov
"Qaytish siyosatimiz haqida bizga xabar bering"
Manbani oʻrnatish + "faqat shu yerda javob berish" + soʻrovlar iqtibos
Model xotirasidan javob (xato bo'lishi mumkin)
Joriy hujjatingizdan javob
Agar manbada bo'lmasa, u buni to'ldiradi
U "menda bu ma'lumot yo'q" deydi va uni uzatadi.
Raqamlarni yaxlitlashi va buzishi mumkin
Kun/summa/stavkani aniq saqlaydi
Farqi shundaki, kuchli taklif modelga langar (manba matn) va taqiq (manbadan chiqish) beradi. Model endi xotiradan emas, balki uning oldidagi haqiqatdan gapiradi.
Uchta mini korpus
1-holat - Eski siyosat tuzog'i. "Qaytish 30 kun ichida qabul qilinadi", dedi do'konlardan birining boti kreditsiz ishlayotganda; Biroq kompaniya bu muddatni 14 kunga qisqartirdi. Yangilangan siyosat matni RAG oʻrnatilishidagi manbaga qoʻshilsa, bot endi “14 kalendar kuni [Manba: Qaytarilish siyosati, 2-modda]” deb javob beradi. Yolgʻon vaʼdalardan kelib chiqqan pulni qaytarish boʻyicha nizolar qayta tiklandi.
2-holat - Qarama-qarshilikni ushlash. Xaridor yuk tashish narxi haqida so'radi. Tizimga manba sifatida eski va yangi narxlar ro'yxati kiritildi. Ko'p manbali so'rov tufayli model, "Ikki manba har xil narxlarni beradi (49 TL va 59 TL); Men hozirgisini tasdiqlashim kerak" dedi va muammoni insonga etkazdi. Xaridorga noto'g'ri miqdorni aytish o'rniga, u noaniqlikni halollik bilan aytdi.
3-holati - Qisman javob intizomi. "Mahsulotni chet elga jo'natayapsizmi va bojxona to'lovini kim to'laydi?" Savolda manba faqat jo'natish amalga oshirilganligini aytdi, soliqni kim to'lagani haqida hech narsa yo'q. Model shunday dedi: "Ha, yuk xorijda amalga oshiriladi [Manba: Yuk FAQ]. Biroq bu hujjatda bojxona to‘lovini kim to‘lashi ko‘rsatilmagan; Men buni aniqlashtirish uchun sizni mansabdor shaxsga topshiryapman." Yarim to'g'ri, yarim uydirma javob o'rniga, u halol va ishonchli natija berdi.
Maslahat: Bilim bazangizning haqiqat versiyasining eng dolzarb va yagona manbasini saqlang. Bir xil ma'lumotga ega bo'lish (masalan, qaytarish muddati) uchta alohida hujjatda boshqacha yozilgan - RAGning eng katta dushmani; Model qaysi biriga qaraganiga qarab boshqacha javob beradi. Hujjatlaringizni avval nusxalash, keyin ularni avtomatlashtirish.
Tasdiqlash: Manba borligi uchun tinchlanmang
RAG gallyutsinatsiyani sezilarli darajada kamaytiradi, lekin uni qayta tiklamaydi. Model ba'zan manbani noto'g'ri talqin qilishi, ikkita jumlani aralashtirib yuborishi yoki manbada bo'lmagan "xulosa" chiqarishi mumkin. Shuning uchun iqtibos talabi juda muhim: javob asoslangan deb da'vo qilingan bo'limni oching va unda haqiqatan ham shunday deyilganligini tekshiring. Bu nazoratni, ayniqsa raqamlar (kun, miqdor, stavka) va shartlarni (istisno, shart) o'z ichiga olgan javoblarda muhokama qilish mumkin emas.
Diqqat: Agar manbaning o'zi noto'g'ri yoki eskirgan bo'lsa, RAG bu xatoni sodiqlik bilan takrorlaydi. “Model manbadan gapiradi” deyish “model to‘g‘ri gapiradi” degani emas; Siz manbangizning valyutasi va aniqligi uchun javobgarsiz.
Bilimlar bazasini javob berishga tayyor holda saqlash
RAG sifati asosan manba matn qanday yozilganiga bog'liq. Model yaxshi tuzilgan, sarlavhali, bitta mavzuli matnlarga qaraganda ancha aniqroq javob qaytaradi. Amaliy maslahat: o'z siyosatingizni uzun, ichki o'rnatilgan paragraflardan ko'ra qisqa, sarlavhali bo'limlarda yozing; Har bir bo'lim bitta savolga javob bersin ("Qaytish muddati necha kun?", "Qaysi mahsulotlarni qaytarib bo'lmaydi?"). Tez-tez beriladigan savollarni (FAQ) savol-javob formatida saqlash modelga kerakli qismni topishni osonlashtiradi. Sana, miqdor va stavka kabi qiymatlarni matn ichida aniq va bir joyda ko'rsatish; Turli bo'limlarda bir xil raqamni turlicha yozish modelni chalkashtirib yuboradi.
Yana bir muhim odat bilimlar bazasini saqlab qolishdir. Siyosatlar, narxlar va reklama aktsiyalari farq qiladi; Agar manba yangilanmasa, model eski haqiqatni xavfsiz takrorlashda davom etadi. Har bir siyosat o'zgarishi bilan manbani yangilang va model to'g'ri javob berganligini tasdiqlash uchun o'zgartirilgan mavzu bo'yicha bir nechta test savollarini qaytadan so'rang. Ushbu kichik, ammo muntazam parvarishlash RAG tizimining vaqt o'tishi bilan "jimgina noto'g'ri ketishini" oldini oladi.
Umumiy xatolar
- Manbani ko‘mib, model yod olishiga tayanib, “siyosatimizni tushuntiring” deyish.
- "Faqat manbadan javob berish" chegarasi va manba bo'lmagan xatti-harakatlarni belgilamaslik.
- Iqtibos/manba ma'lumotnomasini so'ramaslik va javobni tekshirib bo'lmaydigan qilib qo'yish.
- Bir xil ma'lumotlarning ziddiyatli versiyalarini bilimlar bazasida bir nechta hujjatlarda saqlash.
- Modelga raqamli qiymatlarni yaxlitlash/talqin qilish imkonini berish.
- Manbani yangilashni unutish, modelni eski ma'lumotni sodiqlik bilan takrorlashiga olib keladi.
Xulosa
- RAG, model o'z javobini xotiradan emas, balki joriy manba hujjatidan ishlab chiqarishini anglatadi.
- Gallyutsinatsiyani kamaytirishning eng amaliy usuli: manbani ko'mib tashlang, "faqat bu erda javob bering", iqtibos so'rang.
- Agar javob manbada bo'lmasa, modelga mos kelmasligi kerak; “Menda yo‘q” deyishi va topshirishi kerak.
- Modelni qarama-qarshi manbalardan xabardor qilish; Siz raqamli qiymatlarni aniq saqladingiz.
- RAG aniqligi manbangizning o'z vaqtida bo'lishiga bog'liq; Har doim taklifni tasdiqlang.
Ilova vazifasi
O'z biznesingizdan haqiqiy siyosat matnini (qaytish, jo'natish yoki a'zolik) oling va uni yuqoridagi asosiy RAG taklifiga manba sifatida kiriting. Keyin uchta savol bering: (1) javobi manbada aniq bo'lgan savol, (2) javobi manbada umuman bo'lmagan savol, (3) javobi faqat manbada to'liq bo'lmagan savol. Model to'g'ri javob berganligini, "Menda yo'q" deb javob berganligini va mos ravishda qisman javob va etishmayotganini aniq belgilab qo'yganligini tekshiring. Tezkorda sodiqlik va noresurs qoidalarini kuchaytirish orqali deviant xatti-harakatlarni to'g'rilang.
nazorat ro'yxati
- [ ] Men so'rovga javob beradigan joriy manbani joylashtirdim.
- [ ] Men “Faqat manbadan javob bering, chegaradan o‘tmang” qoidasini qo‘shdim.
- [ ] Men manbaga havola / iqtibos talabini qo'ydim.
- [ ] Agar javob manbada mavjud bo'lmasa, men delegatsiya xatti-harakatini aniqladim.
- [ ] Men raqamli qiymatlarning aniq saqlanishini talab qildim.
- [ ] Men javobni u asoslangan manba jumladan tasdiqladim.