Daromadlar:
- RAG (parchalanish, kirish, resurslarga bog'liq avlod) qanday ishlashini va gallyutsinatsiyani qanday kamaytirishini tushuning
- Mavjud, aniq, ziddiyatsiz va yagona to'g'ri manbaga ega bo'lgan bilimlar bazasini yaratish orqali javoblar sifatini oshirish qobiliyati.
- Modelga "agar u manbada bo'lmasa, menga bilmaganingizni ayting" deb ko'rsatma berish va u javob bera olmaydigan savollarni bilim bazasini yaxshilashga aylantirish qobiliyati
Bot yoki agent yordamchisi bergan javob faqat u asoslangan ma'lumot kabi yaxshi. Mijoz “Aksiya davom etmoqdami?” deb so‘raganda, to‘g‘ri javob model xotirasida emas, balki muassasaning joriy bilimlar bazasida bo‘ladi. Shuning uchun qo'ng'iroq markazi sun'iy intellektning yuragi bilim bazasi (KB) hisoblanadi: mahsulotlar, siyosatlar, tez-tez so'raladigan savollar, protseduralar va qoidalar yozma ravishda saqlanadigan zamonaviy resurs. Ushbu ma'lumot bazasini sun'iy intellekt bilan ishonchli bog'laydigan usul RAG deb ataladi: Qidiruv-kengaytirilgan avlod - javobni o'z xotirasidan yaratish o'rniga, model avval manbadan tegishli ma'lumotlarni oladi (qidiruv) va keyin javobni faqat shu qismlar (generatsiya) asosida ishlab chiqaradi.
RAG gallyutsinatsiyani oldini olishning eng kuchli usuli hisoblanadi. Model o'z boshida "kredit foiz stavkasi qanday?" Degan savol uchun raqam yaratmaydi. U bilimlar bazasidan joriy qiziqish matnini oladi va unga asoslanib javob beradi. Ushbu bo'limda biz bilimlar bazasini qanday tashkil etishni, RAG qanday ishlashini va yaxshi bilim bazasi javoblar sifatini qanday aniqlashini ko'rib chiqamiz.
RAG qanday ishlaydi: to'rt qadam
RAGni kutubxonachi kabi tasavvur qiling. Xaridor savollar beradi; Tizim avval kutubxonaning o‘ng javonidan tegishli sahifalarni topadi, so‘ng o‘sha sahifalarni o‘qiydi va javobni yozadi. Texnik bosqichlar quyidagicha:
- Chiqarish: Bilimlar bazasidagi uzun hujjatlar kichik, mazmunli bo'laklarga bo'linadi (masalan, har bir tez-tez so'raladigan savollar bir bo'lak). Chunki model tegishli kichik qismlar bilan savolga aniqroq javob beradi.
- O'rnatish va indekslash: Har bir bo'lak uning ma'nosini ifodalovchi raqamli shaklga tarjima qilinadi (qo'shish - matnning ma'nosini ifodalovchi raqamlar ketma-ketligi) va qidirish mumkin bo'lgan ma'lumotlar bazasiga joylashtiriladi. Shunday qilib, bu "so'z mosligi" emas, balki "ma'no moslashuvi"; Mijoz “pulim qachon kiritiladi?” deb so‘rasa ham, “to‘lovni qaytarish muddati” qismi topilishi mumkin.
- Qidiruv: Mijozning savoliga ma'no jihatidan eng yaqin qismlar olinadi (masalan, eng yaqin 3-5 qism).
- Generation: Model javobni FAQAT chizilgan qismlarga asoslanib yozadi va iloji bo'lsa manbani ko'rsatadi.
Muhim nuqta 4-bosqichda: modelga "faqat berilgan bo'laklarga tayanish yoki bilmayman deb aytish" buyuriladi. Ushbu ko'rsatmasiz RAG modelni o'rnatishga to'sqinlik qilmaydi.
Maslahat: RAGning oltin qoidasi: "Agar u manbada bo'lmasa, javob yo'q". Yaxshi RAG tizimi bilimlar bazasida bo'lmagan savolga "Men bu haqda aniq bilmayman" deb aytadi; hech qachon bo'shliqni taxminlar bilan to'ldirmaydi. Botning “bilmayman” deyish qobiliyati zaiflik emas, balki xavfsizlik xususiyatidir.
Yaxshi bilim bazasi: javob sifatining haqiqiy manbai
RAG qanchalik yaxshi bo'lmasin, agar bilimlar bazasi yomon bo'lsa, javob yomon. Bilimlar bazasi sifati quyidagilar bilan o'lchanadi:
xususiyat
yomon bilim bazasi
Yaxshi bilim bazasi
Hozirgilik
Oylar davomida yangilanmagan
O'zgartirilganda darhol yangilanadi
Aniqlik
Uzoq, burmalangan matn
Qisqa, bitta mavzuli maqolalar
tuzilishi
Tartibsiz PDF to'plami
Belgilangan parchalanadigan moddalar
Muvofiqlik
Ikki qarama-qarshi javob
Haqiqatning yagona manbai
Qo'llash doirasi
Ko'p bo'shliqlar mavjud
Tez-tez beriladigan savollarni qamrab oladi
egalik
Hech kim javobgar emas
Har bir mavzuning o'z egasi bor
Call-markaz kontekstidagi eng xavfli muammo - bu qarama-qarshilik: agar bilimlar bazasida ikki xil qaytish davri yozilgan bo'lsa, RAG qaysi birini oladi, deb aytadi va mijozga mos kelmaydigan javob yuboriladi. Shuning uchun ham "haqiqatning yagona manbai" tamoyili juda muhim: ma'lumotlar bir joyda saqlanadi; Nusxalari emas, balki ushbu manbaga havolalar ishlatiladi.
Bosqichma-bosqich: RAG tomonidan qo'llab-quvvatlanadigan javob tizimini yaratish
- Bilimlar bazasini tozalang: eskirgan, ziddiyatli, takroriy maqolalarni olib tashlang. Har bir maqolani qisqa va bitta mavzuga aylantiring.
- Uni ajrating va belgilang: Har bir maqolaga mavzu yorlig'i va oxirgi yangilanish sanasini qo'shing.
- Kirishni o'rnatish: so'ralganda tegishli qismlarni tortib oladigan mexanizmni ulang (korxona RAG vositalari buni ta'minlaydi).
- Qattiq so'rov yozing: modelga "faqat taqdim etilgan qismlarga ishoning, manbani keltiring yoki bilmasligingizni ayting" deb ayting.
- Manba keltiring: Javob berilgan maqolani ko'rsating; Bu ham ishonch beradi, ham tekshirishni osonlashtiradi.
- Bo'shliqlarni kuzatib boring: Bot "bilmayman" degan savollarni to'plang; Bular bilimlar bazasidagi kamchiliklarni ko'rsatadi, u yerdan oziqlanadi.
To'rt nusxa ko'chirish shablonlari
1) Qattiq RAG javob so'rovi:
Quyidagi [SOURCE] qismlarga ASOSLANGAN javob. Qoidalar: (1) faqat manbadagi maʼlumotlardan foydalaning, (2) agar manbada boʻlmasa, “Menda bu borada aniq maʼlumot yoʻq, sizni vakilga bogʻlayman”, (3) qaysi maqolaga asoslanganligini [Manba: band-no] sifatida koʻrsating, (4) manbadan olingan miqdor/davomiylik/shartni aniq keltiring, yaxlitlash/toʻldirish qilmang. [Manba]: <<tortib olingan qismlar>>Savol: "<<mijoz savoli>>"
2) Ma'lumot bazasi maqolalarini yozish:
Quyidagi tarqoq siyosat matnini RAG uchun mos FAQ maqolasiga aylantiring. Format: Savol (mijoz tilida) / Qisqa javob (2-3 jumla) / Shartlar (band) / Oxirgi yangilanish sanasi / Mavzu yorlig'i. Har qanday noaniq fikrlarni "aniqlash kerak" deb belgilang, o'ylab toping. Xom matn: <<matn>>
3) Qarama-qarshiliklar va bo'shliqlarni skanerlash:
Quyidagi bilimlar bazasi maqolalarini ko'rib chiqing. (1) Bir-biriga zid bo'lgan maqolalar juftligini belgilang (masalan, turli qaytish davri). (2) Tez-tez so'raladigan, ammo javobi YO'Q mavzularni taxmin qiling. Faqat berilgan maqolalarga qarang; yangi siyosat ishlab chiqarish. Maqolalar: <<ro'yxat>>
4) "Bilmayman" jurnalidan takomillashtirish:
Quyida bot javob bera olmagan savollar (manba topa olmadi). Ularni mavzular bo'yicha guruhlang va har bir guruh uchun bilimlar bazasiga qo'shilishi kerak bo'lgan maqola nomini taklif qiling. Javob mazmunini tuzmang, faqat qaysi element etishmayotganligini ayting.Savollar: <<ro'yxat>>
Zaif taklif / Kuchli taklif
Zaif taklif:
Xaridorning qaytarish haqidagi savoliga javob bering.
Manba yo'q; Model xotiradan mos kelishi mumkin, miqdor/davomiylik noto'g'ri bo'lishi mumkin, uni tekshirib bo'lmaydi.
Kuchli so'rov:
Faqat quyida keltirilgan qaytarish siyosati bandiga asoslanib javob bering. Agar u manbada mavjud bo'lmasa, "aniq bilmayman" deb ayting. Davr va shartni so'zma-so'z keltiring, [Manba: QAYTISH-03] ko'rinishida ma'lumot bering.[Manba: RETURN-03]: "Ishlatilmagan mahsulot 14 kun ichida qaytarilishi mumkin. Shaxsiylashtirilgan mahsulotlar qaytarish doirasiga kirmaydi." Savol: "20 kun oldin sotib olgan shaxsiy mahsulotni qaytarib bera olamanmi?"
Farqi: manbaga bog'liq, havola majburiy, ishlab chiqarishni taqiqlash aniq; model manbadan to'g'ri javobni ("14 kun o'tgan va shaxsiylashtirilgan, qaytarib berilmaydi") ishlab chiqaradi.
uchta mini holat
1-holat - gallyutsinatsiyani tugatish. Telekom botining saylov kampaniyasi savollariga javob aniqligi RAGsiz sozlamada 71% ni tashkil etdi; Model ba'zan eski kampaniyalarni tashkil etdi. Joriy tashviqot sahifalari RAG ga ulanganda va “manbada bo‘lmasa aytmang” qoidasi qo‘shilgach, aniqlik 96% gacha ko‘tarildi va “noto‘g‘ri kampaniya so‘zlari” haqidagi shikoyatlar deyarli tugaydi.
2-holat - Qarama-qarshilik narxi. Elektron tijorat kompaniyasining bilimlar bazasida ikki xil yuk tashish narxi ikki sahifada (bir joriy, bitta eski unutilgan sahifa) yozilgan. Bot tasodifan kimnidir tortib oldi va ba'zi mijozlarga noto'g'ri narxni aytdi. Eski sahifa bitta to'g'ri manba printsipi bilan arxivlanganida, nomuvofiqlik yo'qoldi. Dars: RAG ziddiyatni hal qilmaydi, qarama-qarshilikni qanday bo'lsa, shunday targ'ib qiladi.
3-holat - “Bilmayman” jurnalining qiymati. Bir bankda bot oyiga ~ 4000 ta savolga "aniq bilmayman" deb aytardi. Bu savollar guruhlarga ajratilganda, 40% “xalqaro kartadan foydalanish” haqida ekanligi ko'rindi; Bu haqda hech qanday maqola yo'q edi. Tegishli bandlar qo‘shilgach, bu savollar o‘z yechimini topdi va bu boradagi odamlarga aylanmasi 55 foizga kamaydi. Botning bilmasligini aytgani takomillashtirish uchun yo‘l xaritasi bo‘ldi.
Umumiy xatolar
- Manbaga havolasiz javob berish. RAG bo'lmasa, model aniq ma'lumotlarga mos keladi; Har qanday aniq javob manbaga bog'liq bo'lishi kerak.
- "Bilmayman" opsiyasini o'chirish. Modelni har bir savolga javob berishga majburlash mos kelishini ta'minlaydi.
- Qarama-qarshi/eski ma'lumotlarni tozalamaslik. RAG qarama-qarshilikni tarqatadi; Bitta to'g'ri manba muhim ahamiyatga ega.
- Parchalashga e'tibor bermaslik. Katta PDF-fayllarni eksport qilish aniq kirishni buzadi; Qisqa, bitta mavzuli maqolalardan foydalaning.
- Manbani yashirish. Javob nimaga asoslanganligini ko'rsatmaslik tekshirish va ishonchni zaiflashtiradi.
Diqqat: RAG aniqlikni yaxshilaydi, lekin 100% kafolat bermaydi. Model ba'zan olingan qismni noto'g'ri talqin qilishi mumkin. Shuning uchun, moliyaviy, huquqiy va xavfsizlik masalalari, agar manba ko'rsatilgan bo'lsa ham, inson roziligini talab qiladi; RAG gallyutsinatsiyalarni kamaytiradi, lekin javobgarlikni olib tashlamaydi.
qisqa bayoni; yakunida
Bilimlar bazasi va RAG qo'ng'iroq markazi AI aniqligining asosidir. RAG modelning javobni xotiradan moslashiga yo'l qo'ymaslik va faqat joriy manbaga tayanish orqali gallyutsinatsiyalarning oldini oladi. Ammo RAG faqat o'zining bilim bazasi kabi yaxshi: zamonaviy, aniq, tuzilgan, ziddiyatsiz va yagona haqiqat manbasiga ega bo'lgan bilimlar bazasi juda muhimdir. Modelga "agar u manbada bo'lmasa, bilmasligingizni ayting", manbani ko'rsating va bilim bazasini yaxshilash uchun bot javob bera olmaydigan savollardan foydalaning. Muhim masalalarda manbaga qaramasdan inson roziligini saqlang.
Ilova vazifasi
O'z sohangiz bo'yicha 8 ta real/real mijozlar savollari va 8 ta tegishli qisqa ma'lumot bazasi maqolalarini yozing (har bir maqola: savol, qisqa javob, shartlar, sana, teg). Keyin, “1) Tight RAG javob taklifi” sxemasidan foydalanib, model “bilmayman” deb ayta oladimi yoki yoʻqligini tekshirib koʻring, shuningdek, ulardan biri maʼlumot bazasida boʻlmagan savol. Nihoyat, maqolalaringizni "3) Qarama-qarshilik va bo'shliqlarni skanerlash" bilan tekshiring.
nazorat ro'yxati
- [ ] Bot/yordamchi tomonidan berilgan har bir aniq javob joriy bilimlar bazasiga bog'liq (RAG orqali).
- [ ] Men modelga "agar u manbada bo'lmasa, menga bilmaganingizni ayting" deb ko'rsatma berdim va uni sinab ko'rdim.
- [ ] Mening bilimlar bazasi zamonaviy, aniq, bir mavzuli maqolalardan iborat.
- [ ] Men ziddiyatli va eski maqolalarni tozaladim; Barcha ma'lumotlar uchun faqat bitta to'g'ri manba mavjud.
- [ ] Javoblar qaysi maqolaga asoslanganligini ko'rsatadi (manba).
- [ ] Men "bilmayman" savollarini to'playman va bilimlar bazasini oziqlantiraman.