RAG nima va u nima uchun kerak?

Daromadlar:

• RAG kontekstni modelning og'irligini o'zgartirmasdan kiritishi va "ochiq kitob imtihon" mantig'i bilan ishlashini tushuntirish
• Narx, o'z vaqtida va foydalanish stsenariysi bo'yicha RAGni nozik sozlash va uzoq kontekst yondashuvlari bilan solishtirish
• Indekslash va so'rov bosqichlaridan iborat odatiy RAG quvur liniyasining bosqichlarini sanab o'tish

Til modeli (matnni tushunadigan va ishlab chiqaradigan sun'iy intellekt; biz buni bundan keyin qisqacha model deb ataymiz) qanchalik kuchli bo'lmasin, u kompaniyangiz kecha imzolagan shartnomani, ichki wiki (ichki ma'lumotlar bazasi) sahifangizni yoki bugun ertalab chop etilgan nashr eslatmasini bilmaydi. Model o'qitilgan sanagacha umumiy bilim bilan cheklangan; Bu "ta'limni tugatish sanasi" deb ataladi. RAG (Retrieval-Augmented Generation) aynan shu bo'shliqni to'ldiradi: u savolga tegishli kompaniya hujjatlarini topadi, uni kontekst sifatida modelga beradi (ya'ni javobni ishlab chiqarishda o'qiladigan qo'shimcha matn) va shu kontekst asosida javob ishlab chiqariladi.

Ushbu bo'limda biz RAG nima ekanligini, qaysi alternativlardan afzalroq bo'lishini va odatdagi RAG quvurining bosqichlarini aniq ko'rib chiqamiz. Barcha keyingi birliklar ushbu xaritaning qismlarini birma-bir chuqurlashtiradi.

RAGning asosiy g'oyasi: ochiq kitob imtihoni

Keling, RAGni bitta jumla bilan tushuntiramiz: "Avval tegishli hujjatni toping, so'ngra model ushbu hujjatni o'qib chiqing va javobni shunga mos ravishda chop eting."

Eng foydali o'xshashlik bu: RAG modelni "yopiq kitob imtihonidan" "ochiq kitob imtihoniga" o'tkazadi. Yopiq kitob imtihonida talaba faqat xotiradan javob beradi; Esingizda bo'lmagan narsani o'ylab topish xavfi yuqori. Ochiq kitob imtihonida talaba o'zining oldiga qo'yilgan manbaga qarab javob beradi. RAG-da, model endi o'z xotirasidan javob bermaydi, lekin siz unga bergan joriy va aniq matndan.

Muhim nuqta: RAG modelning og'irliklarini, ya'ni model o'rgangan milliardlab raqamli parametrlarni o'zgartirmaydi. Siz modelni qayta o'rgatmaysiz. Har bir savol uchun siz ushbu savolga tegishli matn bo'laklarini so'rovga kiritasiz (modelga yuborilgan ko'rsatma matni). Shunday qilib, hujjat yangilanganda modelni qayta tayyorlashingiz shart emas; Siz shunchaki qidiruv bazasidagi tegishli yozuvni yangilaysiz.

Maslahat: RAG sifatini ikkita savol aniqlaydi: (1) To'g'ri hujjatni topdingizmi? (2) Model uni to'g'ri o'qidimi? Birinchisi, “qidiruv sifati”, ikkinchisi “avlod sifati”. Ikkalasi alohida o'lchanadi va yaxshilanadi.

RAG, nozik sozlash yoki uzoq kontekstmi?

Tashkiliy muammoga yechim izlashda uchta yo'l ko'pincha chalkashib ketadi. Keling, ularning farqlarini aniqlaylik. Nozik sozlash - bu modelning og'irliklarini ma'lumotlaringiz bilan yangilash va unga yangi xatti-harakatlar/uslubni o'rgatish. Uzoq kontekst barcha hujjatlarni tanlovsiz to'g'ridan-to'g'ri taklifnomaga to'ldirishni anglatadi.

Yondashuv

Nima qiladi

Qachon mos keladi?

Xarajat / xavf

RAG

Tegishli hujjatni kontekst sifatida kiritadi

Tez-tez o'zgarib turadigan, keng qamrovli, aniq ma'lumotlar

Kam; yangilash oson, manba keltirilishi mumkin

Nozik sozlash

Og'irliklarni yangi ma'lumotlar bilan yangilaydi

Ruxsat etilgan uslub/format/til o'qitish

Yuqori; Har bir yangilanish bilan qayta tayyorlash talab qilinadi

Faqat uzoq kontekst

Barcha hujjatlarni taklifnomaga to'ldiradi

Kichik, statsionar hujjatlar to'plami

Token narxi va "o'rta qismni yo'qotish" xavfi ortadi

Qoidaga ko'ra: nozik sozlash modelga qanday gapirishni o'rgatadi; RAG modelga nimani bilish kerakligini aytadi. Ko'pgina korporativ stsenariylarda RAG birinchi navbatda sinab ko'riladi, chunki u arzon, yangilanishi va javob manbasini ko'rsatishi mumkin. Hujjatlar to'plami haqiqatan ham kichik va qattiq bo'lsa, uzoq kontekst oqilona bo'ladi (masalan, bitta 20 sahifalik qo'llanma); Ammo minglab sahifalar bilan bu qimmat va model uzun matnning o'rtasida ma'lumotni o'tkazib yuborishi mumkin.

Oddiy RAG quvur liniyasi

RAG ikkita asosiy bosqichdan iborat: indekslash (tayyorlash, bir marta yoki vaqti-vaqti bilan amalga oshiriladi) va so'rovlar (har bir foydalanuvchi savolida ishlaydi).

Bosqichma-bosqich indeksatsiya (oflayn, foydalanuvchi kutmasdan):

1. To'plash: Hujjatlarni manbalardan oling (PDF, wiki, chipta tizimi, ma'lumotlar bazasi, elektron pochta).
2. Chiqarish: Uzoq matnni kichikroq boshqariladigan qismlarga ajrating.
3. Embed: Har bir qismni o'rnatishga aylantiring (matn ma'nosini o'z ichiga olgan raqam vektori).
4. Saqlash: Vektorlarni matn va metama'lumotlar (manba, sana, avtorizatsiya ma'lumotlari) bilan birga vektor ma'lumotlar bazasiga yozing.

Bosqichma-bosqich so'rov (onlayn, foydalanuvchi kutayotganda):

1. Foydalanuvchining savolini o'rnatishga aylantiring.
2. Vektor ma'lumotlar bazasidan eng o'xshash qismlarni oling.
3. Ushbu qismlarni + savolni shablonga joylashtiring.
4. Modeldan kontekstual javob va uning manbalarini oling.

# So'rov bosqichining kontseptual rejasi (tilga bog'liq emas)question = "Yillik ta'til necha kun?"question_vektor = embed(question)parts = vektor_db.search(question_vektor, top_k=4) # eng o'xshash qismlarprompt = f"""Savolga javob bering. Agar kontekstda "YO'q" deb ayting. this." Fitting.CONTEXT:{qismlar}SAVOL: {savol}"""javob = model.uret(prompt) # masalan. model: claude-opus-4-8

Ushbu oqim har bir bosqichning xaritasi bo'lib, biz uni keyingi birliklarda birma-bir ochamiz.

Zaif taklif / Kuchli taklif

Xuddi shu RAG kontekstida ham, taklif sifati javobni o'zgartiradi.

Zaif taklif (modelni o'rnatish uchun ochiq, resurslarni talab qilmaydi):

Ushbu ma'lumotdan foydalaning va yillik ta'tilni ayting: {qism}. Savol: {question}

Kuchli so'rov (topraklama + "Bilmayman" ruxsati + resurs so'rovi):

Javob faqat quyidagi CONTEXT asosida. Agar kontekstda aniq javob bo'lmasa, "Men bu haqda hujjatlarda ma'lumot topa olmadim" deb yozing; Taxmin qilmang. Javobingiz oxirida siz tayangan qismning [Manba: file_name] tegini qo'shing. MAZMUNI: {dona} SAVOL: {savol}

Uchta mini korpus

1-holat — HR yordamchisi (Inson resurslari). Kompaniyada 340 betlik HR qo'llanmasi mavjud va xodimlar kuniga o'rtacha 90 ta savol berishadi. Nozik sozlash sinab ko'rildi, ammo qo'llanma har oy yangilanganligi sababli, har safar qayta tayyorlash talab qilinardi; Narxi oyiga minglab dollarga yetdi. RAG-ga o'tgandan so'ng, yangilanish "hujjatni qayta indekslash" bosqichiga (daqiqalarga) qisqartirildi va qo'lda o'lchashda to'g'ri javob darajasi 71% dan 93% gacha ko'tarildi.

2-holat - Mijozlarni qo'llab-quvvatlash. Yordam jamoasida 12000 ta hal qilingan chiptalar va 800 ta yordam maqolalari mavjud. Vakil javobni qo‘lda topishi uchun o‘rtacha 4 daqiqa vaqt ketadi. RAG yordamchisi 5 ta eng mos yozuvni olib kelib, javob loyihasini ishlab chiqqanida, vaqt 40 soniyagacha qisqartirildi; Ammo jamoa "noto'g'ri maqola olib, ishonchsiz ko'rinish" xavfini angladi va manbaga iqtibos keltirishni majburiy qildi.

3-holati – Qonun. Pudratchi jamoa "qaysi shartnomalarda maxfiylik bandi 5 yil davom etadi?" degan savolni beradi. Uzoq muddatli kontekstli sinovda 60 ta shartnoma bitta taklifga to'ldirildi; model o'rtadagi ikkita shartnomani o'tkazib yubordi. RAG bilan faqat tegishli elementlar kiritilganda, token narxi 80% ga kamaydi va etishmayotgan o'tkazib yuborish qayta tiklandi.

RAG nima uchun kerak?

• Joriylik: Siz ma'lumotlarga mashg'ulot tugash sanasidan keyin kirasiz.
• Maxsus ma'lumotlar: Sizning ichki hujjatlaringiz hech qanday modelni o'qitishga kiritilmagan; Faqat siz bera olasiz.
• Tasdiqlanishi: Siz javob manbasini (iqtibos) keltirishingiz mumkin — audit va ishonch uchun zarur.
• Gallyutsinatsiyani boshqarish: U model yaratishdan ko'ra, uning oldiga qo'yilgan matnga tayanadi.
• Narxi: Bu nozik sozlashdan ko'ra ancha arzon va tezroq ishga tushiriladi.

Diqqat: RAG sehrli emas. Agar siz noto'g'ri qismni keltirsangiz, model "ishonchli" ko'rinishda noto'g'ri javob beradi. "Qayta olish sifati = RAG sifati" iborasini yodda tuting.

Umumiy xatolar

• RAGni nozik sozlash uchun xato qilish: RAG og'irliklarni o'zgartirmaydi; Bu shunchaki kontekstni qo'shadi. Bu ikkalasini chalkashtirib yuborish noto'g'ri arxitekturani tanlashga olib keladi.
• "Bilmayman"ga ruxsat bermaslik: Agar so'rov modelni bo'sh joyni to'ldirish uchun bo'sh qoldirsa, u to'ldiradi.
• Manbalarga iqtibos keltirmaslik: Manbasiz javobni tekshirib bo'lmaydi; Foydalanuvchi xatoni seza olmaydi.
• Hamma narsani bitta so'rovga to'plash: Uzoq kontekst arzon ko'rinadi, lekin qimmat va o'rta ma'lumotni o'tkazib yuboradi.
• Qabul qilishni o'lchamasdan avlodda qolib ketish: Agar javob yomon bo'lsa, avval "To'g'ri qism keldimi?" so'rash kerak.

Xulosa

• RAG - bu savolga tegishli hujjatlarni kontekst sifatida modelga kiritadigan yondashuv; vaznlarni o'zgartirmaydi ("ochiq kitob imtihon").
• Nozik sozlash uslub/formatni o'rgatadi, RAG joriy va aniq ma'lumotlarni beradi; uzoq kontekst kichik sobit to'plamlar uchun yaxshi ishlaydi. Ko'pgina stsenariylarda RAG birinchi navbatda sinab ko'riladi.
• Quvur ikki bosqichdan iborat: oflayn indekslash (bo'lak + joylashtirish + saqlash) va onlayn so'rovlar (qidiruv + so'rov + yaratish).
• RAG o'z vaqtida, o'ziga xos ma'lumot, tekshirilishi mumkinligi, gallyutsinatsiyalarni nazorat qilish va arzon narxni ta'minlaydi.
• Tizimning sifati to'g'ridan-to'g'ri qidirish sifatiga bog'liq: noto'g'ri bo'lak noto'g'ri javobni anglatadi.

Ilova vazifasi

O'zingizning jamoangizdan haqiqiy ma'lumot manbasini tanlang (masalan, protsedura hujjati yoki FAQ sahifasi). (1) Ushbu manba haqida 5 ta faktik savol yozing. (2) Hujjatning qaysi qismida har bir savol uchun to'g'ri javob borligiga e'tibor bering - bu sizning "oltin javob" ro'yxatiga aylanadi. (3) Yuqoridagi "kuchli taklif" shablonidan foydalanib, tegishli bo'limni kontekst sifatida qo'lda joylashtiring va modelni so'rang. (4) Model tomonidan berilgan javobni oltin javob bilan solishtiring va rost/noto‘g‘ri deb belgilang. Bu siz kelajakdagi birliklarda avtomatlashtiradigan baholashning birinchi qo'lda versiyasidir.

nazorat ro'yxati

• [ ] Men bir jumla bilan tushuntira olamanki, RAG og'irliklarni o'zgartirmaydi, faqat kontekstni qo'shadi.
• [ ] Men RAG, nozik sozlash va uzoq kontekstni va qaysi biri mos kelishini ajrata olaman.
• [ ] Indekslash (to'plash-parchalash-qo'shish-saqlash) va so'rovlar (o'rnatish-olish-so'rovni yaratish) bosqichlarini tartibda sanashim mumkin.
• [ ] Men nima uchun soʻrovga “agar bu kontekstda boʻlmasa, bilmayman deb ayting” va “manbani keltiring” koʻrsatmalarini qoʻshganimni bilaman.
• [ ] Men "Qayta olish sifati = RAG sifati" tamoyilini o'z ishimga moslashtira olaman.