Пайдалар:
- Билимге негизделген муундун логикасын түшүнүү (RAG) жана эмне үчүн галлюцинацияларды азайтат
- Берилген баштапкы документтердин негизинде моделге цитата менен жооп берүү мүмкүнчүлүгү
- Булакта жок суроолорду суроолорду түзбөстөн, коопсуз өткөрүп берүү менен башкаруу мүмкүнчүлүгү
Тил модели көп нерсени "билет", бирок ал компанияңыздын бүгүнкү кайтаруу саясатын, учурдагы прейскурантыңызды же кечээ өзгөргөн жеткирүү келишимиңизди билбейт. Эң жаманы, билбесе, көп учурда ойлоп таап, өтө ишенимдүү тон менен жазат. Бул кардарларды тейлөөдөгү олуттуу кемчилик: модельде "Төлөмдөр 30 күндүн ичинде берилет" дейт, ал эми сиздин саясатыңыз 14 күн болушу мүмкүн. Бул боштукту жапкан ыкма RAG: Retrieval-Augmented Generation, башкача айтканда, "retrieval-augmented production" деп аталат.
Идея жөнөкөй: модель суроого эс-тутумдан эмес, ошол учурда анын алдына коюлган туура баштапкы документтерден жооп берет. Биринчиден, суроого тиешелүү документтин туура бөлүгү "издөө", андан кийин модель ошол бөлүктүн негизинде гана жоопту "түзөт". Бул бөлүмдө сиз RAG логикасын түшүнөсүз жана ал сиз берген текшерилген булакка гана жабышуусу үчүн моделди кантип тизгиндөөнү үйрөнөсүз.
Эскертүү: Бул бөлүм RAGдын иштөө логикасын жана ыкчам жагын үйрөтөт. Ишкана масштабындагы автоматтык документтерди издөө системалары (вектордук маалымат базасы ж.б.) техникалык орнотууну талап кылат; Бул жердеги тартип ошол системанын туура жооп беришинин негизи.
Эмне үчүн RAG галлюцинацияларды азайтат?
Галлюцинация – бул моделдин реалдуу эмес маалыматты чындай кылып чыгарышы. Модель боштукту көргөндө "мүмкүн" көрүнгөн жоопту чыгаруу үчүн программаланган; Чынбы же жалганбы билбейт. RAG бул боштукту толтурат: сиз моделге суроо менен бирге актуалдуу текстти берип, "бул жерден гана жооп бериңиз" деп айтасыз. Бул жол менен модель туура "керек" эмес.
Үч компоненти бар:
- Билим базасы: Көп берилүүчү суроолор, саясат документтери, продукт колдонмолору, прейскуранттар сыяктуу ишенимдүү тексттер.
- Издөө: суроого жооп камтыган документтин бөлүгүн табуу жана аны моделге берүү.
- Чектелген чыгарылыш: Модель берилген бөлүктүн негизинде цитата менен жооп берет.
Кадам кадам: Булакка ишенимдүү жооп
- Булакты даярдаңыз. Жооп негиз боло турган текстти (саясат, FAQ) так жана актуалдуу форматта табыңыз.
- Булакты ишаратка кыстарыңыз. Текстти <булак> сыяктуу тегге коюңуз.
- Берилгендик эрежесин жаз. "Булактан алынган маалыматты гана колдонуңуз; булактан адашпаңыз."
- Цитата талап кылынсын. Жооп кайсы бөлүмгө негизделгенин көрсөтсүн.
- ресурстук эмес жүрүм-турумун аныктоо. Эгер булактан жооп жок болсо, “менде бул маалымат жок” деп айтып, өткөрүп берсин.
- Текшерүү. Жоопту ал негизделген булак сүйлөм менен салыштырып ырастаңыз.
Көчүрмө кеңештер
Негизги булакка негизделген жооп берүү:
Рол: Сиз кардарларды колдоо жардамчысысыз. Төмөндөгү <булак>блокундагы маалыматка таянып ГАНА суроого жооп бериңиз. Булакта жок маалыматты кошпоңуз, жалпы билимиңизден жооп бербеңиз. Жообуңуздун аягында сиз таянган бөлүмдү "[Булак: ...]" форматында кошуңуз. Эгер жооп булакта жок болсо, анда төмөнкүнү жазыңыз: "Менде бул маселе боюнча так маалымат жок, мен сизди туура жооп бере турган кызмат адамына өткөрүп жатам."<source>{{ policy_or_faq_text }}</source>Суроо: {{ customer_question }}
Көп булактуу учурда, ал кайсы документке негизделгенин көрсөтүүгө чакырат:
Төмөндө номерленген бир нече ресурстар бар. Суроого жооп берип жатып, сиз колдонгон булактын номерин айтыңыз, мисалы [Булак 2]. Эгер бир нече булак сизге карама-каршы келсе, аны ачык айтыңыз жана кайсынысы жаңыртылганын сураңыз.<sources>1) {{ source_1 }}2) {{ source_2 }}3) {{ source_3 }}</sources>Суроо: {{ customer_question }}
Булактан башка суроону коопсуз башкарган кеңеш:
Эгерде суроонун жообу булакта ЖАРЫМ-ЖАРЫМ табылса: булак камтылган бөлүгүнө гана жооп бериңиз, калган бөлүгүнө "бул маалымат булакта жок" деп айтыңыз. Жок болгон жерди эч качан божомол менен толтурбаңыз.
Жоопту кардар тилине которгон, бирок булактан сакталган билдирүү:
Булактагы расмий/техникалык туюнтманы кардар түшүнө турган жөнөкөй тилге которуңуз, бирок маанисин жана сандык маанилерин (күн, сумма, тариф) ОЗГОРТПОЙТ. Мисалы, "14 календардык күндү" "болжол менен эки жумага" тегеректөө; толук баалуулугун сактоо.
Алсыз тездик / Күчтүү эскертүү
Алсыз тез
Күчтүү тез
"Биздин кайтаруу саясатыбыз жөнүндө айтып бериңизчи"
Булак булагы + "бул жерде гана жооп бер" + цитата сурайт
Модельдин эсинен жооп (туура эмес болушу мүмкүн)
Учурдагы документиңизден жооп
Эгер булакта жок болсо, аны өзү ойлоп чыгарат
Ал "менде бул маалымат жок" деп айтып берет.
Сандарды тегерете жана бурмалай алат
Күн/сумма/чени так сактайт
Айырмачылыгы күчтүү чакыруу моделге казык (булак текст) жана тыюу салуу (булактан чыгуу) берет. Модель мындан ары эс-тутумдан эмес, анын алдындагы реалдуулуктан сүйлөйт.
Үч мини Case
1-жагдай - Эски саясаттын тузагы. "Кайтаруулар 30 күндүн ичинде кабыл алынат" деди бир дүкөндүн боту кредитсиз иштеп жатканда; Бирок компания бул мөөнөттү 14 күнгө чейин кыскарткан. Жаңыртылган саясат тексти RAG орнотуусунда булакка кошулганда, бот эми "14 календардык күн [Булак: Кайтаруу саясаты, 2-берене]" деп жооп берет. Жалган убадалардан келип чыккан акчаны кайтаруу боюнча талаштар калыбына келтирилди.
2-жагдай - Карама-каршылыкты табуу. Кардар жеткирүү баасы тууралуу сурады. Булак катары системага эски жана жаңы прейскуранттар киргизилген. Көп булактан турган тездиктин аркасында модель: "Эки булак ар кандай бааларды берет (49 TL жана 59 TL); Мен азыркыны ырасташым керек" деп маселени адамга жеткирди. Кардарга туура эмес сумманы айтуунун ордуна, ал белгисиздикти чынчылдык менен билдирген.
Иш 3 - Жарым-жартылай жооп тартиби. "Сиз товарды чет өлкөгө жөнөтөсүзбү жана бажы салыгын ким төлөйт?" Суроодо булак жөнөтүлгөнүн гана айткан, салыкты ким төлөгөндүгү тууралуу эч нерсе болгон эмес. Модель: "Ооба, жөнөтүү чет өлкөдө жасалат [Булак: Cargo FAQ]. Бирок бул документте бажы салыгын ким төлөй турганы айтылган эмес; Мен муну тактоо үчүн сизди расмий адамга өткөрүп жатам" деди. Жарым-жартылай туура, жарым-жартылай жасалма жооптун ордуна, ал чынчыл жана ишенимдүү жыйынтык чыгарды.
Кеңеш: Билим базаңыздын эң акыркы жана жалгыз булагы чындык версиясын сактаңыз. Бир эле маалыматка ээ болуу (мисалы, кайтаруу мөөнөтү) үч башка документте башкача жазылган - RAGдын эң чоң душманы; Модель кайсынысын караганына жараша ар кандай жооп берет. Алгач документтериңизди көчүрмөлөп, анан автоматташтырыңыз.
Текшерүү: Булак бар деп эле эс ала бербеңиз
RAG галлюцинацияны абдан азайтат, бирок аны баштапкы абалга келтирбейт. Модель кээде булакты туура эмес чечмелеп, эки сүйлөмдү аралаштырып же булакта жок “жыйынтык” чыгарышы мүмкүн. Ошондуктан цитата талабы абдан маанилүү: жооп негиздүү деп ырасталган бөлүмдү ачып, чындыгында ошондой айтылганын текшериңиз. Бул контролдоо, айрыкча сандарды (күн, сумма, ставка) жана шарттарды (өзгөчө, шарт) камтыган жооптордо, сүйлөшүүгө болбойт.
Эскертүү: Эгерде булактын өзү туура эмес же эскирип калса, RAG бул катаны ишенимдүү кайталайт. “Модел булактан сүйлөйт” деген сөз “үлгү туура сүйлөйт” дегенди билдирбейт; Сиз булагыңыздын валютасы жана тактыгы үчүн жооптуусуз.
Билим базасын жооп берүүгө даяр кармоо
RAG сапаты негизинен баштапкы тексттин кантип жазылганынан көз каранды. Модель жакшы структураланган, аталышы бар, бир темалуу тексттерге караганда алда канча так жооп кайтарат. Практикалык кеңеш: саясаттарыңызды узун абзацтарга эмес, кыска аталыштагы бөлүмдөр менен жазыңыз; Ар бир бөлүм бир суроого жооп берсин («Кайтаруу мөөнөтү канча күн?», «Кайсы продуктыларды кайтарып берүүгө болбойт?»). Көп берилүүчү суроолорду (FAQ) суроо-жооп форматында сактоо моделдин туура бөлүгүн табуусун жеңилдетет. Датасы, суммасы жана курсу сыяктуу мамлекеттик баалуулуктар тексттин ичинде так жана бир жерде; Бир эле санды ар кайсы бөлүмдөрдө башкача жазуу моделди чаташтырат.
Дагы бир маанилүү адат – бул билим базасын сактап калуу. Саясат, баалар жана жарнамалар ар түрдүү; Булак жаңыланбаса, модель эски чындыкты коопсуз кайталай берет. Ар бир саясат өзгөргөн сайын булагын жаңыртыңыз жана моделге туура жооп бергенин ырастоо үчүн өзгөртүлгөн тема боюнча бир нече тесттик суроолорду бериңиз. Бул кичинекей, бирок үзгүлтүксүз тейлөө RAG тутумунун убакыттын өтүшү менен "унчукпай ката кетишине" жол бербейт.
Жалпы каталар
- Булакты көмбөй “биздин саясатты түшүндүрүп бер” деп, моделдин жаттаганына таянып.
- "Булактан гана жооп берүү" чегин жана булактан башка жүрүм-турумду аныктоо эмес.
- Цитата/булак шилтемесин талап кылбоо жана жоопту текшерилгис калтыруу.
- Бир эле маалыматтын карама-каршы версияларын билим базасында бир нече документтерде сактоо.
- Модельге сандык маанилерди тегеректөө/чечмелөө мүмкүнчүлүгүн берүү.
- Булакты жаңыртууну унутуп, модель эски маалыматты ишенимдүү кайталайт.
Кыскача айтканда
- RAG моделдин жообун эстутумдан эмес, учурдагы баштапкы документтен чыгарарын билдирет.
- Галлюцинацияны азайтуунун эң практикалык жолу: булакты көмүңүз, "бул жерде гана жооп бериңиз" деп айтыңыз, цитата сураңыз.
- Эгер жооп булакта жок болсо, бир моделге туура келбеши керек; “Менде жок” деп, өткөрүп бериши керек.
- Моделди карама-каршы булактардан кабардар кылуу; Сиз так сандык маанилерди сактап калды.
- RAG тактыгы сиздин булагыңыздын өз убагында болушуна жараша болот; Ар дайым цитатаны ырастаңыз.
Колдонмо тапшырмасы
Өзүңүздүн бизнесиңизден саясаттын чыныгы текстин (кайтаруу, жеткирүү же мүчөлүк) алыңыз жана аны жогорудагы негизги RAG сунушуна булак катары киргизиңиз. Анда үч суроо бериңиз: (1) жообу булакта так болгон суроо, (2) жообу булакта такыр жок суроо, (3) жообу булакта толук эмес болгон суроо. Модель туура жооп берип, "менде жок" деп жооп берип, жарым-жартылай жоопту жана жетишпей калган жоопту чынчылдык менен белгилегенин текшериңиз. Ыкчам лоялдуулукту жана ресурстук эмес эрежелерди күчөтүү менен девианттык жүрүм-турумду тууралаңыз.
текшерүү тизмеси
- [ ] Мен суроого жооп негиз боло турган учурдагы булакты киргиздим.
- [ ] Мен "Булактан гана жооп бер, чектен чыкпа" эрежесин коштум.
- [ ] Мен булак шилтемеси / цитата талабын койдум.
- [ ] Эгерде жооп булакта жок болсо, мен өкүлчүлүктүн жүрүм-турумун аныктадым.
- [ ] Мен сандык маанилердин так сакталышын талап кылдым.
- [ ] Жоопту ал негизделген булак сүйлөмүнөн тастыктадым.