Пайдалар:
- RAG (фрагментация, жеткиликтүүлүк, ресурска көз каранды генерация) кантип иштээрин жана галлюцинацияны кантип азайтарын түшүнүңүз
- Учурдагы, так, конфликтсиз жана бирдиктүү туура булагы бар билим базасын түзүү аркылуу жооптордун сапатын жогорулатуу мүмкүнчүлүгү.
- Модельге "эгерде ал булакта жок болсо, анда мага билбесең айт" деп көрсөтмө берүү жана ал жооп бере албаган суроолорду билим базасын өркүндөтүүгө айлантуу мүмкүнчүлүгү
Боттун же агенттин жардамчысы берген жооп ал негизделген маалыматка жараша болот. Кардар “Акция уланып жатабы?” деп сураганда, туура жооп моделдин эсинде эмес, мекеменин учурдагы билим базасында. Ошондуктан колл-центрдин жасалма интеллектинин жүрөгүн билим базасы (КБ) түзөт: өнүмдөр, саясаттар, көп берилүүчү суроолор, процедуралар жана эрежелер жазуу жүзүндө сакталган заманбап булак. Ал эми бул билим базасын жасалма интеллект менен коопсуз байланыштырган ыкма RAG деп аталат: Retrieval-Augmented Generation — жоопту өз эс-тутумунан чыгаруунун ордуна, модель адегенде булактан тиешелүү маалымат бөлүктөрүн алып чыгат (издөө), андан кийин ошол бөлүктөргө гана (муун) негизделген жоопту жаратат.
RAG галлюцинациянын алдын алуунун эң күчтүү ыкмасы. Модель "насыя пайыздык чен кандай?" деген суроо үчүн башына бир номер жаратпайт. Ал учурдагы кызыгуу текстин билим базасынан алып чыгып, анын негизинде жооп берет. Бул бөлүмдө биз билим базасын кантип түзүү керектигин, RAG кантип иштээрин жана жакшы билим базасы жооптордун сапатын кантип аныктаарын көрөбүз.
RAG кантип иштейт: төрт кадам
РАГды китепканачы сыяктуу элестетиңиз. Кардар суроолорду берет; Система алгач китепкананын оң текчесинен тиешелүү барактарды табат, андан кийин ал барактарын окуп, жообун жазат. Техникалык кадамдар төмөнкүдөй:
- Чункинг: Билим базасындагы узун документтер майда, мазмундуу бөлүктөргө бөлүнөт (мисалы, ар бир FAQ бир бөлүгү). Анткени модель тиешелүү майда бөлүктөр менен суроого так жооп берет.
- Кыстаруу жана индекстөө: Ар бир кесим анын маанисин билдирген сандык формага которулат (киргизүү — тексттин маанисин билдирген сандардын ырааттуулугу) жана изделүүчү маалымат базасына жайгаштырылат. Демек, бул «сөз дал келүү» эмес, «мааниси дал келүү»; Кардар “менин акчам качан түшөт?” деп сураса да, “кайтаруу мөөнөтү” бөлүгү табылышы мүмкүн.
- Издөө: Кардардын суроосуна мааниси боюнча эң жакын бөлүктөр алынат (мисалы, эң жакын 3-5 бөлүк).
- Generation: Модель жоопту ГАНА чийилген бөлүктөргө негиздеп жазат жана мүмкүн болсо булагын көрсөтөт.
Критикалык пункт 4-кадамда: моделге "жөн гана берилген бөлүктөргө таянуу, же билбейм деп айтуу" тапшырылат. Бул нускамасыз RAG моделдин туура келишине тоскоол болбойт.
Ишара: RAGдын алтын эрежеси: "Эгер булакта жок болсо, жооп жок." Жакшы RAG системасы билим базасында жок суроого "Мен бул жөнүндө так билбейм" деп жооп берет; эч качан божомол менен боштукту толтурбайт. Боттун "билбейм" деп айтуу жөндөмү алсыздык эмес, коопсуздук өзгөчөлүгү.
Жакшы билим базасы: жооптун сапатынын чыныгы булагы
РАГ канчалык жакшы болсо да, билим базасы начар болсо, жооп жаман. Билим базасынын сапаты төмөнкүлөр менен өлчөнөт:
өзгөчөлүгү
начар билим базасы
Жакшы билим базасы
Учурдагылык
Айлар бою жаңыртылган эмес
Өзгөрүлгөндө дароо жаңыртылды
Ачыктык
Узун, бурмаланган текст
Кыска, бир темадагы макалалар
түзүлүш
Башаламан PDF топтому
Белгиленген бузулуучу заттар
ырааттуулук
Эки карама-каршы жооп
Чындыктын жалгыз булагы
Колдонуу чөйрөсү
көп боштуктар бар
Көп берилүүчү суроолорду камтыйт
менчик
Эч ким жооп бербейт
Ар бир теманын ээси болот
Колл-борбордун контекстиндеги эң кооптуу маселе бул карама-каршылык: эгерде билим базасында эки башка кайтаруу мезгили жазылса, RAG кайсынысын алса ошону айтат жана кардарга дал келбеген жооп жөнөтүлөт. Ошондуктан «чындыктын бир булагы» принциби өтө маанилүү: маалымат бир жерде жаңыртылып турат; Көчүрмөлөр эмес, ошол булакка шилтемелер колдонулат.
Кадам-кадам: RAG тарабынан колдоого алынган жооп берүү системасын куруу
- Билим базасын тазалоо: Эскирген, карама-каршы келген, кайталанган макалаларды алып салыңыз. Ар бир макаланы кыска жана бир темага арнаңыз.
- Аны бөлүп, белгилеңиз: Ар бир макалага теманын теги менен акыркы жаңыртуу күнүн кошуңуз.
- Кирүү мүмкүнчүлүгүн түзүү: Суралган учурда тиешелүү бөлүктөрүн тартып турган механизмди туташтырыңыз (ишкана RAG куралдары муну камсыз кылат).
- Катуу эскертме жазыңыз: Модельге "берилген бөлүктөргө гана таяныңыз, булакты келтириңиз же билбейм деп айтыңыз".
- Булакты келтириңиз: Жооп негизделген макаланы көрсөтүңүз; Бул ишенимди да берет жана текшерүүнү жеңилдетет.
- Боштуктарды байкаңыз: боттун "билбейм" деген жерине суроолорду чогултуңуз; Булар билим базасындагы кемчиликтерди көрсөтүп, ошол жерден жем.
Көчүрүү үчүн төрт шаблон
1) Катуу RAG жообу:
Төмөнкү [SOURCE] бөлүктөрдүн негизинде жооп бериңиз. Эрежелер: (1) булактагы маалыматты гана колдонуңуз, (2) булакта жок болсо, "бул тууралуу так маалыматым жок, сизди өкүлгө байланыштырайын" деп айтыңыз, (3) кайсы макалага негизделгенин [Булак: пункт-жок] деп айтыңыз, (4) сумманы/узактыгын/шартты булактан так келтириңиз, тегеретпеңиз/түзбөйт. [БУЛАК]: <<тартылган бөлүктөр>>Суроо: "<<кардардын суроосу>>"
2) Билим базасы боюнча макала жазуу:
Төмөнкү чачыранды саясат текстин RAG үчүн ылайыктуу FAQ макаласына айландырыңыз. Формат: Суроо (кардардын тилинде) / Кыска жооп (2-3 сүйлөм) / Шарттар (пункт) / Акыркы жаңыртылган дата / Тема теги. Кандайдыр бир түшүнүксүз пункттарды "түшүндүрүү керек" деп белгилеңиз. Чийки текст: <<текст>>
3) карама-каршылыктарды жана боштуктарды издөө:
Төмөнкү билим базасы макалаларын карап чыгыңыз. (1) Бири-бири менен КАТЫШКАН макалалардын жуптарын белгилеңиз (мисалы, ар кандай кайтаруу мезгили). (2) Көбүнчө сурала турган, бирок ЖОК жообу жок темаларды тап. Берилген макалаларды гана караңыз; жаңы саясатты чыгаруу. Макалалар: <<тизме>>
4) "Мен билбейм" журналынан жакшыртуу:
Төмөндө бот жооп бере албаган суроолор (булагын таба алган жок). Аларды темаларга топтоп, ар бир топ үчүн билим базасына кошулууга тийиш болгон макаланын аталышын сунуштаңыз. Жооптун мазмунун түзбөңүз, кайсы пункт жетишпей жатканын айтыңыз. Суроолор: <<тизме>>
Алсыз тездик / Күчтүү тездик
Алсыз билдирүү:
Кардардын кайтаруу суроосуна жооп бериңиз.
Булак жок; Модель эстутумга туура келиши мүмкүн, сумма/узактыгы туура эмес болушу мүмкүн, аны текшерүү мүмкүн эмес.
Күчтүү билдирүү:
Төмөнкү кайтаруу саясаты пунктунун негизинде гана жооп бериңиз. Эгер булакта жок болсо, "Так билбейм" деп айтыңыз. Мөөнөттү жана шартты сөзмө-сөз келтириңиз, [Булак: КАЙТАРУУ-03] түрүндө шилтеме бериңиз.[БУЛАК: КАЙТАРЫМ-03]: "Колдонулбаган продукт 14 күндүн ичинде кайтарылып берилиши мүмкүн. Жекелештирилген өнүмдөр кайтарып берүүнүн алкагына кирбейт." Суроо: "20 күн мурун сатып алган жекелештирилген продуктуну кайтарып бере аламбы?"
Айырмасы: булакка көз каранды, милдеттүү шилтеме, жасалма тыюу ачык; модель булактан туура жоопту ("14 күн өткөн жана жекелештирилген, кайтарымсыз") түзөт.
үч мини учурлар
1-жагдай - галлюцинацияны токтотуу. Телеком боттун үгүт суроолоруна жооп берген тактыгы RAG жок орнотууда 71% түздү; Модель кээде эски кампанияларды түзгөн. Учурдагы үгүт барактары RAGга туташтырылганда жана "булакта жок болсо айтпа" эрежеси кошулганда, тактык 96% га чейин жогорулап, "өнөктүктүн туура эмес сөздөрү" боюнча даттануулар дээрлик бүтүп калды.
2-жагдай - карама-каршылыктын баасы. Электрондук коммерциялык компаниянын маалымат базасында эки баракка эки башка жеткирүү баасы жазылган (бир учурдагы, бир эски унутулган барак). Бот кокусунан бирөөлөрдү тартып, айрым кардарларга туура эмес бааны айтып жаткан. Эски барак бир туура булак принциби менен архивделгенде дал келбестик жоюлган. Сабак: РАГ карама-каршылыкты чечпейт, карама-каршылыкты кандай болсо, ошондой пропагандалайт.
3-жагдай — «Мен билбейм» журналынын мааниси. Бир банкта бот айына ~4000 суроого "мен так билбейм" деп айтып жатты. Бул суроолорду топтоштурганда 40%ы “эл аралык картаны колдонуу” жөнүндө экени; Бул тууралуу эч кандай макала болгон эмес. Тиешелүү пункттар кошулганда бул суроолор чечилип, ал боюнча адамдарга болгон жүгүртүү 55%га кыскарган. Бот билбейм деп айтканы жакшыртуу үчүн жол картасы болуп калды.
Жалпы каталар
- Булакка шилтеме кылбастан жооп берүү. RAG жок, модель конкреттүү маалымат туура келет; Кандай гана конкреттүү жооп булакка көз каранды болушу керек.
- "Мен билбейм" опциясын өчүрүү. Моделди ар бир суроого жооп берүүгө мажбурлоо ылайыктуулугун камсыз кылат.
- Карама-каршы/эски маалыматты тазалоо эмес. RAG карама-каршылыктарды таратат; Бир туура булак маанилүү.
- Майдалоого көңүл бурбоо. Чоң PDF файлдарын экспорттоо так жеткиликти бузат; Кыска, бир темадагы макалаларды колдонуңуз.
- Булакты жашыруу. Жооп эмнеге негизделгенин көрсөтпөө текшерүүнү жана ишенимди алсыратат.
Абайлаңыз: RAG тактыкты жакшыртат, бирок 100% кепилдик бербейт. Модель кээде тартылган бөлүгүн туура эмес чечмелеши мүмкүн. Ошондуктан, каржылык, укуктук жана коопсуздук маселелери булагы келтирилген күндө да адамдын макулдугун талап кылат; RAG галлюцинацияны азайтат, бирок жоопкерчиликти алып салбайт.
Кыскача айтканда
Билим базасы жана RAG чалуу борборунун AI тактыгынын негизи болуп саналат. RAG моделдин эстутумдагы жоопту тууралоосуна жол бербөө жана учурдагы булакка гана таянуу аркылуу галлюцинациянын алдын алат. Бирок RAG өзүнүн билим базасы менен гана жакшы: заманбап, так, структураланган, чыр-чатактарсыз жана чындыктын бир булагы бар билим базасы абдан маанилүү. Моделге "эгер бул булакта жок болсо, мага билбесең деп айт" деп айтыңыз, булакты көрсөтүп, билим базасын жакшыртуу үчүн бот жооп бере албаган суроолорду колдонуңуз. Жогорку коюмдар боюнча булакка карабастан, адамдын макулдугун сактаңыз.
Колдонмо тапшырмасы
Сиздин тармактан 8 реалдуу/реалдуу кардарлардын суроолорун жана 8 тиешелүү кыска билим базасы макалаларын жазыңыз (ар бир макала: суроо, кыска жооп, шарттар, дата, тег). Андан кийин моделдин “билбейм” деп айта алаар-албасын “1) Tight RAG жооп берүү сунушу” үлгүсүн колдонуп, ошондой эле суроо берүү аркылуу текшериңиз, алардын бири билим базасында жок. Акырында, макалаларыңызды "3) Карама-каршылыктарды жана боштуктарды сканерлөө" менен текшериңиз.
текшерүү тизмеси
- [ ] Бот/жардамчы берген ар бир конкреттүү жооп учурдагы билим базасына көз каранды (RAG аркылуу).
- [ ] Мен моделге "эгер булакта жок болсо, билбегениңди айт" деп көрсөтмө берип, аны сынап көрдүм.
- [ ] Менин билим базам актуалдуу, так, бир темадагы макалалардан турат.
- [ ] Мен карама-каршы жана эски макалаларды тазаладым; Бардык маалымат үчүн бир гана туура булак бар.
- [ ] Жооптор кайсы макалага негизделгенин көрсөтөт (булак).
- [ ] Мен "билбейм" деген суроолорду чогултуп, билим базасын азыктандырамын.