Пайдалар:
- Жоопту мекеменин иш жүзүндөгү документтерине байланыштыруу жана шилтеме кылуу жана таза документ базасынын маанилүүлүгүн колдонуу менен RAG галлюцинацияны кантип азайтарын түшүнүңүз
- RAG чыгаруунун булагын, күнүн жана валютасын текшерүү жана карама-каршы версияларды айырмалоо мүмкүнчүлүгү
- Кирүүнү башкаруу менен уруксатсыз документтерден жоопторду алдын алуу менен корпоративдик купуялуулукту коргоо мүмкүнчүлүгү
Уюмдун эс тутуму миңдеген чачыранды документтерде жашайт: отчеттор, колдонмолор, протоколдор, процедуралар, электрондук почталар. Кызматкер жөнөкөй суроого жооп берүү үчүн бир нече саат бою документтерди издеши мүмкүн («бул процедура кандай иштейт?»). Билим менеджеринин кыялы бул эстутум суроолорго түз, бирок булакка негизделген жоопторду берүү. Бул RAG убада кылган нерсе. Бул бөлүмдө сиз RAG деген эмне экенин, аны ишкананын маалыматын башкарууда кантип колдонууну жана аны тактык, купуялуулук жана өз убагында камсыз кылууну үйрөнөсүз.
Концепцияны аныктайлы. RAG (Retrieval-Augmented Generation) – бул AI суроого адегенде уюмдун өзүнүн документтеринен тиешелүү бөлүктөрүн таап (чыгаруу) жана андан кийин ошол бөлүктөргө гана негизделген жоопту чыгаруу менен жооп берет. Бул эс тутумдан жооп берүүчү жалпы AIдан түп-тамырынан айырмаланат: RAG жоопту реалдуу, байкоого боло турган документтерге шилтемелейт жана булактардан алат. Ошентип, галлюцинация абдан азаят, анткени AI анын "башынан" эмес, мекеменин документинен сүйлөйт.
Кадам сайын: ишкананын RAG системасын түшүнүү
1. Документтин базасын даярдоо. Уюмдун ишенимдүү, актуалдуу документтери чогултулат, тазаланат жана бөлүктөргө бөлүнөт (документтин мазмундуу чакан бөлүмдөрү). Эгерде системага начар, эскирген же карама-каршы келген документтер кирсе, жооптор начар болот: "таштанды таштоо, таштанды чыгаруу".
2. Киргизүү жана индекстөө. Ар бир кесек анын маанисин билдирген векторго (киргизүү) айландырылат жана изделүүчү индекске киргизилет. Суроо келгенде, система мааниси жагынан эң жакын бөлүктөрдү табат.
3. Тиешелүү бөлүктөрүн алып кел. Суроо берилгенде, система документ базасынан эң керектүү бир нече бөлүктөрүн тартат. Бул кадам абдан маанилүү: туура эмес бөлүгүн алып келсе, жооп да туура эмес болуп калат.
4. Булакка негизделген жоопту жаратыңыз. AI алынган фрагменттердин негизинде жоопту жаратат жана кайсы документтен алынганын көрсөтөт. Булакты көрсөтпөгөн жооп РАГдын максатына карама-каршы келет.
5. Текшериңиз жана кабарлаңыз. Колдонуучу көрсөтүлгөн булакка барып, жоопту ырастай алышы керек. Туура эмес же толук эмес жооптор документация базасын жакшыртуу үчүн пикир болуп калат.
Кеңеш: RAG сапаты негизинен документ базасынын сапатына көз каранды. Документтерди жаңыртыңыз, карама-каршы келген/эскирген версияларды тазалаңыз жана ар бир документти системага киргизүүдөн мурун анын датасы жана келип чыгышы тууралуу маалыматты кошуңуз. 5000 жакшы уюштурулган документтер 5000 чачыранды документтерге караганда жакшыраак жоопторду берет.
РАГдын чек аралары жана коопсуздук пункттары
RAG галлюцинацияны азайтат, бирок аны баштапкы абалга келтирбейт. Эгер система туура эмес бөлүгүн кайтарса, AI дагы эле ошол туура эмес бөлүгүнө "лоялдуу" калуу менен туура эмес жооп бериши мүмкүн. Кошумчалай кетсек, AI алынган бөлүктөрдү туура эмес чечмелеп же бир нече бөлүктөрүн карама-каршы жолдор менен айкалыштырышы мүмкүн. Ошондуктан, RAG чыгаруу да, айрыкча, маанилүү чечимдерди кабыл алуу үчүн, булакка барып, текшерилиши керек.
Купуялык - бул корпоративдик RAGдагы негизги маселе. Документ базасы купуя маалыматтарды камтышы мүмкүн (персонал, келишимдер, стратегия). Система колдонуучу тарабынан уруксат берилбеген документтерден жоопторду жаратпашы керек; Кирүүнү башкаруу (кайсы документти көрө алат) RAGга да колдонулушу керек. Болбосо, кызматкер RAG аркылуу көрө албаган маалыматты ала алат.
Көңүл буруңуз: Документке цитата келтиргенде да, RAG ал документтин актуалдуу жана так экенине кепилдик бербейт. Система үч жыл мурунку эски процедура документинен жооп бериши мүмкүн. Баштапкы документтин датасын жана жарактуулугун текшерүү колдонуучунун жана маалымат менеджеринин жоопкерчилигинде.
үч мини учурлар
1-сессия — Процедуралык суроолор тездетилди. Бир уюм өзүнүн 1200 беттен турган ички процедуралык колдонмолору үчүн RAG системасын түзгөн. Кызматкерлердин "бул кантип кылуу керек" деген суроолору булагын көрсөтүү менен жооптор менен секунданын ичинде чечилди; Чалуулардын орточо узактыгы 25 мүнөттөн 2 мүнөткө чейин кыскарды. Ар бир жооп ал негизделген документтердин бөлүмгө байланыштуу болгондуктан, кызматкерлер аны текшере алышкан.
2-жагдай - Эски документ басып алынган. RAG системасы 2021-жылдагы эски документтин уруксат берүү процедурасынын суроосуна жооп берди; Бирок жаңыланган версиясы 2024-жылы чыккан. Булак шилтемесин ачкан кызматкер датасы эскирип калганын байкап, жаңыланган документти тапкан. Маалымат менеджери документ базасынан эски версиясын алып салды.
3-жагдай - уруксатсыз кирүүгө бөгөт коюлган. Алгачкы орнотууда RAG бардык документтерди ачык сканерден өткөрдү; кызматкер ал көрүш керек эмес, эмгек акынын документинен жооп алды. Команда RAGга кирүү көзөмөлүн кошту: система азыр колдонуучу уруксат берген документтерден жоопторду гана жаратат.
Баалоо, пикир жана үзгүлтүксүз өркүндөтүү
RAG системасы бир жолу орнотуп, унутулуп кала турган курал эмес; Бул дайыма баалоону жана жакшыртууну талап кылат. Мунун негизи системанын реалдуу суроолорго жоопторун үзгүлтүксүз өлчөө болуп саналат. Эки суроо маанилүү: система документтин туура бөлүктөрүн ала алабы (кирүү сапаты) жана алынган бөлүктөрдөн туура жооп береби (өндүрүш сапаты)? Бул эки катмарды өзүнчө баалоо керек; Анткени туура документти алып келүү менен аны туура эмес чечмелеп берүү жана туура эмес документти алып келип, аны ишенимдүү өткөрүп берүү башка маселе жана ар кандай чечимди талап кылат. Белгилүү туура жооптору бар "тест суроолорунун" топтомун сактоо жана ар бир жаңыртууда системаны ушул топтом менен сынап көрүү жакшы практика болуп саналат. Кошумчалай кетсек, колдонуучулардын "бул жооп пайдалуу болду / булак так болду" деген пикири документ базасындагы боштуктарды да, туура эмес алынган бөлүктөрүн да көрсөтөт. AI бул пикирди чогултууга жана көп өтпөй калган суроолордун түрлөрүн жалпылоого жардам берет; Бирок кайсы документти кошуу, жаңыртуу же алып салуу чечими маалымат менеджерине таандык. Система тирүү организм сыяктуу камкордукту талап кылат; Убакыттын өтүшү менен документтер эскирип калгандыктан, көңүл бурулбаган RAG уламдан-улам жаңылышат.
Кеңеш: RAG тутумун орнотооруңуз менен, 20-30 реалдуу суроолордон жана белгилүү туура жооптордон турган чакан тест топтомун даярдаңыз. Ар бир документти жаңыртуу менен бул топтомду иштетүү, өзгөртүү системаны жакшыртып же бузуп жатканын дароо көрсөтөт.
Көчүрүү үчүн төрт шаблон
1) Булакка негизделген жооп берүү:
Сиздин ролуңуз: корпоративдик маалымат жардамчысы. Төмөндө суроого байланыштуу документтердин бөлүктөрү келтирилген. Жоопту ГАНА ушул бөлүктөргө негиздеп бериңиз жана ар бир маалымат үчүн кайсы документтен/бөлүктөн экенин айтыңыз. Бөлүктөрдө жооп жок болсо, "бул маалымат берилген документтерге кирбейт" деп айтыңыз, ойлобоңуз. Суроо: [бул жерде] / Бөлүктөр: [бул жерде]
2) карама-каршылык жана валюталык контроль:
Төмөнкү бөлүктөрдүн ортосунда карама-каршылыктар же башка даталуу версиялар барбы? Эгер ошондой болсо, аны белгилеп, кайсынысы заманбап экенин көрсөтүңүз. Бөлүктөр (даталар менен): [бул жерде]
3) Документтердин базасын тазалоо аудити:
Төмөнкү документтердин тизмесинде, RAG тутумуна киргизүүдөн мурун ирээтке келтирилиши керек болгон эскирген, карама-каршылыктуу же белгисиз келип чыккан документтер барбы? Белгилеп, себебин жазыңыз. Тизме (датасы/булагы менен): [бул жерде]
4) Купуялык жана жеткиликтүүлүктү алдын ала көзөмөлдөө:
Төмөнкү документ фрагменттери купуя маалыматтарды (жеке маалыматтар, жашыруун келишим, стратегия) камтыйбы? Ар бирин "коомдук/чектелген мүмкүнчүлүк" катары классификациялап, негиздеме бериңиз. Тректер: [бул жерде]
Алсыз тездик / Күчтүү тездик
Алсыз билдирүү:
Биздин мекеменин уруксат алуу жол-жобосун түшүндүрүп бериңиз.
Эгерде эч кандай документтер берилбесе, AI өзүнүн жалпы эсинен же башка институттардын ишке ашыруусунан түзүлгөн процедураны чыгарат; Бул мекеменин иш жүзүндөгү эрежесине тиешеси жок болушу мүмкүн.
Күчтүү билдирүү:
Сиздин ролуңуз: корпоративдик маалымат жардамчысы. Төмөндө мекеменин уруксат алуу жол-жобосу боюнча документтердин (алардын датасы менен) даана болуп саналат. Ар бир кадамда баштапкы документти жана датаны келтирип, ушул бөлүктөрдүн негизинде суроого жооп бериңиз. Бөлүктөр карама-каршы келсе, эң учурдагысын колдонуңуз жана айтыңыз. Документте жок болсо "маалымат жок" деп айт. Суроо: [бул жерде] / Бөлүктөр: [бул жерде]
Күчтүү тездик; жоопту иш жүзүндөгү мекеме документтерине байланыштырат, булактарды жана даталарды сурайт, карама-каршылыктарды жана боштуктарды чынчылдык менен чечет.
RAG компоненти жана тобокелдик таблицасы
компоненти
Функция
Негизги тобокелдик
Кепилдик
Документ базасы
Жооптун булагы
Эскирген/каршы келген документ
Тазалыгы, тарыхы, келип чыгышы
Издөө
Тиешелүү бөлүгүн табыңыз
туура эмес бөлүгү
Сапатты сыноо, пикир
Өндүрүш
Жооп бер
туура эмес комментарий
Булакка шилтеме берүү, текшерүү
Кирүүнү башкаруу
Бийлик текшерүү
уруксатсыз ачыкка чыгаруу
Колдонуучуга негизделген чектөө
Жалпы каталар
- Кир документ базасын түзүү. Эскирген/конфликтивдүү документ жаман жооп берет.
- Булакка шилтеме кылбастан жоопту кабыл алуу. RAG максаты - байкоо жүргүзүү.
- Документтин датасы текшерилбейт. Жаңыртыла турган жооп эски версиядан келет.
- Кирүү контролун айланып өтүү. Уруксатсыз адам купуя маалыматка жетет.
- RAG галлюцинацияга каршы толук иммунитети бар деп ойлоп. Туура эмес бөлүгү дагы эле туура эмес жооп берет.
Кыскача айтканда
RAG уюмдук эстутумду ресурстарга негизделген жооп берүүчү системага айландыруу аркылуу билимди башкарууда чоң мааниге ээ; Жалпы интеллекттен айырмаланып, ал жоопту уюмдун иш жүзүндөгү документтерине байланыштырат жана булагы кылат, ошентип галлюцинацияны олуттуу түрдө азайтат. Бирок ийгилик таза жана актуалдуу документация базасынан, так трекке кирүү мүмкүнчүлүгүнөн, булак атрибуциясынан, даталарды/учурларды текшерүүдөн жана мүмкүнчүлүктү көзөмөлдөөдөн көз каранды. RAG галлюцинацияны калыбына келтирбейт; Критикалык жооптор булакка барып текшерилет жана купуялуулук башынан эле сакталат.
Колдонмо тапшырмасы
документтердин чакан топтомун даярдоо (5-8 иш жүзүндө же үлгү агенттик документтер, датасы менен); Аң-сезимдүү түрдө бир эски жана бир учурдагы карама-каршы версияны киргизиңиз. "Булакка негизделген жооп берүү" шаблону менен суроо бериңиз жана AI булакка шилтеме бергенин текшериңиз. Андан кийин AI чыр-чатакты жана учурдагы версияны туура тапкан-таппаганын "Конфликти жана учурдагы версияны текшерүү" шаблону менен баалаңыз.
текшерүү тизмеси
- [ ] Документтердин базасын жаңырттым, эски/конфликтивдүү документтерди жок кылдым.
- [ ] Мен ар бир жооп баштапкы документке ишарат кылганына ынандым.
- [ ] Мен баштапкы документтердин датасын жана жарактуулугун текшердим.
- [ ] Мүмкүнчүлүктү башкаруу менен уруксатсыз документтерден жоопторду жаратууну алдын алдым.
- [ ] Документтин түп нускасына өтүү менен критикалык жоопторду текшердим.