Faida:
- Fahamu jinsi RAG inavyopunguza maono kwa kuunganisha na kurejelea jibu kwa hati halisi za taasisi na kutumia umuhimu wa msingi wa hati safi.
- Uwezo wa kuangalia chanzo, tarehe na sarafu ya pato la RAG na kutofautisha matoleo yanayokinzana
- Uwezo wa kulinda faragha ya shirika kwa kuzuia majibu kutoka kwa hati zisizoidhinishwa na udhibiti wa ufikiaji
Kumbukumbu ya shirika huishi katika maelfu ya hati zilizotawanywa: ripoti, miongozo, dakika, taratibu, barua pepe. Mfanyikazi anaweza kutafuta hati kwa masaa ili kujibu swali rahisi ("utaratibu huu unafanyaje?"). Ndoto ya msimamizi wa maarifa ni kumbukumbu hii kutoa majibu ya moja kwa moja lakini ya msingi kwa maswali. Hivi ndivyo RAG anaahidi. Katika kitengo hiki utajifunza nini RAG ni, jinsi ya kuitumia katika usimamizi wa taarifa za biashara, na jinsi ya kuilinda katika suala la usahihi, usiri na wakati.
Hebu tufafanue dhana. RAG (Retrieval-Augmented Generation) ni wakati AI inajibu swali kwa kutafuta kwanza (kurejesha) vipande vinavyofaa kutoka kwa hati za shirika lenyewe na kisha kutoa jibu kulingana na vipande hivyo pekee. Hii kimsingi ni tofauti na AI ya jumla inayotoa jibu kutoka kwa kumbukumbu: viungo vya RAG na vyanzo vya jibu la hati halisi, zinazoweza kufuatiliwa. Kwa hivyo ufahamu hupunguzwa sana kwa sababu AI inazungumza kutoka kwa hati ya taasisi, sio kutoka kwa "kichwa" chake.
Hatua kwa hatua: kuelewa mfumo wa RAG wa biashara
1. Tayarisha msingi wa hati. Hati za kuaminika na za kisasa za shirika hukusanywa, kusafishwa, na kugawanywa katika vipande (sehemu ndogo za maana za hati). Ikiwa hati mbaya, zilizopitwa na wakati au zinazokinzana zitaingia kwenye mfumo, majibu yatakuwa mabaya: "takataka ndani, taka taka."
2. Pachika na index. Kila chunk inabadilishwa kuwa vekta (kupachika) inayowakilisha maana yake na kuwekwa kwenye faharisi inayoweza kutafutwa. Swali linapotokea, mfumo hupata sehemu zilizo karibu zaidi katika maana.
3. Lete sehemu zinazohusika. Swali linapoulizwa, mfumo huchota vipande vichache vinavyofaa zaidi kutoka kwa msingi wa hati. Hatua hii ni muhimu: ikiwa kipande kibaya kinaletwa, jibu pia litakuwa sahihi.
4. Toa majibu kulingana na chanzo. AI hutoa jibu kulingana na vipande vilivyoletwa pekee na huonyesha ni hati gani ilichukua. Jibu ambalo halijataja chanzo ni kinyume na madhumuni ya RAG.
5. Thibitisha na utoe ripoti. Mtumiaji anapaswa kuwa na uwezo wa kwenda kwa chanzo kilichoonyeshwa na kuthibitisha jibu. Majibu yasiyo sahihi au yasiyo kamili huwa maoni ya kuboresha msingi wa hati.
Kidokezo: Ubora wa RAG kwa kiasi kikubwa unategemea ubora wa msingi wa hati. Sasisha hati, ondoa matoleo yanayokinzana/ya kupitwa na wakati, na uongeze maelezo ya tarehe na asili kwa kila hati kabla ya kuiweka kwenye mfumo. Hati 500 zilizopangwa vizuri hutoa majibu bora kuliko hati 5,000 zilizotawanyika.
Mipaka ya RAG na vituo vya usalama
RAG inapunguza maono lakini haiiweke upya. Ikiwa mfumo utarudisha kipande kibaya, AI inaweza bado kutoa jibu lisilofaa kwa kubaki "mwaminifu" kwa kipande hicho kisicho sahihi. Zaidi ya hayo, AI inaweza kutafsiri vibaya vipande vilivyochukuliwa au kuchanganya vipande vingi kwa njia zinazokinzana. Kwa hivyo, pato la RAG pia linapaswa kuthibitishwa kwa kwenda kwa chanzo, haswa kwa maamuzi muhimu.
Faragha ni suala kuu katika RAG ya shirika. Msingi wa hati unaweza kuwa na habari nyeti (wafanyakazi, mikataba, mkakati). Mfumo haupaswi kutoa majibu kutoka kwa hati ambazo hazijaidhinishwa na mtumiaji; Udhibiti wa ufikiaji (nani anaweza kuona hati gani) inapaswa pia kutumika kwa RAG. Vinginevyo, mfanyakazi anaweza kupata taarifa kupitia RAG ambayo hawezi kuona.
Tahadhari: Hata wakati wa kunukuu hati, RAG haihakikishii kwamba hati hiyo ni ya kisasa na sahihi. Mfumo unaweza kujibu kutoka kwa hati ya zamani ya utaratibu kutoka miaka mitatu iliyopita. Ni wajibu wa mtumiaji na msimamizi wa taarifa kuangalia tarehe na uhalali wa hati chanzo.
kesi tatu ndogo
Kesi ya 1 - Maswali ya kitaratibu yameharakishwa. Shirika moja lilianzisha mfumo wa RAG kwa miongozo yake ya utaratibu wa ndani ya kurasa 1,200. Maswali ya "jinsi ya kufanya hivi" ya wafanyikazi yalitatuliwa ndani ya sekunde chache na majibu yakionyesha chanzo; Muda wa wastani wa simu ulipungua kutoka dakika 25 hadi dakika 2. Kwa sababu kila jibu lililounganishwa na sehemu ya hati ambayo lilitegemea, wafanyikazi waliweza kulithibitisha.
Kesi ya 2 - Hati ya zamani imenaswa. Mfumo wa RAG ulijibu swali la utaratibu wa kibali kutoka kwa hati ya zamani ya 2021; Hata hivyo, toleo lililosasishwa lilitolewa mwaka wa 2024. Mfanyakazi aliyefungua kiungo cha chanzo aligundua kuwa tarehe ilikuwa ya zamani na akapata hati iliyosasishwa. Kidhibiti cha habari kiliondoa toleo la zamani kutoka kwa msingi wa hati.
Kesi ya 3 - Ufikiaji usioidhinishwa umezuiwa. Katika usanidi wa awali, RAG ilichanganua hati zote hadharani; mfanyakazi alipokea jibu kutoka kwa hati ya malipo ambayo hakupaswa kuona. Timu iliongeza udhibiti wa ufikiaji kwa RAG: mfumo sasa hutoa tu majibu kutoka kwa hati ambazo mtumiaji ameidhinishwa.
Tathmini, maoni na uboreshaji unaoendelea
Mfumo wa RAG sio chombo cha kusakinishwa mara moja na kusahaulika; Inahitaji tathmini ya mara kwa mara na uboreshaji. Msingi wa hii ni kipimo cha mara kwa mara cha majibu ya mfumo kwa maswali halisi. Maswali mawili ni muhimu: je, mfumo unachukua vipande vya hati sahihi (ubora wa ufikiaji) na je, hutoa jibu sahihi kutoka kwa vipande vilivyochukuliwa (ubora wa uzalishaji)? Ni muhimu kutathmini tabaka hizi mbili tofauti; Kwa sababu kuleta hati sahihi na kuitafsiri vibaya na kuleta hati isiyo sahihi na kuihamisha kwa uaminifu ni shida tofauti na zinahitaji suluhisho tofauti. Mbinu nzuri ni kuweka seti ya "maswali ya majaribio" yenye majibu sahihi yanayojulikana na kujaribu mfumo kwa seti hii katika kila sasisho. Zaidi ya hayo, maoni ya watumiaji ""Je, jibu hili lilisaidia / chanzo kilikuwa sahihi" maoni yanaonyesha mapungufu katika msingi wa hati na sehemu zilizoletwa vibaya. AI inaweza kusaidia kujumlisha maoni haya na kufanya muhtasari wa aina za maswali ambayo hayafai mara kwa mara; Lakini uamuzi kuhusu hati ya kuongeza, kusasisha au kuondoa ni ya msimamizi wa habari. Mfumo unahitaji utunzaji kama kiumbe hai; RAG iliyopuuzwa inazidi kupotosha kwa sababu ya hati za kuzeeka kwa wakati.
Kidokezo: Mara tu unapoweka mfumo wa RAG, tayarisha seti ndogo ya majaribio ya maswali 20-30 halisi na majibu sahihi yanayojulikana. Kuendesha seti hii kwa kila sasisho la hati papo hapo huonyesha kama mabadiliko yataboresha au kuvunja mfumo.
Violezo vinne vinavyoweza kunakiliwa
1) Mwongozo wa majibu kulingana na chanzo:
Jukumu lako: msaidizi wa habari za shirika. Chini ni vipande vya nyaraka vilivyoletwa kuhusu swali. Toa jibu kwa kuzingatia vipande hivi TU na ueleze ni hati/kipande gani kwa kila taarifa kimetoka. Ikiwa hakuna jibu katika sehemu, sema "habari hii haijajumuishwa kwenye hati zilizotolewa", usifikirie. Swali: [hapa] / Sehemu: [hapa]
2) Ukinzani na udhibiti wa sarafu:
Je, kuna ukinzani wowote au matoleo tofauti ya tarehe kati ya vipande vifuatavyo? Ikiwa ndivyo, itie alama na uonyeshe ni ipi ambayo inaonekana kusasishwa zaidi. Sehemu (na tarehe): [hapa]
3) Ukaguzi wa kusafisha msingi wa hati:
Katika orodha ya hati iliyo hapa chini, kuna nyaraka zozote za kizamani, zinazokinzana, au zenye asili isiyojulikana ambazo zinahitaji kutatuliwa kabla ya kuwekwa kwenye mfumo wa RAG? Weka tiki na uandike kwanini. Orodha (na tarehe/chanzo): [hapa]
4) Faragha na ufikiaji wa udhibiti wa mapema:
Je, vipande vya hati vifuatavyo vina taarifa nyeti (data ya kibinafsi, makubaliano ya siri, mkakati)? Bainisha kila moja kama "ufikiaji wa umma/uliozuiliwa" na utoe uhalalishaji. Nyimbo: [hapa]
Mwongozo dhaifu / Mwongozo thabiti
Agizo dhaifu:
Eleza utaratibu wa kibali cha taasisi yetu.
Ikiwa hakuna nyaraka zinazotolewa, AI hutoa utaratibu wa maandishi kutoka kwa kumbukumbu yake ya jumla au kutokana na utekelezaji wa taasisi nyingine; Inaweza kuwa haina maana kwa utawala halisi wa taasisi.
Agizo lenye nguvu:
Jukumu lako: msaidizi wa habari za shirika. Chini ni vipande vya nyaraka (pamoja na tarehe zao) kuhusu utaratibu wa kibali cha taasisi. Jibu swali kulingana na sehemu hizi pekee, ukitaja hati chanzo na tarehe katika kila hatua. Ikiwa sehemu zinagongana, tumia ya sasa zaidi na sema hivyo. Ikiwa haipo kwenye hati, sema "hakuna habari". Swali: [hapa] / Sehemu: [hapa]
Agizo lenye nguvu; huunganisha jibu na hati halisi za taasisi, huuliza vyanzo na tarehe, na kushughulikia kwa uaminifu ukinzani na pengo.
Sehemu ya RAG na meza ya hatari
sehemu
Kazi
Hatari kuu
Uhakikisho
Msingi wa hati
Chanzo cha jibu
Hati iliyopitwa na wakati/inayokinzana
Usafi, historia, asili
Urejeshaji
Tafuta sehemu husika
kipande kibaya
Upimaji wa ubora, maoni
Uzalishaji
Jibu
maoni yasiyo sahihi
Chanzo akinukuu, uthibitisho
Udhibiti wa ufikiaji
Ukaguzi wa mamlaka
ufichuzi usioidhinishwa
Vizuizi kulingana na mtumiaji
Makosa ya kawaida
- Kuanzisha msingi wa hati chafu. Hati iliyopitwa na wakati/inayokinzana hutoa majibu mabaya.
- Kukubali jibu bila kutaja chanzo. Madhumuni ya RAG ni ufuatiliaji.
- Sio kuangalia tarehe ya hati. Jibu linalofikiriwa kusasishwa linatoka kwa toleo la zamani.
- Kukwepa udhibiti wa ufikiaji. Mtu ambaye hajaidhinishwa anapata taarifa nyeti.
- Kufikiri kwamba RAG ni kinga kabisa kwa hallucination. Kipande kibaya bado hutoa jibu lisilo sahihi.
Kwa muhtasari
RAG inazalisha thamani kubwa katika usimamizi wa maarifa kwa kubadilisha kumbukumbu ya shirika kuwa mfumo wa kukabiliana na rasilimali; Tofauti na AI ya jumla, inaunganisha na kutoa jibu kwa hati halisi za shirika, na hivyo kupunguza sana ndoto. Lakini mafanikio yanategemea msingi safi na uliosasishwa wa hati, ufikiaji sahihi wa wimbo, maelezo ya chanzo, ukaguzi wa tarehe/sasa na udhibiti wa ufikiaji. RAG haina upya hallucination; Majibu muhimu yanathibitishwa kwa kwenda kwa chanzo na usiri unaheshimiwa tangu mwanzo.
Jukumu la maombi
Kuandaa seti ndogo ya nyaraka (hati 5-8 halisi au sampuli za wakala, na tarehe); Weka kwa uangalifu katika toleo moja la zamani na moja la sasa linalokinzana. Uliza swali ukitumia kiolezo cha "majibu kulingana na chanzo" na uangalie ikiwa AI inataja chanzo. Kisha tathmini ikiwa AI imegundua kwa usahihi mgogoro na toleo la sasa kwa kutumia kiolezo cha "Migogoro na toleo la sasa".
orodha ya ukaguzi
- [ ] Nilisasisha msingi wa hati, nikaondoa hati za zamani/zinazokinzana.
- [ ] Nilihakikisha kwamba kila jibu linaelekeza kwenye hati chanzo.
- [ ] Niliangalia tarehe na uhalali wa hati chanzo.
- [ ] Nilizuia utoaji wa majibu kutoka kwa hati zisizoidhinishwa zilizo na udhibiti wa ufikiaji.
- [ ] Nilithibitisha majibu muhimu kwa kwenda kwenye hati asili.