Faida:
- Fahamu jinsi RAG (mgawanyiko, ufikiaji, kizazi kinachotegemea rasilimali) inavyofanya kazi na jinsi inavyopunguza maonyesho.
- Uwezo wa kuongeza ubora wa majibu kwa kuanzisha msingi wa maarifa ambao ni wa sasa, wazi, usio na migogoro na una chanzo kimoja sahihi.
- Uwezo wa kufundisha mtindo 'ikiwa hauko kwenye chanzo, niambie haujui' na ugeuze maswali ambayo haiwezi kujibu kuwa uboreshaji wa msingi wa maarifa.
Jibu linalotolewa na kijibu maswali au wakala ni zuri tu kama taarifa ambayo msingi wake ni. Wakati mteja anauliza "Je, kampeni inaendelea?", jibu sahihi haliko kwenye kumbukumbu ya mfano, lakini katika msingi wa ujuzi wa sasa wa taasisi. Ndiyo maana kiini cha akili bandia cha kituo cha simu ni msingi wa maarifa (KB): nyenzo iliyosasishwa ambapo bidhaa, sera, Maswali Yanayoulizwa Mara kwa Mara, taratibu na sheria hutunzwa kwa maandishi. Na njia ambayo inaunganisha kwa usalama msingi huu wa maarifa na akili ya bandia inaitwa RAG: Retrieval-Augmented Generation - badala ya kutengeneza jibu kutoka kwa kumbukumbu yake mwenyewe, mfano huo kwanza hupata vipande muhimu vya habari kutoka kwa chanzo (kurejesha) na kisha kutoa jibu kulingana na vipande hivyo tu (kizazi).
RAG ni njia yenye nguvu zaidi ya kuzuia hallucination. Mfano hautoi nambari katika kichwa chake kwa swali "ni kiwango gani cha riba ya mkopo?" Hurudisha maandishi ya sasa ya riba kutoka kwa msingi wa maarifa na majibu kulingana nayo. Katika kitengo hiki tutaona jinsi ya kuweka msingi wa maarifa, jinsi RAG inavyofanya kazi na jinsi msingi mzuri wa maarifa unavyoamua ubora wa majibu.
Jinsi RAG inavyofanya kazi: hatua nne
Fikiria RAG kama mtunza maktaba. Mteja anauliza maswali; Mfumo kwanza hupata kurasa zinazohusika kutoka kwenye rafu sahihi ya maktaba, kisha husoma kurasa hizo na kuandika jibu. Hatua za kiufundi ni kama ifuatavyo:
- Chunking: Hati ndefu katika msingi wa maarifa zimegawanywa katika vipande vidogo, vya maana (k.m., kila Maswali Yanayoulizwa Mara kwa Mara ni kipande). Kwa sababu mfano hujibu swali kwa usahihi zaidi na sehemu ndogo zinazohusiana.
- Kupachika na kuorodhesha: Kila kipande kinatafsiriwa katika fomu ya nambari inayowakilisha maana yake (kupachika—mfuatano wa nambari zinazowakilisha maana ya maandishi) na kuwekwa kwenye hifadhidata inayoweza kutafutwa. Kwa hivyo, si "maana ya maneno" bali "maana ya maana"; Hata kama mteja atauliza "fedha zangu zitawekwa lini?", sehemu ya "muda wa kurejesha pesa" inaweza kupatikana.
- Urejeshaji: Sehemu zilizo karibu zaidi kimaana na swali la mteja hutolewa (k.m. sehemu 3-5 zilizo karibu zaidi).
- Kizazi: Mfano huandika jibu kulingana na sehemu zilizochorwa TU na huonyesha chanzo ikiwezekana.
Jambo muhimu ni katika hatua ya 4: mfano unaagizwa "tu kutegemea vipande vilivyotolewa, au kusema hujui." Bila maagizo haya, RAG haizuii mfano kufaa.
Kidokezo: Kanuni ya dhahabu ya RAG: "Ikiwa haipo kwenye chanzo, hakuna jibu." Mfumo mzuri wa RAG utasema "sijui kwa hakika kuhusu hili" kwa swali ambalo haliko katika msingi wa ujuzi; kamwe hujaza pengo kwa kubahatisha. Uwezo wa roboti kusema "sijui" ni kipengele cha usalama, si udhaifu.
Msingi mzuri wa maarifa: chanzo halisi cha ubora wa majibu
Haijalishi RAG ni nzuri kiasi gani, ikiwa msingi wa maarifa ni mbaya, jibu ni mbaya. Ubora wa msingi wa maarifa hupimwa kwa:
kipengele
msingi mbaya wa maarifa
Msingi mzuri wa maarifa
Hali ya sasa
Haijasasishwa kwa miezi
Ilisasishwa mara moja inapobadilishwa
Uwazi
Maandishi marefu yenye utata
Makala mafupi yenye mada moja
muundo
Rundo la PDF lenye fujo
Imeandikwa vitu vinavyoweza kuharibika
Uthabiti
Majibu mawili yanayokinzana
Chanzo kimoja cha ukweli
Upeo
Kuna mapungufu mengi
Inashughulikia maswali yanayoulizwa mara kwa mara
umiliki
Hakuna anayewajibika
Kila mada ina mmiliki
Tatizo hatari zaidi katika muktadha wa kituo cha simu ni ukinzani: ikiwa vipindi viwili tofauti vya kurejesha vimeandikwa katika msingi wa maarifa, RAG itasema chochote itachukua na jibu lisilolingana litatumwa kwa mteja. Ndiyo maana kanuni ya "chanzo kimoja cha ukweli" ni muhimu: habari husasishwa mahali pamoja; Marejeleo ya chanzo hicho hutumiwa, sio nakala.
Hatua kwa hatua: kujenga mfumo wa majibu unaoungwa mkono na RAG
- Safisha msingi wa maarifa: Ondoa vifungu vilivyopitwa na wakati, vinavyokinzana na nakala. Fanya kila makala kuwa fupi na mada moja.
- Ichambue na uiweke lebo: Ongeza lebo ya mada na tarehe ya mwisho ya kusasisha kwa kila makala.
- Anzisha ufikiaji: Unganisha utaratibu unaovuta sehemu muhimu unapoulizwa (zana za RAG za biashara hutoa hii).
- Andika kidokezo kali: Mwambie mfano "tegemea tu sehemu zilizotolewa, taja chanzo, au sema hujui."
- Taja chanzo: Onyesha makala ambayo jibu linategemea; Inatoa imani na kuwezesha uthibitishaji.
- Tazama mapungufu: Kusanya maswali ambapo bot inasema "Sijui"; Hizi zinaonyesha upungufu katika msingi wa maarifa, malisho kutoka hapo.
Violezo vinne vinavyoweza kunakiliwa
1) Agizo kali la jibu la RAG:
Jibu KULINGANA na sehemu zifuatazo [CHANZO]. Kanuni: (1) tumia habari iliyo katika chanzo pekee, (2) ikiwa haiko kwenye chanzo, sema "Sina taarifa za uhakika kuhusu hili, ngoja nikuunganishe na mwakilishi", (3) eleza ni makala gani imetokana na kama [Chanzo: kipengele-hapana], (4) nukuu kiasi/muda/hali hasa kutoka kwa chanzo, usizungumze/utengeneze. [CHANZO]: <<sehemu zilizovutwa>>Swali: "<<swali la mteja>>"
2) Uandishi wa makala ya msingi wa maarifa:
Badilisha maandishi yafuatayo ya sera yaliyotawanyika kuwa makala ya Maswali Yanayoulizwa Mara kwa Mara yanayofaa kwa RAG. Umbizo: Swali (katika lugha ya mteja) / Jibu fupi (sentensi 2-3) / Masharti (kifungu) / Tarehe ya sasisho la mwisho / Lebo ya Mada. Tia alama alama zozote zenye utata kuwa "zinastahili kufafanuliwa", fanya-amini. Maandishi ghafi: <<text>>
3) Kuchanganua kwa utata na mapungufu:
Chunguza vifungu vifuatavyo vya msingi wa maarifa. (1) Tia alama kwenye jozi za vipengee AMBAVYO VINAPIGANA (k.m. muda tofauti wa kurejesha). (2) Nadhani mada ambazo zitaulizwa mara kwa mara lakini HAKUNA majibu. Angalia tu vifungu vilivyotolewa; inazalisha sera mpya.Makala: <<orodha>>
4) Uboreshaji kutoka kwa logi ya "Sijui":
Hapa chini kuna maswali ambayo bot haikuweza kujibu (haikuweza kupata chanzo). Zipange katika mada na upendekeze kichwa cha makala ambacho kinapaswa kuongezwa kwenye msingi wa maarifa kwa kila kikundi. Usitunge maudhui ya jibu, niambie tu ni kipengee gani kinakosekana.Maswali: <<list>>
Mwongozo dhaifu / Mwongozo thabiti
Agizo dhaifu:
Jibu swali la kurudi kwa mteja.
Hakuna chanzo; Mfano unaweza kutoshea kutoka kwa kumbukumbu, kiasi/muda unaweza kuwa sio sahihi, hauwezi kuthibitishwa.
Agizo lenye nguvu:
Jibu tu kulingana na kifungu cha sera ya kurejesha hapa chini. Ikiwa haipatikani kwenye chanzo, sema "Sijui kwa hakika". Nukuu kipindi na sharti neno moja, toa marejeleo kwa njia ya [Chanzo: RETURN-03].[CHANZO: RETURN-03]: "Bidhaa ambayo haijatumika inaweza kurejeshwa ndani ya siku 14. Bidhaa zilizobinafsishwa haziko ndani ya mawanda ya kurejesha." Swali: "Je, ninaweza kurejesha bidhaa ya kibinafsi niliyonunua siku 20 zilizopita?"
Tofauti: tegemezi la chanzo, rejeleo la lazima, marufuku ya utungaji wazi; mfano hutoa jibu sahihi ("siku 14 zilizopita na za kibinafsi, zisizoweza kurejeshwa") kutoka kwa chanzo.
kesi tatu ndogo
Kesi ya 1 - Kukomesha ndoto. Usahihi wa majibu ya roboti ya simu kwa maswali ya kampeni ilikuwa 71% katika usanidi wa no-RAG; Mfano wakati mwingine uliunda kampeni za zamani. Wakati kurasa za sasa za kampeni ziliunganishwa na RAG na kanuni ya "usiseme ikiwa haiko kwenye chanzo" iliongezwa, usahihi uliongezeka hadi 96% na malalamiko kuhusu "maneno yasiyo sahihi ya kampeni" yalikaribia kuisha.
Kesi ya 2 - Bei ya kupingana. Katika msingi wa maarifa wa kampuni ya e-commerce, gharama mbili tofauti za usafirishaji ziliandikwa kwenye kurasa mbili (moja ya sasa, ukurasa mmoja wa zamani uliosahaulika). Boti ilikuwa ikimvuta mtu bila mpangilio na kuwaambia baadhi ya wateja bei isiyo sahihi. Wakati ukurasa wa zamani uliwekwa kwenye kumbukumbu na kanuni ya chanzo kimoja sahihi, kutofautiana kulitoweka. Somo: RAG haisuluhishi ukinzani, inaeneza utata kama ulivyo.
Kesi ya 3 - Thamani ya logi ya "Sijui". Katika benki moja, bot ilikuwa ikisema "Sijui kwa hakika" kwa maswali ~4,000 kwa mwezi. Maswali haya yalipowekwa katika makundi, ilionekana kuwa 40% yalihusu "matumizi ya kadi kimataifa"; Hakukuwa na makala kuhusu hilo. Vipengee vinavyohusika vilipoongezwa, maswali haya yalitatuliwa na mauzo ya watu kwenye somo hilo yalipungua kwa 55%. Ukweli kwamba roboti ilisema haikujua ikawa ramani ya kuboresha.
Makosa ya kawaida
- Kujibu bila kuunganishwa na chanzo. Bila RAG, mfano unafaa habari halisi; Jibu lolote halisi lazima litegemee chanzo.
- Kuzima chaguo la "Sijui". Kulazimisha modeli kujibu kila swali kunahakikisha kufaa.
- Kutofuta taarifa zinazokinzana/zamani. RAG inaeneza utata; Chanzo kimoja sahihi ni muhimu.
- Kupuuza kupasua. Kuhamisha PDFs kubwa kama ilivyo kutatiza ufikiaji sahihi; Tumia makala mafupi yenye mada moja.
- Kuficha chanzo. Kutoonyesha jibu linatokana na nini kunadhoofisha uthibitishaji na uaminifu.
Tahadhari: RAG inaboresha usahihi lakini haitoi dhamana ya 100%. Mfano wakati mwingine unaweza kutafsiri vibaya sehemu iliyokamatwa. Kwa hiyo, masuala ya fedha, sheria na usalama yanahitaji idhini ya binadamu hata kama chanzo kimetajwa; RAG inapunguza maono lakini haiondoi wajibu.
Kwa muhtasari
Msingi wa maarifa na RAG ndio msingi wa usahihi wa kituo cha simu cha AI. RAG kwa kiasi kikubwa huzuia kuona kwa macho kwa kuzuia kielelezo kutosheleza jibu kutoka kwa kumbukumbu na kutegemea chanzo cha sasa pekee. Lakini RAG ni nzuri tu kama msingi wake wa maarifa: msingi wa maarifa ambao ni wa kisasa, wazi, muundo, usio na migogoro na una chanzo kimoja cha ukweli ni muhimu. Mwambie mwanamitindo "ikiwa haiko kwenye chanzo, niambie hujui", elekeza kwenye chanzo, na utumie maswali ambayo roboti haiwezi kujibu ili kuboresha msingi wake wa maarifa. Dumisha idhini ya mwanadamu licha ya chanzo juu ya maswala ya juu.
Jukumu la maombi
Andika maswali 8 ya wateja halisi/ya uhalisia kutoka kwa sekta yako na makala 8 mafupi ya msingi ya maarifa yanayolingana (kila makala: swali, jibu fupi, masharti, tarehe, lebo). Kisha jaribu kama kielelezo kinaweza kusema “sijui” kwa kutumia mchoro wa “1) wa haraka wa kujibu RAG” na pia kuuliza swali, ambalo mojawapo haliko katika msingi wa maarifa. Hatimaye, angalia makala yako na "3) Ukinzani na uchanganuzi wa pengo".
orodha ya ukaguzi
- [ ] Kila jibu halisi linalotolewa na roboti/msaidizi hutegemea msingi wa maarifa wa sasa (kupitia RAG).
- [ ] Nilimwagiza mwanamitindo "ikiwa haiko kwenye chanzo, niambie hujui" na kuipima.
- [ ] Msingi wa maarifa yangu una makala ya kisasa, wazi na yenye mada moja.
- [ ] Niliondoa makala zinazokinzana na za zamani; Kuna chanzo kimoja tu sahihi cha habari zote.
- [ ] Majibu yanaonyesha ni makala gani imetokana na (chanzo).
- [ ] Ninakusanya maswali ya "Sijui" na kulisha msingi wa maarifa.