Kuzalisha Majibu kutoka Msingi wa Maarifa (Utangulizi wa RAG)

Faida:

• Kuelewa mantiki ya kizazi chenye msingi wa maarifa (RAG) na kwa nini inapunguza maono
• Uwezo wa kuwa na modeli kujibu kwa kunukuu, kulingana na hati chanzo zilizotolewa
• Uwezo wa kudhibiti maswali ambayo hayako kwenye chanzo kwa kuyahamisha kwa usalama, bila kuunda maswali

Mfano wa lugha "unajua" mengi, lakini haujui sera ya kurejesha kampuni yako leo, orodha yako ya bei ya sasa, au makubaliano yako ya usafirishaji ambayo yalibadilika jana. Mbaya zaidi, wakati hajui, mara nyingi hutengeneza na kuandika kwa sauti ya kujiamini sana. Hili ni dosari mbaya katika huduma kwa wateja: muundo unasema "Rejesha pesa hutolewa ndani ya siku 30" wakati sera yako inaweza kuwa siku 14. Mbinu inayoziba pengo hili inaitwa RAG: Retrieval-Augmented Generation, yaani, "retrieval-augmented production".

Wazo ni rahisi: Mfano hujibu swali sio kutoka kwa kumbukumbu, lakini kutoka kwa hati sahihi za chanzo zilizowekwa mbele yake wakati huo. Kwanza, kipande sahihi cha hati kinachohusiana na swali ni "kurejesha", kisha mfano "huzalisha" jibu kulingana na kipande hicho pekee. Katika kitengo hiki, utaelewa mantiki ya RAG na kujifunza jinsi ya kudhibiti muundo ili ushikamane na chanzo kilichothibitishwa unachotoa.

Kumbuka: Sehemu hii inafundisha mantiki ya kufanya kazi na upande wa haraka wa RAG. Mifumo ya kurejesha hati kiotomatiki ya kiwango cha biashara (database ya vekta, nk) inahitaji usakinishaji wa kiufundi; Nidhamu hapa ndio msingi wa mfumo huo kujibu ipasavyo.

Kwa nini RAG Inapunguza Maoni?

Udanganyifu ni wakati mtindo hutoa habari isiyo ya kweli kana kwamba ni ya kweli. Mfano huo umepangwa kutoa jibu ambalo linaonekana "inawezekana" linapoona pengo; Sijui kama ni kweli au la. RAG inajaza pengo hili: unampa modeli maandishi yanayofaa pamoja na swali na kusema "jibu kutoka hapa pekee." Kwa njia hii mfano hauitaji "kutoshea".

Kuna vipengele vitatu:

• Msingi wa maarifa: Maandishi ya kuaminika kama vile Maswali Yanayoulizwa Mara kwa Mara, hati za sera, miongozo ya bidhaa, orodha za bei.
• Urejeshaji: Kupata kipande cha hati kilicho na jibu la swali na kumpa mfano.
• Toleo fupi: Muundo hujibu kwa kunukuu, kulingana na sehemu iliyotolewa pekee.

Hatua kwa Hatua: Jibu la Uaminifu kwa Chanzo

1. Tayarisha chanzo. Tafuta maandishi ambayo majibu yatatokana (sera, Maswali Yanayoulizwa Mara kwa Mara) katika umbizo lililo wazi na lililosasishwa.
2. Pachika chanzo katika kidokezo. Weka maandishi kwenye lebo kama <source>.
3. Andika kanuni ya uaminifu. "Tumia tu habari kutoka kwa chanzo; usipotee kutoka kwa chanzo."
4. Fanya dondoo lihitajike. Mwache aonyeshe jibu linatokana na sehemu gani.
5. Tambua tabia isiyo ya rasilimali. Ikiwa jibu halipo kwenye chanzo, aseme "sina habari hii" na apitishe.
6. Thibitisha. Thibitisha jibu kwa kulinganisha na sentensi chanzi ambayo msingi wake ni.

Vidokezo vinavyoweza kunakiliwa

Kidokezo cha kujibu kulingana na chanzo cha msingi:

Jukumu: Wewe ni msaidizi wa usaidizi kwa wateja. Jibu swali PEKEE kulingana na maelezo katika <source>block hapa chini. Usiongeze maelezo yoyote ambayo hayapo kwenye chanzo, kisia au jibu kutokana na ujuzi wako wa jumla. Ongeza sehemu unayoitegemea mwishoni mwa jibu lako katika umbizo "[Chanzo: ...]". Ikiwa jibu halipo kwenye chanzo, andika yafuatayo: "Sina taarifa za uhakika kuhusu somo hili, ninakuhamisha kwa afisa ambaye anaweza kutoa jibu sahihi."<source>{{ policy_or_faq_text }}</source>Swali: {{ customer_question }}

Katika kesi ya vyanzo vingi, onyesho la kuonyesha ni hati gani inategemea:

Kuna rasilimali nyingi zilizoorodheshwa hapa chini. Unapojibu swali, taja nambari ya chanzo ulichotumia, kama vile [Chanzo 2]. Ikiwa zaidi ya chanzo kimoja kinakupinga, sema hivyo kwa uwazi na sema kwamba unapaswa kuuliza ni kipi kilichosasishwa zaidi.<sources>1) {{ source_1 }}2) {{ source_2 }}3) {{ source_3 }}</sources>Swali: {{ customer_question }}

Agizo ambalo linasimamia kwa usalama swali lisilo la chanzo:

Ikiwa jibu la swali linapatikana kwa SEHEMU katika chanzo: jibu sehemu iliyofunikwa tu na chanzo, na useme "maelezo haya hayako kwenye chanzo" kwa sehemu iliyobaki. Usijaze kamwe sehemu inayokosekana kwa kubahatisha.

Kidokezo kinachotafsiri jibu katika lugha ya mteja, lakini kinabaki kuwa kweli kwa chanzo:

Tafsiri usemi rasmi/kiufundi katika chanzo kwa lugha rahisi ambayo mteja anaweza kuelewa, lakini USIBADILISHE maana na thamani za nambari (siku, kiasi, kiwango). Kwa mfano, kuzungusha "siku 14 za kalenda" hadi "karibu wiki mbili"; kuweka thamani kamili.

Uhamasishaji dhaifu / Uhamasishaji Wenye Nguvu

Agizo dhaifu

Agizo lenye nguvu

"Tuambie kuhusu sera yetu ya kurudi"

Chanzo cha kupachika + "jibu hapa pekee" + maombi ya nukuu

Jibu kutoka kwa kumbukumbu ya mfano (labda sio sawa)

Jibu kutoka hati yako ya sasa

Ikiwa haipo kwenye chanzo, anaifanya

Anasema "sina habari hii" na huipitisha.

Inaweza kuzunguka na kupotosha nambari

Huhifadhi siku/kiasi/kiasi haswa

Tofauti ni kwamba kidokezo chenye nguvu kinatoa kielelezo nanga (maandishi ya chanzo) na kupiga marufuku (kutoka kwenye chanzo). Mfano huo hauzungumzi tena kutoka kwa kumbukumbu, lakini kutoka kwa ukweli ulio mbele yake.

Kesi Tatu Ndogo

Kesi ya 1 - Mtego wa zamani wa sera. "Rejesha zitakubaliwa ndani ya siku 30," bot ya duka moja ilisema ikifanya kazi bila mkopo; Walakini, kampuni hiyo ilipunguza muda hadi siku 14. Maandishi ya sera yaliyosasishwa yanapoongezwa kwenye chanzo katika usakinishaji wa RAG, mfumo wa roboti sasa hujibu "siku 14 za kalenda [Chanzo: Sera ya Kurejesha, kifungu cha 2]". Migogoro ya kurejesha pesa inayotokana na ahadi za uwongo imebadilishwa.

Kesi ya 2 - Kukamata utata. Mteja aliuliza kuhusu gharama za usafirishaji. Orodha zote mbili za bei za zamani na mpya ziliingizwa kwenye mfumo kama vyanzo. Shukrani kwa mwongozo wa vyanzo vingi, mwanamitindo alisema, "Vyanzo viwili vinatoa bei tofauti (49 TL na 59 TL); ninahitaji kudhibitisha ya sasa" na kuwasilisha suala hilo kwa mwanadamu. Badala ya kumwambia mteja kiasi ambacho si sahihi, aliwasilisha uhakika huo kwa uaminifu.

Kesi ya 3 - Nidhamu ya majibu kidogo. "Je, unasafirisha bidhaa nje ya nchi na ni nani anayelipa ushuru wa forodha?" Katika swali, chanzo kilisema tu kwamba usafirishaji ulifanywa, hakuna chochote kuhusu nani alilipa kodi. Mwanamitindo huyo alisema, "Ndiyo, usafirishaji unafanywa nje ya nchi [Chanzo: Maswali Yanayoulizwa Mara kwa Mara ya Mizigo]. Hata hivyo, haijaelezwa katika hati hii ni nani anayelipa ushuru wa forodha; ninakuhamisha kwa afisa ili kufafanua hili." Badala ya jibu la nusu-kweli, nusu-fabricated, ilitoa pato la uaminifu na ujasiri.

Kidokezo: Weka toleo la sasa na la chanzo kimoja cha ukweli cha msingi wako wa maarifa. Kuwa na taarifa sawa (k.m. kipindi cha kurudi) iliyoandikwa tofauti katika hati tatu tofauti ni adui mkubwa wa RAG; Mfano hujibu tofauti kulingana na ambayo inaonekana. Kwanza rudisha hati zako, kisha uzibadilishe kiotomatiki.

Uthibitishaji: Usitulie Kwa Sababu Chanzo Kipo

RAG inapunguza sana maonyesho ya macho lakini haifanyi upya. Mfano wakati mwingine unaweza kutafsiri vibaya chanzo, kuchanganya sentensi mbili, au kuchora "hitimisho" ambayo haiko katika chanzo. Ndio maana hitaji la manukuu ni muhimu: fungua sehemu ambayo jibu linadai kutegemea na uangalie ikiwa linasema hivyo. Udhibiti huu hauwezi kujadiliwa, haswa katika majibu yaliyo na nambari (siku, kiasi, kiwango) na masharti (isipokuwa, hali).

Tahadhari: Ikiwa chanzo chenyewe si sahihi au kimepitwa na wakati, RAG hurudia kosa hilo kwa uaminifu. Kusema "mtindo huzungumza kutoka kwa chanzo" haimaanishi "mtindo anaongea kwa usahihi"; Unawajibika kwa sarafu na usahihi wa chanzo chako.

Kuweka Msingi wa Maarifa Tayari kwa Majibu

Ubora wa RAG unategemea sana jinsi matini chanzi inavyoandikwa. Muundo huo unarejesha jibu sahihi zaidi kuliko maandishi yaliyo na muundo mzuri, yenye mada, yenye mada moja. Ushauri wa vitendo: andika sera zako kwa ufupi, sehemu zenye mada badala ya aya ndefu zilizoorodheshwa; Hebu kila sehemu ijibu swali moja ("Ni siku ngapi kipindi cha kurudi?", "Ni bidhaa gani haziwezi kurejeshwa?"). Kuweka maswali yanayoulizwa mara kwa mara (Maswali Yanayoulizwa Mara kwa Mara) katika umbizo la maswali na majibu hurahisisha muundo kupata sehemu inayofaa. Taja thamani kama vile tarehe, kiasi, na kiwango kwa uwazi na katika sehemu moja ndani ya maandishi; Kuandika nambari sawa tofauti katika sehemu tofauti kunachanganya mfano.

Tabia nyingine muhimu ni kuweka msingi wa maarifa hai. Sera, bei na matangazo hutofautiana; Ikiwa chanzo hakijasasishwa, mtindo unaendelea kurudia ukweli wa zamani kwa usalama. Kwa kila mabadiliko ya sera, sasisha chanzo na uulize tena kielelezo maswali machache ya mtihani kuhusu mada iliyobadilishwa ili kuthibitisha kwamba inatoa jibu sahihi. Matengenezo haya madogo lakini ya kawaida huzuia mfumo wa RAG "kuenda vibaya kimyakimya" baada ya muda.

Makosa ya kawaida

• Kusema "eleza sera yetu" bila kuficha chanzo na kutegemea kukariri kwa mwanamitindo.
• Sio kufafanua mipaka ya "jibu kutoka kwa chanzo pekee" na tabia isiyo ya chanzo.
• Kutoomba marejeleo ya nukuu/chanzo na kuacha jibu lisiweze kuthibitishwa.
• Kuweka matoleo yanayokinzana ya taarifa sawa katika hati nyingi katika msingi wa maarifa.
• Kuruhusu kielelezo kuzungusha/kutafsiri thamani za nambari.
• Kusahau kusasisha chanzo, na kusababisha mfano kurudia habari ya zamani kwa uaminifu.

Kwa muhtasari

• RAG inamaanisha kuwa mfano hutoa jibu lake kutoka kwa hati ya sasa ya chanzo, badala ya kutoka kwa kumbukumbu.
• Njia ya vitendo zaidi ya kupunguza ufahamu: kuzika chanzo, sema "jibu hapa tu", omba nukuu.
• Ikiwa jibu haliko kwenye chanzo, mtu haipaswi kufaa mfano; Aseme "Sina" na kukabidhi.
• Mfahamishe mwanamitindo kuhusu vyanzo vinavyokinzana; Ulihifadhi maadili ya nambari haswa.
• Usahihi wa RAG inategemea muda wa chanzo chako; Daima thibitisha nukuu.

Jukumu la maombi

Chukua maandishi halisi ya sera (kurejesha, usafirishaji, au uanachama) kutoka kwa biashara yako mwenyewe na uyapachike kama chanzo katika kidokezo cha msingi cha RAG hapo juu. Kisha uliza maswali matatu: (1) swali ambalo jibu lake liko wazi katika chanzo, (2) swali ambalo jibu lake halipo kabisa katika chanzo, (3) swali ambalo jibu lake halijakamilika katika chanzo. Thibitisha kuwa mfano unajibu kwa usahihi, unasema "Sina," na uweke alama kwa jibu la sehemu na kukosa, mtawaliwa. Sahihisha tabia potovu kwa kuimarisha uaminifu na sheria zisizo za rasilimali katika dodoso.

orodha ya ukaguzi

• [ ] Nilipachika chanzo cha sasa ambapo majibu yatatokana na kidokezo.
• [ ] Niliongeza sheria ya "Jibu kutoka kwa chanzo pekee, usipite" sheria.
• [ ] Nimeweka hitaji la marejeleo ya chanzo / nukuu.
• [ ] Nilifafanua tabia ya ugawaji kama jibu halipo kwenye chanzo.
• [ ] Nilihitaji kwamba nambari za nambari zihifadhiwe haswa.
• [ ] Nilithibitisha jibu kutoka kwa sentensi ya chanzo ambayo msingi wake ni.