Riba:
- Bayyana abubuwan da ke haifar da hallucination da kuma rawar da ke cikin ƙasa
- Aiwatar da dabarun da ke sa samfurin ya ce 'Ban sani ba' idan ba a cikin mahallin ba
- Tabbatar da amana da tantancewa ta hanyar ƙara tabbatattun tushe/nassoshi zuwa martani
Halayen mafi haɗari na samfurin harshe shine ƙirƙirar wani abu da bai sani ba cikin ƙarfin gwiwa da lallashi. Wannan ake kira hallucination. Rushewa a cikin mataimaki na kamfani ba wai kawai yana da ban haushi ba, yana da haɗari sosai: ranar da ba daidai ba, farashin da ba daidai ba, abin da ba daidai ba na doka zai iya sa ma'aikaci ko abokin ciniki cikin lahani. A cikin wannan rukunin, mun yi bayani game da dalilin da yasa ruɗi ke faruwa, yadda ake rage su a RAG, da yadda ake tabbatar da amsar.
Me ke Kawo Hallucinations?
An horar da samfurin don samar da kalma mai yiwuwa na gaba; Ba "fadi gaskiya ba", amma "samar da ingantaccen rubutu da ma'ana". Idan bayanin ya ɓace, zai iya cike gibin da wani abu mai ma'ana amma ba daidai ba. Abubuwa guda uku na al'ada:
- Babu amsa a cikin mahallin, amma samfurin yana jin dole ya ce wani abu ta wata hanya.
- Mahallin yana cin karo da juna ko bai isa ba; Samfurin yana rufe rata tare da tsinkaya.
- Tambayar ta wuce mahallin; samfurin yana komawa ga iliminsa na gabaɗaya (kuma mai yuwuwa wanda ya shuɗe).
RAG yana rage hallucination saboda yana ba samfurin ainihin tushe - amma baya sake saita shi. Idan kun kawo sashin da ba daidai ba ko barin samfurin "'yanci don cika rata", tsarin tare da RAG kuma zai iya dacewa da shi.
irin hallucination
alama
tushen dalili
mafita Layer
asali daga maidowa
Amsar daidai tana cikin takardar amma bata iso ba
Sashin da ba daidai ba / ya ɓace
Cunking, hybrid, sake-daraja (Raka'a 3-4)
An samo asali
Sashin daidai ya isa amma amsar ba daidai ba ce/dole ne a ƙara
Samfurin ya cika gibin da tsinkaya
Grounding, "Ban sani ba" izini, ƙarancin ƙira
An samo asali
Amsar ita ce daidai amma tushen kuskure
Samfurin da ake magana akan sashe mara kyau
Tabbatar da ambato (duba Sashe na 8)
Alamomi: Raba hallucination zuwa kashi biyu. An samo asali daga maidowa: ɓangaren kuskure/ɓacewa ya iso (maganin: inganta maidowa). Tushen ƙarni: Sashe na daidai ya isa, amma ƙirar ta karanta/ ƙara shi ba daidai ba (maganin: gaggawa da ƙasa). Ba za ku iya gyara shi ba sai kun san wane ne.
Ƙarfafawa: Ƙarfafa Amsar a cikin Ma'ana
Grounding shine sunan da aka ba duk dabarun gaya wa samfurin "kawai dogara ga rubutun da na ba ku, kar ku wuce shi." Dabarunsa mafi mahimmanci kuma mafi inganci: ba da izini a sarari ga samfurin don faɗin 'Ban sani ba'. Misali, kamar mutum, yana shakkar cewa "Ban sani ba"; Dole ne ku ba shi izini bayyananne don yin wannan.
Amsa kawai bisa ga CONTEXT na ƙasa. Idan amsar ba ta KYAU a cikin mahallin, rubuta daidai wannan: "Ban iya samun isassun bayanai kan wannan a cikin takaddun." Kar a haɗa da kowane lambobi, kwanakin, ko sunaye waɗanda basa cikin mahallin. Kar kayi tsammani.
Ƙarin dabarun ƙasa:
- Bukatar ambato: Kafin kowace da'awar, faɗi abin da ake magana a kai tsaye ("Takardar ta ce: '...'"). Samar da ƙirƙira ƙididdiga ya fi wahala ga ƙirar.
- Ƙananan zafin jiki: Zazzabi (zazzabi, kerawa / saitin bazuwar) yakamata ya zama ƙasa. Lura: A wasu samfura na yanzu an cire wannan siga; A cikin su, kuna samar da ƙasa tare da faɗakarwa. Babban kerawa shine abokan gaba na mutuncin kamfanoni.
- Iyakar iyaka: "Kaɗai amsa ga batutuwan manufofin yarda; cikin ladabi ƙi fita."
ambato
Mafi ƙaƙƙarfan tsaro na tsarin kare kai shine a tabbatar da amsar ta tabbatacciya. Idan mai amfani zai iya ganin wace takarda amsar ta dogara ne akan: (1) zai iya kama kuskuren da kansa, (2) dubawa ya zama mai yiwuwa, (3) amincewa yana ƙaruwa, (4) ƙirar ta samar da hankali tare da sanin cewa "Zan buƙaci buga tushen".
Hanyoyi guda biyu na gama gari:
Siffar layi: Tambarin tushe kusa da kowace da'awar. "Izinin shekara shine kwanaki 14 [1]." A ƙasa akwai cikakkun takaddun [1].
Fitowar da aka tsara: Neman samfurin don samar da amsa da jerin tushen a fagage daban-daban; Nuna albarkatu azaman hanyoyin haɗin da za a iya dannawa a cikin mu'amala.
# Samar da ingantaccen amsa dangane da abin ƙira (ra'ayi) Ba da amsar ku ta wannan tsari:- amsa: <amsa na tushen mahallin>- tushen: [{"part_no": 1, "fayil": "...", "section": "..."}] - Amincewa: <high|matsakaici|ƙananan> # Ta yaya mahallin ke goyan bayansa a fili? Idan mahallin bai goyi bayan amsar ba, rubuta "babu bayanin da aka samu" a cikin filin amsa kuma bar tushen ba kowa.
Don Citation yayi aiki da gaske, yana da mahimmanci don tabbatar da cewa sifa ɗin daidai ne. Samfurin na iya ba da amsa daidai amma ya ba da tushen kuskure. Na'urori masu ci gaba suna bincika ta atomatik cewa kowace da'awar da aka samar tana da goyan bayan gaske a cikin guntun da yake nunawa (ma'aunin "aminci" a cikin raka'a ta gaba).
Rauni/Mai ƙarfi: Gaggauta Again Halucination
Rarrauna (gayyata don cike gurbin):
Amsa tambaya gwargwadon iyawa tare da bayanin da kuke da shi: {context} Tambaya: {tambaya}# "Kamar yadda kuka iya" yana nufin "kimanta idan ba ku sani ba" ga samfurin.
Ƙarfafa (ƙasa + ba su san izini + tushe + amana):
Kawai dogara da CONTEXT. In ba haka ba, a ce "Ban iya samun wani bayani ba"; gyara lamba/kwana/suna.Ƙara lambar tushe ga kowace da'awar. Ƙayyade matakin amana da mahallin ke goyan bayan.CONTEXT: [1]... [2]... TAMBAYA: {tambaya}
Mini Cases guda uku
Case 1 - Lambar abu da aka yi. Wani dan-dan-adam ya yi wata magana ta "Mataki na 17/B" wanda bai dace ba kuma ya ba ma'aikaci bayanan karya. Lokacin da wa'azin "Kada ku ba da lambar labarin da ba a cikin mahallin ba, in ba haka ba ku ce ban sani ba" + an ƙara wajibcin faɗin abubuwan da aka ƙirƙira daga 11 zuwa 0 a cikin misalan 40.
Case 2 - Amsa daidai, tushen kuskure. Mataimakin tallafi ya bayyana daidai lokacin dawowa amma ya buga labarin da ba daidai ba; Lokacin da abokin ciniki ya danna hanyar haɗin yanar gizon, an buɗe shafin da bai dace ba. Lokacin da aka ƙara tabbatar da ƙididdiga (duba ko da'awar ta bayyana a cikin yanki da aka ambata), ƙimar ƙiren ƙarya ta ragu daga 23% zuwa 2%.
Harka ta 3 — “Ban sani ba” ba a ba da izini ba. Wani mataimaki na HR ya samar da amsa mai ma'ana amma kuskure ga tambayar da ba ta cikin takaddar. Lokacin da aka ƙara ba da izini na "Ban sani ba" da cikakken rubutu ("Ba zan iya samun bayani game da wannan a cikin takaddun ba") a cikin hanzari, ƙimar kin amincewa da gaskiya don tambayoyi ba tare da amsa ba, maimakon ƙirƙira, ya karu daga 8% zuwa 95%.
Kuskuren gama gari
- Rashin yarda "Ban sani ba": Samfurin ya cika gibin da ƙirƙira.
- Tsayar da ƙirƙira babba: Randomness yana cutar da amincin kamfani.
- Aminta da tushen ba tare da tabbatar da shi ba: Samfurin na iya haɗa tushen kuskure zuwa madaidaicin amsar.
- Rashin bambancewa tsakanin nau'ikan hasashe guda biyu: Kuna gyara wurin da ba daidai ba ba tare da sanin ko dawowa ne ya haifar da shi ba ko tsarawa.
- Kuskuren Magana don kayan kwalliya: Cigaban tushe duka tabbaci ne da hanawa; dauki da gaske.
Tsanaki: "Tsarin ya yi kama da kwarin gwiwa" baya ɗaya da "samfurin daidai ne". Hallucinations gabaɗaya su ne mafi kyawun jimloli da amintacce. Karanta amana daga tushen da ta nuna, ba daga sautin jimla ba.
a takaice
- Hallucination shine lokacin da samfurin ya cika gibin bayanai da rubutu mai ma'ana amma ƙarya; RAG yana raguwa amma baya sake saiti.
- Ana iya haifar da hallucination ta hanyar dawowa (ɓangaren da ba daidai ba) ko tsara (karanta kuskure); Ƙayyade wanne na farko.
- Dabarar ƙasa mafi ƙarfi ita ce ba da samfurin izini a sarari "Ban sani ba"; Hakanan buƙatun buƙatun da ƙarancin ƙira.
- Cikakkun bayanai suna sa amsar ta tabbata; Yana ba da tabbaci kuma yana tura samfurin don samar da hankali.
- Hakanan ya kamata a duba ingancin littafin; Ana iya haɗa tushen da ba daidai ba zuwa daidai amsar.
Aikin aikace-aikace
(1) Shirya tambayoyi 4 don tambayi mataimakin ku, amsoshin da ba a cikin takaddun (tambayoyin tarko). Gwada kowane ɗayan tare da rarrauna mai ƙarfi da sauri kuma yi alama ko ƙirar ta dace ko a'a. (2) Don tambayoyi 4 waɗanda amsoshinsu ke cikin takaddar, sa samfurin ya samar da lambar walda kuma da hannu tabbatar da ko waldar da ya nuna shine ainihin ɓangaren daidai. (3) Bincika ko samfurin ya ba da "amsa daidai, tushen kuskure" aƙalla harka ɗaya kuma rubuta a cikin jumla ɗaya yadda za ku iya kama wannan ta atomatik.
jerin abubuwan dubawa
- [ ] Zan iya gaya dalilin da ya sa hallucination ke faruwa kuma RAG yana rage shi amma bai sake saita shi ba.
- [ ] Zan iya bambance tsakanin sakewa da abubuwan da suka haifar da tsararraki da kuma gyara wurin da ya dace.
- [ ] Ina ƙara bayyani na "Ban sani ba" izini da ƙa'idodi na tushe ga saƙon.
- [ ] Ina ƙara tabbataccen tushe (citation) ga amsar.
- [ ] Na fahimci buƙatar ƙara bincika daidaiton sifa.