Faida:
- Uwezo wa kuanzisha schema na tabaka za uthibitishaji wa matokeo kulingana na sheria
- Uwezo wa kuhitaji mwanadamu-katika-kitanzi katika maamuzi yenye athari kubwa
- Uwezo wa kubuni uthibitishaji na uaminifu wa uelekezaji wa msingi na muundo wa pili
Muundo wa lugha hutoa umajimaji, ushawishi, na mara nyingi ni sahihi—lakini “ushawishi” si sawa na “sahihi.” Muundo unaweza kutoshea kiasi, tarehe, au sehemu ya JSON kimyakimya; Hii inaitwa hallucination (mfano hutoa habari kwa ujasiri ambayo haipo katika ukweli). Katika mfumo wa biashara, ikiwa matokeo hayo yatapita kwa hatua inayofuata - malipo, barua pepe, hifadhidata andika - hitilafu itamwagika katika ulimwengu halisi. Katika kitengo hiki, tutajifunza kuchuja matokeo kwa tabaka za uthibitishaji kabla ya kuingia kwenye mfumo na kuhitaji mtu anayehusika katika maamuzi yenye athari ya juu.
Kwa nini Uthibitishaji wa Pato Unahitajika?
Toleo la muundo linaweza kuharibika kwa njia mbili za msingi: umbizo (haulingani na taratibu za JSON zinazotarajiwa, sehemu haipo/ziada) na maudhui (muundo ni sahihi lakini thamani si sahihi - msimbo wa bidhaa ambao haupo, tarehe isiyo na mantiki). Kuna mwelekeo wa tatu katika suala la usalama: matokeo mabaya (amri mbaya inayotolewa kama matokeo ya sindano au uvujaji). Mfumo thabiti unasimamisha zote tatu kwenye mlango.
Tahadhari: "Muundo sahihi kwa ujumla" sio kigezo cha uzalishaji. Katika mfumo usio na uthibitishaji, hata hitilafu moja kati ya elfu moja inamaanisha miamala 100 yenye makosa kwa siku katika maombi 100,000 kwa siku.
Tabaka za Uthibitishaji: Hatua kwa Hatua
- Uthibitishaji wa schema. Angalia na mashine ambayo pato inafanana na muundo unaotarajiwa: ni mashamba yaliyopo, aina zao ni sahihi, ni sehemu zinazohitajika zimejaa?
- Uthibitishaji wa kanuni/mantiki ya biashara. Je, maadili yanalingana na sheria za biashara? (Kiasi > 0, tarehe haiko katika siku zijazo, msimbo wa bidhaa ni wa orodha.)
- Udhibiti wa marejeleo/chanzo. Ikiwa mfano hutoa madai, inaweza kuunganishwa na chanzo? (Je, nukuu ya RAG kweli iko kwenye hati?)
- Uthibitishaji na modeli ya pili (LLM-as-judge). Mtindo huru hutathmini matokeo kama "sahihi/haijakamilika/hatari".
- Kiwango cha uaminifu na mwelekeo. Ikiwa mtindo au kithibitishaji kinaripoti imani ndogo, matokeo hayapiti kiotomatiki; inaelekezwa kwa wanadamu.
- Udhibiti wa kibinadamu. Matokeo ya juu-potency au chini-salama inategemea idhini ya mtaalam.
Violezo Vinne Vinakiliwa
Mpango + "tengeneza ikiwa hujui" pamoja:
Rejesha jibu katika taratibu ifuatayo ya JSON PEKEE: Andika "chini". USIWAHI kuandika makadirio kana kwamba ni sahihi.
Uthibitishaji na modeli ya pili (haja ya haraka):
Wewe ni mthibitishaji huru. Hapa chini kuna maandishi ya <source> na <dai>. Angalia ili kuona kama KILA nambari na tarehe katika dai hutokea neno moja kwa moja kwenye chanzo. Kwa kila moja, sema: "imethibitishwa | haiko kwenye chanzo | inakinzana na chanzo." Iwapo hata moja kati ya hizo 'hayupo/inakinzana', weka alama kwenye matokeo kama "UHAKIKI WA BINADAMU UNAHITAJIKA".<source>{{ text }}</source><claim>{{ model_output }}</claim>
Kanuni ya uelekezaji wa kiwango cha juu cha uaminifu:
Kanuni ya uelekezaji:- emin_misin = "juu" NA kiasi < 10,000 TL -> usindikaji otomatiki- emin_misin = "kati" AU kiasi 10,000-100,000 TL -> uthibitishaji wa muundo wa pili- emin_misin = "chini" AU kiasi > 100,000 TL inayohitajika -> programu ya kibinadamu inayohitajika ->
Kadi ya muhtasari wa ukaguzi wa binadamu (huharakisha ukaguzi):
Unapowasilisha uamuzi kwa mtu, toa kadi hii:- Ni nini kinachopendekezwa? (sentensi moja)- Inatokana na chanzo gani? (makala/rejeleo la hati)- Je, ni mawazo gani 2 dhaifu zaidi?- Ikiwa yameidhinishwa, yanaweza kutenduliwa? (ndio/hapana)
Uhamasishaji dhaifu / Uhamasishaji Wenye Nguvu
mbinu mbaya
Mbinu kali
"Ondoa kiasi kutoka kwa ankara" (maandishi ya bure)
Schema kali ya JSON + null + uga wa uaminifu
Kuandika pato moja kwa moja kwa mfumo wa malipo
Schema → kanuni → idhini ya mwanadamu (ikiwa ni lazima)
Kumwambia tu mfano "kuwa na uhakika"
Uthibitishaji wa nambari/tarehe na muundo wa pili
Inachakata kila pato kwa imani sawa
Uelekezaji kulingana na ushawishi na uaminifu
Mbinu kali haina matumaini kwamba mfano huo ni sahihi; Inaunda mlango ambao utakushika unapokosea.
Kesi Tatu Ndogo
Kesi 1 - Mpango pekee haukutosha. Utaratibu wa kihasibu ulikuwa ukitoa kiasi hicho kutoka kwa ankara kama JSON. Mpango huo ulikuwa sahihi, lakini mtindo ulitoa "125,000" badala ya "1,250.00" kwenye ankara (kuhama kwa decimal). Mpango umeshindwa kunasa haya; uthibitishaji wa sheria ("kiasi lazima kilingane na jumla ya bidhaa za ankara kwa ±1%") ilinaswa na rekodi isiyo sahihi ya TL 112,500 ilizuiwa.
Kesi ya 2 - Mtindo wa pili ulichukua ndoto. "Ilani ya siku 30 ya kusitishwa," msaidizi wa usaidizi wa kisheria alisema katika muhtasari wa mkataba; Walakini, katika mkataba ilikuwa siku 90. Jaji huru alipoashiria kielelezo kama "kinachokinzana na chanzo", matokeo yalitumwa kwa binadamu na kusahihishwa. Ikiwa ilikuwa kiotomatiki, mteja angearifu kughairiwa kwa kuzingatia tarehe isiyo sahihi.
Kesi ya 3 - Njia ilipunguza mzigo kwa 70%. Mfumo wa madai ya bima uliidhinisha kiotomatiki madai ya kiwango cha chini na ulinzi wa hali ya juu na ukatuma tu yale yaliyo juu ya kiwango cha juu/usalama wa chini kwa mtaalamu. Kati ya mahitaji 3,200 ya kila siku, ni 950 tu yaliyoanguka kwa wanadamu; wataalam walitumia muda wao kwa asilimia 30 ya hatari, na muda wa wastani wa shughuli ulipungua kutoka saa 4 hadi dakika 40.
Kidokezo: Usiweke udhibiti wa kibinadamu ili "watu waone kila kitu" - hii itachosha watu na idhini itakuwa muhuri wa mpira. Badala yake, njia pekee ya matokeo ya athari ya juu na ya chini kwa binadamu; Hii inazingatia kile ambacho ni muhimu sana.
Kufanya Udhibiti wa Binadamu Kuwa na Maana
Binadamu-katika-kitanzi si kuhusu kuweka kisanduku cha kuteua kwenye karatasi. Mhakiki lazima awe na (1) muktadha wa kuelewa uamuzi, (2) ufikiaji wa chanzo, na (3) mamlaka ya kusema "hapana." Vinginevyo, udhibiti unabaki mapambo. Kadi ya ukaguzi (kiolezo cha nne hapo juu) inakusudiwa kutoa muktadha huo.
Makosa ya kawaida
- Kufanya tu uthibitishaji wa schema na kuruka makosa ya yaliyomo/thamani.
- Kufikiria kwamba kwa kumwambia mfano "hakikisha" unafanya uthibitishaji wa kweli.
- Tekeleza kiotomati maamuzi yenye athari ya juu, yasiyoweza kutenduliwa.
- Kuweka udhibiti wa kibinadamu kwa kila pato na kugeuza idhini kuwa muhuri wa mpira usio na maana.
- Kusema "idhinisha" kwa mhakiki bila kutoa chanzo na muktadha.
- Inachakata matokeo yote yenye hatari sawa bila kuweka kiwango cha juu cha uaminifu na uelekezaji.
Kwa muhtasari
- Matokeo yanapotoshwa kwa njia tatu: umbo, maudhui, na nia mbaya; mfumo imara husimamisha zote tatu kwenye mlango.
- Tabaka: uthibitishaji wa taratibu, mantiki ya sheria/biashara, udhibiti chanzo, muundo wa pili (LLM-as-judge), na uelekezaji wa kiwango cha juu cha uaminifu.
- Binadamu-katika-kitanzi lazima iwe ya lazima kwa matokeo ya juu na ya chini ya usalama.
- Uhakiki wa kibinadamu lazima uwe na maana: mhakiki lazima awe na muktadha, ufikiaji wa rasilimali, na mamlaka ya kusema "hapana."
- Usalama na ufanisi hupatikana kwa kuelekeza zile hatari tu kwa wanadamu, sio kila pato.
Jukumu la maombi
Chukua mfano kutoka kwa pato lako mwenyewe la AI. Kwanza fafanua schema ya JSON na ulazimishe pato kwake. Kisha andika angalau sheria mbili za biashara (kwa mfano, "kiasi kinalingana na jumla ya vitu"). Hatimaye, tengeneza jedwali la uelekezaji: ni mchanganyiko gani wa uaminifu/ushawishi huenda moja kwa moja, ambao huenda kwa mfano wa pili, ambao huenda kwa mwanadamu? Tengeneza sampuli yenye hitilafu na uangalie mahali ambapo kila safu inanasa.
orodha ya ukaguzi
- [ ] Ninafafanua schema kali ya pato na kuithibitisha kwa mashine.
- [ ] Niliongeza angalau uthibitishaji wa biashara/kanuni moja (mantiki ya thamani).
- [ ] Ninaweza kuunganisha madai na chanzo na kuyaangalia.
- [ ] Muundo wa pili au uthibitishaji wa kibinadamu unaopatikana kwa athari ya juu/matokeo ya chini ya usalama.
- [ ] Kanuni ya uelekezaji imefafanuliwa kulingana na uaminifu na ushawishi.
- [ ] Mhakiki amepewa muktadha, chanzo, na mamlaka ya kukataa.