Faida:
- Inaweza kubuni jinsi kidokezo cha mfumo kinavyoelekeza muundo kupitia mazungumzo yote
- Inaelewa jukumu na athari ya gharama ya fikra ifaayo na vigezo vya juhudi
- hutumia vidhibiti vya pato kama vile max_tokens, mifuatano ya kusimamisha, na matokeo yaliyopangwa
Bidhaa mbili tofauti za mtindo huo zinaweza kuishi tofauti kabisa. Tofauti sio katika mfano yenyewe, lakini katika haraka ya mfumo na vigezo vilivyopewa. Mwongozo wa mfumo ni "mkataba wa kazi" wa mfano na vigezo ni "mipangilio ya kazi". Katika kitengo hiki, utajifunza jinsi ya kuunda kidokezo chenye nguvu cha mfumo, kile ambacho mipangilio ya kufikiri na juhudi katika miundo ya kisasa hufanya, na jinsi ya kudhibiti utoaji wa umbizo/urefu. Kuweka mipangilio hii kwa usahihi hukuruhusu kudhibiti ubora na gharama kwa wakati mmoja.
Agizo la Mfumo: Maagizo ya Kudumu ya Mfano
Kidokezo cha mfumo ni maagizo ya hali ya juu ambayo yanatumika katika mazungumzo yote. Sheria hizi zinabaki kuwa halali bila kujali aina ya mtumiaji. Mwongozo mzuri wa mfumo ni pamoja na vitu vifuatavyo:
- Jukumu/kitambulisho: Ni nani mwanamitindo? ("Wewe ni msaidizi wa shirika.")
- Upeo na mpaka: Inafanya nini na haifanyi nini? (“Inategemea tu hati ya sera iliyotolewa.”)
- Sheria za umbizo: Pato linapaswa kuonekanaje? ("Upeo wa makala 3, lugha rasmi.")
- Tabia ya kutokuwa na uhakika: Je, mtu hufanya nini akiwa hana uhakika? ("Ikiwa hakuna taarifa, itengeneze, ielekeze kwa kitengo husika.")
- Usalama/faragha: Nini hakitaki/hakitaki? ("Omba data ya kibinafsi.")
Kidokezo: Weka kifupisho cha mfumo. Usipachike maelezo yanayobadilika kwa kila ombi (tarehe ya sasa, jina la mtumiaji, kitambulisho cha kipindi). Hii yote huvunja uthabiti na kubatilisha akiba ya papo hapo kwenye kitengo cha 6. Weka maelezo yanayobadilika katika ujumbe wa mtumiaji.
Mtego wa Maagizo Uliokithiri
Mifano ya kisasa hufuata maelekezo kwa karibu sana. Misemo ya fujo kama vile "LAZIMA", "DAIMA", "HAKIKA fanya hivi", n.k., ambayo ilifanya kazi katika miundo ya zamani, leo husababisha kuchochea zaidi: mtindo huita wakala wakati hauhitajiki au hutumika kwa muda mrefu usio wa lazima. Laini sheria: Badala ya "LAZIMA utumie zana ya utaftaji", "Ikiwa jibu halipo kwenye mazungumzo, tumia zana ya utaftaji" ni sahihi zaidi.
Vigezo vya Mfano: Mawazo na Juhudi
LLM za kawaida zilikuwa na kigezo cha halijoto: thamani ya chini ilitoa pato mahususi/thabiti zaidi, thamani ya juu ilitoa matokeo tofauti/ya ubunifu zaidi. Miundo ya kizazi cha kisasa (kama vile Opus 4.8, Sonnet 5) hubadilisha mbinu hii kwa mitambo miwili yenye nguvu zaidi na haikubali tena vigezo vya sampuli kama vile halijoto.
- Mawazo yanayobadilika: Mfano husababu hatua kwa hatua katika "kichwa" chake kabla ya kujibu. Mfano huamua ni kiasi gani cha kufikiria kulingana na ugumu wa kazi. Inaboresha kwa kiasi kikubwa usahihi juu ya matatizo magumu, ya hatua nyingi; Anafikiri kidogo ili kuepuka ucheleweshaji usio wa lazima kwa maswali rahisi.
- Juhudi: Kifundo cha kiwango cha juu ambacho hurekebisha jinsi muundo unavyoingia kwenye kazi na ni tokeni ngapi zinazotumia kwa jumla. Viwango vya kawaida: chini, kati, juu na juu. Juhudi za juu zinaweza kuboresha ubora, lakini pia huongeza ucheleweshaji na gharama; Jitihada ndogo huleta kasi na akiba.
Mpangilio
Je!
lini
Kufikiria mbali / juhudi ndogo
Haraka, nafuu, ya juu juu
Uainishaji rahisi, majibu mafupi, kuchelewesha kazi nyeti
Mawazo yanayobadilika + juhudi za wastani
Ubora / gharama iliyosawazishwa
Kazi nyingi za madhumuni ya jumla
Mawazo yanayobadilika + bidii ya juu
usahihi wa hali ya juu
Hoja tata, usimbaji, kazi ya wakala wa masafa marefu
Tahadhari: "Juhudi za juu bila kujali" reflex huongeza gharama. Kurekebisha juhudi kwa kazi; Katika kazi rahisi, jitihada za chini mara nyingi hutoa matokeo sahihi sawa kwa bei nafuu zaidi. Nenda juu ambapo usahihi muhimu unahitajika.
Udhibiti wa Pato: Umbizo, Urefu, Muundo
Kando na vigezo, pia unadhibiti pato lenyewe:
- max_tokens: Dari ngumu ya pato (kitengo cha 1 na cha 3).
- Simamisha mfuatano: Kusimamisha kielelezo kinapoona mfuatano fulani. Inatumika kwa kuweka vizuizi katika uzalishaji uliopangwa.
- Toleo lililoundwa: Lazimisha jibu la kielelezo lilingane na utaratibu wa JSON unaotoa. Inahakikisha kuwa matokeo yanaweza kutambulika kiprogramu na halali. Inaaminika zaidi kuliko kusema "rejesha JSON" kwa haraka.
{ "output_config": { "format": { "type": "json_schema", "schema": { "type": "object", "additionalProperties": false, "properties": { "category": { "type": "string", "enum": ["invoice", "technical", "return": "other": "aina ya string", "other": {other] "enum": ["chini", "medium", "juu"] } }, "required": ["category", "urgency"] } } }}
Violezo vya Matangazo ya Mfumo vinavyoweza kunakiliwa
# Msaidizi wa usaidizi wa shirikaWewe ni msaidizi wa usaidizi wa shirika.- Tegemea tu hati ya sera iliyotolewa; Ikiwa haipo kwenye hati, sema "Sina habari hii." - Toa jibu rasmi na wazi katika upeo wa sentensi 3. - Uliza data ya kibinafsi (nambari ya kitambulisho cha TC, nambari ya kadi) na usirudie katika jibu lako. - Ikiwa huna uhakika, usifikirie.
# Muundo wa pato la kulazimisha uainishajiWewe ni kiainisha mahitaji. Ingizo ni ujumbe wa mteja. Rudisha tu sehemu zilizoombwa, usiandike maoni. Ikiwa huna uhakika, tumia "nyingine".
# Mchambuzi aliye na tabia iliyobainishwa ya kusimama bila uhakikaWewe ni mchambuzi wa data. Chora makisio yanayoweza kuthibitishwa pekee kutoka kwa jedwali lililotolewa. Usiwahi kufanya hitimisho ambalo halipo kwenye data. Ikiwa makisio hayako wazi, andika "data haitoshi."
# Mwandishi wa maudhui mwenye toni na udhibiti wa urefuWewe ni mwandishi wa maudhui. Tumia sauti ya joto lakini ya kitaaluma. Weka kikomo kwa kila maandishi kwa maneno 120 au chini. Epuka lugha isiyo ya kawaida ya uuzaji.
Agizo dhaifu / Ukumbusho thabiti
# DHAIFUKuwa msaada na kutoa majibu mazuri. Jitahidi uwezavyo.
# STRONG Jukumu: Mtaalamu wa usaidizi wa kiufundi.Upeo: Mwongozo wa bidhaa umetolewa pekee.Muundo: Hatua kwa hatua, orodha yenye nambari, kiwango cha juu cha hatua 5. Kikomo: Pendekeza suluhisho lisiwe kwenye mwongozo; Sema "Sikuweza kuipata kwenye mwongozo." Faragha: Usirudie nambari ya ufuatiliaji iliyoshirikiwa na mtumiaji katika jibu.
Toleo la nguvu; Huamua jukumu, upeo, muundo, mipaka na usiri tofauti. Uthabiti wa matokeo huja moja kwa moja kutoka kwa uwazi huu.
Kesi Tatu Ndogo
Kesi ya 1 - Kupunguza gharama kupitia marekebisho ya juhudi. Timu moja ilikuwa ikiendesha simu zao zote kwa bidii ya juu + kufikiri; Hata michanganyiko rahisi ya barua pepe ilikuwa ghali na polepole kutoa. Walipeana kazi rahisi kama vile muhtasari wa juhudi ndogo na uchanganuzi wa mikataba kwa bidii ya juu. Usahihi ulidumishwa, muda wa wastani wa kusubiri ulipunguzwa kwa nusu, na gharama ya kila mwezi ilipunguzwa kwa theluthi.
Kesi ya 2 - dhamana ya JSON. Timu ya operesheni iliuliza matokeo ya uainishaji kwa kusema haraka "peana JSON", lakini mtindo huo mara kwa mara ungeandika "Haya ndiyo matokeo:" na kichanganuzi kitaanguka. Nilipounganisha schema ya pato iliyosanidiwa, matokeo yalirudisha JSON halali kila wakati; hitilafu za uchanganuzi zimewekwa upya.
Kesi ya 3 - Kurudi nyuma kwa haraka. Kidokezo cha msaidizi kilisema, "LAZIMA utafute KILA SWALI"; Mfano huo ulifanya utafutaji usio wa lazima hata kwa maswali rahisi ambayo tayari alijua jibu, kupunguza kasi na kuongeza gharama. Walilegeza sheria kuwa "Ikiwa jibu haliko katika muktadha, tafuta"; Simu zisizo za lazima zilipungua kwa 70% na majibu yakaharakishwa.
Makosa ya kawaida
- Kupachika data tofauti katika kidokezo cha mfumo: Huvunja uthabiti na kubatilisha akiba.
- Maagizo ya fujo kupita kiasi: Kuchochea kupita kiasi na gharama isiyo ya lazima katika mifano ya kisasa.
- Juhudi kubwa katika kila kazi: Taka katika kazi rahisi; kurekebisha juhudi kwa kazi.
- Kuomba JSON kupitia haraka tu: Huvunjika mara kwa mara; ikiwa ni muhimu, tumia pato lililopangwa.
- Kutofafanua tabia ya mipaka/utata: Mtindo huo unajaza pengo kwa uundaji (hallucination).
- Tabia ya zamani ya `joto`: Wanamitindo wa kisasa hawakubali hili; Ongoza tabia kwa haraka na bidii.
Kwa undani zaidi: Kuandika haraka kama Mkataba
Timu zenye uzoefu huchukulia mfumo haraka kama mkataba, si maandishi ya fasihi: vifungu wazi, sheria zinazoweza kupimika, mipaka isiyo na utata. Njia hii ina faida tatu kamili. Ya kwanza ni uthabiti: ingizo sawa hutoa pato sawa kwa nyakati tofauti. Pili ni uthibitisho: unaweza kujaribu kila kitu kivyake kwa sampuli. Tatu ni urahisi wa matengenezo: ikiwa tabia si sahihi, unajua ni kipengee gani cha kubadilisha.
Mazoezi mazuri ni kuongoza kwa mifano chanya. Badala ya kutoa orodha ya "usifanye hivi", ni bora zaidi katika mifano ya kisasa kutoa mfano unaosema "hivi ndivyo matokeo unayotaka yanaonekana". Kwa mfano, katika kiainishaji, kuongeza sampuli moja au mbili za JSON inayotarajiwa kwenye kidokezo hupunguza kwa kiasi kikubwa hitilafu za umbizo.
Mbinu nyingine yenye nguvu ni kuandika tabia ya kutokuwa na uhakika kwa uwazi. Kifungu kama vile "Ikiwa huna uhakika, usikisie; sema 'data haitoshi'" hukandamiza tabia ya modeli ya kujaza nafasi iliyo wazi na uzushi (hallucination). Sentensi hii moja hupakia safu ya uthibitishaji, ambayo tutashughulikia katika kitengo cha 11: mara tu modeli inapoashiria kutokuwa na uhakika, inakuwa rahisi kusababisha uthibitishaji wa kibinadamu.
Hatimaye, fikiria juhudi na uharakishe pamoja. Kwa jitihada za juu, mfano huchunguza zaidi na wakati mwingine hufanya "kazi ya ziada" isiyohitajika (maelezo yasiyo ya lazima, pendekezo la ziada). Kusema "toa tu matokeo unayotaka, usiongeze maoni ya ziada" kwa haraka hurekebisha athari hii ya juhudi kubwa.
Kwa muhtasari
Kidokezo cha mfumo ni agizo la kudumu la kielelezo: kinafafanua jukumu, upeo, umbizo, tabia ya kutofahamika, na usiri. Katika mifano ya kisasa, tabia inaendeshwa na fikra zinazofaa na vigezo vya juhudi badala ya joto; Kulinganisha juhudi kwa kazi hudhibiti ubora na gharama kwa wakati mmoja. Unalinda pato na max_tokens, safu za kusimamisha, na matokeo yaliyopangwa.
Jukumu la maombi
Chagua kazi. (1) Andika arifa ya mfumo yenye vipengele vitano (jukumu, upeo, muundo, utata, usiri). (2) Eleza ni kiwango gani cha juhudi ungechagua kwa kazi hii na kwa nini. (3) Ikiwa matokeo yanapaswa kupangwa, chora schema ndogo ya JSON. (4) Angalia ikiwa kuna muundo wa fujo kupita kiasi katika arifa yako na uilainishe.
orodha ya ukaguzi
- [ ] Ninaweza kutaja vipengele vitano vya arifa nzuri ya mfumo.
- [ ] Ninaweza kueleza ni nini fikra faafu na vigezo vya juhudi hufanya.
- [ ] Ninaweza kusawazisha ubora/gharama kwa kurekebisha juhudi kulingana na kazi.
- [ ] Ninajua kwa nini pato lililoundwa ni salama zaidi kuliko kuomba JSON kupitia haraka.
- [ ] Ninaweza kutambua hatari katika mifano ya kisasa ya maagizo ya fujo kupita kiasi.