Uzalishaji wa Mwisho-hadi-Mwisho: Uthibitishaji, Ufuatiliaji na Maadili

Faida:

• Inaweza kubuni usanifu wa mwisho hadi mwisho ambao huchukua kipengele cha LLM kutoka kwa wazo hadi uzalishaji
• Huanzisha safu za utekelezaji wa uthibitishaji, uidhinishaji wa kibinadamu, na ufuatiliaji (ukataji miti/vipimo)
• Mipaka hutafsiri maadili na kanuni za faragha kuwa maamuzi ya uzalishaji

Katika vitengo kumi vilivyotangulia, tulijifunza sehemu moja baada ya nyingine: muundo wa ombi, uchumi wa ishara, mtiririko, haraka ya mfumo, uteuzi wa mfano, kashe, bechi, usimamizi wa makosa, ufunguo salama na otomatiki. Katika kitengo hiki cha mwisho, tunachanganya sehemu na kuanzisha usanifu wa jumla unaobeba kipengele cha LLM kutoka kwa wazo hadi uzalishaji. Uzalishaji ni tofauti na "onyesho linalofanya kazi": uthibitishaji ni wa lazima, matokeo lazima yafuatiliwe, mipaka na kanuni za maadili lazima ziingizwe katika maamuzi. Kitengo hiki ni safu wima ya mtoa huduma wa moduli; Wote waliotangulia kuja pamoja hapa.

Tabaka za Usanifu wa Uzalishaji

Sifa thabiti ya LLM ina takriban tabaka tano:

1. Safu ya ingizo: Kusanya data, isafishe, funika maeneo nyeti, sambaza tu kile kinachohitajika.
2. Safu ya mfano: Chagua mfano sahihi (kitengo cha 5), ​​weka haraka ya mfumo na vigezo (kitengo cha 4), kashe (kitengo cha 6).
3. Safu ya uthibitishaji: Angalia matokeo dhidi ya schema/kanuni, chanzo, na uidhinishaji wa kibinadamu ikiwa ni lazima.
4. Safu ya kitendo: Tekeleza kitendo kwa matokeo yaliyothibitishwa; Nasa vitendo vya athari ya juu.
5. Safu ya ufuatiliaji: Rekodi na kupima kila simu, gharama, hitilafu na ubora.

Tabaka hizi ni bomba; kila mmoja huangalia matokeo ya uliopita.

Kwa Nini Uthibitishaji Unahitajika?

LLM zinaweza kutoa matokeo fasaha lakini wakati mwingine yasiyo sahihi. Hii inaitwa hallucination: mfano unaweza kutengeneza habari ambayo inaonekana kuwa ya kweli lakini sivyo. Katika mchezo wa mazungumzo hii inavumilika; haiwezi kuvumiliwa katika mfumo wa uzalishaji (ankara, afya, kisheria, fedha). Kwa hivyo ikawa, bila kutegemewa; imethibitishwa.

Safu za uthibitishaji (kuongezeka kwa athari):

• Uthibitishaji wa umbizo/schema: Je, matokeo yanapatana na schema ya JSON inayotarajiwa? (Pato lililoundwa linahakikisha hii kwa kiasi kikubwa.)
• Uthibitishaji wa kanuni/mantiki: Je, maadili yanafaa? (Je, kiasi ni hasi, ni tarehe katika siku zijazo, je kitengo ni halali?)
• Uthibitishaji wa chanzo: Je, dai linatokana na hati iliyotolewa? Je, mfano huo unasema kitu ambacho hakipo kwenye hati?
• Idhini ya kibinadamu: Mtaalam hukagua maamuzi yenye athari kubwa au yenye utata.

Tahadhari: "Mfano ni mzuri sana, hakuna uthibitishaji zaidi unaohitajika" ni udanganyifu hatari zaidi wa uzalishaji. Haijalishi muundo ni mzuri kiasi gani, safu ya uthibitishaji ni wavu wa usalama katika maamuzi yenye athari kubwa. Hata uamuzi mmoja mbaya wa kiotomatiki unaweza kuchukua muda wote uliohifadhiwa.

Binadamu-katika-Kitanzi

Sio kila uamuzi unapaswa kuwa wa moja kwa moja. Katika mbinu ya kibinadamu-katika-kitanzi, mfano huharakisha kazi na mwanadamu huidhinisha. Usawa sahihi unategemea athari za uamuzi na uaminifu wa mfano kwenye kazi hiyo.

Athari ya uamuzi

Mbinu

Chini (pendekezo la lebo, rasimu)

Automatisering kamili; kosa ni nafuu na linaweza kutenduliwa

Kati (kuelekeza, kuweka vipaumbele)

Udhibiti wa otomatiki + sampuli

Juu (fedha, mkataba, afya, ufutaji)

Idhini ya mwanadamu ni ya lazima; mfano unapendekeza tu

Ufuatiliaji: Huwezi Kusimamia Usichokiona

Katika uzalishaji, lazima ufuatilie kila simu. Bila ufuatiliaji, huwezi kuboresha gharama, ubora au kupata tatizo mapema. Vipimo muhimu vya kurekodi:

• Matumizi/gharama: Kwa kila ombi na tokeni jumla, usambazaji wa muundo, matumizi ya kila siku.
• Muda wa Kuchelewa: Wastani na wakati wa kujibu katika hali mbaya zaidi.
• Kiwango cha makosa: viwango vya 429/500, majaribio tena, kuachwa.
• Ubora: Kiwango cha utoaji kilichokataliwa katika safu ya uthibitishaji, kiwango cha marekebisho kwa idhini ya mwanadamu, maoni ya mtumiaji.

Kidokezo: Usiandike data nyeti (maelezo ya kibinafsi, funguo) kwa kumbukumbu za ufuatiliaji. Zingatia kumbukumbu ndani ya wigo wa usiri; rekodi kwa kuficha ikiwa ni lazima (kitengo cha 9).

Maadili na Mipaka

Wajibu wa kimaadili ni sehemu kubwa ya uamuzi wa uzalishaji kama vile usahihi wa kiufundi:

• Uwazi: Mtumiaji anapaswa kujua ikiwa anazungumza na akili bandia au mwanadamu.
• Haki na upendeleo: Muundo unaweza kubeba upendeleo kutoka kwa data ambayo umefunzwa; Fuatilia matokeo ya kibaguzi katika maamuzi yenye athari kubwa (kuajiri, mkopo).
• Dhima: Ikiwa uamuzi wa kiotomatiki husababisha madhara, unawajibika; "Mfano alisema hivyo" sio utetezi.
• Kukubalika kwa mipaka: Mfano hauwezi kufanya kazi fulani kwa uaminifu; kutoziendesha otomatiki pia ni uamuzi wa muundo.

Violezo vinavyoweza kunakiliwa

# Orodha hakiki ya uthibitishaji (baada ya uzalishaji wa pato)1) Je, schema ni halali? (uthibitisho wa pato lililoundwa)2) Je, maadili yana maana? (angalia kanuni: masafa, tarehe, enum)3) Je, dai linatokana na chanzo? (kataa kama haipo kwenye hati)4) Je, athari ni kubwa? → tuma kwa idhini ya mwanadamu5) Ikiwa yote yamepitishwa → ruhusu kitendo, hifadhi

# Agizo la mfumo ambalo hulazimisha kutegemea chanzoKutegemea tu habari kwenye hati iliyotolewa. Usiongeze chochote ambacho hakipo kwenye hati. Ikiwa habari haipo kwenye hati, andika "Haipatikani kwenye hati". Kamwe usifikirie au kuunda vitu.

# Kiwango cha uidhinishaji wa kibinadamu (kanuni ya uamuzi)Ikiwa uamuzi_wa_aina katika [fedha, mkataba, futa, afya] → ni lazima idhini ya binadamuIF model_trust < kiwango AU uthibitisho "hauna uhakika" → wasilisha kwa idhini ya mwanadamuOTHER → tuma otomatiki + udhibiti wa sampuli

# Fuatilia kiolezo cha kumbukumbu (kuandika data nyeti){ "muda":"...", "mfano":"...", "token_token":..., "output_token":..., "delay_ms":..., "stop_reason":"...", "uthibitishaji":"imepita|imekataliwa|binadamu", "gharama_ya_data ya kibinafsi":... na} .

Mwongozo dhaifu / Mwongozo mkali (utegemezi wa uzalishaji)

# DHAIFU (hakuna uthibitishaji, hakuna chanzo, hutumika kiotomatiki) Tathmini ombi hili, fanya uamuzi wa kurejesha pesa na utume ombi.

# STRONG (kulingana na vyanzo, hutoa mapendekezo, huacha idhini ya kibinadamu)Tathmini ombi hili la kurejesha kulingana na hati ya sera ya kurejesha pekee. Pendekeza uamuzi kwa kuhalalisha lakini usitekeleze: {"pendekezo":"idhinisha|kataa","sababu":"...","kifungu_cha_sera":"..."}.Ikiwa hakuna msingi wazi katika hati ya sera, toa "isiyo wazi". Mwakilishi ataidhinisha uamuzi wa mwisho.

Toleo la nguvu; Inahusisha uamuzi na chanzo, inaweka kielelezo kama "mpendekezaji" badala ya "mtendaji," na kuweka hatua ya juu nyuma ya idhini ya mwanadamu. Hii ndio kiini cha kuegemea kwa uzalishaji.

Kesi Tatu Ndogo

Kesi ya 1 - Siku ambayo safu ya uthibitishaji ilihifadhiwa. Fintech ilikuwa na muundo kuainisha maelezo ya shughuli na kuunda rekodi za uhasibu otomatiki. Waliongeza uthibitisho wa sheria: mara tu mfano ukitoa kiasi kimakosa (12,500 badala ya 1,250 kwenye hati), sheria ya "kiasi hailingani na hati" ilikataa matokeo na rekodi ikaanguka kwa mwanadamu. Ikiwa hapakuwa na uthibitishaji, rekodi isiyo sahihi ingeingia kwenye mfumo kimya kimya.

Kesi ya 2 - Mtoro kunaswa na ufuatiliaji. Timu ya SaaS ilikuwa imeanzisha jopo la ufuatiliaji; Asubuhi moja gharama ya kila siku iliongezeka mara tatu. Ilionekana kutoka kwa magogo kwamba mteja aliingia kitanzi na kutuma ombi sawa mara maelfu. Waliongeza kiasi na kupunguzwa; Tatizo lilitatuliwa baada ya saa chache. Bila kufuatilia, muswada huo utakuwa wa kushangaza mwishoni mwa mwezi.

Kesi ya 3 - Kukubali kikomo. Uanzishaji wa huduma ya afya ulikuwa unapanga kufanya pendekezo la utambuzi kiotomatiki na kumwonyesha mgonjwa. Katika mapitio ya maadili na dhima, waliamua hii ilikuwa isiyo na mipaka: mfano hutoa tu muhtasari na pointi iwezekanavyo kwa daktari, daktari hufanya uchunguzi. Kutofanya kazi kiotomatiki pia ni uamuzi wa muundo wa watu wazima.

Makosa ya kawaida

• Kuruka uthibitishaji: Kutumia matokeo kwa upofu, ukisema "mfano ni mzuri".
• Kujiendesha kwa uamuzi wenye athari kubwa: Idhini ya mwanadamu ni muhimu katika pesa/afya/sheria.
• Sio ufuatiliaji: Matatizo ya gharama na ubora hugunduliwa kuchelewa.
• Kuandika data nyeti kwa kumbukumbu: Ukiukaji wa faragha; Ihifadhi kwa kuifunga.
• Kutojaribu kutegemea chanzo: Mfano unaweza kutengeneza kile ambacho hakipo kwenye hati.
• Kupuuza mipaka: Kutoendesha baadhi ya kazi kiotomatiki ni uamuzi sahihi; Uwazi na uwajibikaji ni wako.

Kina zaidi: Usimamizi wa Utoaji, Kurudisha nyuma, na Usambazaji wa Kuongezeka

Kuchukua kipengele cha LLM katika uzalishaji si kuhusu kukiweka na kukisahau; ni kurekebisha mfumo wa moja kwa moja kwa usalama baada ya muda. Ina nguzo tatu.

Inatayarisha. Kidokezo cha mfumo wako, uteuzi wa muundo na sheria za uthibitishaji hubadilika kadiri muda unavyopita. Toa kila mabadiliko muhimu na urekodi ni toleo gani linapatikana moja kwa moja. Ikiwa siku moja ubora hupungua, "tulibadilisha nini?" Unapaswa kuwa na uwezo wa kujibu swali ndani ya dakika. Katika mfumo usio na toleo, kutafuta sababu kuu ya kurudi nyuma huchukua siku.

Rudisha nyuma. Iwapo kidokezo kipya au modeli itatenda vibaya zaidi kuliko inavyotarajiwa moja kwa moja, unapaswa kuwa na uwezo wa kurejea kwa haraka toleo la awali, linalojulikana sana. Mabadiliko bila mpango wa kurejesha ni kukubali kwa upofu hatari ya moja kwa moja. "Nilibadilisha kitu, kilikua mbaya, siwezi kurudi nyuma" ndio hali ya gharama kubwa zaidi ya uzalishaji.

Utoaji wa taratibu. Badala ya kutekeleza mabadiliko kwa watazamaji wote kwa wakati mmoja, unaiweka kwa asilimia ndogo (k.m. 5%) kwanza na ufuatilie vipimo (ubora, gharama, makosa). Ikiwa ni nzuri, unaongeza asilimia; Ikiwa ni mbaya, utairudisha ikiwa na sehemu ndogo tu iliyoathiriwa. Hii inapunguza sana hatari.

Mbinu hizi tatu huchanganya mbinu kutoka kwa vitengo vyote vilivyotangulia: vipimo vya eval (kitengo 5) hubadilika mapema, ufuatiliaji (kitengo hiki) hutoa onyo la mapema wakati wa uenezi, safu ya uthibitishaji hupata matokeo yenye makosa kabla ya kuchukuliwa hatua. Uzalishaji sio usanidi mmoja sahihi; Ni nidhamu endelevu ambayo hupima, kufuatilia na inaweza kubadilika kwa kujiamini. Moduli nzima ni kwako kuanzisha nidhamu hii.

Kwa muhtasari

Uzalishaji ni zaidi ya onyesho linalofanya kazi: ni bomba la pembejeo, muundo, uthibitishaji, hatua na safu za ufuatiliaji. Matokeo hayawezi kutegemewa bila uthibitishaji; maamuzi yenye athari kubwa yanafungamanishwa na idhini ya mwanadamu; Kila simu inafuatiliwa kwa gharama, makosa na ubora. Maadili, uwazi, udhibiti wa upendeleo, uwajibikaji na kukubalika kwa mipaka ni muhimu kwa maamuzi ya kiufundi. Kila sehemu iliyojifunza katika moduli hii inakuja pamoja katika muundo huu wa jumla.

Jukumu la maombi

Tengeneza kipengele cha LLM kutoka mwisho hadi mwisho. (1) Jaza safu tano (ingizo, modeli, uthibitishaji, kitendo, ufuatiliaji) kwa kazi yako mahususi. (2) Weka alama kwa matokeo ambayo maamuzi yatahitaji idhini ya kibinadamu. (3) Andika angalau ukaguzi tatu wa uthibitishaji (schema, sheria, chanzo). (4) Bainisha vipimo muhimu utavyofuatilia na usichoweza kuweka. (5) Andika kikomo na kanuni ya kimaadili ambayo unakubali katika kipengele hiki.

orodha ya ukaguzi

• [ ] Ninaweza kubuni tabaka tano za bomba la uzalishaji.
• [ ] Ninaweza kuhalalisha pato dhidi ya schema, sheria na chanzo.
• [ ] Ninaweza kuweka kikomo cha idhini ya binadamu kulingana na athari ya uamuzi.
• [ ] Ninafuatilia gharama, makosa na ubora na hujizoeza kutoandika data nyeti kwenye kumbukumbu.
• [ ] Ninaweza kubadilisha maadili, uwajibikaji na mipaka kuwa maamuzi ya uzalishaji.

Mtihani wa Moduli

1. Jukumu la 'mfumo' hufanya nini katika API ya gumzo ya LLM?

• A) Hutoa kielelezo maagizo ya kudumu na kanuni za tabia zinazotumika katika mazungumzo yote ✔
• B) Huweka swali la mwisho lililoandikwa na mtumiaji
• C) Huhifadhi majibu yanayotolewa na modeli
• D) Husimba kwa njia fiche kitufe cha API

Maelezo: Jukumu la mfumo humpa kielelezo maagizo endelevu, utu, na sheria zinazotumika katika mazungumzo yote; Ni uelekezaji kwingine wa kiwango cha juu, tofauti na ujumbe wa mtumiaji.

2. Kwa nini historia ya mazungumzo (ujumbe uliotangulia) hutumwa tena kila wakati katika ombi la API?

• A) Inahitajika kuhifadhi nakala wakati seva inafuta historia
• B) Simu za API hazina uraia; ✔ Muktadha hutumwa tena kwa kila ombi kwa sababu muundo haukumbuki historia
• C) Inahitajika tu kwa ankara, haina athari kwa mfano
• D) Kutuma historia ni lazima ili kuepuka kupunguza kasi ya majibu

Maelezo: Simu za LLM API hazina uraia; Mfano haukumbuki raundi zilizopita, kwa hivyo historia yote muhimu hukasirishwa kwa kila ombi la kuhifadhi muktadha.

3. Je, 'ishara' katika bei ya LLM ni nini?

• A) Nenosiri la mara moja linalotumika kuingia kwenye API
• B) Ada isiyobadilika inayolipwa kwa kila ombi
• C) Kitengo kidogo zaidi ambacho modeli huchakata maandishi; kwa kawaida hulingana na sehemu ya neno ✔
• D) Kitengo kinachopima urefu wa pato pekee

Maelezo: Ishara ni kitengo kidogo zaidi ambacho modeli huchakata maandishi; Kawaida inalingana na kipande cha neno, na pembejeo na pato zote mbili hushtakiwa kulingana na idadi ya ishara.

4. Kwa nini tokeni za pato ni ghali zaidi kuliko tokeni za pembejeo kwa watoa huduma wengi wa LLM?

• A) Tokeni za pato daima ni ndefu kuliko ingizo
• B) Ishara za kuingiza ni bure
• C) Tokeni za pato hutumwa mara mbili kwenye mtandao
• D) Gharama ya kitengo ni kubwa zaidi kwa sababu uzalishaji wa pato unahitaji hesabu za ziada kwa kila tokeni ✔

Maelezo: Kila moja ya ishara za pato inahitaji mtindo kufanya kizazi cha hatua kwa hatua (hesabu); Gharama hii ya uzalishaji ni kubwa kuliko kuchakata pembejeo zote kwa wakati mmoja, kwa hivyo bei ya kitengo cha pato kawaida huwa juu.

5. Ni katika hali gani kutumia utiririshaji kunafaa zaidi?

• A) Katika majibu marefu; Hupunguza ucheleweshaji unaoonekana na huzuia muda kuisha ✔
• B) Kwa kifupi tu, majibu ya neno moja
• C) Kupunguza gharama hadi sifuri
• D) Kuficha ufunguo wa API

Maelezo: Katika majibu marefu, utiririshaji hupunguza muda unaotambulika kwa kufanya maneno ya kwanza yaonekane mara moja na huzuia kuisha kwa muda kwa HTTP kwa thamani kubwa za max_tokens.

6. Kuongeza kigezo cha 'juhudi' katika mifano ya kisasa kwa ujumla huathiri nini?

• A) Futa jibu kila wakati
• B) Huzungusha kiotomatiki kitufe cha API
• C) Inapunguza tu bei ya tokeni ya pembejeo
• D) Huongeza kina cha kufikiri na matumizi ya ishara; Inaweza kuboresha ubora, lakini pia huongeza muda wa kusubiri na gharama ✔

Maelezo: Parameta ya jitihada hurekebisha jinsi mtindo utafikiri kwa undani juu ya kazi na ni ishara ngapi zitatumia; Uboreshaji unaweza kuboresha ubora, lakini pia huongeza muda na gharama. Kwa kazi rahisi, juhudi za chini zinatosha.

7. Je, kwa ujumla ni mbinu gani ya gharama nafuu zaidi kwa kazi rahisi ya uainishaji wa kiasi cha juu?

• A) Daima tumia mtindo wa gharama kubwa na wenye nguvu zaidi
• B) Kuita mifano yote kwa wakati mmoja kwa kila ombi
• C) Kuchagua mtindo mwepesi/nafuu zaidi unaotimiza kazi kwa kuithibitisha kwa eval kidogo ✔
• D) kuweka max_tokens thamani ya juu sana bila lazima

Ufafanuzi: Ikiwa kazi si ngumu, kuchagua mtindo wa haraka na wa bei nafuu unaotimiza kazi hiyo kwa urahisi (k.m. darasa la Haiku) badala ya kutumia mtindo wa gharama kubwa na wenye nguvu kutapunguza gharama kwa kiasi kikubwa.

8. Ni katika hali gani ambapo uakibishaji wa haraka unapunguza gharama zaidi?

• A) Muktadha mkubwa na usiobadilika unapotumiwa mara kwa mara katika maombi mengi ✔
• B) Wakati maandishi tofauti kabisa yanatumwa na kila ombi
• C) Wakati ombi moja tu linafanywa
• D) Kupunguza tokeni za pato

Maelezo: Uakibishaji ni kiambatanisho cha kiambishi awali; Katika hali ambapo muktadha mkubwa usiobadilika (uhakika wa mfumo, hati) unatumiwa tena kwa maombi mengi, kusoma kutoka kwa akiba ni sehemu ndogo (~0.1x) ya bei kamili.

9. Je, nifanyeje kuhariri kidokezo ili akiba ya papo hapo iguse?

• A) Kuweka maudhui yanayobadilika mwanzoni na yaliyowekwa mwisho mwishoni
• B) Pachika tarehe na saa ya sasa katika kidokezo cha mfumo kwa kila ombi
• C) Kuweka yaliyomo fasta (uhakika wa mfumo, hati) mwanzoni na yaliyomo tofauti mwishoni ✔
• D) Kubadilisha mpangilio wa orodha ya zana na kila ombi

Ufafanuzi: Kwa kuwa kache ni mechi ya kiambishi awali, maudhui yasiyobadilika/yasiyobadilika (uhakika wa mfumo, hati) huanzishwa; yaliyomo tofauti (tarehe, swali la mtumiaji, kitambulisho cha ombi) huwekwa mwishoni. Hata byte moja iliyobadilishwa mwanzoni itabatilisha kache.

10. Ni aina gani ya mzigo wa kazi ambayo usindikaji wa kundi unafaa zaidi?

• A) Gumzo la moja kwa moja ambapo mtumiaji anatarajia jibu la papo hapo kwenye skrini
• B) Swali moja fupi tu
• C) Inazalisha ufunguo wa API
• D) Kazi zinazostahimili kuchelewa, ujazo mkubwa na hazihitaji matokeo ya haraka ✔

Maelezo: Usindikaji wa kundi unafaa kwa idadi kubwa ya kazi ambazo hazihitaji majibu ya haraka na zinastahimili ucheleweshaji; matokeo hutolewa baada ya muda fulani, lakini gharama ya kitengo kawaida huwa chini.

11. Ni nini kinatumika kulinganisha kwa ujasiri ombi ambalo matokeo ni ya kundi?

• A) Kutuma agizo (nafasi) ya maombi
• B) Urefu wa majibu
• C) Nambari 4 za mwisho za ufunguo wa API
• D) Kitambulisho cha kipekee kinachotolewa kwa kila ombi ✔

Kumbuka: Matokeo ya wingi yanaweza kurejeshwa kwa mpangilio tofauti na agizo la uwasilishaji; kwa hivyo ni muhimu kulinganisha matokeo kwa kitambulisho, si mahali, kwa kitambulisho cha kipekee cha custom_id kinachotolewa kwa kila ombi.

12. Ni tabia gani inayopendekezwa unapopokea hitilafu ya 429 (kikomo cha kiwango) kutoka kwa API?

• A) Kulazimisha kwa kutuma maombi mengi zaidi kwa wakati mmoja
• B) Kujaribu tena kwa kurudisha nyuma kielelezo, kufuatia kichwa cha kujaribu tena ✔
• C) Ghairi ombi kabisa na uonyeshe kosa kama hitilafu kwa mtumiaji
• D) Kubadilisha ufunguo wa API

Maelezo: 429 ni hitilafu inayoweza kujaribiwa tena; Mbinu sahihi ni kujaribu tena kwa kielelezo nyuma, ukiheshimu kichwa cha kujaribu tena. SDK nyingi rasmi hufanya hivi kiotomatiki.

13. Ni misimbo ipi kati ya zifuatazo za hitilafu za HTTP ambazo kwa ujumla huchukuliwa kuwa zinaweza kujaribiwa tena?

• A) 400 (ombi batili)
• B) 401 (hitilafu ya uthibitishaji)
• C) 529 (seva imejaa) ✔
• D) 404 (haijapatikana)

Ufafanuzi: 429 (kikomo cha kasi), 500 (hitilafu ya seva) na 529 (upakiaji mwingi) ni makosa ya muda na inaweza kujaribiwa tena kwa kughairi. Makosa kama 400 na 401 ni masuala ya ombi/kitambulisho; Kujaribu tena hakutatatua.

14. Ni ipi kati ya zifuatazo ni njia salama ya kudhibiti funguo za API?

• A) Kuhifadhi katika meneja wa kutofautisha/aliyefichwa, bila kuipachika kwenye msimbo na kuzunguka mara kwa mara ✔
• B) Andika ufunguo moja kwa moja kwenye msimbo wa chanzo na utume kwenye hifadhi
• C) Kuweka ufunguo katika upande wa mteja (kivinjari) JavaScript
• D) Kushiriki ufunguo mmoja na timu nzima kupitia barua pepe

Maelezo: Funguo hazijaandikwa kwa msimbo wa chanzo au hazina; Inahifadhiwa katika muundo tofauti wa mazingira au zana iliyofichwa ya usimamizi, iliyotolewa kwa upendeleo mdogo, na kuzungushwa mara kwa mara.

15. Ni ipi njia bora zaidi ya ujumuishaji wa LLM na zana ya otomatiki (n8n, Zapier, Make) katika suala la faragha?

• A) Kutuma data zote mbichi kwa mfano, hata ikiwa sio lazima
• B) Kuandika kitufe cha API kwa maandishi wazi ndani ya hatua ya mtiririko
• C) Kupunguza na kuficha data nyeti na kuhifadhi ufunguo kama kitambulisho cha siri ✔
• D) Kuweka data ya kibinafsi kabisa katika historia ya mtiririko

Maelezo: Data inayoingiza kiotomatiki inapopitia mifumo na muundo wa watu wengine, data nyeti/ya kibinafsi inahitaji kupunguzwa, kufunikwa na sehemu zinazohitajika tu kutumwa; Ufunguo wa API pia huhifadhiwa kama kitambulisho cha siri ndani ya zana.

16. Kwa nini uthibitishaji wa pato ni lazima katika kipengele cha uzalishaji cha LLM?

• A) Umbizo pekee ndilo linalohitajika kwa sababu kielelezo hakifanyi makosa kamwe
• B) Kwa sababu modeli inaweza kutoa majimaji lakini wakati mwingine vibaya; Schema/kanuni lazima ikaguliwe kwa rasilimali na idhini ya kibinadamu ✔
• C) Uthibitishaji unapaswa kuepukwa kwa sababu huongeza tu gharama
• D) Uthibitishaji ni kupunguza tu idadi ya ishara

Maelezo: LLM zinaweza kutoa pato kwa ufasaha lakini wakati mwingine zisizo sahihi (hallucinatory); hivyo ilitoka katika maamuzi yenye matokeo makubwa; Inapaswa kukaguliwa kwa kuangalia taratibu/kanuni, uthibitishaji wa chanzo, na idhini ya kibinadamu inapobidi.