Produzzjoni minn tarf sa tarf: Verifika, Monitoraġġ u Etika

Qligħ:

• Jista' jiddisinja l-arkitettura minn tarf sa tarf li tieħu karatteristika LLM mill-idea sal-produzzjoni
• Jistabbilixxi saffi ta' infurzar tal-verifika, approvazzjoni umana, u traċċar (logging/metrika)
• Il-konfini jittraduċu l-etika u l-prinċipji tal-privatezza f'deċiżjonijiet ta' produzzjoni

Fl-għaxar unitajiet preċedenti, tgħallimna l-partijiet waħda waħda: struttura tat-talba, ekonomija tat-token, fluss, sistema fil-pront, għażla tal-mudell, cache, lott, ġestjoni tal-iżbalji, ċavetta sikura u awtomazzjoni. F'din l-aħħar unità, aħna ngħaqqdu l-partijiet u nistabbilixxu l-arkitettura olistika li ġġorr karatteristika LLM mill-idea sal-produzzjoni. Il-produzzjoni hija differenti minn "demo ta' ħidma": il-verifika hija obbligatorja, l-output għandu jiġi mmonitorjat, il-konfini u l-prinċipji etiċi għandhom ikunu inkorporati fid-deċiżjonijiet. Din l-unità hija l-kolonna trasportatur tal-modulu; Dawk kollha preċedenti jingħaqdu hawn.

Saffi ta 'Arkitettura tal-Produzzjoni

Kwalifika LLM solida tikkonsisti minn bejn wieħed u ieħor ħames saffi:

1. Saff tad-dħul: Iġbor id-data, naddafha, maskra żoni sensittivi, tittrasmetti biss dak li huwa meħtieġ.
2. Saff tal-mudell: Agħżel il-mudell korrett (unità 5), issettja l-pront tas-sistema u l-parametri (unità 4), cache (unità 6).
3. Saff ta 'validazzjoni: Iċċekkja l-output kontra skema/regola, sors, u approvazzjoni umana jekk meħtieġ.
4. Saff ta 'azzjoni: Wettaq azzjoni b'output validat; Aqbad azzjonijiet ta 'impatt għoli.
5. Saff ta 'monitoraġġ: Irreġistra u kejjel kull sejħa, spiża, żball u kwalità.

Dawn is-saffi huma pipeline; kull wieħed jiċċekkja l-output ta 'qabel.

Għaliex hija Meħtieġa Verifika?

LLMs jistgħu jipproduċu output fluwenti iżda kultant mhux preċiż. Din tissejjaħ alluċinazzjoni: il-mudell jista' jiffabbrika informazzjoni li tidher vera iżda mhix. F'chat game dan huwa tollerabbli; ma jistax jiġi ttollerat f'sistema ta' produzzjoni (fattura, saħħa, legali, finanzi). Allura rriżulta, bl-addoċċ mhux affidabbli; hija kkonfermata.

Saffi ta' verifika (jiżdied bl-impatt):

• Validazzjoni tal-format/skema: L-output jikkonforma mal-iskema JSON mistennija? (L-output strutturat fil-biċċa l-kbira jiggarantixxi dan.)
• Verifika tar-regola/loġika: Il-valuri huma raġonevoli? (L-ammont huwa negattiv, id-data hija fil-futur, il-kategorija hija valida?)
• Verifika tas-sors: It-talba hija bbażata fuq id-dokumentazzjoni pprovduta? Il-mudell jgħid xi ħaġa li mhix fid-dokument?
• Approvazzjoni umana: Espert jirrevedi deċiżjonijiet ambigwi jew b'impatt għoli.

Attenzjoni: "Il-mudell huwa tant tajjeb, m'hemmx bżonn ta 'verifika ulterjuri" hija l-aktar fallacy ta' produzzjoni perikoluża. Ma jimpurtax kemm hu tajjeb il-mudell, is-saff ta 'verifika huwa xibka ta' sikurezza f'deċiżjonijiet b'impatt għoli. Anke deċiżjoni waħda awtomatika ħażina tista 'tneħħi l-ħin kollu ffrankat.

Human-in-the-Loop

Mhux kull deċiżjoni trid tkun kompletament awtomatika. Fl-approċċ uman-in-the-loop, il-mudell iħaffef ix-xogħol u l-bniedem japprovah. Il-bilanċ it-tajjeb jiddependi fuq l-impatt tad-deċiżjoni u l-affidabbiltà tal-mudell fuq dak il-kompitu.

Impatt tad-deċiżjoni

Approċċ

Baxxa (suġġeriment tat-tikketta, abbozz)

Awtomazzjoni sħiħa; żball huwa irħis u riversibbli

Medju (rotot, prijoritizzazzjoni)

Awtomazzjoni + kontroll tal-kampjunar

Għoli (flus, kuntratt, saħħa, tħassir)

Il-kunsens tal-bniedem huwa obbligatorju; il-mudell jissuġġerixxi biss

Monitoraġġ: Ma tistax timmaniġġja dak li ma tarax

Fil-produzzjoni, trid tissorvelja kull sejħa. Mingħajr monitoraġġ, ma tistax ittejjeb l-ispiża, il-kwalità, jew taqbad problema kmieni. Metriċi ewlenin biex tirrekordja:

• Użu/ispiża: Għal kull talba u tokens totali, distribuzzjoni tal-mudell, infiq ta 'kuljum.
• Latency: Ħin ta' rispons medju u fl-agħar każ.
• Rata ta 'żball: 429/500 rati, tentattivi mill-ġdid, abbandun.
• Kwalità: Rata ta 'produzzjoni rifjutata fis-saff ta' verifika, rata ta 'korrezzjoni bl-approvazzjoni tal-bniedem, feedback tal-utent.

Tip: Tiktebx data sensittiva (informazzjoni personali, ċwievet) fir-reġistru tal-monitoraġġ. Ikkunsidra zkuk fl-ambitu tal-kunfidenzjalità; irrekordja billi tikmaskra jekk meħtieġ (unit 9).

Etika u Konfini

Ir-responsabbiltà etika hija parti mid-deċiżjoni tal-produzzjoni daqs l-eżattezza teknika:

• Trasparenza: L-utent għandu jkun jaf jekk huwiex qed jitkellem ma 'intelliġenza artifiċjali jew bniedem.
• Ekwità u preġudizzju: Il-mudell jista' jġorr preġudizzju mid-dejta li fuqha huwa mħarreġ; Tissorvelja l-konsegwenzi diskriminatorji f'deċiżjonijiet b'impatt għoli (kiri, kreditu).
• Responsabbiltà: Jekk deċiżjoni awtomatizzata tikkawża ħsara, int responsabbli; "Il-mudell qal hekk" mhix difiża.
• Aċċettazzjoni tal-limiti: Il-mudell ma jistax iwettaq xi kompiti b'mod affidabbli; li ma awtomathomx hija wkoll deċiżjoni tad-disinn.

Mudelli Kopjabbli

# Lista ta' kontroll tal-validazzjoni (wara l-ġenerazzjoni tal-output)1) L-iskema hija valida? (validazzjoni strutturata tal-output)2) Il-valuri jagħmlu sens? (kontroll tar-regola: firxa, data, enum)3) It-talba hija bbażata fuq is-sors? (irrifjuta jekk mhux fid-dokument)4) L-impatt huwa għoli? → ibgħat għall-approvazzjoni umana5) Jekk kollox għadda → ippermetti azzjoni, ħlief

# Sistema fil-pront li ġġiegħel li tiddependi fuq is-sors Jiddependi biss fuq l-informazzjoni fid-dokument ipprovdut. Iżżidx xi ħaġa li mhix fid-dokument. Jekk informazzjoni mhix fid-dokument, ikteb "Ma nstabx fid-dokument". Qatt aqta jew tpatti affarijiet.

# Limitu ta' approvazzjoni tal-bniedem (regola ta' deċiżjoni)IF tip_deċizjoni fi [flus, kuntratt, ħassar, saħħa] → approvazzjoni umana mandatoryIF model_trust < threshold JEW validazzjoni "inċerta" → tissottometti għall-approvazzjoni tal-bniedem OĦRA → applika awtomatikament + kontroll tal-kampjunar

# Trace log template (kitba ta' data sensittiva){ "time":"...", "model":"...", "input_token":..., "output_token":..., "delay_ms":..., "stop_reason":"...", "authentication":"passed|rejected|human", "cost_usd/data personali":...

Pront dgħajjef / Pront qawwi (affidabbiltà tal-produzzjoni)

# DGĦAJFJA (l-ebda verifika, l-ebda sors, tapplika awtomatikament) Evalwa din it-talba, agħmel deċiżjoni ta' rifużjoni u applika.

# STRONG (bbażat fuq is-sors, jiġġenera rakkomandazzjoni, iħalli għall-approvazzjoni tal-bniedem) Evalwa din it-talba għar-ritorn ibbażata fuq id-dokument tal-politika tar-ritorn biss. Irrakkomanda deċiżjoni b'ġustifikazzjoni iżda ma timplimentax: {"recommendation":"approve|reject","reson":"...","policy_clause":"..."}.Jekk ma jkunx hemm bażi ċara fid-dokument tal-politika, agħti "mhux ċara". Rappreżentant japprova d-deċiżjoni finali.

Verżjoni qawwija; Jattribwixxi d-deċiżjoni lis-sors, iqiegħed il-mudell bħala "suġġeritur" aktar milli "jagħmel," u jpoġġi l-pass ta 'impatt għoli wara l-approvazzjoni tal-bniedem. Din hija l-essenza tal-affidabilità tal-produzzjoni.

Tliet Każijiet Mini

Każ 1 — Il-jum li fih is-saff ta' verifika ġie salvat. Fintech kien qed ikollu l-mudell jikklassifika deskrizzjonijiet tat-tranżazzjonijiet u joħloq rekords tal-kontabilità awtomatiċi. Huma żiedu l-validazzjoni tar-regola: ladarba l-mudell joħroġ l-ammont ħażin (12,500 minflok 1,250 fid-dokument), ir-regola "l-ammont ma jaqbilx mad-dokument" irrifjutat l-output u r-rekord waqa 'fuq il-bniedem. Jekk ma kienx hemm verifika, ir-rekord mhux korrett jidħol fis-sistema fis-skiet.

Każ 2 — Maħrub maqbud mis-sorveljanza. Tim SaaS kien waqqaf panel ta’ monitoraġġ; Filgħodu waħda l-ispiża ta’ kuljum ittriplikat. Miċ-zkuk deher li klijent daħal f'linja u bagħat l-istess talba eluf ta' drabi. Huma żiedu l-kwota u d-duplikazzjoni; Il-problema ġiet solvuta fi żmien sigħat. Mingħajr traċċar, il-kont ikun sorpriża fl-aħħar tax-xahar.

Każ 3 — Aċċettazzjoni tal-limitu. Startup tal-kura tas-saħħa kienet qed tippjana li tagħmel rakkomandazzjoni ta’ dijanjosi b’mod sħiħ awtomatikament u turiha lill-pazjent. F'reviżjoni tal-etika u r-responsabbiltà, iddeċidew li dan kien barra mill-limiti: il-mudell jipprovdi biss sommarju u punti possibbli lil tabib, it-tabib jagħmel id-dijanjosi. Mhux awtomatizzazzjoni ta 'xogħol hija wkoll deċiżjoni ta' disinn matura.

Żbalji komuni

• Validazzjoni taqbeż: Blindly tapplika l-output, tgħid "il-mudell huwa tajjeb".
• Awtomatizzazzjoni ta' deċiżjoni b'impatt għoli: L-approvazzjoni tal-bniedem hija essenzjali fil-flus/is-saħħa/il-liġi.
• Mhux monitoraġġ: Il-problemi tal-ispiża u tal-kwalità jiġu skoperti tard.
• Kitba ta' dejta sensittiva għal zkuk: Ksur tal-privatezza; Issejvjah billi taħbiha.
• Li ma tipprovax tistrieħ fuq is-sors: Il-mudell jista 'jagħmel dak li mhux fid-dokument.
• L-injorar tal-limiti: L-awtomatizzazzjoni ta' xi kompiti hija d-deċiżjoni t-tajba; It-trasparenza u r-responsabbiltà huma tiegħek.

Aktar fil-fond: Ġestjoni tar-rilaxx, Rollback, u Skjerament Inkrementali

Li tieħu karatteristika LLM fil-produzzjoni mhix dwar it-twaqqif u tinsa dwarha; huwa li timmodifika b'mod sikur sistema ħaj maż-żmien. Għandu tliet pilastri.

Verżjoni. Is-sistema tiegħek fil-pront, l-għażla tal-mudell u r-regoli tal-verifika jinbidlu maż-żmien. Verżjoni kull bidla sinifikanti u rekord liema verżjoni hija live. Jekk xi darba l-kwalità tinżel, "x'biddilna?" Għandek tkun kapaċi twieġeb il-mistoqsija fi ftit minuti. F'sistema bla verżjoni, is-sejba tal-kawża ewlenija ta 'rigressjoni tieħu jiem.

Qlib lura. Jekk pront jew mudell ġdid iġib ruħu agħar milli mistenni fil-live, għandek tkun tista 'terġa' lura malajr għall-verżjoni preċedenti magħrufa sew. Bidla mingħajr pjan ta 'rollback qed taċċetta bl-addoċċ riskju ħaj. "Bdilt xi ħaġa, marret ħażin, ma nistax immur lura" huwa l-aktar xenarju ta 'produzzjoni għali.

Tnedija gradwali. Minflok ma tapplika bidla għat-traffiku kollu f'daqqa, l-ewwel tixxandarha għal persentaġġ żgħir (eż. 5%) u timmonitorja l-metriċi (kwalità, spiża, żbalji). Jekk huwa tajjeb, inti żżid il-persentaġġ; Jekk huwa ħażin, int ser terġa 'lura b'sezzjoni żgħira biss affettwata. Dan jillimita ħafna r-riskju.

Dawn it-tliet prattiki jgħaqqdu tekniki mill-unitajiet preċedenti kollha: eval (unità 5) ikejjel il-bidla minn qabel, il-monitoraġġ (din l-unità) jagħti twissija bikrija matul il-propagazzjoni, is-saff ta 'verifika jaqbad outputs żbaljati qabel ma jsiru azzjonabbli. Il-produzzjoni mhix setup korrett wieħed; Hija dixxiplina kontinwa li tkejjel, timmonitorja u tista’ tinbidel b’kunfidenza. Il-modulu kollu huwa għalik biex tistabbilixxi din id-dixxiplina.

Fil-qosor

Il-produzzjoni hija aktar minn demo ta 'ħidma: hija pipeline ta' input, mudell, verifika, azzjoni u saffi ta 'monitoraġġ. L-output mhuwiex affidabbli mingħajr verifika; deċiżjonijiet b'impatt għoli huma marbuta mal-approvazzjoni tal-bniedem; Kull sejħa hija mmonitorjata għall-ispiża, żbalji u kwalità. L-etika, it-trasparenza, il-kontroll tal-preġudizzju, ir-responsabbiltà u l-aċċettazzjoni tal-limiti huma integrali għad-deċiżjonijiet tekniċi. Kull biċċa mgħallma f'dan il-modulu tingħaqad flimkien f'dan id-disinn olistiku.

Kompitu ta' applikazzjoni

Iddisinja karatteristika LLM minn tarf sa tarf. (1) Imla l-ħames saffi (input, mudell, verifika, azzjoni, monitoraġġ) għall-kompitu speċifiku tiegħek. (2) Immarka b'impatt liema deċiżjonijiet se jeħtieġu l-approvazzjoni tal-bniedem. (3) Ikteb mill-inqas tliet kontrolli ta' validazzjoni (skema, regola, sors). (4) Iddetermina l-metriċi ewlenin li ser issegwi u dak li mhux se tilloggja. (5) Ikteb limitu u prinċipju etiku li taċċetta f'din il-karatteristika.

lista ta' kontroll

• [ ] Kapaċi nfassal ħames saffi tal-pipeline tal-produzzjoni.
• [ ] Kapaċi nivvalida l-output kontra skema, regola u sors.
• [ ] Kapaċi nistabbilixxi limitu ta' approvazzjoni mill-bniedem ibbażat fuq l-impatt tad-deċiżjoni.
• [ ] Nissorvelja l-ispiża, l-iżball u l-kwalità u nipprattika li ma nikteb dejta sensittiva fir-reġistri.
• [ ] Kapaċi nittrasforma l-etika, ir-responsabbiltà u l-konfini f'deċiżjonijiet ta' produzzjoni.

Eżami tal-Modulu

1. X'jagħmel ir-rwol ta' 'sistema' f'API chat LLM?

• A) Jagħti lill-mudell struzzjonijiet permanenti u regoli ta' mġiba li japplikaw matul il-konversazzjoni kollha ✔
• B) Iżomm l-aħħar mistoqsija miktuba mill-utent
• C) Taħżen ir-rispons prodott mill-mudell
• D) Jikkodifika ċ-ċavetta API

Deskrizzjoni: Ir-rwol tas-sistema jagħti lill-mudell istruzzjonijiet persistenti, personalità, u regoli li japplikaw matul il-konversazzjoni kollha; Huwa redirect ta' livell għoli, separat mill-messaġġi tal-utent.

2. Għaliex l-istorja tal-konversazzjoni (messaġġi preċedenti) terġa' tintbagħat kull darba f'talba API?

• A) Huwa meħtieġ li tagħmel backup peress li s-server iħassar l-istorja
• B) Sejħiet API huma mingħajr stat; ✔ Il-kuntest huwa resent fuq kull talba għax il-mudell ma jiftakarx l-istorja
• C) Meħtieġa biss għall-fatturazzjoni, m'għandha l-ebda effett fuq il-mudell
• D) L-istorja tal-bgħit hija obbligatorja biex jiġi evitat li r-rispons jitrażżan

Spjegazzjoni: Sejħiet LLM API huma mingħajr stat; Il-mudell ma jiftakarx rawnds preċedenti, għalhekk l-istorja rilevanti kollha hija resent fuq kull talba biex jiġi ppreservat il-kuntest.

3. X'inhu "token" fl-ipprezzar tal-LLM?

• A) Password ta' darba użata biex tidħol fl-API
• B) Miżata fissa mħallsa fuq kull talba
• C) L-iżgħar unità li fiha l-mudell jipproċessa t-test; normalment jikkorrispondi mal-parti tal-kelma ✔
• D) Unità li tkejjel biss it-tul tal-output

Deskrizzjoni: Token huwa l-iżgħar unità li fiha l-mudell jipproċessa t-test; Normalment jikkorrispondi għal framment ta 'kelma, u kemm input kif ukoll output huma ċċarġjati abbażi tan-numru ta' tokens.

4. Għaliex it-tokens tal-output jiswew aktar mit-tokens tal-input fil-biċċa l-kbira tal-fornituri tal-LLM?

• A) It-tokens tal-ħruġ huma dejjem itwal mill-input
• B) It-tokens tal-input huma b'xejn
• C) It-tokens tal-output jintbagħtu darbtejn fuq l-internet
• D) L-ispiża unitarja hija ogħla minħabba li l-ġenerazzjoni tal-output teħtieġ kalkoli addizzjonali għal kull token ✔

Deskrizzjoni: Kull wieħed mit-tokens tal-output jeħtieġ li l-mudell iwettaq ġenerazzjoni pass pass (komputazzjoni); Din l-ispiża tal-produzzjoni hija ogħla mill-ipproċessar tal-input kollha f'daqqa, għalhekk il-prezz tal-unità tal-produzzjoni huwa ġeneralment ogħla.

5. F'liema sitwazzjoni l-użu tal-istreaming huwa l-aktar ta 'benefiċċju?

• A) Fi tweġibiet twal; Inaqqas id-dewmien perċepit u jipprevjeni timeout ✔
• B) Biss fi tweġibiet qosra ħafna, ta’ kelma waħda
• C) Biex tnaqqas l-ispiża għal żero
• D) Biex taħbi ċ-ċavetta API

Deskrizzjoni: Fi tweġibiet twal, l-istreaming inaqqas il-latenza perċepita billi jagħmel l-ewwel kliem jidher immedjatament u jipprevjeni ħinijiet HTTP f'valuri ta 'max_tokens kbar.

6. X'jeffettwa b'mod ġenerali ż-żieda fil-parametru tal-'isforz' f'mudelli moderni?

• A) Dejjem qassar it-tweġiba
• B) Iddur awtomatikament iċ-ċavetta API
• C) Inaqqas biss il-prezz tat-token tal-input
• D) Iżżid il-fond tal-ħsieb u l-infiq simboliku; Jista' jtejjeb il-kwalità, iżda jżid ukoll il-latenza u l-ispiża ✔

Deskrizzjoni: Il-parametru tal-isforz jaġġusta kemm il-mudell se jaħseb dwar biċċa xogħol u kemm se jonfoq tokens; L-aġġornament jista' jtejjeb il-kwalità, iżda jżid ukoll il-latenza u l-ispiża. Għal ħidmiet sempliċi, sforz baxx huwa biżżejjed.

7. X'inhu ġeneralment l-aktar approċċ kost-effettiv għal kompitu ta 'klassifikazzjoni sempliċi u ta' volum għoli?

• A) Dejjem uża l-aktar mudell għali u b'saħħtu
• B) Sejħa lill-mudelli kollha fl-istess ħin għal kull talba
• C) L-għażla tal-eħfef/orħos mudell li twettaq il-kompitu billi tivverifikah bi ftit eval ✔
• D) iżżomm il-valur max_tokens għoli wisq bla bżonn

Spjegazzjoni: Jekk il-kompitu ma jkunx kumpless, l-għażla ta 'mudell aktar mgħaġġel u orħos li faċilment iwettaq il-kompitu (eż. klassi Haiku) minflok tuża l-mudell l-aktar għali u b'saħħtu tnaqqas l-ispiża b'mod sinifikanti.

8. F'liema xenarju il-caching fil-pront inaqqas l-aktar l-ispiża?

• A) Meta kuntest kbir u fiss jintuża ripetutament f'ħafna talbiet ✔
• B) Meta jintbagħat test kompletament differenti ma' kull talba
• C) Meta ssir talba waħda biss
• D) Biex tnaqqas it-tokens tal-output

Deskrizzjoni: Il-caching huwa prefiss taqbila; F'każijiet fejn kuntest kbir u immutabbli (pront tas-sistema, dokumenti) jerġa' jintuża f'ħafna talbiet, il-qari mill-cache huwa frazzjoni żgħira (~0.1x) tal-prezz sħiħ.

9. Kif għandi neditja l-pront sabiex il-cache fil-pront tolqot?

• A) Tpoġġi kontenut varjabbli fil-bidu u kontenut fiss fl-aħħar
• B) Inkorpora d-data u l-ħin kurrenti fis-sistema fil-pront għal kull talba
• C) Tpoġġi kontenut fiss (pront tas-sistema, dokumenti) fil-bidu u kontenut varjabbli fl-aħħar ✔
• D) Nibdlu l-ordni tal-lista tal-għodda ma 'kull talba

Spjegazzjoni: Peress li l-cache hija taqbila tal-prefiss, kontenut fiss/li ma jinbidilx (pront tas-sistema, dokumenti) huwa inizjalizzat; kontenut varjabbli (data, mistoqsija tal-utent, ID talba) jitqiegħed fl-aħħar. Anke byte wieħed mibdul fil-bidu jinvalida l-cache.

10. Għal liema tip ta' xogħol huwa l-aktar adattat l-ipproċessar tal-lott?

• A) Live chat fejn l-utent jistenna rispons immedjat fuq l-iskrin
• B) Mistoqsija qasira waħda biss
• C) Ġenerazzjoni taċ-ċavetta API
• D) Impjiegi li huma tolleranti għal dewmien, volum kbir u li ma jeħtiġux riżultati immedjati ✔

Deskrizzjoni: L-ipproċessar tal-lott huwa adattat għal volumi kbar ta 'impjiegi li ma jeħtiġux rispons immedjat u huma tolleranti għad-dewmien; ir-riżultati jitwasslu wara xi żmien, iżda l-ispiża tal-unità hija ġeneralment aktar baxxa.

11. X'inhu użat biex iqabbel b'mod kunfidenti liema talba jappartjenu r-riżultati f'lott?

• A) Tibgħat l-ordni (pożizzjoni) tat-talbiet
• B) Tul tat-tweġibiet
• C) L-aħħar 4 ċifri taċ-ċavetta API
• D) Custom_id uniku mogħti lil kull talba ✔

Rimarka: Ir-riżultati bl-ingrossa jistgħu jintbagħtu lura f'ordni differenti mill-ordni tas-sottomissjoni; għalhekk huwa meħtieġ li tqabbel ir-riżultati bl-ID, mhux il-post, b'custom_id uniku mogħti lil kull talba.

12. X'inhi l-imġieba rakkomandata meta tirċievi żball 429 (limitu tar-rata) mill-API?

• A) Sfurzar billi tibgħat ħafna aktar talbiet fl-istess ħin
• B) Erġa' pprova b'backoff esponenzjali, wara l-intestatura ta' wara mill-ġdid ✔
• C) Ikkanċella t-talba kompletament u uri l-iżball bħala ħabta lill-utent
• D) Nibdlu ċ-ċavetta API

Spjegazzjoni: 429 huwa żball li jista' jerġa' jipprova; L-approċċ korrett huwa li terġa 'tipprova b'backoff esponenzjali, filwaqt li tirrispetta l-header ta' retry-after. Ħafna mill-SDKs uffiċjali jagħmlu dan awtomatikament.

13. Liema mill-kodiċijiet ta' żball HTTP li ġejjin ġeneralment jitqiesu li jistgħu jerġgħu jippruvaw?

• A) 400 (talba mhux valida)
• B) 401 (żball ta' awtentikazzjoni)
• C) 529 (server mgħobbi żżejjed) ✔
• D) 404 (ma nstabx)

Spjegazzjoni: 429 (limitu ta' veloċità), 500 (iżball fis-server) u 529 (tagħbija żejda) huma żbalji temporanji u jistgħu jerġgħu jiġu ppruvati billi wieħed imur lura. Żbalji bħal 400 u 401 huma kwistjonijiet ta' talba/identità; Li terġa 'tipprova mhux se ssolviha.

14. Liema minn dawn li ġejjin huwa l-mod sikur biex timmaniġġja ċ-ċwievet API?

• A) Taħżen fil-varjabbli ambjentali/maniġer moħbi, ma tiddaħħalx fil-kodiċi u ddur regolarment ✔
• B) Ikteb iċ-ċavetta direttament fil-kodiċi tas-sors u ibgħatha lir-repożitorju
• C) It-tqegħid taċ-ċavetta fin-naħa tal-klijent (browser) JavaScript
• D) Taqsam ċavetta waħda mat-tim kollu permezz tal-email

Deskrizzjoni: Iċ-ċwievet qatt ma jinkitbu fil-kodiċi tas-sors jew ir-repożitorju; Hija maħżuna f'għodda ta 'ġestjoni varjabbli jew moħbija ambjentali, mogħtija bi privileġġi minimi, u mdawra regolarment.

15. X'inhu l-aħjar approċċ għall-integrazzjoni tal-LLM b'għodda ta 'awtomazzjoni (n8n, Zapier, Make) f'termini ta' privatezza?

• A) Tibgħat id-dejta mhux ipproċessata kollha lill-mudell, anki jekk ma tkunx meħtieġa
• B) Tikteb iċ-ċavetta API f'test sempliċi ġewwa l-pass tal-fluss
• C) It-tnaqqis u l-maskra tad-dejta sensittiva u l-ħażna taċ-ċavetta bħala kredenzjali sigrieti ✔
• D) Iż-żamma tad-dejta personali b'mod permanenti fl-istorja tal-fluss

Deskrizzjoni: Hekk kif id-dejta li tidħol fl-awtomazzjoni tgħaddi minn sistemi u mudell ta’ partijiet terzi, id-dejta sensittiva/personali trid tiġi minimizzata, moħbija u jintbagħtu biss oqsma meħtieġa; Iċ-ċavetta API tinħażen ukoll bħala kredenzjali sigrieti fi ħdan l-għodda.

16. Għaliex il-validazzjoni tal-output hija obbligatorja f'karatteristika ta' produzzjoni bbażata fuq LLM?

• A) L-ifformattjar biss huwa meħtieġ għax il-mudell qatt ma jiżbalja
• B) Minħabba li l-mudell jista 'jipproduċi b'mod fluwidu iżda kultant ħażin; L-iskema/regola trid tiġi vverifikata b'approvazzjoni tar-riżorsi u tal-bniedem ✔
• C) Il-validazzjoni għandha tiġi evitata minħabba li żżid biss l-ispiża
• D) Il-verifika hija biss biex tnaqqas in-numru ta 'tokens

Deskrizzjoni: LLMs jistgħu jipproduċu output fluwenti iżda xi kultant mhux preċiż (alluċinatorju); għalhekk ħareġ f’deċiżjonijiet ta’ impatt għoli; Għandu jiġi vverifikat mill-iċċekkjar tal-iskema/regoli, il-validazzjoni tas-sors, u l-approvazzjoni tal-bniedem meta meħtieġ.