Ipari-si-Ipari Gbóògì: Ijerisi, Abojuto ati Ethics — API, Owo ati Integration

Awọn anfani:

Le ṣe apẹrẹ faaji ipari-si-opin ti o gba ẹya LLM lati imọran si iṣelọpọ
Ṣe agbekalẹ awọn ipele ti imuduro ijẹrisi, ifọwọsi eniyan, ati titọpa (gigọ / awọn metiriki)
Awọn aala tumọ awọn ilana iṣe ati awọn ipilẹ ikọkọ sinu awọn ipinnu iṣelọpọ

Ninu awọn ẹya mẹwa ti tẹlẹ, a kọ awọn apakan ni ọkọọkan: eto ibeere, eto-ọrọ tokini, ṣiṣan, eto eto, yiyan awoṣe, kaṣe, ipele, iṣakoso aṣiṣe, bọtini aabo ati adaṣe. Ninu ẹyọkan ti o kẹhin yii, a ṣajọpọ awọn apakan ati ṣe agbekalẹ faaji gbogbogbo ti o gbe ẹya LLM kan lati imọran si iṣelọpọ. Iṣelọpọ yatọ si “demo ti n ṣiṣẹ”: ijẹrisi jẹ dandan, iṣelọpọ gbọdọ wa ni abojuto, awọn aala ati awọn ilana ilana gbọdọ wa ni ifibọ sinu awọn ipinnu. Yi kuro ni awọn ti ngbe iwe ti awọn module; Gbogbo awọn ti tẹlẹ wa papọ nibi.

Fẹlẹfẹlẹ ti Production Architecture

Ijẹẹri LLM ti o lagbara ni aijọju awọn fẹlẹfẹlẹ marun:

Layer Input: Gba data, sọ di mimọ, awọn agbegbe ifura boju-boju, gbejade ohun ti o jẹ dandan nikan.
Awoṣe Layer: Yan awoṣe ti o tọ (ẹyọkan 5), ṣeto itọsi eto ati awọn paramita (kuro 4), kaṣe (ẹyọkan 6).
Layer afọwọsi: Ṣayẹwo iṣejade lodi si eto/ofin, orisun, ati ifọwọsi eniyan ti o ba jẹ dandan.
Layer Action: Ṣe iṣe pẹlu iṣẹjade ti a fọwọsi; Mu awọn iṣe ipa ipa giga.
Layer ibojuwo: Ṣe igbasilẹ ati wiwọn gbogbo ipe, idiyele, aṣiṣe ati didara.

Awọn ipele wọnyi jẹ opo gigun ti epo; ọkọọkan n ṣayẹwo abajade ti iṣaaju.

Kini idi ti Imudaniloju nilo?

Awọn LLM le ṣe agbejade didan ṣugbọn nigba miiran aiṣe pe. Eyi ni a npe ni hallucination: awoṣe le ṣe agbejade alaye ti o dabi otitọ ṣugbọn kii ṣe. Ninu ere iwiregbe eyi jẹ ifarada; ko le farada ni a gbóògì eto (risiti, ilera, ofin, inawo). Nitorina o wa ni jade, afọju unreliable; ti wa ni timo.

Awọn ipele ijẹrisi (npo nipasẹ ipa):

Ọna kika/afọwọsi ero: Njẹ iṣẹjade wa ni ibamu si ero JSON ti a nireti bi? (Ijade ti eleto ṣe iṣeduro eyi ni pataki.)
Ijẹrisi ofin / ọgbọn: Ṣe awọn iye wa ni oye bi? (Ṣe iye naa jẹ odi, jẹ ọjọ ni ọjọ iwaju, jẹ iwulo ẹka naa?)
Ijẹrisi orisun: Njẹ ẹtọ naa da lori iwe ti a pese? Ṣe awoṣe sọ nkan ti ko si ninu iwe-ipamọ naa?
Ifọwọsi eniyan: Onimọran ṣe atunwo ipa giga tabi awọn ipinnu aibikita.

Išọra: “Awoṣe naa dara tobẹẹ, ko nilo ijẹrisi siwaju” jẹ irojade iṣelọpọ ti o lewu julọ. Laibikita bawo ni awoṣe ṣe dara, Layer ijẹrisi jẹ nẹtiwọọki aabo ni awọn ipinnu ipa-giga. Paapaa ipinnu aifọwọyi kan ti ko tọ le mu gbogbo akoko ti o fipamọ kuro.

Eniyan-ni-ni-Loop

Ko gbogbo ipinnu ni lati wa ni kikun laifọwọyi. Ni ọna ti eniyan-ni-ni-loop, awoṣe ṣe iyara iṣẹ naa ati pe eniyan fọwọsi. Iwontunwonsi ti o tọ da lori ipa ti ipinnu ati igbẹkẹle ti awoṣe lori iṣẹ naa.

Ipa ti ipinnu

Ona

Kekere (aba aami, iyaworan)

Adaṣiṣẹ ni kikun; aṣiṣe jẹ poku ati iparọ

Alabọde (ipa-ọna, iṣaju)

Adaṣiṣẹ + iṣakoso iṣapẹẹrẹ

Ga (owo, adehun, ilera, piparẹ)

Ifohunsi eniyan jẹ dandan; awoṣe nikan ni imọran

Abojuto: O ko le ṣakoso ohun ti O ko rii

Ni iṣelọpọ, o gbọdọ bojuto gbogbo ipe. Laisi abojuto, o ko le mu iye owo dara, didara, tabi yẹ iṣoro kan ni kutukutu. Awọn metiriki bọtini lati ṣe igbasilẹ:

Lilo/owo: Fun ibeere ati lapapọ awọn ami, pinpin awoṣe, inawo ojoojumọ.
Lairi: Apapọ ati akoko idahun ọran ti o buru julọ.
Oṣuwọn aṣiṣe: Awọn oṣuwọn 429/500, awọn igbiyanju, awọn ifisilẹ.
Didara: Oṣuwọn iṣelọpọ ti a kọ silẹ ni ipele ijẹrisi, iwọn atunṣe ni ifọwọsi eniyan, esi olumulo.

Imọran: Maṣe kọ data ifura (alaye ti ara ẹni, awọn bọtini) si awọn akọọlẹ abojuto. Ro awọn akọọlẹ laarin ipari ti asiri; igbasilẹ nipasẹ boju-boju ti o ba jẹ dandan (kuro 9).

Ethics ati awọn aala

Ojuse iṣe iṣe jẹ apakan pupọ ti ipinnu iṣelọpọ bi iṣedede imọ-ẹrọ:

Itumọ: Olumulo yẹ ki o mọ boya wọn n sọrọ si oye atọwọda tabi eniyan kan.
Iṣeduro ati aiṣedeede: Awoṣe le gbe irẹwẹsi lati inu data lori eyiti o ti kọ; Ṣe abojuto awọn abajade iyasoto ni awọn ipinnu ipa-giga (igbanisise, kirẹditi).
Layabiliti: Ti ipinnu adaṣe ba fa ipalara, iwọ ni iduro; "Awoṣe naa sọ bẹ" kii ṣe aabo.
Gbigba awọn ifilelẹ: Awọn awoṣe ko le ṣe diẹ ninu awọn iṣẹ-ṣiṣe ni igbẹkẹle; ko automate wọn jẹ tun kan oniru ipinnu.

Awọn awoṣe Copiable

# Atokọ afọwọsi (lẹhin iran iṣelọpọ) 1) Ṣe eto naa wulo? (Ifọwọsi iṣẹjade ti a ṣeto) 2) Njẹ awọn iye naa jẹ oye bi? (ayẹwo ofin: ibiti, ọjọ, enum)3) Njẹ ẹtọ naa da lori orisun? (kọ ti ko ba si ninu iwe-ipamọ) 4) Ṣe ikolu naa ga? → firanṣẹ fun ifọwọsi eniyan5) Ti gbogbo rẹ ba kọja → gba iṣẹ laaye, fipamọ

# Itọkasi eto ti o fi agbara mu da lori orisunGbẹkẹle alaye nikan ninu iwe ti a pese. Maṣe fi ohunkohun ti ko si ninu iwe-ipamọ naa. Ti alaye ko ba si ninu iwe-ipamọ, kọ “Ko si ninu iwe-ipamọ”. Maṣe gboju boya tabi ṣe awọn nkan.

# Ipilẹ itẹwọgba eniyan (ofin ipinnu) TI ipinnu_iru ninu [owo, adehun, paarẹ, ilera] → ifọwọsi eniyan dandanIF model_trust < ala OR afọwọsi “aidaniloju” → fi silẹ si ifọwọsi eniyanOTHER → adaṣe adaṣe + iṣakoso iṣapẹẹrẹ

# Àdàkọ àkọọ́lẹ̀ àkójọpọ̀ (kíkọ data kókó){"akoko":"...", "awoṣe":"...", "input_token":..., "output_token":..., "delay_ms":..., "stop_reason":"...", "ifọwọsi":"ti o ti kọja|kọsilẹ|bọtini|ènìyàn","owo_} data jẹ ti ara ẹni /VER":

Ilọsiwaju ti ko lagbara / itara to lagbara (igbẹkẹle iṣelọpọ)

# WEAK (ko si ijẹrisi, ko si orisun, kan laifọwọyi) Ṣe iṣiro ibeere yii, ṣe ipinnu agbapada ati lo.

# STRONG (orisun orisun, ṣe ipilẹṣẹ iṣeduro, fi silẹ si ifọwọsi eniyan) Ṣe ayẹwo ibeere ipadabọ yii ti o da lori iwe ilana imulo ipadabọ nikan. Ṣeduro ipinnu pẹlu idalare ṣugbọn maṣe ṣe imuse: {"Iṣeduro":"fọwọsi| kọ"," idi":"..."," Ilana_clause":"..."}.Ti ko ba si ipilẹ ti o daju ninu iwe eto imulo, fun "ko ṣe kedere". Aṣoju yoo fọwọsi ipinnu ikẹhin.

Alagbara ti ikede; O ṣe ipinnu ipinnu si orisun, ipo awoṣe bi "oludaba" dipo "oluṣe," o si fi ipele ti o ga julọ lẹhin itẹwọgba eniyan. Eyi ni ipilẹ ti igbẹkẹle iṣelọpọ.

Mẹta Mini igba

Irú 1 - Awọn ọjọ ti awọn ijerisi Layer ti o ti fipamọ. Fintech kan n ni awoṣe ṣe iyasọtọ awọn apejuwe idunadura ati ṣẹda awọn igbasilẹ iṣiro adaṣe. Wọn ṣafikun afọwọsi ofin: ni kete ti awoṣe ba jade iye ti ko tọ (12,500 dipo 1,250 ninu iwe-ipamọ), “iye ko baamu iwe-ipamọ naa” kọ abajade ati igbasilẹ naa ṣubu si eniyan. Ti ko ba si ijẹrisi, igbasilẹ ti ko tọ yoo wọ inu eto naa laiparuwo.

Ọran 2 - Ilọkuro ti a mu nipasẹ iṣọ. Ẹgbẹ SaaS kan ti ṣeto igbimọ ibojuwo; Ni owurọ ọjọ kan iye owo ojoojumọ ni ilọpo mẹta. O ti rii lati awọn akọọlẹ pe alabara kan wọ lupu kan ati firanṣẹ ibeere kanna ni ẹgbẹẹgbẹrun awọn akoko. Nwọn si fi ipin ati deduplication; Iṣoro naa ti yanju laarin awọn wakati. Laisi titele, owo naa yoo jẹ iyalẹnu ni opin oṣu naa.

Ọran 3 - Gbigba opin. Ibẹrẹ ilera kan n gbero lati ṣe iṣeduro ayẹwo ni kikun laifọwọyi ati fi han alaisan naa. Ninu aṣa ati atunyẹwo layabiliti, wọn pinnu pe eyi ko ni opin: awoṣe nikan n pese akopọ ati awọn aaye ti o ṣeeṣe si dokita kan, dokita ṣe iwadii aisan naa. Kii ṣe adaṣe adaṣe iṣẹ tun jẹ ipinnu apẹrẹ ti ogbo.

Awọn aṣiṣe ti o wọpọ

Afọwọsi fofo: Ni ifọju lilo iṣẹjade, sọ pe “awoṣe dara”.
Ṣiṣe ipinnu ipa-giga adaṣe: Ifọwọsi eniyan jẹ pataki ni owo / ilera / ofin.
Ko ṣe abojuto: Awọn idiyele ati awọn iṣoro didara jẹ awari pẹ.
Kikọ data ifura si awọn akọọlẹ: O ṣẹ; Fipamọ nipa boju-boju rẹ.
Ko gbiyanju lati gbẹkẹle orisun: Awoṣe le ṣe ohun ti ko si ninu iwe-ipamọ naa.
Aibikita awọn opin: Kii ṣe adaṣe adaṣe diẹ ninu awọn iṣẹ-ṣiṣe jẹ ipinnu ti o tọ; Afihan ati ojuse jẹ tirẹ.

Ti jinle: Isakoso itusilẹ, Yipada sẹhin, ati Imuṣiṣẹpọ Imudara

Gbigba ẹya LLM kan si iṣelọpọ kii ṣe nipa ṣeto rẹ ati gbagbe nipa rẹ; ni lati yipada lailewu eto igbesi aye lori akoko. O ni awọn ọwọn mẹta.

Ti ikede. Eto rẹ tọ, yiyan awoṣe, ati awọn ofin ijẹrisi yipada ni akoko pupọ. Ẹya iyipada pataki kọọkan ati ṣe igbasilẹ iru ẹya ti o wa laaye. Ti o ba jẹ pe ọjọ kan didara naa ṣubu, "kini a yipada?" O yẹ ki o ni anfani lati dahun ibeere naa laarin awọn iṣẹju. Ninu eto ti ko ni ikede, wiwa idi root ti ipadasẹhin gba awọn ọjọ.

Yipada sẹhin. Ti itọsi tuntun tabi awoṣe ba huwa buru ju ti a reti lọ ni igbesi aye, o yẹ ki o ni anfani lati yarayara pada si iṣaaju, ẹya ti a mọ daradara. Iyipada laisi ero yipo pada jẹ gbigba eewu laaye ni afọju. "Mo yi nkan pada, o buru, Emi ko le pada sẹhin" jẹ oju iṣẹlẹ iṣelọpọ ti o gbowolori julọ.

Yiyọ diẹdiẹ. Dipo lilo iyipada si gbogbo awọn ijabọ ni ẹẹkan, o yi lọ si ipin kekere (fun apẹẹrẹ 5%) akọkọ ati ṣe atẹle awọn metiriki (didara, idiyele, awọn aṣiṣe). Ti o ba dara, o pọ si ogorun; Ti o ba jẹ buburu, iwọ yoo gba pada pẹlu apakan kekere kan ti o kan. Eyi ṣe opin si ewu pupọ.

Awọn iṣe mẹta wọnyi darapọ awọn ilana lati gbogbo awọn sipo ti tẹlẹ: eval (kuro 5) awọn iwọn iyipada ilosiwaju, ibojuwo (ẹyọkan yii) funni ni ikilọ ni kutukutu lakoko itankale, Layer ijẹrisi mu awọn abajade aṣiṣe ṣaaju ki wọn to ṣiṣẹ. Gbóògì ni ko kan nikan ti o tọ setup; O jẹ ibawi ti nlọsiwaju ti o ṣe iwọn, ṣe abojuto ati pe o le yipada pẹlu igboiya. Gbogbo module ni fun o lati fi idi yi discipline.

Ni akojọpọ

Iṣelọpọ jẹ diẹ sii ju demo ṣiṣẹ: o jẹ opo gigun ti titẹ sii, awoṣe, ijẹrisi, iṣe ati awọn ipele ibojuwo. Ijade naa ko ni igbẹkẹle laisi ijẹrisi; awọn ipinnu ipa-giga ni a so si itẹwọgba eniyan; Gbogbo ipe ni a ṣe abojuto fun idiyele, awọn aṣiṣe ati didara. Ethics, akoyawo, iṣakoso abosi, iṣiro ati gbigba awọn opin jẹ pataki si awọn ipinnu imọ-ẹrọ. Gbogbo nkan ti a kọ ni module yii wa papọ ni apẹrẹ pipe yii.

Ohun elo iṣẹ-ṣiṣe

Ṣe apẹrẹ ẹya LLM kan lati opin-si-opin. (1) Fọwọsi awọn ipele marun (titẹwọle, awoṣe, ijẹrisi, iṣe, ibojuwo) fun iṣẹ-ṣiṣe kan pato. (2) Samisi nipasẹ ipa eyiti awọn ipinnu yoo nilo ifọwọsi eniyan. (3) Kọ o kere ju awọn sọwedowo afọwọsi mẹta (ero, ofin, orisun). (4) Ṣe ipinnu awọn metiriki bọtini ti iwọ yoo tọpinpin ati ohun ti iwọ kii yoo wọle. (5) Kọ opin ati ilana iṣe ti o gba ninu ẹya yii.

akojọ ayẹwo

[] Mo le ṣe apẹrẹ awọn ipele marun ti opo gigun ti epo iṣelọpọ.
[] Mo ti le sooto awọn abajade lodi si eto, ofin ati orisun.
[] Mo le ṣeto ipilẹ alakosile eniyan ti o da lori ipa ti ipinnu naa.
[] Mo ṣe atẹle idiyele, aṣiṣe ati didara ati adaṣe kii ṣe kikọ data ifura sinu awọn akọọlẹ.
[] Mo ti le yi pada ethics, ojuse ati awọn aala sinu gbóògì ipinu.

Idanwo module

1. Kini ipa 'eto' ṣe ni API iwiregbe LLM kan?

A) Fun apẹẹrẹ ni awọn ilana ti o yẹ ati awọn ofin ihuwasi ti o kan jakejado gbogbo ibaraẹnisọrọ ✔
B) Ntọju ibeere ti o kẹhin ti olumulo kọ
C) Tọju idahun ti a ṣe nipasẹ awoṣe
D) Encrypts API bọtini

Apejuwe: Awọn ipa eto yoo fun awoṣe jubẹẹlo ilana, eniyan, ati awọn ofin ti o waye jakejado gbogbo ibaraẹnisọrọ; O jẹ àtúnjúwe ipele giga, lọtọ si awọn ifiranṣẹ olumulo.

2. Kini idi ti itan ibaraẹnisọrọ (awọn ifiranṣẹ iṣaaju) fi ranṣẹ lẹẹkansi ni igba kọọkan ninu ibeere API kan?

A) O jẹ dandan lati ṣe afẹyinti bi olupin naa ṣe npa itan naa kuro
B) Awọn ipe API ko ni ipinlẹ; ✔ Awọn ọrọ ti wa ni resent lori gbogbo ìbéèrè nitori awọn awoṣe ko ni ranti itan
C) Ti beere fun risiti nikan, ko ni ipa lori awoṣe
D) Fifiranṣẹ itan jẹ dandan lati yago fun idinku idahun naa

Alaye: Awọn ipe LLM API ko ni ipinlẹ; Awoṣe naa ko ranti awọn iyipo ti tẹlẹ, nitorinaa gbogbo itan-akọọlẹ ti o yẹ ni ibinu lori gbogbo ibeere lati tọju ọrọ-ọrọ.

3. Kini 'àmi' ni idiyele LLM?

A) Ọrọigbaniwọle akoko kan ti a lo lati wọle si API
B) Owo ti o wa titi ti o san lori ibeere kọọkan
C) Ẹka ti o kere julọ ninu eyiti awoṣe ṣe ilana ọrọ naa; nigbagbogbo ni ibamu si apakan ọrọ ✔
D) Ẹyọ kan ti o ṣe iwọn ipari ti abajade nikan

Apejuwe: Àmi ni awọn kere kuro ninu eyi ti awọn awoṣe ilana ọrọ; Nigbagbogbo o ni ibamu si ajẹkù ti ọrọ kan, ati pe titẹ sii ati iṣelọpọ mejeeji ni idiyele ti o da lori nọmba awọn ami-ami.

4. Kini idi ti awọn ami itẹjade jẹ gbowolori diẹ sii ju awọn ami titẹ sii ni ọpọlọpọ awọn olupese LLM?

A) Awọn ami ijade nigbagbogbo gun ju titẹ sii lọ
B) Awọn ami titẹ sii jẹ ọfẹ
C) Awọn ami ijade ni a firanṣẹ lẹẹmeji lori intanẹẹti
D) Iye owo ẹyọ ga nitori iran iṣelọpọ nilo awọn iṣiro afikun fun ami kọọkan ✔

Apejuwe: Olukuluku awọn ami ti o jade nilo awoṣe lati ṣe iran-igbesẹ-igbesẹ (iṣiro); Iye idiyele iṣelọpọ yii ga ju sisẹ titẹ sii ni ẹẹkan, nitorinaa idiyele ẹyọ ti iṣelọpọ nigbagbogbo ga julọ.

5. Ni ipo wo ni lilo ṣiṣanwọle jẹ anfani julọ?

A) Ni awọn idahun pipẹ; Dinku idaduro akiyesi ati idilọwọ idaduro akoko ✔
B) Nikan ni kukuru pupọ, awọn idahun ọrọ-ọkan
C) Lati dinku iye owo si odo
D) Lati tọju bọtini API

Apejuwe: Ni awọn idahun gigun, ṣiṣanwọle dinku lairi ti a rii nipasẹ ṣiṣe awọn ọrọ akọkọ han lẹsẹkẹsẹ ati idilọwọ awọn akoko akoko HTTP ni awọn iye max_tokens nla.

6. Kini jijẹ paramita 'igbiyanju' ni awọn awoṣe ode oni ni ipa lori gbogbogbo?

A) Nigbagbogbo kuru idahun
B) Yiyi bọtini API laifọwọyi
C) O dinku iye owo ami titẹ sii nikan
D) Ṣe alekun ijinle ironu ati inawo àmi; O le mu didara dara, ṣugbọn o tun mu idaduro ati idiyele ✔

Apejuwe: paramita akitiyan ṣatunṣe bi o ṣe jinlẹ ti awoṣe yoo ronu nipa iṣẹ-ṣiṣe kan ati iye awọn ami-ami ti yoo lo; Igbegasoke le mu didara dara, ṣugbọn o tun mu lairi ati idiyele pọ si. Fun awọn iṣẹ-ṣiṣe ti o rọrun, igbiyanju kekere jẹ to.

7. Kini gbogbo ọna ti o ni iye owo-doko julọ si iṣẹ-ṣiṣe ti o rọrun, ti o ga julọ?

A) Nigbagbogbo lo gbowolori julọ ati awoṣe ti o lagbara julọ
B) Pipe gbogbo awọn awoṣe ni akoko kanna fun ibeere kọọkan
C) Yiyan awoṣe ti o fẹẹrẹ julọ / ti o kere julọ ti o ṣe iṣẹ-ṣiṣe naa nipa ṣiṣe ijẹrisi pẹlu eval kekere ✔
D) pa max_tokens iye kobojumu ga ju

Alaye: Ti iṣẹ-ṣiṣe ko ba jẹ idiju, yiyan awoṣe yiyara ati din owo ti o ni irọrun ṣe iṣẹ-ṣiṣe naa (fun apẹẹrẹ Haiku kilasi) dipo lilo awoṣe ti o gbowolori ati ti o lagbara julọ yoo dinku idiyele naa ni pataki.

8. Ninu oju iṣẹlẹ wo ni caching kiakia dinku iye owo julọ?

A) Nigba ti o tobi ati ipo ti o wa titi ti lo leralera kọja ọpọlọpọ awọn ibeere ✔
B) Nigbati ọrọ ti o yatọ patapata ti firanṣẹ pẹlu ibeere kọọkan
C) Nigbati o ba ṣe ibeere kan nikan
D) Lati din o wu àmi

Apejuwe: Caching jẹ baramu ìpele; Ni awọn ọran nibiti agbegbe nla, ti ko le yipada (itọsọna eto, awọn iwe aṣẹ) ti tun lo kọja ọpọlọpọ awọn ibeere, kika lati kaṣe jẹ ida kekere kan (~ 0.1x) ti idiyele ni kikun.

9. Bawo ni MO ṣe le ṣatunkọ itọsi naa ki kaṣe kiakia deba?

A) Gbigbe akoonu oniyipada ni ibẹrẹ ati akoonu ti o wa titi ni ipari
B) Ṣafibọ ọjọ ati akoko lọwọlọwọ ninu eto eto fun ibeere kọọkan
C) Fifi akoonu ti o wa titi (eto eto, awọn iwe aṣẹ) ni ibẹrẹ ati akoonu iyipada ni ipari ✔
D) Yiyipada aṣẹ ti atokọ irinṣẹ pẹlu ibeere kọọkan

Alaye: Niwọn igba ti kaṣe jẹ ibaamu iṣaaju, akoonu ti o wa titi/ayipada (itọsọna eto, awọn iwe aṣẹ) ti wa ni ibẹrẹ; akoonu oniyipada (ọjọ, ibeere olumulo, ID ibeere) ti fi si ipari. Paapaa baiti kan ti o yipada ni ibẹrẹ yoo sọ kaṣe di asan.

10. Fun iru iṣẹ ṣiṣe wo ni ṣiṣe ipele ti o dara julọ?

A) Iwiregbe laaye nibiti olumulo n reti esi lẹsẹkẹsẹ loju iboju
B) Kan kan ibeere kukuru
C) Ti o npese API bọtini
D) Awọn iṣẹ ti o jẹ ifarada idaduro, iwọn didun nla ati pe ko nilo awọn esi lẹsẹkẹsẹ ✔

Apejuwe: Iṣeduro ipele jẹ o dara fun awọn ipele nla ti awọn iṣẹ ti ko nilo esi lẹsẹkẹsẹ ati pe o ni ifarada ti idaduro; Awọn abajade ti wa ni jiṣẹ lẹhin igba diẹ, ṣugbọn iye owo ẹyọkan nigbagbogbo dinku.

11. Kini a lo lati ni igboya baramu eyiti o beere awọn abajade ti o jẹ ninu ipele kan?

A) Fifiranṣẹ aṣẹ (ipo) ti awọn ibeere
B) Gigun ti awọn idahun
C) Awọn nọmba 4 kẹhin ti bọtini API
D) Aṣa aṣa alailẹgbẹ ti a fun ni ibeere kọọkan ✔

Akiyesi: Awọn abajade olopobobo le jẹ pada ni ọna ti o yatọ ju aṣẹ ifakalẹ lọ; nitorina o jẹ dandan lati baramu awọn abajade nipasẹ ID, kii ṣe ipo, pẹlu aṣa_id alailẹgbẹ ti a fi fun ibeere kọọkan.

12. Kini ihuwasi ti a ṣe iṣeduro nigbati o ba gba aṣiṣe 429 (iwọn oṣuwọn) lati API?

A) Fi agbara mu nipasẹ fifiranṣẹ ọpọlọpọ awọn ibeere diẹ sii ni akoko kanna
B) Gbìyànjú lẹ́ẹ̀kan sí i pẹ̀lú ìpadàpadà àfikún, lẹ́yìn àtúnyẹ̀wò-lẹ́yìn àkòrí ✔
C) Fagilee ibeere naa patapata ki o ṣafihan aṣiṣe bi jamba si olumulo
D) Yiyipada bọtini API

Alaye: 429 jẹ aṣiṣe atunṣe; Ọna ti o pe ni lati gbiyanju lẹẹkansi pẹlu ifẹhinti ipari, ni ọwọ fun akọsori atunyin-lẹhin. Pupọ awọn SDK osise ṣe eyi laifọwọyi.

13. Eyi ti awọn wọnyi HTTP aṣiṣe koodu ti wa ni gbogbo ka retryable?

A) 400 (ibeere ti ko tọ)
B) 401 (aṣiṣe ijẹrisi)
C) 529 (olupin ti kojọpọ) ✔
D) 404 (ko ri)

Alaye: 429 (iwọn iyara), 500 (aṣiṣe olupin) ati 529 (apọju) jẹ awọn aṣiṣe igba diẹ ati pe o le tun gbiyanju nipasẹ fifẹyinti. Awọn aṣiṣe bii 400 ati 401 jẹ awọn ọran ibeere / idanimọ; Gbiyanju lẹẹkansi kii yoo yanju rẹ.

14. Eyi ninu atẹle ni ọna aabo lati ṣakoso awọn bọtini API?

A) Titoju ni iyipada agbegbe / oluṣakoso pamọ, kii ṣe ifibọ sinu koodu ati yiyi nigbagbogbo ✔
B) Kọ bọtini taara sinu koodu orisun ati firanṣẹ si ibi ipamọ
C) Fifi bọtini si ẹgbẹ alabara (aṣàwákiri) JavaScript
D) Pinpin bọtini kan pẹlu gbogbo ẹgbẹ nipasẹ imeeli

Apejuwe: Awọn bọtini ko kọ si koodu orisun tabi ibi ipamọ; O ti wa ni ipamọ ni oniyipada ayika tabi ohun elo iṣakoso ti o farapamọ, ti a funni pẹlu awọn anfani to kere, ati yiyi nigbagbogbo.

15. Kini ọna ti o dara julọ si iṣọpọ LLM pẹlu ohun elo adaṣe (n8n, Zapier, Make) ni awọn ofin ti asiri?

A) Fifiranṣẹ gbogbo data aise si awoṣe, paapaa ti ko ba jẹ dandan
B) Kikọ bọtini API sinu ọrọ itele inu igbesẹ sisan
C) Dinku ati boju-boju data ifura ati titoju bọtini bi awọn iwe-ẹri asiri ✔
D) Titọju data ti ara ẹni patapata ninu itan-akọọlẹ sisan

Apejuwe: Bi data ti nwọle adaṣiṣẹ ti n kọja nipasẹ awọn eto ẹnikẹta ati awoṣe, data ifura / ti ara ẹni nilo lati dinku, boju-boju ati awọn aaye ti a beere nikan ti o firanṣẹ; Bọtini API tun wa ni ipamọ bi awọn iwe-ẹri asiri laarin ọpa naa.

16. Kí nìdí ni afọwọsi ti o wu dandan ni ohun LLM orisun gbóògì ẹya?

A) Awọn ọna kika nikan ni a nilo nitori awoṣe ko ṣe awọn aṣiṣe
B) Nitoripe awoṣe le gbejade ni omi-ara ṣugbọn nigbamiran ti ko tọ; Ilana/ofin gbọdọ jẹ iṣayẹwo pẹlu awọn orisun ati ifọwọsi eniyan ✔
C) Ifọwọsi yẹ ki o yago fun nitori pe o pọ si iye owo nikan
D) Ijeri jẹ nikan lati dinku nọmba awọn ami

Apejuwe: Awọn LLM le ṣe agbejade fluent ṣugbọn nigba miiran aiṣedeede (hallucinatory) o wu; nitorina o wa jade ni awọn ipinnu ipa giga; O yẹ ki o ṣe ayẹwo nipasẹ ṣiṣayẹwo ero/awọn ofin, afọwọsi orisun, ati ifọwọsi eniyan nigbati o jẹ dandan.