Mmepụta ngwụcha ruo ngwụcha: nkwenye, nlekota oru na ụkpụrụ omume

Uru:

Nwere ike chepụta nrụpụta ngwụcha ruo ngwụcha nke na-ewe njirimara LLM site n'echiche ruo na mmepụta
Na-ewepụta ọkwa nke mmanye nkwenye, nnabata mmadụ na nsochi (ịgba osisi/metrics)
Oke na-atụgharị ụkpụrụ omume na ụkpụrụ nzuzo na mkpebi mmepụta

N'ime nkeji iri gara aga, anyị mụtara akụkụ ndị ahụ otu otu: usoro arịrịọ, akụnụba token, eruba, ngwa ngwa sistemụ, nhọrọ ụdị, cache, batch, njikwa njehie, igodo echekwara na akpaaka. N'ime nkeji ikpeazụ a, anyị na-ejikọta akụkụ ndị ahụ ma guzobe ụkpụrụ ụlọ zuru oke nke na-ebu njirimara LLM site n'echiche ruo na mmepụta. Mmepụta dị iche na " ngosi na-arụ ọrụ ": nkwenye bụ iwu, a ga-enyocha mmepụta, ókèala na ụkpụrụ omume ga-etinyerịrị na mkpebi. Nkeji a bụ kọlụm ebu nke modul; Ndị niile gara aga gbakọtara ebe a.

N'ígwé nke Production Architecture

Ntozu LLM siri ike nwere ihe dị ka ọkwa ise:

Oghere ntinye: Chịkọta data, hichaa ya, kpuchie ebe ndị nwere mmetụta, bufee naanị ihe dị mkpa.
Nlereanya oyi akwa: Họrọ ụdị ziri ezi (nkeji 5), tọọ ngwa ngwa sistemụ na paramita (nkeji 4), cache (unit 6).
oyi akwa nkwado: Lelee mmepụta megide atụmatụ/iwu, isi mmalite na nkwado mmadụ ma ọ dị mkpa.
Action oyi akwa: Mee ihe na nti mmepụta; Weghara omume mmetụta dị elu.
Nleba anya oyi akwa: Dekọọ na tụọ ọ bụla oku, ego, njehie na àgwà.

N'ígwé ndị a bụ pipeline; onye ọ bụla na-enyocha nsonaazụ nke gara aga.

Kedu ihe kpatara achọrọ nkwenye?

LLM nwere ike iwepụta mmepụta nke ọma mana mgbe ụfọdụ ezighi ezi. A na-akpọ nke a nhụsianya: ihe nlereanya ahụ nwere ike ịmepụta ozi nke yiri ka ọ bụ eziokwu mana ọ bụghị. N'egwuregwu nkata nke a bụ ihe a ga-anabata; enweghị ike ịnabata ya na usoro mmepụta (akwụkwọ ọnụahịa, ahụike, iwu, ego). Ya mere ọ tụgharịrị, na-enweghị ntụkwasị obi; kwadoro.

Ngosipụta nkwenye (na-abawanye site na mmetụta):

Nkwenye usoro/atụmatụ: mmepụta a ọ dabara na atụmatụ JSON a tụrụ anya ya? (Mpụta ahaziri ahazi na-ekwe nkwa nke a.)
Nkwenye iwu/ mgbagha: ụkpụrụ ndị a nwere ezi uche? (Ogo ahụ ọ na-adịghị mma, ụbọchị ọ ga-abịa n'ọdịnihu, ngalaba ahụ ọ bara uru?)
Nkwenye isi mmalite: nkwupụta a ọ dabere na akwụkwọ enyere? Ihe nlereanya ahụ ọ na-ekwu ihe na-adịghị na akwụkwọ ahụ?
Nkwenye mmadụ: Ọkachamara na-enyocha mkpebi dị elu ma ọ bụ enweghị mgbagha.

Akpachara anya: "Ụdị ahụ dị mma nke ukwuu, ọnweghị nkwenye ọzọ achọrọ" bụ ọdịda mmepụta kacha dị ize ndụ. N'agbanyeghị otú ihe nlereanya ahụ si dị mma, oyi akwa nkwenye bụ ụgbụ nchekwa na mkpebi dị elu. Ọbụna otu mkpebi na-ezighi ezi nwere ike iwepụ oge niile echekwara.

Mmadụ-na-na-akaghị

Ọ bụghị mkpebi ọ bụla ga-abụ nke zuru oke. Na ụzọ mmadụ-na-na-loop, ihe nlereanya na-eme ka ọrụ ahụ dị ngwa ma mmadụ kwadoro ya. Nhazi ziri ezi na-adabere na mmetụta nke mkpebi ahụ na ntụkwasị obi nke ihe nlereanya na ọrụ ahụ.

Mmetụta nke mkpebi ahụ

Ụzọ

Dị ala (atụ aro akara, akwụkwọ)

Akpaaka zuru oke; njehie dị ọnụ ala na ntụgharị

Ọkara (ụzọ, ibu ụzọ)

Akpaaka + njikwa nlele

Elu (ego, nkwekọrịta, ahụike, nhichapụ)

Nkwenye mmadụ bụ iwu; ihe nlereanya naanị na-atụ aro

Nleba anya: Ị nweghị ike ijikwa ihe ị na-ahụghị

Na mmepụta, ị ga-enyocharịrị oku ọ bụla. Na-enweghị nlekota oru, ị nweghị ike imeziwanye ọnụ ahịa, ịdị mma, ma ọ bụ jide nsogbu n'oge. Metiriks isi ka ịdekọ:

Ojiji/ọnụ: Otu arịrịọ na mkpokọta akara, nkesa ihe nlereanya, mmefu kwa ụbọchị.
Latency: Nkezi na oge nzaghachi nke kacha njọ.
Ọnụọgụ mperi: 429/500 ọnụego, mbigharịa, agbahapụ.
Ogo: Ọnụego mmepụta jụrụ na oyi akwa nkwenye, ọnụego mmezi na nkwado mmadụ, nzaghachi onye ọrụ.

Ndụmọdụ: Edela data nwere mmetụta (ozi nkeonwe, igodo) iji nyochaa ndekọ. Tụlee ndekọ n'ime oke nke nzuzo; ndekọ site na nkpuchi ma ọ bụrụ na ọ dị mkpa (nkeji 9).

Ụkpụrụ omume na oke

Ọrụ nke ụkpụrụ bụ akụkụ nke mkpebi mmepụta dịka izi ezi nke teknụzụ:

Nghọta: Onye ọrụ kwesịrị ịma ma ha na-agwa onye ọgụgụ isi ma ọ bụ mmadụ.
Ịdị mma na nhụsianya: Ihe nlereanya ahụ nwere ike iburu nhụsianya site na data nke a zụrụ ya; Nyochaa nsonaazụ ịkpa oke na mkpebi ndị nwere mmetụta dị elu (nnye ọrụ, kredit).
Ọrụ: Ọ bụrụ na mkpebi akpaaka na-akpata mmerụ, ọ bụ gị kpatara; "Ihe nlereanya ahụ kwuru otú ahụ" abụghị ihe nchebe.
Nnabata oke: Ụdị enweghị ike ịrụ ụfọdụ ọrụ na ntụkwasị obi; ọ bụghị automating ha bụkwa a imewe mkpebi.

Template nwere ike mbipụta

# Ndepụta nkwado (mgbe mmepụta mmepụta ihe)1) Atụmatụ ahụ ọ dị irè? (mmepụta mmepụta ahaziri ahazi)2) ụkpụrụ ndị ahụ nwere ezi uche? (nyocha iwu: oke, ụbọchị, enum)3) Nkwuputa a ọ dabere na isi mmalite? (jụ ma ọ bụrụ na ọ bụghị na akwụkwọ)4) Mmetụta dị elu? → zipu maka nkwado mmadụ5) Ọ bụrụ na ihe niile gafere → kwere omume, chekwaa

# Sistemụ ngwa ngwa nke na-amanye ịdabere na isi mmalite dabere naanị na ozi dị na akwụkwọ enyere. Etinyekwala ihe ọ bụla na-adịghị na akwụkwọ ahụ. Ọ bụrụ na ozi adịghị na akwụkwọ ahụ, dee "Achọghị ya na akwụkwọ ahụ". Echela ma ọ bụ mepụta ihe.

# Usoro nnabata mmadụ (iwu mkpebi) Ọ BỤRỤ na ụdị mkpebi_dị n'ime [ego, nkwekọrịta, ihichapụ, ahụike] → nkwado mmadụ bụ iwu IF model_trust < ọnụ ụzọ ma ọ bụ nkwenye "ejighị n'aka" → nyefee nkwado mmadụ ọzọ → itinye akpaaka + njikwa nlele

# trace log template (ede data dị nhịahụ){"oge":"...", "model":"...", "input_token":..., "mmepụta_token":..., "delay_ms":..., "nkwụsị_reason":"...", "nkwenye":"gafere|ajụjụ|mmadụ", "ọnụ_} data bụ nkeonwe e dere /VER":

Ngwa ngwa na-adịghị ike / ike siri ike ( ntụkwasị obi mmepụta)

# WEAK (enweghị nkwenye, enweghị isi mmalite, na-etinye aka na akpaghị aka) Nyochaa arịrịọ a, mee mkpebi nkwụghachi ma tinye.

# STRONG (dabere na isi mmalite, na-ewepụta nkwanye, na-ahapụ nkwado mmadụ) Nyochaa arịrịọ nloghachi a dabere na naanị akwụkwọ amụma nlọghachi. Kwado mkpebi na izi ezi mana emela ya: {"nkwanye":"kwadoro|jụ"," ihe kpatara ya":"...","policy_clause":"..."}.Ọ bụrụ na enweghị ndabere doro anya na akwụkwọ iwu, nye "edoghị anya". Onye nnọchi anya ga-akwado mkpebi ikpeazụ.

Ụdị dị ike; Ọ na-ejikọta mkpebi ahụ na isi iyi, na-etinye ihe nlereanya dị ka "onye na-atụ aro" kama ịbụ "onye na-eme ihe," ma na-etinye nzọụkwụ dị elu n'azụ nkwado mmadụ. Nke a bụ ihe dị mkpa nke ntụkwasị obi mmepụta.

Obere obere atọ

Ikpe 1 - Ụbọchị nkwenye oyi akwa zọpụta. A fintech nọ na-enwe ihe nlereanya ịhazi nkọwa azụmahịa wee mepụta ndekọ ndekọ ndekọ akpaaka. Ha gbakwụnyere nkwado iwu: ozugbo ihe nlereanya ahụ wepụta ego na-ezighi ezi (12,500 kama 1,250 n'ime akwụkwọ), iwu "ego adabaghị na akwụkwọ" iwu jụrụ mmepụta na ndekọ ahụ dabara mmadụ. Ọ bụrụ na enweghị nkwenye, ndekọ na-ezighi ezi ga-abanye n'ime usoro ahụ.

Ikpe 2 - Onye nlegharị anya jidere. Otu SaaS eguzobela panel nlekota; Otu ụtụtụ ọnụ ahịa kwa ụbọchị ji okpukpu atọ. A hụrụ site na ndekọ na onye ahịa banyere akaghị aka wee ziga otu arịrịọ ahụ ọtụtụ puku ugboro. Ha gbakwunyere oke na deduplication; E doziri nsogbu ahụ n'ime awa ole na ole. Enweghị nsuso, ụgwọ ahụ ga-abụ ihe ijuanya na njedebe nke ọnwa.

Ikpe 3 - Ịnabata oke. Mmalite ahụike nọ na-eme atụmatụ ịme nkwenye nyocha nke ọma na-akpaghị aka wee gosi ya onye ọrịa. Na nyocha ụkpụrụ omume na ụgwọ ọrụ, ha kpebiri na nke a bụ ihe na-adịghị mma: ihe nlereanya ahụ na-enye naanị nchịkọta na ihe ndị nwere ike ime na dọkịta, dọkịta na-eme nchọpụta ahụ. Ịghara ịrụ ọrụ akpaaka bụkwa mkpebi imewe tozuru oke.

Mmejọ ndị nkịtị

Mwepụ nkwado: Jiri kpuru ìsì tinye ihe mmepụta ahụ, na-ekwu "ihe nlereanya ahụ dị mma".
Ime mkpebi mkpebi dị elu: nnabata mmadụ dị mkpa na ego / ahụike / iwu.
Ọ bụghị nlekota: A na-achọpụta nsogbu ego na ịdị mma n'oge.
Ide data nwere mmetụta na ndekọ: Mmebi nzuzo; Chekwaa ya site na ikpuchi ya.
Achọghị ịdabere na isi mmalite: Ihe nlereanya ahụ nwere ike mejupụta ihe na-adịghị na akwụkwọ ahụ.
Ileghara oke anya: Ọ bụghị imezi ụfọdụ ọrụ bụ mkpebi ziri ezi; Nghọta na ibu ọrụ bụ nke gị.

Mimimi: njikwa mwepụta, nlọghachi azụ, na ntinye nkwalite

Inweta njirimara LLM n'ime mmepụta abụghị maka ịtọlite ya na ichefu ya; bụ ịgbanwe usoro ndụ n'enweghị nsogbu n'oge. O nwere ogidi atọ.

Ụdị nsụgharị. Ngwa ngwa sistemụ gị, nhọrọ ụdị na iwu nkwenye na-agbanwe ka oge na-aga. Ụdị mgbanwe ọ bụla dị ịrịba ama ma dekọọ ụdị dị ndụ. Ọ bụrụ na otu ụbọchị àgwà dara, "Gịnị ka anyị gbanwere?" Ị ga-enwe ike ịza ajụjụ a n'ime nkeji. N'ime usoro enweghị nsụgharị, ịchọta isi ihe kpatara nlọghachi azụ na-ewe ụbọchị.

Ndaghachi azụ. Ọ bụrụ na ngwa ngwa ma ọ bụ ihe nlereanya ọhụrụ na-akpa àgwà ka njọ karịa ka a tụrụ anya na ndụ, ị ga-enwe ike ịlaghachi ngwa ngwa na ụdị gara aga, nke amaara nke ọma. Mgbanwe na-enweghị atụmatụ nlọghachi azụ bụ ịnakwere ihe egwu dị ndụ na-enweghị isi. "Agbanwere m ihe, ọ dị njọ, enweghị m ike ịlaghachi azụ" bụ ihe ngosi mmepụta kachasị ọnụ.

Mbughari nke nta nke nta. Kama itinye mgbanwe na okporo ụzọ niile n'otu oge, ị na-ebupụ ya na obere pasent (dịka 5%) nke mbụ wee nyochaa metrics (mma, ọnụ ahịa, njehie). Ọ bụrụ na ọ dị mma, ị na-abawanye pasentị; Ọ bụrụ na ọ dị njọ, ị ga-enwetaghachi ya naanị obere akụkụ emetụtara. Nke a na-egbochi nnukwu ihe ize ndụ.

Omume atọ ndị a na-ejikọta usoro sitere na nkeji niile gara aga: eval (unit 5) mgbanwe na-agbanwe n'ọdịnihu, nlekota oru (nkeji a) na-enye ịdọ aka ná ntị mbụ n'oge mgbasa, oyi akwa nkwenye na-ejide nsonaazụ na-ezighị ezi tupu ha apụta. Mmepụta abụghị otu nhazi ziri ezi; Ọ bụ ịdọ aka ná ntị na-aga n'ihu na-atụ, na-enyocha ma nwee ike ịgbanwe site na ntụkwasị obi. Modul dum bụ maka gị ka i guzobe ọzụzụ a.

Na nchịkọta

Mmepụta karịrị ngosi ngosi na-arụ ọrụ: ọ bụ pipeline nke ntinye, ihe nlereanya, nkwenye, ime ihe na nleba anya n'ígwé. Mmepụta enweghị ntụkwasị obi na-enweghị nkwenye; a na-ejikọta mkpebi ndị dị elu na nkwado mmadụ; A na-enyocha oku ọ bụla maka ọnụ ahịa, njehie na ịdị mma. Ụkpụrụ omume, nghọta, njikwa eleghara anya, ịza ajụjụ na nnabata nke oke bụ ihe dị mkpa na mkpebi teknụzụ. Ibe ọ bụla a mụtara na modul a na-agbakọta ọnụ na nhazi a zuru oke.

Ọrụ ngwa

Chepụta njirimara LLM site na njedebe ruo na njedebe. (1) Dejupụta n'ígwé ise (ntinye, ihe nlereanya, nkwenye, ime ihe, nlekota oru) maka ọrụ gị kpọmkwem. (2) Kanye akara site na mmetụta mkpebi mkpebi ga-achọ nnabata mmadụ. (3) Dee opekata mpe ndenye nkwado atọ (atụmatụ, iwu, isi mmalite). (4) Kpebie metric isi ị ga-esochi yana ihe ị na-agaghị abanye. (5) Dee oke na ụkpụrụ omume ị nabatara na njirimara a.

ndetu

[] Enwere m ike ịmepụta ọkwa ise nke pipeline mmepụta.
[] Enwere m ike ịkwado mmepụta megide atụmatụ, iwu na isi mmalite.
[] Enwere m ike ịtọ ọkwa nnabata mmadụ dabere na mmetụta nke mkpebi ahụ.
[] M na-enyocha ọnụ ahịa, njehie na ịdị mma ma na-eme adịghị ede data dị nro na ndekọ.
[] Enwere m ike ịgbanwe ụkpụrụ omume, ọrụ na oke n'ime mkpebi mmepụta.

Ule modul

1. Kedu ihe ọrụ 'sistemu' na-eme na nkata LLM API?

A) Na-enye ihe nlereanya ntuziaka na-adịgide adịgide na iwu omume nke metụtara n'ime mkparịta ụka dum ✔
B) Na-edobe ajụjụ ikpeazụ nke onye ọrụ dere
C) Na-echekwa nzaghachi nke ihe nlereanya ahụ mepụtara
D) Na-ezochi igodo API

Nkọwa: Ọrụ sistemu na-enye ihe nlere anya ntuziaka na-adịgide adịgide, ụdị mmadụ na iwu na-emetụta mkparịta ụka niile; Ọ bụ redirect dị elu, dị iche na ozi onye ọrụ.

2. Gịnị kpatara e ji ezipu akụkọ mkparịta ụka (ozi ndị gara aga) ọzọ oge ọ bụla na arịrịọ API?

A) Ọ dị mkpa ka ndabere dị ka ihe nkesa na-ehichapụ akụkọ ihe mere eme
B) Oku API enweghị obodo; ✔ Ọdịnaya na-ewe iwe na arịrịọ ọ bụla n'ihi na ihe nlereanya ahụ anaghị echeta akụkọ ihe mere eme
C) Achọrọ naanị maka akwụkwọ ọnụahịa, enweghị mmetụta na ihe nlereanya ahụ
D) Izipu akụkọ ihe mere eme bụ iwu iji zere ịbelata nzaghachi

Nkọwa: Oku LLM API enweghị obodo; Ihe nlereanya ahụ anaghị echeta agba ndị gara aga, yabụ akụkọ ihe mere eme niile dị mkpa na-ewe iwe na arịrịọ ọ bụla iji chekwaa ọnọdụ.

3. Kedu ihe bụ 'token' na ọnụahịa LLM?

A) Okwuntughe otu oge eji abanye na API
B) Ego a kapịrị ọnụ akwụ ụgwọ na arịrịọ ọ bụla
C) Nke kacha nta nke ihe nlereanya na-ahazi ederede; na-adakọkarị na akụkụ okwu ✔
D) Otu nke na-atụ naanị ogologo nke mmepụta

Nkọwa: Token bụ nkeji kacha nta nke ihe nlereanya ahụ na-ahazi ederede; Ọ na-adakọkarị n'iberibe okwu, a na-ana ma ntinye na mmepụta ihe dabere na ọnụọgụ nke token.

4. Gịnị kpatara akara mmepụta ji dị ọnụ karịa akara ntinye n'ọtụtụ ndị na-enye LLM?

A) Token mmepụta na-adị ogologo oge karịa ntinye
B) Ihe nrịbama ntinye bụ n'efu
C) A na-eziga akara ngosi mmepụta ugboro abụọ na ịntanetị
D) Ọnụ ego nkeji dị elu n'ihi na mmepụta mmepụta chọrọ mgbako ọzọ maka akara ọ bụla ✔

Nkọwa: Onye ọ bụla n'ime ihe ndị na-emepụta ihe na-achọ ka ihe nlereanya ahụ na-arụ ọrụ nzọụkwụ site na nzọụkwụ (mgbakọ); Ọnụ ahịa mmepụta a dị elu karịa nhazi ntinye n'otu oge, ya mere ọnụ ahịa otu mmepụta na-adịkarị elu.

5. N'ọnọdụ dị aṅaa ka iji iyi egwu eme ihe kasị baa uru?

A) Na azịza ogologo; Na-ebelata oge echere ma gbochie oge nkwụsị ✔
B) Naanị n'ụdị dị mkpirikpi, azịza otu okwu
C) Iji belata ọnụ ahịa na efu
D) Iji zoo igodo API

Nkọwa: Na nzaghachi dị ogologo, mgbasa ozi na-ebelata aghọtaghị latency site na ime ka okwu mbụ pụta ozugbo ma gbochie oge nkwụsị HTTP na nnukwu max_tokens ụkpụrụ.

6. Gịnị ka ịba ụba 'mgbalị' n'ụdị ọgbara ọhụrụ na-emetụtakarị?

A) Na-ebelata azịza mgbe niile
B) Na-atụgharị igodo API na-akpaghị aka
C) Ọ na-ebelata ọnụ ahịa akara ntinye naanị
D) Na-abawanye echiche omimi na mmefu ego; Ọ nwere ike melite ogo, mana ọ na-abawanye latency na ọnụ ahịa ✔

Nkọwa: Oke mbọ na-emezi ka ihe nlereanya ahụ ga-esi eche maka ọrụ yana ọnụọgụ ole ọ ga-eji; Nkwalite nwere ike melite ogo, mana ọ na-abawanye latency na ọnụ ahịa. Maka ọrụ dị mfe, obere mgbalị zuru ezu.

7. Kedu ihe n'ozuzu ụzọ kachasị ọnụ ahịa maka ọrụ nhazi dị mfe, dị elu?

A) Na-eji ụdị kachasị ọnụ na ike kachasị ike mgbe niile
B) Na-akpọ ụdị niile n'otu oge maka arịrịọ ọ bụla
C) Ịhọrọ ụdị nke kachasị mfe / dị ọnụ ala nke na-arụ ọrụ ahụ site na iji ntakịrị eval gosi ya ✔
D) idobe max_tokens uru na-enweghị isi oke

Nkọwa: Ọ bụrụ na ọrụ ahụ adịghị mgbagwoju anya, ịhọrọ ụdị ngwa ngwa na ọnụ ala dị ọnụ ala nke na-arụ ọrụ ahụ ngwa ngwa (dịka klas Haiku) kama iji ụdị kachasị ọnụ na nke dị ike ga-ebelata ọnụ ahịa.

8. N'ọnọdụ dị aṅaa ka caching ngwa ngwa na-ebelata ọnụ ahịa ya?

A) Mgbe a na-eji nnukwu na nke edoziri eme ihe ugboro ugboro n'ọtụtụ arịrịọ ✔
B) Mgbe ezigara ederede dị iche iche na arịrịọ ọ bụla
C) Mgbe naanị otu arịrịọ ka emere
D) Iji belata ihe mmepụta ihe

Nkọwa: Caching bụ egwuregwu prefix; N'ọnọdụ ebe a na-ejigharị nnukwu, enweghị mgbanwe (usoro ngwa ngwa, akwụkwọ) n'ọtụtụ arịrịọ, ịgụ ihe site na cache bụ obere akụkụ (~ 0.1x) nke ọnụahịa zuru oke.

9. Kedu ka m ga-esi dezie ngwa ngwa ka cache ngwa ngwa dabara?

A) Ịtinye ọdịnaya agbanwe agbanwe na mbido yana ihe edoziri na njedebe
B) Tinye ụbọchị na oge dị ugbu a na ngwa ngwa maka arịrịọ ọ bụla
C) Ịtinye ọdịnaya edobere (ngwa ngwa sistemụ, akwụkwọ) na mmalite yana ọdịnaya agbanwe agbanwe na njedebe ✔
D) Ịgbanwe usoro ndepụta ngwá ọrụ na arịrịọ ọ bụla

Nkọwa: Ebe ọ bụ na cache bụ egwuregwu prefix, ọdịnaya edozi/adịghị agbanwe agbanwe (usoro ngwa ngwa, akwụkwọ) na-ebido; A na-etinye ọdịnaya agbanwe agbanwe (ụbọchị, ajụjụ onye ọrụ, ID arịrịọ) na njedebe. Ọbụna otu byte gbanwere na mbido ga-emebi cache ahụ.

10. Kedu ụdị ọrụ ka nhazi batch kacha mma?

A) Mkparịta ụka dị ndụ ebe onye ọrụ na-atụ anya nzaghachi ozugbo na ihuenyo
B) Naanị otu ajụjụ dị mkpirikpi
C) Igodo API na-emepụta
D) Ọrụ ndị na-egbu oge na-anabata, nnukwu olu na-achọghị nsonaazụ ozugbo ✔

Nkọwa: Nhazi nhazi dị mma maka nnukwu ọrụ nke na-adịghị achọ nzaghachi ozugbo ma na-anabata oge igbu oge; A na-anapụta nsonaazụ mgbe oge ụfọdụ gasịrị, mana ọnụ ahịa otu na-adịkarị ala.

11. Kedu ihe a na-eji iji obi ike kwekọọ nke na-arịọ nsonaazụ dị na batch?

A) izipu usoro (ọnọdụ) nke arịrịọ
B) Ogologo azịza
C) Nkeji anọ ikpeazụ nke igodo API
D) A pụrụ iche custom_id nyere onye ọ bụla arịrịọ ✔

Nkọwa: Enwere ike iweghachite nsonaazụ buru ibu n'usoro dị iche karịa usoro ntinye; yabụ ọ dị mkpa ijikọ rịzọlt were were ID, ọ bụghị ọnọdụ, yana omenala_id pụrụ iche enyere maka arịrịọ ọ bụla.

12. Gịnị bụ omume akwadoro mgbe ị nwetara njehie 429 (oke ọnụ ahịa) site na API?

A) Mmanye site na izipu ọtụtụ arịrịọ n'otu oge
B) Na-agbalị ọzọ na exponential backoff, na-eso ọzọ-agbalị-mgbe isi ✔
C) Kagbuo arịrịọ ahụ kpamkpam wee gosi njehie dị ka okuku onye ọrụ
D) Ịgbanwe igodo API

Nkọwa: 429 bụ njehie nwere ike ịnwale; Ụzọ ziri ezi bụ iji nwaa ọzọ site n'ịgbasa azụ azụ, na-asọpụrụ isi mgbagharị-mgbe emechara. Ọtụtụ SDK ndị gọọmentị na-eme nke a na-akpaghị aka.

13. Kedu n'ime koodu njehie HTTP ndị a na-echekarị ka enwere ike ịnwale?

A) 400 (arịrịọ na-ezighi ezi)
B) 401 (njehie nyocha)
C) 529 (ihe nkesa bufere oke) ✔
D) 404 (ahụghị)

Nkọwa: 429 (oke ọsọ), 500 (njehie ihe nkesa) na 529 (nfefe) bụ mperi nwa oge ma enwere ike ịnwale ya site na azụ. Njehie dị ka 400 na 401 bụ arịrịọ / njirimara; Ịgbalị ọzọ agaghị edozi ya.

14. Kedu n'ime ihe ndị a bụ ụzọ echekwara iji jikwaa igodo API?

A) Na-echekwa na mgbanwe gburugburu / onye njikwa zoro ezo, ọ bụghị itinye ya na koodu ma na-atụgharị mgbe niile ✔
B) Dee igodo ozugbo na koodu isi mmalite wee ziga ya na ebe nchekwa
C) Itinye igodo n'akụkụ ndị ahịa (ihe nchọgharị) Javascript
D) Ịkekọrịta otu igodo n'etiti ndị otu niile site na email

Nkọwa: Anaghị edekwa igodo na koodu isi mmalite ma ọ bụ ebe nchekwa; A na-echekwa ya na mgbanwe gburugburu ebe obibi ma ọ bụ ngwá ọrụ nlekọta ezoro ezo, nyere ya na obere ohere, ma na-atụgharị mgbe niile.

15. Kedu ụzọ kachasị mma maka njikọta LLM na ngwá ọrụ akpaaka (n8n, Zapier, Make) n'ihe gbasara nzuzo?

A) Na-eziga data raw niile na ihe nlereanya, ọbụlagodi na ọ dịghị mkpa
B) Ide igodo API na ederede dị larịị n'ime usoro mgbaba
C) Ibelata na ikpuchi data nwere mmetụta na-echekwa igodo dị ka nzere nzuzo ✔
D) Idobe data nkeonwe na-adịgide adịgide na akụkọ ihe mere eme

Nkọwa: Ka data na-abanye akpaaka na-agafe na sistemụ ndị ọzọ na ihe nlereanya, ọ dị mkpa ka ewelata data nkeonwe / nkeonwe, kpuchie na naanị mpaghara achọrọ; A na-echekwa igodo API dị ka nzere nzuzo n'ime ngwaọrụ ahụ.

16. Gịnị kpatara nkwado nke mmepụta ihe dị mkpa na njirimara mmepụta nke dabeere na LLM?

A) Naanị nhazi ka achọrọ n'ihi na ihe nlereanya ahụ anaghị emejọ ihe
B) N'ihi na ihe nlereanya ahụ nwere ike ịmepụta mmiri mmiri ma mgbe ụfọdụ na-ezighị ezi; Ekwesịrị iji akụrụngwa na nkwado mmadụ nyochaa atụmatụ / iwu
C) Ekwesịrị izere nkwado maka na ọ na-abawanye ọnụ ahịa
D) Nyocha bụ naanị iji belata ọnụ ọgụgụ nke token

Nkọwa: LLM nwere ike ịmepụta nke ọma ma mgbe ụfọdụ ezighi ezi (hallucinatory) mmepụta; ya mere ọ pụtara na mkpebi mmetụta dị elu; A ga-enyocha ya site na nyocha atụmatụ/ụkpụrụ, nkwado isi mmalite, na nkwado mmadụ mgbe ọ dị mkpa.