Ntọala LLM API: Arịrịọ, Nzaghachi, na Ọrụ Ozi

Uru:

• Nwere ike kọwapụta nhazi ntọala nke arịrịọ API LLM (njedebe, ihe nlereanya, ozi, max_tokens)
• Na-aghọta ọdịiche dị n'etiti sistemu, onye ọrụ na ọrụ enyemaka yana akụkọ mkparịta ụka enweghị obodo
• Nwere ike ịgụ na ịkọwa mpaghara (ihe mgbochi ọdịnaya, stop_reason, ojiji) nke nzaghachi eweghachiri

Na modul ndị gara aga, anyị jiri ọgụgụ isi sitere na windo nkata. Ma ọ bụrụ na ịchọrọ itinye AI n'ime ngwaahịa nke gị, akpaaka ma ọ bụ usoro ọrụ, mkparịta ụka nkata agaghị ebipụ ya; Ịkwesịrị ijikọ na ihe nlereanya ahụ na mmemme, ya bụ, na koodu ma ọ bụ ngwá ọrụ akpaaka. Aha akwa mmiri a bụ API (Application Programming Interface, nkwekọrịta na-enye ohere ka ngwanrọ abụọ na-ekwurịta okwu na ụfọdụ iwu). Mgbe ịmechara nkeji a, ị ga-ama ihe bụ arịrịọ API LLM (Large Language Model), ọrụ ozi na-eme, yana otu esi agụ nzaghachi. Nke a bụ ntọala nke a ga-ewu ndị ọzọ nke modul.

Kedu ka API si arụ ọrụ?

Isi eruba na API bụ nke a: ị na-eziga arịrịọ n'ụdị ụfọdụ; Ihe nkesa na-eweghachi nzaghachi n'ụdị a kapịrị ọnụ. Na LLM, nke a na-abụkarị oku HTTP (HTTP: ọkọlọtọ ọkọlọtọ maka ibu nzaghachi arịrịọ na webụ) gaa n'otu adreesị (ebe njedebe, adreesị edobere na sava nke na-edozi arịrịọ gị). Dịka ọmụmaatụ, na API izi ozi, arịrịọ niile na-aga na otu adreesị ma na-ebu ya n'ime ahụ dị ka JSON (JavaScript Object Notation - usoro ederede nke nwere igodo/uru ụzọ abụọ nke mmadụ na igwe nwere ike ịgụ).

Na arịrịọ, ị kọwapụta opekata mpe ihe atọ ndị a:

• Ụdị: Kedu ụdị ị ga-eji (dịka ọmụmaatụ ngwa ngwa na ọnụ ala ma ọ bụ ihe nlereanya dị ike).
• max_tokens: Ọnụ ọgụgụ kachasị elu nke tokens (nke kacha nta na-edozi ederede, nke a ga-edozi n'ụzọ zuru ezu na nkeji ọzọ) nke ihe nlereanya ahụ nwere ike ịmepụta; ya bụ oke mmepụta.
• ozi: Ndepụta ozi mebere mkparịta ụka.

Nzọụkwụ site nzọụkwụ: Otu esi edozi arịrịọ

1. Kwadebe ebe njedebe na nzere. Ị gbakwunye igodo API gị (eriri nzuzo nke na-egosi njirimara gị) na arịrịọ dị na nkụnye eji isi mee. Ị tinyeghị igodo na koodu; Anyị ga-ekpuchi nchekwa nchekwa na nkeji 9.
2. Họrọ ụdị na oke mmepụta. Ụdị dị fechaa + obere max_token maka ọrụ dị mfe; Ihe nlereanya dị ike + oke oke maka ọrụ dị mgbagwoju anya.
3. Hazie ndepụta ozi. List the system instruction, user message, and past rounds (if any).
4. Zipu arịrịọ wee tugharia nzaghachi. Gụọ ọdịnaya ederede, kwụsị ihe kpatara ya, yana ojiji akara sitere na JSON eweghachiri.

Ọrụ ozi: sistemụ, onye ọrụ, onye inyeaka

Mkparịta ụka nwere ozi ahaziri n'usoro, ma ozi ọ bụla nwere ọrụ. Ọrụ ahụ na-ekpebi ka ihe nlereanya ahụ si emeso ederede ahụ.

Ọrụ

Onye na-ede

Ebumnuche

usoro

Onye nrụpụta/onye ọrụ

Ntuziaka na-adịgide adịgide, ụdị mmadụ na iwu na-emetụta n'ime mkparịta ụka ahụ dum

onye ọrụ

onye njedebe

Ajụjụ ma ọ bụ ntinye onye ọrụ ugbu a

onye inyeaka

ihe nlereanya

Azịza nke ihe nlereanya mepụtara (na nzaghachi ndị gara aga)

Ọrụ sistemu dị ka mpaghara sistemu dị iche na aru arịrịọ n'ọtụtụ ndị na-enye; Edepụtara onye ọrụ na onye inyeaka n'usoro n'usoro n'ime ndepụta ozi. Critical point: the system instruction is the high-level instruction, the user message is the request to be answered at that moment.

{"model": "claude-opus-4-8", "max_tokens": 1024, "system": "Ị bụ onye nnyemaaka nkwado ụlọ ọrụ. Nye nzaghachi dị mkpirikpi, nke ziri ezi na nkwenye kwadoro. Emepụtala ozi ị na-ejighị n'aka.", "ozi": [ {"ọrụ": "onye ọrụ", "ọdịnaya": "Kedu ka m ga-esi maliteghachi?" } ]}

Okwu enweghị obodo

Nke a bụ echiche na-ezighi ezi: Oku LLM API enweghị steeti - ihe nkesa anaghị echekwa n'etiti arịrịọ abụọ. Ihe nlereanya anaghị echeta arịrịọ gị gara aga. Ọ bụrụ na ị na-ahazi mkparịta ụka ọtụtụ okirikiri, ị ga-achọ iziga agba ndị gara aga site na arịrịọ ọhụrụ ọ bụla. "Nchekwa" ihe nlereanya ahụ nwere ndepụta ozi izipula.

{"model": "claude-opus-4-8", "max_tokens": 512, "ozi": [ {"ọrụ": "onye ọrụ", "ọdịnaya": "Ndewo, aha m bụ Deniz." }, {"role": "assistant", "content": "Ndewo Deniz, kedu ka m ga-esi nyere gị aka?" }, {"role": "user", "content": "Ekwuru m aha m, ị chetara?" } ]}

Ịza ozi nke atọ nke ọma dabere na izipu ozi abụọ gara aga. Ọ bụrụ na izipughị ya, ihe nlereanya ahụ agaghị ama "Oké Osimiri" ma ọ ga-aza ezighi ezi. Nke a na-emetụtakwa ọnụ ahịa ya ozugbo: ogologo mkparịta ụka ahụ, ka ndepụta ahụ buru ibu, arịrịọ ọ bụla na-eri ọtụtụ akara.

NDỤMỌDỤ: N'ime ogologo mkparịta ụka, ịchịkọta na ịkwagharị agba ochie (nchịkọta + agba ole na ole ikpeazụ) kama izipu akụkọ ihe mere eme dum na-ebelata ọnụ ahịa ma chekwaa windo gburugburu. Anyị ga-eme ka nke a miri emi na nkeji 6 na 11.

Gụọ Azịza ya

Mgbe ihe nlereanya weghachiri nzaghachi, ị na-enweta ihe ahaziri ahazi, ọ bụghị ederede doro anya. Ebe a na-ahụkarị:

{ "id": "msg_01ABC...", "model": "claude-opus-4-8", "role": "assistant", "content": [ {"ụdị": "text", "text": "Iji malite nloghachi, gaa na ibe 'My Orders' n'ime akaụntụ gị..." } ], "stop_reason", "stop_reason": "site" 47, "mpụta_token": 88}}

• ọdịnaya: Nzaghachi n'onwe ya; Ọ bụ ndepụta ngọngọ ọdịnaya. Mpaghara ederede nke ngọngọ ederede bụ azịza n'ezie.
• stop_reason: Gịnị mere ihe nlereanya ahụ kwụsịrị. end_turn = njedebe eke; max_tokens = rapaara na oke mmepụta (nzaghachi nwere ike ezughị ezu); refusal = jụrụ maka nchekwa. Koodu gị kwesịrị ibu ụzọ lelee stop_reason mgbe niile.
• ojiji: Nọmba ntinye na mmepụta ihe. Ọ bụ ntọala nke ọnụ ahịa na oke nsochi.

Ntị: Ọ bụrụ na stop_reason bụ max_tokens, azịza ya emechabeghị. Ịgwọ nke a dị ka "nzaghachi na-aga nke ọma" na igosi onye ọrụ ọkara ederede bụ otu n'ime mmejọ kachasị na mmepụta. Ma bulite max_token ma ọ bụ jiri nkwanye ugwu.

Ngwa ngwa adịghị ike / Ike siri ike

Otu ọrụ na-akpali usoro abụọ dị iche iche:

# WEAKỊ bụ onye inyeaka. Zaa ajụjụ ndị ahụ.

# STRONGỊ bụ onye inyeaka nkwado ụlọ ọrụ. Iwu: - Dabere naanị na ozi dị na akwụkwọ iwu enyere; Ọ bụrụ na ọ bụghị na akwụkwọ ahụ, kwuo "Enweghị m ozi a, ana m eduzi ya na ngalaba dị mkpa." - Azịza ekwesịghị ịgafe ahịrị ahịrị atọ, bụrụ nke nkịtị na nke doro anya. - Ajụla maka data nkeonwe (nọmba TC ID, nọmba kaadị) ma ghara ikwugharị. - Echela mgbe ị na-ejighị n'aka.

Ụdị dị ike; Ọ na-akọwapụta oke, ụdị, oke nchekwa na omume na-ejighị n'aka. Nkwekọrịta nke mmepụta ihe nlereanya na-abịa kpọmkwem site na nke a doro anya.

Obere obere atọ

Ikpe 1 - Nkwado bot (ọnyà enweghị obodo). Otu e-azụmahịa were bot ndụ; Mgbe onye ọrụ kwuru "kagbuo usoro gara aga", bot "chefuru" nọmba usoro. Ihe kpatara ya: ha na-eziga arịrịọ ọ bụla na naanị ozi ikpeazụ. Ngwọta: ha gbakwunyere agba isii ikpeazụ na ndepụta ozi. Nsonaazụ: echekwara okwuntughe, mana ntinye kwa arịrịọ si na akara ngosi 40 ruo ~ 600 tokens — anyị ga-ekpuchi nkuzi ọnụ ahịa na nkeji 2.

Ikpe 2 - Nchịkọta nkwekọrịta ezughị ezu. Otu ndị ọkàiwu na-enwe nkwekọrịta nwere peeji 10; max_tokens: 300 ka dị ala, nchịkọta na-ebipụ n'etiti ahịrịokwu. stop_reason bụ max_tokens oge ọ bụla mana ọ nweghị onye na-ele anya. mụbara max_tokens ruo 1500 wee tinye nlele stop_reason; Ọnụọgụ nchịkọta mkpọturu agbajiri gbadara site na 18% ruo 0%.

Ikpe 3 - Ịgwakọta ọrụ. Otu ndị na-ere ahịa na-ede ntụziaka niile n'ime ozi onye ọrụ, na-ahapụ usoro ahụ oghere. Mgbe ntinye onye ọrụ gwakọtara na ntụziaka, ihe nlereanya ahụ ga-agbaso iwu onye ọrụ mgbe ụfọdụ ka "echefu iwu ndị gara aga." Ha kpaliri iwu na-adịgide adịgide na usoro; Site na ikewapụta ndenye onye ọrụ na ntuziaka, mmebi iwu belatara nke ukwuu.

Mmejọ ndị nkịtị

• Ichefu izipu ihe gara aga: A na-eche na ihe nlereanya ahụ "agaghị echeta"; ebe ọ bụ enweghị obodo. Ị na-ebu okwu.
• Eleghị anya `stop_reason`: A na-ahụta azịza ya na max_tokens zuru oke.
• Ịtinye ntuziaka na 'onye ọrụ': Iwu na-adịgide adịgide n'ime sistemụ; ntinye ngwa ngwa na-agara onye ọrụ. Ịgwakọta na-emepụta adịghị ike nchekwa.
• Na-emehie 'ọdịnaya' maka eriri dị larịị: Azịza ya bụ ndepụta ngọngọ; gụọ mpaghara ederede nke ngọngọ ederede nke mbụ, nyochaa ụdị ya tupu ị nweta ọdịnaya[0] na ndeksi kpuru ìsì.
• Ịtinye igodo na koodu: Jiri mgbanwe gburugburu ebe obibi (otu 9).

miri emi: Ihe mgbochi ọdịnaya na azịza akụkụ ọtụtụ

Ịghọta ihe kpatara mpaghara ọdịnaya dị na nzaghachi bụ ndepụta bụ isi maka njirimara ndị dị elu ị ga-ezute ma emechaa. Mgbe ụfọdụ, ihe nlereanya ahụ na-alaghachighị otu ngọngọ nke ederede, ma ọtụtụ ngọngọ: ngọngọ nke echiche, na-esote ngọngọ nke ederede; ma ọ bụ ngọngọ nke ederede na-esote ngọngọ iji ngwá ọrụ. Ọ bụ ya mere ịgụta ọdịnaya na-enweghị isi[0] dị ka “azịza” ji adị ike. Ụzọ ziri ezi bụ ịga na ndepụta ahụ wee dozie ya n'ụdị: ị na-anakọta ọdịnaya ederede nke ngọngọ nke ụdị ubi ha bụ ederede, na-emeso ụdị ndị ọzọ (echiche, ngwá ọrụ) iche iche.

Ihe dị iche a na-eme na omume bụ na ị nwere ike ịbanye echiche nke ihe nlereanya ahụ (ma ọ bụrụ na ọ bụla) na-ekpughere ya onye ọrụ, redirect ngwá ọrụ oku iji kewapụ mgbagha, na-ebipụta naanị azịza na ihuenyo. Ka modul na-aga n'ihu (karịsịa na nkeji 4 na 11) ị ga-ahụ ka usoro ngọngọ a bara uru maka ịkwado na iduzi mmepụta.

Isi ihe ọzọ bara uru: ị nwere ike ịnweta otu ụdị ahụ site na nyiwe ndị na-eweta ihe dị iche iche ( API kpọmkwem, site na onye na-eweta igwe ojii). Ọ bụ ezie na adreesị njedebe na usoro nyocha nwere ike ịgbanwe, echiche ndị bụ isi dị ka ọrụ ozi, enweghị obodo, na nhazi nzaghachi ka bụ otu. Yabụ na isi ihe dị na ngalaba a na-emetụta n'agbanyeghị ikpo okwu ị na-eji.

Na nchịkọta

Arịrịọ LLM API nwere ụdị, oke mmepụta na ndepụta ozi; ọrụ (usoro, onye ọrụ, onye inyeaka) chọpụta omume nke ihe nlereanya. Oku enweghị steeti: ị na-ebu ihe gbara ya gburugburu na arịrịọ ọ bụla. Nzaghachi bụ ihe ahaziri; Ịgụ na ịkọwa ọdịnaya, stop_reason na ojiji ubi bụ ndabere nke anwụ ngwa ngwa na mmepụta.

Ọrụ ngwa

Họrọ otu ọrụ site na ọrụ nke gị (dịka nhazi ozi-e na-abata, ịmepụta nchịkọta nkenke). Na mpempe akwụkwọ: (1) dee usoro ngwa ngwa na iwu 4-5, (2) melite ozi onye ọrụ sample na akụkọ ihe mere eme 2 ma ọ bụrụ na ọ bụla, (3) chọpụta uru ezi uche dị na ya maka max_tokens wee dee ihe ziri ezi, (4) ndepụta nke nkwụsị_reason ụkpụrụ ị ga-edozi na nzaghachi azụghachi na otu.

ndetu

• [] Enwere m ike ịgụta akụkụ atọ iwu kwadoro nke arịrịọ (ụdị, max_tokens, ozi).
• [] Enwere m ike ịkọwa ọdịiche dị n'etiti sistemụ, onye ọrụ na ọrụ enyemaka.
• [ ] Amaara m na oku enweghị obodo yana m kwesịrị iburu ihe gara aga.
• Enwere m ike ịgụ na ikwu okwu na ọdịnaya, stop_reason na mpaghara ojiji.
• [] Site na max_tokens, enwere m ike ịhụ ma jikwaa nzaghachi mpịaji.