Riba:
- Za a iya kwatanta ainihin tsarin buƙatar API na LLM (maki na ƙarshe, samfuri, saƙonni, max_tokens)
- Ya fahimci bambanci tsakanin tsarin, mai amfani da matsayin mataimaka da tarihin taɗi mara ƙasa
- Za a iya karantawa da fassara filayen (tushen abun ciki, stop_reason, amfani) na martanin da aka dawo
A cikin samfuran da suka gabata, mun yi amfani da hankali na wucin gadi daga taga taɗi. Amma idan kuna son shigar da AI a cikin samfuran ku, sarrafa kansa ko aikin aiki, ƙirar taɗi ba za ta yanke shi ba; Kuna buƙatar haɗawa da samfurin ta hanyar shirye-shirye, wato, tare da lamba ko kayan aiki ta atomatik. Sunan wannan gada API (Application Programming Interface, kwangilar da ke ba da damar software guda biyu don yin magana da wasu dokoki). Lokacin da kuka gama wannan rukunin, zaku san abin da ya ƙunshi buƙatun API na LLM (Large Language Model), menene matsayin saƙon, da yadda ake karanta amsa. Wannan shi ne harsashin da za a gina sauran module a kai.
Ta yaya API ke Aiki?
Asalin kwarara cikin API shine: kuna aika buƙatu ta wani tsari; Sabar tana mayar da martani a cikin takamaiman tsari. A cikin LLMs, wannan yawanci kiran HTTP ne (HTTP: daidaitaccen ka'ida don ɗaukar amsa buƙatu akan gidan yanar gizo) zuwa adireshi ɗaya (ƙarshen ƙarshen, ƙayyadadden adireshi akan sabar da ke ɗaukar buƙatarku). Misali, a cikin API ɗin saƙo, duk buƙatun suna zuwa adireshi ɗaya kuma ana ɗaukar su a cikin jiki azaman JSON (JavaScript Object Notation — tsarin rubutu wanda ya ƙunshi maɓalli/ƙimar nau'i-nau'i waɗanda mutane da injina za su iya karantawa).
A cikin buƙata, kun ƙididdige aƙalla waɗannan abubuwa uku:
- Model: Wane samfurin za ku yi amfani da shi (misali samfuri mai sauri da arha ko samfuri mai ƙarfi).
- max_tokens: Matsakaicin adadin alamun (ƙananan naúrar da ake sarrafa rubutun, wanda za'a sarrafa shi dalla-dalla a cikin naúrar ta gaba) wanda samfurin zai iya samarwa; watau iyakar fitarwa.
- saƙonni: Jerin saƙonnin da suka haɗa da tattaunawar.
Mataki-mataki: Yadda ake saita buƙatar
- Shirya ƙarshen ƙarshen da takaddun shaida. Kuna ƙara maɓallin API ɗinku (kitin sirrin da ke tabbatar da ainihin ku) zuwa buƙatun a cikin taken. Ba ka taɓa saka maɓalli a cikin lambar ba; Za mu rufe ajiya mai aminci a cikin naúrar 9.
- Zaɓi samfurin da iyakar fitarwa. Samfurin nauyi + ƙananan max_tokens don aiki mai sauƙi; Samfuri mai ƙarfi + mafi girman iyaka don ɗawainiya mai rikitarwa.
- Saita jerin saƙon. List the system instruction, user message, and past rounds (if any).
- Aika buƙatun kuma rarraba amsa. Karanta abun cikin rubutun, dakatar da dalili, da amfani da alamar daga JSON da aka dawo.
Matsayin Saƙo: tsarin, mai amfani, mataimaki
Tattaunawa ta ƙunshi saƙonnin da aka tsara a jere, kuma kowane saƙo yana da rawar da ya taka. Matsayin yana ƙayyadaddun yadda samfurin ke bi da wannan rubutu.
Matsayi
Wanene ya rubuta
Manufar
tsarin
Mai haɓakawa / mai gudanarwa
Dogayen umarni, mutuntaka da ƙa'idodi waɗanda ke aiki a cikin duka tattaunawar
mai amfani
karshen mai amfani
Tambayar mai amfani na yanzu ko shigarwar
mataimaki
abin koyi
Martani da samfurin ya samar (da martanin da suka gabata)
Matsayin tsarin yana samuwa azaman filin tsarin daban a cikin jikin buƙatun a yawancin masu samarwa; an jera mai amfani da mataimaki a jere a cikin jerin saƙonni. Critical point: the system instruction is the high-level instruction, the user message is the request to be answered at that moment.
{"model": "claude-opus-4-8", "max_tokens": 1024, "tsarin": "Kai mataimakan tallafi ne na kamfani. Ba da ɗan gajeren amsa, na yau da kullun kuma tabbatacce. Kada ku samar da bayanan da ba ku da tabbas game da su.", "saƙonni": [ {"rawar": "mai amfani", "abun ciki": "Ta yaya zan fara?" } ]}
Magana ba ta da ƙasa
Ga mafi yawan kuskuren fahimta: Kiran API na LLM ba shi da ƙasa - uwar garken ba ta riƙe ƙwaƙwalwar ajiya tsakanin buƙatun biyu. Samfurin baya tunawa da buƙatarku ta baya. Idan kuna saita taɗi mai zagaye da yawa, kuna buƙatar sake aika zagayen da suka gabata tare da kowace sabuwar buƙata. “Memory” samfurin ya ƙunshi jerin saƙonnin da kuka aiko.
{"model": "claude-opus-4-8", "max_tokens": 512, "saƙonni": [ {"role": "mai amfani", "abun ciki": "Sannu, sunana Deniz." }, {"role": "mataimaki", "content": "Sannu Deniz, ta yaya zan iya taimaka muku?" }, {"role": "user", "content": "Na fadi sunana, ka tuna?" } ]}
Amsa saƙo na uku daidai ya dogara da aika saƙonnin da suka gabata biyu. Idan ba ku aika ba, samfurin ba zai san "Sea" ba kuma zai amsa ba daidai ba. Wannan kuma yana shafar farashin kai tsaye: tsawon tattaunawar, mafi girman jerin, kowane buƙatun yana cin ƙarin alamu.
Tukwici: A cikin doguwar tattaunawa, taƙaitawa da motsi tsohuwar zagaye (takaitawa + ƴan zagaye na ƙarshe) maimakon aika duk tarihin yana rage farashi kuma yana adana taga mahallin. Za mu zurfafa wannan a cikin raka'a 6 da 11.
Karanta Amsar
Lokacin da samfurin ya dawo da martani, kuna karɓar abu da aka tsara, ba rubutu na fili ba. Wuraren da aka saba:
{"id": "msg_01ABC...", "model": "claude-opus-4-8", "role": "mataimaki", "content": [ {"nau'in": "text", "text": "Don fara dawowa, je zuwa shafin 'Orders' a cikin asusunka..." } ], "stop_reason": "stop_reason": "stop_reason": "us" 47, "fitarwa_alama": 88}}
- abun ciki: Amsa kanta; Yana da jerin abubuwan tubalan. Filin rubutu na toshe rubutun shine ainihin amsar.
- stop_reason: Me yasa samfurin ya tsaya. karshen_turn = ƙarshen halitta; max_tokens = makale a iyakar fitarwa (amsar na iya zama bai cika ba); ƙi = ƙi saboda dalilai na tsaro. Ya kamata lambar ku ta fara duba stop_reason.
- amfani: Lambobin shigarwa da fitarwa. Shi ne tushen farashi da iyaka bin diddigin.
Hankali: Idan stop_reason shine max_tokens, ba a gama amsawa ba. Ma'anar wannan a matsayin "amsa mai nasara" da nuna rabin rubutu ga mai amfani yana ɗaya daga cikin kuskuren da aka fi sani da samarwa. Ko dai ƙara max_tokens ko amfani da yawo.
Rauni mai ƙarfi / Ƙarfi mai ƙarfi
Aiki iri ɗaya tare da tsarin abubuwa daban-daban guda biyu:
# WEAKKai mataimaki ne. Amsa tambayoyin.
# STRONG Kai mataimaki ne na tallafi na kamfani. Dokoki: - Dogara kawai akan bayanan da ke cikin takardar manufofin da aka bayar; Idan ba a cikin takardar ba, a ce "Ba ni da wannan bayanin, ina jagoranta zuwa sashin da ya dace." - Amsoshi kada su wuce jimloli 3, su kasance na yau da kullun kuma a bayyane. - Kada ku nemi bayanan sirri (lambar ID TC, lambar katin) kuma kar a maimaita. - Kada ku yi tsammani lokacin da ba ku da tabbas.
Sigar mai ƙarfi; Yana fayyace iyaka, tsari, gefen aminci, da hali cikin rashin tabbas. Daidaitaccen samfurin samfurin ya zo kai tsaye daga wannan tsabta.
Mini Cases guda uku
Case 1 - Taimakon bot (tarkon rashin jiha). Ƙungiyar kasuwancin e-commerce ta ɗauki bot ɗin kai tsaye; Lokacin da mai amfani ya ce " soke odar da ta gabata", bot "ya manta" lambar oda. Dalili: suna aika kowace bukata da saƙon ƙarshe kawai. Magani: sun ƙara zagaye 6 na ƙarshe zuwa jerin saƙonni. Sakamako: an kiyaye mahallin mahallin, amma shigar da kowane buƙatun ya ƙaru daga alamu 40 zuwa ~ 600 tokens - za mu rufe darasin farashi a cikin raka'a 2.
Case 2 - Takaitacciyar kwangilar da ba ta cika ba. Wata ƙungiyar lauyoyi tana da kwangiloli masu shafuka 10 da aka tsara; max_tokens: 300 sun ragu, taƙaitaccen bayani yana yanke tsakiyar jumla. stop_reason ya kasance max_tokens kowane lokaci amma babu wanda yake kallo. ya karu max_tokens zuwa 1500 kuma ya kara duban dalilin dakatarwa; Ƙimar taƙaitaccen bayanin ya ragu daga 18% zuwa 0%.
Harka 3 - Cakuda ayyuka. Ƙungiyar tallace-tallace tana rubuta duk umarnin cikin saƙon mai amfani, ta bar tsarin babu komai. Lokacin shigar da mai amfani ya gauraye da umarni, ƙirar wani lokaci zai bi umarnin mai amfani don "manta dokokin da suka gabata." Sun motsa ka'idoji na dindindin zuwa tsarin; Ta hanyar raba shigarwar mai amfani da koyarwa, keta dokokin ya ragu sosai.
Kuskuren gama gari
- Manta don aika abin da ya gabata: Ana tunanin samfurin "ba tunawa" ba; alhalin ba shi da wata kasa. Kuna ɗaukar mahallin.
- Ba kallon `stop_dalilin`: Amsar da aka tsaya tare da max_token ana ɗaukarta cikakke.
- Haɗa umarni a cikin 'mai amfani': Dokokin dagewa cikin tsari; shigar da sauri yana zuwa ga mai amfani. Hadawa yana haifar da raunin tsaro.
- Kuskure 'abun ciki' don zaren fili: Amsar ita ce jerin tubalan; karanta filin rubutu na toshe rubutun farko, tabbatar da nau'in sa kafin samun abun ciki[0] tare da maƙasudin makafi.
- Saka maɓalli a cikin lambar: Yi amfani da canjin yanayi (raka'a 9).
Zurfafa: Tubalan Abun ciki da Amsoshin Sashe da yawa
Fahimtar dalilin da yasa filin abun ciki a cikin martani shine jeri yana da mahimmanci ga abubuwan ci-gaba da zaku ci karo da su daga baya. Wani lokaci samfurin ba ya dawo da guda ɗaya na rubutu, amma tubalan da yawa: toshe na tunani, biye da toshe na rubutu; ko wani toshe na rubutu yana biye da toshe mai amfani da kayan aiki. Shi ya sa kirga abun ciki a makance[0] a matsayin "amsa" yana da rauni. Hanyar da ta dace ita ce shiga cikin jerin kuma a tsara shi ta nau'in: kuna tattara abubuwan da ke cikin rubutun tubalan waɗanda nau'in filin rubutu ne, kuma ku bi wasu nau'ikan (tunanin, kayan aiki) daban.
Abin da wannan bambance-bambancen ke yi shi ne cewa za ku iya shiga tunanin ƙirar (idan akwai) ba tare da bayyana shi ga mai amfani ba, tura kiran kayan aiki don raba dabaru, kuma kawai buga ainihin amsar akan allon. Yayin da tsarin ke ci gaba (musamman a cikin raka'a 4 da 11) za ku ga yadda wannan tsarin toshe yake da amfani don ingantawa da sarrafa fitarwa.
Wani batu mai amfani: za ku iya samun dama ga samfurin iri ɗaya daga dandamali masu bada sabis daban-daban ( API kai tsaye, ta hanyar mai ba da girgije). Ko da yake adireshin ƙarshen ƙarshen da tsarin tantancewa na iya canzawa, mahimman ra'ayoyi kamar matsayin saƙo, rashin ƙasa, da tsarin amsawa sun kasance iri ɗaya. Don haka abubuwan da ke cikin wannan rukunin suna aiki ko da wane dandamali kuke amfani da su.
A takaice
Buƙatun API na LLM ya ƙunshi ƙira, iyakar fitarwa, da jerin saƙo; matsayin (tsarin, mai amfani, mataimaki) ƙayyade halayen samfurin. Kira ba shi da ƙasa: kuna ɗaukar mahallin tare da kowace buƙata. Amsa abu ne da aka tsara; Karatu da fassarar abun ciki, stop_reason da filayen amfani shine tushen dorewa a samarwa.
Aikin aikace-aikace
Zaɓi ɗawainiya daga sana'ar ku (misali rarraba imel mai shigowa, ƙirƙirar taƙaitaccen taƙaitaccen bayani). A kan takarda: (1) rubuta tsarin da sauri tare da ka'idoji 4-5, (2) saita saƙon mai amfani da samfurin da tarihin zagaye na 2 idan akwai, (3) ƙayyade ƙimar max_tokens kuma rubuta hujjar, (4) lissafin abin da ya dace da ƙimar da za ku yi amfani da shi a cikin mayar da martani da kuma ta yaya.
jerin abubuwan dubawa
- [ ] Zan iya ƙidaya sassan wajibai uku na buƙatun (samfurin, max_tokens, saƙonni).
- [ ] Zan iya bayyana bambanci tsakanin tsarin, mai amfani da matsayin mataimaka.
- [ ] Na san cewa kira ba shi da ƙasa kuma ina buƙatar ɗaukar abubuwan da suka gabata.
- Zan iya karantawa da sharhi akan abun ciki, stop_reason da filayen amfani.
- [ ] Tare da max_tokens zan iya lura da kuma sarrafa martanin da aka yanke.