Agents AI da Amfani da Kayan aiki

Riba:

• Ƙayyana wakili azaman 'samfurin + kayan aikin + madauki' da yanke shawarar lokacin da ake buƙata
• Rubuta ma'anar kayan aiki tare da suna, kwatance da shigarwa_schema
• Kula da kwarara da kurakurai na Tool_use da Tool_result loop

Har yanzu, samfurin koyaushe yana yin aiki ɗaya: karɓar shigarwar rubutu, samar da martanin rubutu. Amma ainihin aiki sau da yawa yana buƙatar fiye da rubutu; yin lissafi, tambayar bayanan bayanai, kiran API, gano ƙimar musanya na yanzu. Samfurin ba zai iya yin waɗannan abubuwan da kanta ba - amma za ta iya yanke shawarar lokacin da ya kamata a yi su kuma ta nemi wani ya yi su. Wannan shine abin da amfani da kayan aiki ke ba da samfurin, kuma wannan shine tushen wakilan AI. A cikin wannan rukunin, za mu koyi abin da wakili yake, yadda aka ayyana kayan aiki, da yadda madauki Tool_use ke aiki.

Menene Wakili? Model + Kayan aiki + Madauki

Wakilin AI ya ƙunshi sassa uku: samfurin (kwakwalwar da ke yanke shawara), kayan aiki (ayyukan da samfurin zai iya kira: yanayi, tambayar bayanai, aika imel), da madauki (madauki; samfurin ya kira kayan aiki, samun sakamakon, sake yanke shawarar abin da za a yi, da sauransu).

Bambanci mai mahimmanci: Kiran tsari ɗaya ba wakili bane. Agent wani tsari ne wanda samfurin ke tafiya mataki-mataki, a kowane mataki zabar motsi na gaba dangane da sakamakon kayan aiki. "Ka yi tunani kamar mutum, yi amfani da hannunka, dubi sakamakon, sake tunani."

Muhimmiyar hujja: Samfurin kanta ba ya aiki da abin hawa. Samfurin kawai ya ce "Ina so in kira wannan kayan aiki tare da waɗannan abubuwan shigarwa". Aikace-aikacenku (wanda ake kira harness) yana gudanar da kayan aiki kuma yana mayar da sakamakon zuwa samfurin. Wannan yana da mahimmanci don tsaro: ƙirar ba ta taɓa tsarin ku kai tsaye ba; Kowane mataki yana ƙarƙashin ikon ku.

Tukwici: Kada ku yi ƙoƙarin magance kowace matsala tare da wakili. Wakili; yana ƙara haɗarin jinkiri, farashi da kurakurai. Tambayi farko: "Shin za a warware wannan tare da kira ɗaya ko ƙayyadadden tsarin aiki?" Idan amsar eh, babu buƙatar wakili. Wakili don ayyuka ne masu buɗewa inda ba za a iya sanin matakan a gaba ba.

Ma'anar kayan aiki: suna, bayanin, input_schema

Don gabatar da kayan aiki a cikin samfurin, kuna ba da abubuwa uku:

• suna: Identity na abin hawa, misali. samun_yanayi.
• bayanin: Abin da kayan aiki ke yi da lokacin da za a kira shi. Wannan shine yanki mafi mahimmanci wanda ke ba da damar samfurin don zaɓar kayan aiki mai kyau a daidai lokacin. Rubuta ba kawai "abin da yake yi" ba har ma "kira lokacin."
• Input_schema (tsarin shigarwa): Tsarin JSON wanda ke ayyana waɗanne sigogin kayan aikin ke tsammani, a cikin wane nau'in.

# Ma'anar abin hawa (conceptual - JSON schema){"name": "samun_order_status", "bayani": "Yana dawo da yanayin jigilar kaya na yanzu na oda. Kira lokacin da mai amfani ya tambayi inda lambar odar take ko lokacin da zata zo.", "input_schema": {"nau'in": "abu", "kayayyaki": {"type_no": "string:" mis. SP-1024"}}, "an buƙata": ["oda_no"]}}

Dokokin don bayanin kayan aiki mai kyau: suna bayyananne kuma taƙaitacce, bayanin tare da "lokacin da za a yi amfani da shi", bayanin kowane siga, sanya waɗanda ke da gaske waɗanda ake buƙata. A kiyaye adadin abubuwan hawa; Yawancin nau'ikan abubuwan hawa iri ɗaya suna da ban mamaki.

yanki

Me yake yi?

misali mai kyau

misali mara kyau

suna

ID na mota

oda_status_getir

kawo

bayanin

Abin da yake yi + lokacin da za a kira

"Yana mayar da matsayin kaya; kira lokacin da mai amfani ya tambayi inda oda yake"

"tace data"

shigar da tsari

Nau'in siga da buƙatu

{order_no: kirtani, annotated}

babu zane / babu bayanin

tool_use → tool_result Loop

Zagayen yana aiki kamar haka, mataki-mataki:

1. Kuna aika tambayar mai amfani + bayanin kayan aiki zuwa samfurin.
2. Samfurin ko dai yana amsawa kai tsaye ko ya haifar da toshe kayan aiki: "kira order_durumu_getir tare da order_no=SP-1024."
3. Aikace-aikacenku a zahiri yana gudanar da kayan aikin (tambayoyin bayanan bayanai).
4. Kuna aika sakamakon zuwa samfurin azaman kayan aiki_result.
5. Tare da wannan sakamakon, samfurin ko dai ya samar da amsa ta ƙarshe ko kuma ya kira wani kayan aiki. Zagayowar ta ci gaba har sai samfurin ya ce "Na gama."

# Agent loop (conceptual) saƙo = [tambaya_mai amfani] yayin da Gaskiya: amsa = model.uret (saƙonni, kayan aiki = ma'anar kayan aiki) idan amsa madauki ya ƙare

SDKs na zamani suna ba da masu gudu kayan aiki waɗanda ke gudanar da wannan madauki a gare ku; kawai ka rubuta ayyukan kayan aiki. Amma abin da ke faruwa ke nan a bayan fage.

Gudanar da Kuskure

Kayan aiki na iya gazawa: ba a samo oda ba, lokutan API ya ƙare, shigarwar ba ta da inganci. Idan ba za ku iya gudanar da kayan aiki ba, mayar da kuskuren zuwa samfurin azaman siffar Tool_result ("kuskure: Lambar oda SP-9999 ba a samo ba") da tutar kuskure. Samfurin na iya ganin wannan kuma a hankali ya bayyana shi ga mai amfani, ko gwada wata hanya ta daban. Kada ku haɗiye kuskuren kuma ku mayar da sakamakon komai; Dole ne samfurin ya san abin da ba daidai ba.

Bayanin Mota Rauni/Ƙarfi

Rauni (suna mara iyaka, babu "lokacin"):

name: "data", description: "detches data"# Samfurin bai san lokacin da kuma yadda ake kira ba; Ko dai baya kira kwata-kwata ko kira ba daidai ba.

Ƙarfi (sunan cibiyar sadarwa + lokacin + bayanin siga):

name: "musteri_bakiyesi_getir"description: "Mayar da ma'auni na asusun abokin ciniki na yanzu. Kira lokacin da mai amfani ya nemi zare kudi, bashi ko ma'auni. BA biya ba."input_schema: {custeri_id: string ("Customer ID")}# Samfurin yana kira a daidai lokacin, tare da madaidaitan sigogi, sanin iyakarsa.

Mini Cases guda uku

Case 1 - Wakilin da ba dole ba. Wata ƙungiya ta gina kasuwancin "takaita rubutu" tare da wakilin kayan aiki da yawa; Kowane maimaitawa yana ɗaukar kira na ƙira 4 da sakan 9. Aikin haƙiƙa aikin kira ɗaya ne. Lokacin da muka cire wakili kuma muka rage shi zuwa kira ɗaya, lokacin ya ragu zuwa 1.5 seconds kuma farashin ya ragu zuwa kashi ɗaya. Darasi: Yi amfani da wakili lokacin da ya zama dole.

Case 2 - Bayani mai rauni, kira mara kyau. A cikin wakili na tallafi, wani m kayan aiki da ake kira fetch an kira shi ba da gangan ta hanyar ƙirar a cikin duka tambayar ma'auni da tambayar jigilar kaya. Lokacin da aka raba motocin zuwa balance_getir da cargo_durumu_getir da kuma "kira lokacin" an ƙara bayani, zaɓin abin hawa na kuskure ya ragu daga 18 zuwa 1 cikin misalan 50.

Case 3 - Kuskuren hadiye. Wani wakili yana mayar da sakamako mara komai lokacin da ba a sami odar ba; Samfurin ya fassara wannan a matsayin "an isar da oda" kuma ya ɓatar da abokin ciniki. Lokacin da aka rubuta saƙon kuskure a sarari zuwa tool_result ("ba a samo oda ba"), ƙirar ta ce daidai "Ban sami wannan lambar ba, za ku iya duba ta?" ya fara cewa.

Kuskuren gama gari

• Juya komai zuwa wakili: Yayin da kira ɗaya ya isa, wakilin yana ƙara farashi da jinkiri.
• Bayanin abin hawa mara kyau: Samfurin bai san lokacin da za a kira ba; ya zaɓi kuskure.
• Tunanin cewa samfurin yana tafiyar da abin hawa: Kayan aiki yana tafiyar da abin hawa; samfurin kawai yake so.
• Hadiye kuskure: Dole ne samfurin ya san abin da ba daidai ba; Ba da kuskuren azaman buɗaɗɗen tool_result.
• Motoci masu kama da yawa: Model yana rikicewa; Ci gaba da mayar da hankali kan kayan aikin kuma kadan.

Hankali: Domin kawai samfurin ya ce "kira abin hawa" ba yana nufin ya kamata a ɗauki mataki ba. A kan kayan aikin lalata (share, wurin biya, imel) bai kamata aikace-aikacenku ya aiwatar da kiran a makance ba - wannan shine jigon batun tsaro a naúrar ta gaba.

A takaice

• Wakili = samfurin (yanke shawara) + kayan aiki (ayyuka) + madauki (kayan aikin kira, samun sakamako, sake yanke shawara).
• Kiran tsari ɗaya ba wakili ba ne; wakili tsari ne na mataki-mataki.
• Samfurin ba ya tafiyar da abin hawa; Aikace-aikacenku yana gudana (harness) kuma yana mayar da sakamakon azaman Tool_result.
• Ana gano kayan aikin da suna, bayanin (musamman "kira lokacin"), da input_schema.
• An ci gaba da madauki yayin da kayan aiki_use → kayan aiki ke gudana → tool_result → samfurin ya ci gaba har sai samfurin ya ce "an yi"; ana ba da rahoton kurakurai a sarari ga samfurin.

Aikin aikace-aikace

Zana kayan aikin 3 daga kasuwancin ku waɗanda za a iya ba wa wakili. (1) Rubuta suna, bayanin tare da "kira lokacin", da input_schema ga kowane; Bari aƙalla ɗaya ya zama kayan karatu mara lalacewa, ɗaya kuma lissafi. (2) Zaɓi tambayar mai amfani ta zahiri kuma rubuta da hannu mataki-mataki (a cikin madauki) wanne daga cikin waɗannan kayan aikin samfurin zai kira da waɗanne abubuwan shigar da abin da zai yi bayan Tool_result ya zo. (3) Saita yanayin da ɗayan kayan aikin ya gaza kuma nuna yadda saƙon kuskure zai koma samfurin.

jerin abubuwan dubawa

• [ ] Zan iya ayyana wakili a matsayin "samfurin + kayan aikin + madauki" kuma in yanke shawarar lokacin da ake buƙata.
• [ ] Na san cewa kayan doki yana tafiyar da abin hawa, samfurin kawai yana son shi.
• Zan iya rubuta ingantaccen bayanin abin hawa tare da [ ] suna, bayanin ("kira lokacin") da shigarwa_schema.
• Zan iya bin [ ] tool_use → tool_result sake zagayowar mataki-mataki.
• [ ] Ina bayar da rahoton kurakuran kayan aiki zuwa samfurin azaman buɗaɗɗen tool_result.