Enota 10 / 11

Delovni tokovi agentov in večstopenjske naloge

Dobički:

  • Uporaba vse večje kompleksnosti od najenostavnejše rešitve do agenta
  • Razlikovanje med vzorci veriženja, usmerjanja in vzporednega poteka dela
  • Razdelitev večstopenjske naloge v cikel načrtovanje-izvedba-preverjanje

Enostavni cikel z enim vozilom smo vzpostavili v prejšnji enoti. Resnično delo pogosto zahteva več korakov, več orodij in včasih razvejane odločitve: »Poiščite naročila, ki zamujajo ta mesec, osnutek opravičilnega e-poštnega sporočila strankam, povzetek za upravitelja.« V tej enoti pokrivamo vzorce za organizacijo nalog v več korakih, ko potrebujete pravega agenta, in cikel načrtovanje-izvedba-preverjanje. Glavno načelo: kompleksnost, kolikor je treba.

Razširite se od najenostavnejše rešitve do agenta

Vsaka naloga si ne zasluži najbolj zapletene rešitve. Stopite korak za korakom na lestvici zahtevnosti in se ustavite pri najenostavnejši ustrezni rešitvi:

  1. Posamezen klic: Če je naloga rešena z enim klicem modela (povzemi, razvrsti), se ustavi tukaj.
  2. Posamezni klic z RAG: Če so potrebne informacije, dodajte priklic in ponovno en klic.
  3. Fiksni potek dela: Če so koraki znani vnaprej, jih zaporedje ročno (potek kode). Model v vsakem koraku opravi podopravilo, vendar vi določite vrstni red.
  4. Agent, ki temelji na modelu: Če korakov ni mogoče poznati vnaprej, se model odloči, katerega agenta bo poklical in kdaj. Najmočnejša, a najdražja in tvegana možnost.

Razlika med potekom dela in agentom je kritična: v poteku dela pišete potek nadzora (predvidljiv, preizkušen, poceni). Nadzor nad dnevnim redom prepustite modelu (prilagodljivemu, a nepredvidljivemu). Večina korporativnega dela je pravzaprav potek dela; pravih agentov je relativno malo.

Nasvet: "Ali lahko vnaprej napišem korake za to nalogo?" vprašaj. Če ga lahko napišete, zgradite potek dela - cenejši, varnejši, bolj preizkušen. Če pa se koraki razlikujejo glede na vnos in jih ni mogoče predvideti, je potreben agent.

Trije osnovni vzorci poteka dela

Veriženje pozivov: Izhod enega koraka je vhod naslednjega. "Ustvari osnutek → uredi → format." Vsak korak je preprost in osredotočen; enostavno odpravljanje napak.

Usmerjanje: dohodno zahtevo najprej razvrstite in jo pošljete ustreznemu strokovnjaku. "Je to vprašanje tehnično, zaračunavanje ali vračilo?" → preusmeri na pravilen podtok. Vsaka pot je optimizirana s svojim pozivom in orodji.

Paralelizacija: Istočasno izvajanje neodvisnih opravil in združevanje rezultatov. "Povzemite 5 dokumentov ločeno in jih nato združite." Ne samo, da je hitro, ampak vsak kos dobi popolno pozornost.

vzorec

kdaj

primer

priklenjen

Koraki so zaporedni in odvisni

Osnutek → uredi → format

preusmeriti

Različna obdelava glede na vrsto vnosa

Klasifikacija zahtevkov za podporo

vzporedno

Samostojna poddela

Povzemite več dokumentov ločeno

Agent (zanka)

Korakov ni mogoče predvideti vnaprej

Odprto raziskovanje/popravilo

# Vzorec usmerjanja (konceptualni)type = pattern.classify(request) # "return" | "tehnika" | "invoice"if tour == "return": answer = return_flow(request)elif tur == "technical": answer = technical_flow(request)else: answer = invoice_flow(request)

Cikel načrtovanje-izvedba-preverjanje

Zmogljiv vzorec pri resničnih agentih: imejte načrt modela, nato izvedite in nato preverite. Model razdeli kompleksno nalogo na pod-korake, izvede vsak korak z orodji in na koncu vpraša "ali sem dosegel cilj?" on preveri. Korak preverjanja ujame napake z ločenim, svežim videzom (»ali ta rezultat ustreza nalogi?«).

# Plan-execute-verify (conceptual)plan = model.uret("Razdeli to nalogo v korake: " + naloga)za korak v načrtu: rezultat = agent_loop(korak) # izvedi z toolcheck = model.uret("Ali ta izhod ustreza nalogi? Povej mi, če kaj manjka: " + naloga + rezultati)if check.missing: # krog popravkov ...

Dve dobri praksi za dolge naloge: določite pogoj za ustavitev (največje število korakov — prepreči neskončno zanko) in sledenje napredku (agent naj zapiše, kaj počne, da ga ne zmoti). Agent, ki nima omejitve korakov, se lahko vrti večno, če se zatakne, in stroški bodo eksplodirali.

Šibka/močna zasnova

Šibko (vse na enega velikanskega agenta):

Recite "izvedite to zapleteno stvar" in jo izdajte z neomejenimi orodji.# Rezultat: nepredvidljivo vedenje, tveganje neskončnih zank, visoki stroški,# nemogoče odpravljanje napak.

Zmogljiv (najprej tok, agent le tam, kjer je potreben, omejen):

Najprej razdelite delo na fiksne korake (usmerjanje + veriženje). Uporabite agenta samo v podopravilu, kjer koraki niso znani; Dodajte omejitev korakov, sledenje napredku in krog preverjanja.

Trije mini kovčki

1. primer – potek dela namesto posrednika. Ena ekipa je s prostim agentom nastavila nalogo "zahteva za podporo procesa"; Včasih je agent zavil 15 stopnic in šel po napačni poti. Koraki so bili v bistvu določeni (razvrsti → pridobi ustrezne informacije → napiši osnutek → predloži v odobritev). Ko smo prešli na potek dela usmerjanje + veriženje, se je doslednost povečala z 58 % na 96 %, stroški pa so se prepolovili.

Primer 2 – Vzporedno ojačenje. Pravna ekipa je eno za drugo povzemala 20 pogodb; Vse skupaj je trajalo 4 minute. Ko smo preklopili na vzporedni vzorec (vse hkrati, nato združimo), se je čas zmanjšal na 25 sekund, kakovost pa se je povečala, saj je bil vsak povzetek deležen popolne pozornosti.

Primer 3 – Ni bilo pogojev za ustavitev. Preiskovalni agent je neskončno klical isti dve orodji in iskal informacije, ki jih ni mogel najti; čez noč nakopičil znatne stroške. Ko sta bila dodana največja omejitev 8 korakov in pravilo »Če ne najdete v treh poskusih, recite, da ne vem«, so bili stroški pod nadzorom in prišli so iskreni odgovori »Nisem našel«.

Pogoste napake

  • Prenos vsega na agenta: potek dela je cenejši, varnejši in ga je mogoče preizkusiti, če so koraki znani.
  • Mešanje poteka dela z agentom: Ali prevzamete nadzor vi ali model? Ne načrtujte, ne da bi to jasno povedali.
  • Nenastavitev pogoja zaustavitve: Agent vstopi v neskončno zanko in kopiči stroške.
  • Brez sledenja napredku: med dolgo misijo se agent zamoti in znova opravlja isto delo.
  • Preskok kroga preverjanja: Nepravilen, vendar verjeten izhod je dostavljen nepreverjen.
Pozor: Čim bolj svoboden je agent, tem večji je polmer eksplozije. Prilagodljivost ni zastonj; vsaka dodatna svoboda doda nepredvidljivost in tveganje. Izberite najožjo ustrezno rešitev.

Če povzamem

  • Pri kompleksnosti velja načelo "po potrebi": en klic → RAG → potek dela → agent samo, če je res potrebno.
  • V Workflow pišete tok nadzora (predvidljiv); Agendo prepustite modelu (prilagodljivo, a tvegano).
  • Trije osnovni vzorci: veriženje (zaporedno odvisno), usmerjanje (razporeditev po vrsti), vzporedno (neodvisna opravila).
  • Pravi agenti uporabljajo cikel načrt-izvedba-preverjanje, stanje ustavitve in sledenje napredku.
  • Z večanjem fleksibilnosti se povečujejo nepredvidljivost in stroški; Izberite najožjo ustrezno rešitev.

Aplikacijska naloga

Izberite večstopenjsko nalogo iz lastnega podjetja (npr. "priprava in distribucija mesečnega poročila"). (1) Ali lahko vnaprej napišete korake te naloge? Če ga lahko napišete, ga oblikujte kot potek dela (kakšen vzorec: veriženje/usmerjanje/vzporedno?); Če ne morete pisati, pojasnite, zakaj potrebujete agenta. (2) Narišite izbrano zasnovo z diagramom škatlaste puščice. (3) Če je agencija: napišite, kako boste nastavili pogoj zaustavitve, sledenje napredka in krog preverjanja. (4) Naštejte 3 tveganja pri opravljanju iste naloge z »enim razvijalskim agentom«.

kontrolni seznam

  • [ ] Znam izbrati pravo stopnjo na lestvici "kompleksnosti po potrebi".
  • [ ] Razlikujem v nadzoru med potekom dela in agentom.
  • [ ] Znam preslikati veriženje, usmerjanje in vzporedne vzorce v ustrezne naloge.
  • [ ] V agentih lahko nastavim cikel načrt-izvedba-preverjanje, stanje ustavitve in sledenje napredku.
  • [ ] Upoštevam, da prevelika fleksibilnost prinaša nepredvidljivost in stroške.