Jednotka 10 / 11

Pracovné postupy agentov a viackrokové úlohy

zisky:

  • Aplikovanie narastajúcej škály zložitosti od najjednoduchšieho riešenia až po agenta
  • Rozlišovanie medzi vzormi reťazenia, smerovania a paralelných pracovných tokov
  • Rozdelenie viackrokovej úlohy na cyklus plánovanie-vykonávanie-overovanie

V predchádzajúcej jednotke sme zaviedli jednoduchý cyklus pre jedno vozidlo. Skutočná práca si často vyžaduje viacero krokov, viacero nástrojov a niekedy aj rozvetvenie rozhodnutí: „Nájdite objednávky, ktoré sú tento mesiac neskoro, napíšte e-mail s ospravedlnením pre zákazníkov, zhrňte pre manažéra.“ V tejto časti sa zaoberáme vzormi na organizovanie viackrokových úloh, keď potrebujete skutočného agenta, a cyklom plánovania, vykonávania a overovania. Hlavný princíp: zložitosť podľa potreby.

Škála od najjednoduchšieho riešenia po agenta

Nie každá úloha si zaslúži to najkomplexnejšie riešenie. Stúpajte krok za krokom na stupnici zložitosti a zastavte sa pri najjednoduchšom adekvátnom riešení:

  1. Single call: Ak je úloha vyriešená jedným modelovým volaním (zhrnutie, klasifikácia), zastavte sa tu.
  2. Jeden hovor s RAG: Ak sú potrebné informácie, pridajte vyhľadávanie a znova jeden hovor.
  3. Opravený pracovný postup: Ak sú kroky vopred známe, zoraďte ich manuálne (tok kódu). Model robí v každom kroku čiastkovú prácu, ale poradie určujete vy.
  4. Modelom riadený agent: Ak kroky nie je možné vopred poznať, model rozhodne, ktorému agentovi zavolá a kedy. Najvýkonnejšia, ale najdrahšia a najrizikovejšia možnosť.

Rozdiel medzi Workflow a agentom je kritický: V Workflow píšete tok kontroly (predvídateľný, testovateľný, lacný). Dáte kontrolu nad agendou modelu (flexibilné, ale nepredvídateľné). Väčšina firemnej práce je vlastne pracovný postup; skutočných agentov je relatívne málo.

Tip: "Môžem si vopred napísať kroky pre túto úlohu?" spýtaj sa. Ak to viete napísať, vytvorte si pracovný postup – lacnejší, bezpečnejší, testovateľnejší. Ak sa však kroky líšia v závislosti od vstupu a nemožno ich predvídať, je potrebný agent.

Tri základné vzory pracovného toku

Reťazenie výziev: Výstup jedného kroku je vstupom nasledujúceho. "Generovať koncept → upraviť → formátovať." Každý krok je jednoduchý a sústredený; ľahké ladenie.

Smerovanie: Najprv klasifikujete prichádzajúcu požiadavku a odošlete ju príslušnému odborníkovi. „Je táto otázka technická, fakturačná alebo refundácia?“ → presmerovanie na správny podstream. Každá cesta je optimalizovaná s vlastnou výzvou a nástrojmi.

Paralelizácia: Súčasné vykonávanie nezávislých úloh a kombinovanie výsledkov. "Zosumarizujte 5 dokumentov samostatne a potom ich skombinujte." Nielen, že je rýchly, ale každý kúsok si získa plnú pozornosť.

vzor

kedy

príklad

pripútaný

Kroky sú sekvenčné a závislé

Koncept → upraviť → formát

presmerovať

Rôzne spracovanie v závislosti od typu vstupu

Klasifikácia žiadostí o podporu

paralelný

Samostatné čiastkové diela

Zhrňte viacero dokumentov oddelene

Agent (slučka)

Kroky sa nedajú vopred predvídať

Neobmedzený výskum/oprava

# Vzor smerovania (koncepčný)typ = vzor.klasifikovať(požiadavka) # "návrat" | "technika" | "faktúra"if tour == "return": answer = return_flow(požiadavka)elif tur == "technical": answer = technical_flow(požiadavka)else: answer = fakturačný tok (požiadavka)

Cyklus plánovanie-realizácia-overovanie

Silný vzor v skutočných agentoch: naplánujte si model, potom ho vykonajte a potom overte. Model rozdelí komplexnú úlohu na čiastkové kroky, vykoná každý krok pomocou nástrojov a nakoniec sa opýta: „Dosiahol som cieľ?“ kontroluje. Verifikačný krok zachytáva chyby pomocou samostatného, ​​čerstvého vzhľadu („spĺňa tento výstup úlohu?“).

# Plan-execute-verify (koncepčný)plán = model.uret("Rozdeľ túto úlohu na kroky: " + úloha)pre krok v pláne: výsledok = agent_loop(krok) # spustiť s toolscheck = model.uret("Spĺňa tento výstup úlohu? Povedz mi, či tam niečo chýba: " + úloha + výsledky)ak kontrola.chýba: # kolo opravy ...

Dva osvedčené postupy pre dlhé úlohy: uloženie podmienky zastavenia (maximálny počet krokov – zabraňuje nekonečnej slučke) a sledovanie pokroku (nechajte agenta zapísať, čo robí, aby ho nerozptyľovali). Agent, ktorý nemá limit krokov, sa môže točiť donekonečna, ak uviazne a náklady vybuchnú.

Slabý/silný dizajn

Slabý (všetko na jedného obrovského agenta):

Povedzte „urobte tú zložitú vec“ a uvoľnite ju pomocou neobmedzených nástrojov.# Výsledok: nepredvídateľné správanie, riziko nekonečných slučiek, vysoké náklady,# nemožné odladiť.

Výkonný (prvý tok, agent iba tam, kde je to potrebné, obmedzený):

Najprv rozdeľte úlohu na pevné kroky (smerovanie + reťazenie). Použite agenta iba v podúlohe, kde kroky nie sú známe; Pridajte limit krokov, sledovanie pokroku a overovacie kolo.

Tri mini puzdrá

Prípad 1 – Pracovný postup namiesto agenta. Jeden tím pripravil úlohu „spracovať žiadosť o podporu“ s voľným hráčom; Niekedy agent otočil 15 krokov a vydal sa nesprávnou cestou. Kroky boli v podstate opravené (klasifikácia → získanie relevantných informácií → napísanie návrhu → odoslanie na schválenie). Keď sme prešli na pracovný postup smerovanie + reťazenie, konzistencia sa zvýšila z 58 % na 96 % a náklady sa znížili na polovicu.

Prípad 2 – Paralelný zisk. Právny tím zhrnul 20 zmlúv jednu po druhej; Celkovo to trvalo 4 minúty. Keď sme prešli na paralelný vzor (všetko v rovnakom čase, potom skombinovať), čas sa skrátil na 25 sekúnd a kvalita sa zvýšila, keď sa každému súhrnu venovala plná pozornosť.

Prípad 3 – Neexistovala podmienka zastavenia. Vyšetrovací agent donekonečna volal tie isté dva nástroje a hľadal informácie, ktoré nemohol nájsť; cez noc nahromadili značné náklady. Keď sa pridal maximálny 8-krokový limit a pravidlo „Ak to na 3 pokusy nenájdeš, povedz, že neviem“, náklady sa držali pod kontrolou a prišli úprimné odpovede „Nenašiel som to“.

Časté chyby

  • Delegovanie všetkého na agenta: Pracovný postup je lacnejší, bezpečnejší a testovateľný, ak sú kroky známe.
  • Miešanie pracovného postupu s agentom: Preberáte kontrolu vy alebo model? Nenavrhujte bez toho, aby ste to dali jasne najavo.
  • Nenastavenie podmienky zastavenia: Agent vstupuje do nekonečnej slučky a akumuluje náklady.
  • Žiadne sledovanie pokroku: Počas dlhej misie sa agent vyruší a znova robí rovnakú prácu.
  • Preskočenie overovacieho kola: Nesprávny, ale vierohodne vyzerajúci výstup je doručený nekontrolovane.
Pozor: Čím je agent voľnejší, tým väčší je polomer výbuchu. Flexibilita nie je zadarmo; každá ďalšia sloboda pridáva nepredvídateľnosť a riziko. Vyberte si najužšie adekvátne riešenie.

V súhrne

  • V komplexnosti platí zásada „podľa potreby“: jeden hovor → RAG → workflow → agent len v prípade, že je to naozaj nevyhnutné.
  • V Workflow píšete tok kontroly (predvídateľný); Agendu nechávate na modelku (flexibilnú, ale riskantnú).
  • Tri základné vzory: reťazenie (sekvenčne závislé), smerovanie (distribúcia podľa typu), paralelné (nezávislé úlohy).
  • Skutoční agenti používajú cyklus plán-vykonať-overiť, podmienku zastavenia a sledovanie pokroku.
  • So zvyšujúcou sa flexibilitou sa zvyšuje nepredvídateľnosť a náklady; Vyberte si najužšie adekvátne riešenie.

Aplikačná úloha

Vyberte si viackrokovú úlohu z vlastnej firmy (napr. „príprava a distribúcia mesačného prehľadu“). (1) Môžete vopred napísať kroky tejto úlohy? Ak to viete napísať, navrhnite to ako pracovný postup (aký vzor: reťazenie/smerovanie/paralelné?); Ak nemôžete písať, vysvetlite, prečo je potrebný agent. (2) Nakreslite vybraný dizajn pomocou schémy so šípkami. (3) Ak agentúra: napíšte, ako nastavíte podmienku zastavenia, sledovanie pokroku a overovacie kolo. (4) Uveďte 3 riziká vykonávania rovnakej úlohy s „jediným vývojárskym agentom“.

kontrolný zoznam

  • [ ] Viem si vybrať správnu úroveň na stupnici „zložitosť podľa potreby“.
  • [ ] Dokážem rozlíšiť rozdiel v ovládaní medzi Workflow a agentom.
  • [ ] Dokážem mapovať reťazenie, smerovanie a paralelné vzory na vhodné úlohy.
  • [ ] Môžem nastaviť cyklus plán-vykonať-overiť, podmienku zastavenia a sledovanie pokroku v agentoch.
  • [ ] Mám na pamäti, že prílišná flexibilita prináša nepredvídateľnosť a náklady.