единица 10 / 11

Работни потоци на агенти и многостъпкови задачи

Печалби:

  • Прилагане на нарастващата скала на сложност от най-простото решение до агента
  • Разграничаване между модели на вериги, маршрути и паралелни работни процеси
  • Разбиване на многоетапна задача в цикъл на планиране-изпълнение-проверка

Установихме простия цикъл с едно превозно средство в предишната единица. Истинската работа често изисква множество стъпки, множество инструменти и понякога разклонени решения: „Намерете поръчки, които са закъснели този месец, начертайте извинителен имейл до клиентите, обобщете за мениджър.“ В този раздел разглеждаме модели за организиране на многоетапни задачи, когато имате нужда от истински агент, и цикъла планиране-изпълнение-проверка. Основен принцип: сложност, колкото е нужно.

Мащаб от най-простото решение до агент

Не всяка задача заслужава най-сложното решение. Изкачете се стъпка по стъпка по скалата на сложността и спрете на най-простото адекватно решение:

  1. Единично извикване: Ако задачата е решена чрез едно извикване на модел (обобщаване, класифициране), спрете тук.
  2. Единично повикване с RAG: Ако се изисква информация, добавете извличане и отново едно повикване.
  3. Фиксиран работен процес: Ако стъпките са известни предварително, последователно ги подредете ръчно (поток на код). Моделът изпълнява подзадача на всяка стъпка, но вие определяте реда.
  4. Агент, управляван от модел: Ако стъпките не могат да бъдат известни предварително, моделът решава кой агент да се обади и кога. Най-мощният, но най-скъпият и рискован вариант.

Разликата между работния поток и агента е критична: в работния поток вие пишете потока на контрол (предвидим, тестван, евтин). Вие давате контрол върху дневния ред на модела (гъвкав, но непредвидим). По-голямата част от корпоративната работа всъщност е работен процес; истинските агенти са сравнително малко.

Съвет: „Мога ли да напиша стъпките за тази задача предварително?“ попитайте. Ако можете да го напишете, изградете работен процес - по-евтин, по-безопасен, по-тестваем. Ако обаче стъпките варират в зависимост от входа и не могат да бъдат предвидени, е необходим агент.

Три основни модела на работен процес

Верижно подканяне: Изходът на една стъпка е вход на следващата. „Генериране на чернова → редактиране → форматиране.“ Всяка стъпка е проста и фокусирана; лесен за отстраняване на грешки.

Маршрутизиране: Първо класифицирате входящата заявка и я изпращате на съответния експерт. „Този ​​въпрос технически ли е, фактуриране или възстановяване на средства?“ → пренасочване към правилния подпоток. Всеки път е оптимизиран със собствена подкана и инструменти.

Паралелизиране: Изпълнение на независими задачи едновременно и комбиниране на резултатите. „Обобщете 5 документа поотделно, след което комбинирайте.“ Не само, че е бързо, но всяко парче получава пълно внимание.

модел

когато

пример

окован

Стъпките са последователни и зависими

Чернова → редактиране → форматиране

пренасочване

Различна обработка в зависимост от типа вход

Класификация на исканията за поддръжка

паралелен

Независими подработки

Обобщете няколко документа поотделно

Агент (цикъл)

Стъпките не могат да бъдат предвидени предварително

Изследване/ремонт с отворен край

# Модел на маршрутизиране (концептуален)тип = pattern.classify(request) # "връщане" | "техника" | "invoice"if tour == "return": answer = return_flow(request)elif tur == "technical": answer = technical_flow(request)else: answer = invoice_flow(request)

Цикъл Планиране-Изпълнение-Проверка

Мощен модел в реални агенти: вземете моделния план, след това изпълнете, след това проверете. Моделът разделя сложната задача на подстъпки, изпълнява всяка стъпка с инструменти и накрая пита "постигнах ли целта?" той проверява. Стъпката за проверка улавя грешки с отделен, нов поглед („този изход отговаря ли на задачата?“).

# Plan-execute-verify (conceptual)plan = model.uret("Разбийте тази задача на стъпки: " + task)for step in plan: result = agent_loop(step) # execute with toolscheck = model.uret("Този изход отговаря ли на задачата? Кажете ми, ако нещо липсва: " + task + results)if check.missing: # кръг на корекция ...

Две добри практики за дълги задачи: налагане на условие за спиране (максимален брой стъпки — предотвратява безкраен цикъл) и проследяване на напредъка (нека агентът да запише какво прави, за да не се разсейва). Агентът, който няма ограничение на стъпките, може да се върти вечно, ако се забие и цената ще експлодира.

Слаб/силен дизайн

Слаб (поставяне на всичко на един гигантски агент):

Кажете „свършете това сложно нещо“ и го пуснете с неограничени инструменти.# Резултат: непредсказуемо поведение, риск от безкрайни цикли, висока цена,# невъзможност за отстраняване на грешки.

Мощен (поток първи, агент само когато е необходимо, ограничен):

Първо разделете работата на фиксирани стъпки (маршрутизиране + верига). Използвайте агент само в подзадача, където стъпките са неизвестни; Добавете ограничение на стъпките, проследяване на напредъка и кръг за проверка.

Три мини калъфа

Случай 1 — Работен процес вместо агент. Един екип създаде задачата „заявка за поддръжка на процес“ със свободен агент; Понякога агентът обръщаше 15 стъпки и тръгваше по грешния път. Стъпките бяха по същество фиксирани (класифициране → извличане на подходяща информация → писане на чернова → изпращане за одобрение). Когато преминахме към работния процес за маршрутизиране + верижно свързване, съгласуваността се увеличи от 58% на 96% и разходите бяха намалени наполовина.

Случай 2 — Паралелно усилване. Юридически екип обобщаваше един по един 20 договора; Отне общо 4 минути. Когато превключихме към паралелен модел (всички едновременно, след това комбиниране), времето беше намалено до 25 секунди и качеството се повиши, тъй като всяко резюме получи пълно внимание.

Случай 3 — Нямаше условие за спиране. Един разследващ агент безкрайно се обаждаше на същите два инструмента, търсейки информация, която не можеше да намери; натрупа значителни разходи за една нощ. Когато бяха добавени лимитът от максимални 8 стъпки и правилото „Ако не можете да го намерите в 3 опита, кажете, че не знам“, разходите бяха държани под контрол и се появиха честни отговори „Не можах да го намеря“.

Често срещани грешки

  • Делегиране на всичко на агента: работният процес е по-евтин, по-безопасен и може да се тества, ако стъпките са известни.
  • Смесване на работния процес с агент: Вие или моделът поемате ли контрола? Не проектирайте, без да изясните това.
  • Незадаване на условие за спиране: Агентът влиза в безкраен цикъл и натрупва разходи.
  • Без проследяване на напредъка: По време на дълга мисия агентът се разсейва, вършейки същата работа отново.
  • Пропускане на кръга на проверка: Неправилен, но правдоподобен изход се доставя непроверен.
Внимание: Колкото по-свободен е агентът, толкова по-голям става радиусът на взрива. Гъвкавостта не е безплатна; всяка допълнителна свобода добавя непредвидимост и риск. Изберете най-тясното адекватно решение.

В обобщение

  • При сложност се прилага принципът „според нуждите“: единично обаждане → RAG → работен процес → агент само ако наистина е необходимо.
  • В Workflow пишете потока на управление (предвидим); Оставяте дневния ред на модела (гъвкав, но рискован).
  • Три основни модела: верижно (последователно зависимо), маршрутизиране (разпределение по тип), паралел (независими задачи).
  • Реалните агенти използват цикъла на планиране-изпълнение-проверка, условие за спиране и проследяване на напредъка.
  • С нарастването на гъвкавостта нарастват непредсказуемостта и разходите; Изберете най-тясното адекватно решение.

Задача за приложение

Изберете задача от няколко стъпки от вашия собствен бизнес (напр. „изготвяне и разпространение на месечен отчет“). (1) Можете ли да напишете стъпките на тази задача предварително? Ако можете да го напишете, проектирайте го като работен поток (какъв модел: верижно/маршрутизиране/паралелно?); Ако не можете да пишете, обяснете защо е необходим агент. (2) Начертайте избрания от вас дизайн с диаграма със стрелка в кутия. (3) Ако агенция: напишете как ще настроите условието за спиране, проследяване на напредъка и кръг за проверка. (4) Избройте 3 риска от извършване на една и съща задача с „един агент за разработка“.

контролен списък

  • [ ] Мога да избера правилното ниво по скалата „сложност при необходимост“.
  • [ ] Мога да различа разликата в контрола между работния процес и агента.
  • [ ] Мога да картографирам вериги, маршрути и паралелни модели към подходящи задачи.
  • [ ] Мога да настроя цикъла на планиране-изпълнение-проверка, условие за спиране и проследяване на напредъка в агентите.
  • [ ] Имам предвид, че твърде много гъвкавост води до непредвидимост и разходи.