Бірлік 10 / 11

Агенттің жұмыс процестері және көп сатылы тапсырмалар

Табыстар:

  • Қарапайым шешімнен агентке дейін өсіп келе жатқан күрделілік шкаласын қолдану
  • Тізбектеу, бағыттау және параллель жұмыс үрдісінің үлгілерін ажырату
  • Көп сатылы тапсырманы жоспарлау-орындау-тексеру цикліне бөлу

Біз алдыңғы блокта бір көліктің қарапайым циклін орнаттық. Нақты жұмыс жиі бірнеше қадамдарды, бірнеше құралдарды және кейде тармақталған шешімдерді қажет етеді: «Осы айда кешіктірілген тапсырыстарды табыңыз, тұтынушылардан кешірім сұрау электрондық хатының жобасын жасаңыз, менеджерге қорытындылаңыз». Бұл бөлімде біз нақты агент қажет болғанда көп сатылы тапсырмаларды ұйымдастыру үлгілерін және жоспарлау-орындау-тексеру циклін қарастырамыз. Негізгі принцип: қажетінше күрделілік.

Ең қарапайым шешімнен агентке дейін масштабтау

Әрбір тапсырма ең күрделі шешімге лайық емес. Күрделілік шкаласы бойынша қадаммен көтеріліп, ең қарапайым адекватты шешімге тоқтаңыз:

  1. Бір шақыру: Егер тапсырма бір үлгілік шақыру арқылы шешілсе (қорытындылау, жіктеу) осы жерде тоқтаңыз.
  2. RAG көмегімен бір қоңырау: ақпарат қажет болса, іздеуді және қайта бір қоңырауды қосыңыз.
  3. Бекітілген жұмыс процесі: қадамдар алдын ала белгілі болса, оларды қолмен ретімен реттеңіз (код ағыны). Модель әрбір қадамда қосалқы тапсырманы орындайды, бірақ сіз ретті анықтайсыз.
  4. Модельге негізделген агент: қадамдарды алдын ала білу мүмкін болмаса, модель қай агентті және қашан шақыру керектігін шешеді. Ең қуатты, бірақ ең қымбат және қауіпті нұсқа.

Жұмыс процесі мен агент арасындағы айырмашылық өте маңызды: Жұмыс процесінде сіз басқару ағынын жазасыз (болжауға болатын, тексерілетін, арзан). Сіз модельге күн тәртібін бақылауды бересіз (икемді, бірақ болжау мүмкін емес). Корпоративтік жұмыстың көпшілігі шын мәнінде жұмыс процесі болып табылады; нақты агенттер салыстырмалы түрде аз.

Кеңес: "Осы тапсырманың қадамдарын алдын ала жаза аламын ба?" сұраңыз. Егер сіз оны жаза алсаңыз, жұмыс процесін құрыңыз — арзанырақ, қауіпсіз және сынауға болатын. Дегенмен, егер қадамдар енгізуге байланысты өзгерсе және болжау мүмкін болмаса, агент қажет.

Жұмыс үрдісінің үш негізгі үлгісі

Жедел тізбек: бір қадамның шығысы келесі қадамның кірісі болып табылады. «Жобаны жасау → өңдеу → пішім». Әрбір қадам қарапайым және бағытталған; жөндеу оңай.

Маршрутизация: Сіз алдымен кіріс сұрауды жіктеп, оны тиісті сарапшыға жібересіз. «Бұл сұрақ техникалық ма, есеп айырысу ма, әлде ақшаны қайтару ма?» → ішкі ағынды түзетуге қайта бағыттаңыз. Әрбір жол өз шақыруымен және құралдарымен оңтайландырылған.

Параллелдеу: тәуелсіз жұмыстарды бір уақытта орындау және нәтижелерді біріктіру. «5 құжатты бөлек қорытындылаңыз, содан кейін біріктіріңіз». Бұл жылдам ғана емес, сонымен қатар әрбір бөлікке толық назар аударылады.

үлгі

қашан

мысал

шынжырланған

Қадамдар дәйекті және тәуелді

Нобай → өңдеу → пішім

қайта бағыттау

Енгізу түріне байланысты әртүрлі өңдеу

Қолдау сұрауының классификациясы

параллель

Тәуелсіз қосалқы жұмыстар

Бірнеше құжатты бөлек қорытындылаңыз

Агент (цикл)

Қадамдарды алдын ала болжау мүмкін емес

Ашық зерттеу/жөндеу

# Бағыттау үлгісі (концептуалды) түрі = үлгі.classify(сұрау) # "қайтару" | «техника» | "инвойс"егер тур == "қайтару": жауап = қайтару_ағыны(сұраныс)elif tur == "техникалық": жауап = техникалық_ағыны(сұраныс) басқа: жауап = шот-фактура_ағыны(сұрау)

Жоспарлау-орындау-тексеру циклі

Нақты агенттердегі күшті үлгі: үлгі жоспарын жасаңыз, содан кейін орындаңыз, содан кейін тексеріңіз. Модель күрделі тапсырманы ішкі қадамдарға бөліп, әрбір қадамды құралдармен орындайды, соңында «мақсатқа жеттім бе?» деп сұрайды. ол тексереді. Тексеру қадамы қателерді бөлек, жаңа көрініспен анықтайды («бұл нәтиже тапсырмаға сәйкес келе ме?»).

# Жоспар-орындау-тексеру (концептуалды)жоспар = model.uret("Осы тапсырманы қадамдарға бөліңіз: " + тапсырма)жоспардағы қадам үшін: нәтиже = agent_loop(қадам) # toolscheck көмегімен орындаңыз = model.uret("Бұл шығыс тапсырмаға сәйкес келе ме? Бірдеңе жетіспейтінін айтыңыз: " + тапсырма + нәтижелер) тексеру. жетіспесе: ... түзету

Ұзақ тапсырмалар үшін екі жақсы тәжірибе: тоқтату шартын орнату (қадамдардың максималды саны — шексіз циклды болдырмайды) және орындалу барысын бақылау (агентке оның алаңдамауы үшін не істеп жатқанын жазуын сұраңыз). Қадам шегі жоқ агент кептеліп қалса және құны жарылып кетсе, мәңгі айнала алады.

Әлсіз/күшті дизайн

Әлсіз (бәрін бір алып агентке салу):

"Сол күрделі істі орындаңыз" деп айтыңыз және оны шексіз құралдармен босатыңыз.# Нәтиже: күтпеген мінез-құлық, шексіз циклдар қаупі, жоғары баға, # жөндеу мүмкін емес.

Күшті (бірінші ағын, қажет жерде ғана агент, шектеулі):

Алдымен жұмысты бекітілген қадамдарға бөліңіз (бағыттау + тізбектеу). Агентті қадамдар белгісіз қосалқы тапсырмада ғана пайдаланыңыз; Қадам шегін, орындалу барысын бақылауды және тексеру раундын қосыңыз.

Үш шағын корпус

1-жағдай — Агенттің орнына жұмыс процесі. Бір топ еркін агентпен "қолдау сұрауын өңдеу" тапсырмасын орнатты; Кейде агент 15 қадам бұрылып, дұрыс емес жолға түсіп кетеді. Қадамдар негізінен бекітілді (жіктеу → сәйкес ақпаратты алу → жобаны жазу → бекітуге жіберу). Біз маршруттау + тізбекті жұмыс процесіне ауысқанда, жүйелілік 58%-дан 96%-ға дейін өсті және құны екі есеге төмендеді.

2-жағдай — Параллель күшейту. Заң тобы 20 келісім-шартты бір-бірден қорытындылады; Барлығы 4 минут кетті. Біз параллельді үлгіге ауысқанда (бәрі бір уақытта, содан кейін біріктіріңіз), уақыт 25 секундқа дейін қысқарды және әр қорытындыға толық назар аударылғандықтан сапа артты.

3-жағдай – Тоқтау шарты болған жоқ. Тергеу агенті сол екі құралды тоқтаусыз шақырып, таба алмаған мәліметтерді іздей берді; бір түнде айтарлықтай шығындарды жинақтады. Максималды 8 қадамдық шектеу мен «3 әрекетте таба алмасаң, білмеймін де» деген ереже қосылғанда, шығын бақылауда ұсталып, «таба алмадым» деген шынайы жауаптар келді.

Жалпы қателер

  • Барлығын агентке тапсыру: қадамдар белгілі болса, жұмыс процесі арзанырақ, қауіпсіз және сыналатын болады.
  • Жұмыс процесін агентпен араластыру: сіз немесе модель басқаруды өз қолыңызға аласыз ба? Мұны түсіндірмей дизайн жасамаңыз.
  • Тоқтату шартын орнатпау: агент шексіз циклге кіреді және шығындарды жинақтайды.
  • Прогрессті бақылау жоқ: ұзақ миссия кезінде агент бұрынғы жұмысты қайта орындай отырып, алаңдайды.
  • Тексеру кезеңін өткізіп жіберу: дұрыс емес, бірақ сенімді болып көрінетін шығыс бақылаусыз жеткізіледі.
Назар аударыңыз: агент неғұрлым еркін болса, жарылыс радиусы соғұрлым үлкен болады. Икемділік тегін емес; әрбір қосымша еркіндік болжаусыздық пен тәуекелді қосады. Ең тар адекватты шешімді таңдаңыз.

Қысқаша айтқанда

  • Күрделілік жағдайында «қажет болғанша» принципі қолданылады: бір рет шақыру → RAG → жұмыс процесі → шынымен қажет болған жағдайда ғана.
  • Жұмыс процесінде басқару ағынын жазасыз (болжауға болады); Сіз күн тәртібін үлгіге қалдырасыз (икемді, бірақ қауіпті).
  • Үш негізгі үлгі: тізбектеу (тізбегі бойынша тәуелді), маршруттау (түрі бойынша бөлу), параллельді (тәуелсіз жұмыс).
  • Нақты агенттер жоспар-орындау-тексеру циклін, тоқтату шартын және орындалу барысын бақылауды пайдаланады.
  • Икемділік артқан сайын болжаусыздық пен шығындар өседі; Ең тар адекватты шешімді таңдаңыз.

Қолданбалы тапсырма

Жеке бизнесіңізден көп сатылы тапсырманы таңдаңыз (мысалы, «ай сайынғы есепті дайындау және тарату»). (1) Бұл тапсырманың қадамдарын алдын ала жаза аласыз ба? Егер сіз оны жаза алсаңыз, оны жұмыс процесі ретінде құрастырыңыз (қандай үлгі: тізбектеу/маршруттау/параллель?); Жаза алмасаңыз, агент не үшін қажет екенін түсіндіріңіз. (2) Таңдалған дизайнды қорапша-көрсеткі диаграммасымен сызыңыз. (3) Агенттік болса: тоқтату жағдайын, орындалу барысын бақылауды және тексеру раундын қалай орнататыныңызды жазыңыз. (4) «Бірыңғай әзірлеуші ​​агентімен» бірдей тапсырманы орындаудың 3 тәуекелін көрсетіңіз.

бақылау парағы

  • [ ] Мен «қажетінше күрделілік» шкаласы бойынша дұрыс деңгейді таңдай аламын.
  • [ ] Жұмыс процесі мен агент арасындағы басқару айырмашылығын ажырата аламын.
  • [ ] Мен сәйкес тапсырмаларға тізбектеу, бағыттау және параллель үлгілерді салыстыра аламын.
  • [ ] Мен агенттерде жоспарлау-орындау-тексеру циклін, тоқтату жағдайын және орындалу барысын бақылауды орната аламын.
  • [ ] Тым көп икемділік күтпеген және шығындар әкелетінін есте ұстаймын.