యూనిట్ 10 / 11

ఏజెంట్ వర్క్‌ఫ్లోలు మరియు బహుళ-దశల పనులు

లాభాలు:

  • సరళమైన పరిష్కారం నుండి ఏజెంట్‌కు సంక్లిష్టత యొక్క పెరుగుతున్న స్థాయిని వర్తింపజేయడం
  • చైనింగ్, రూటింగ్ మరియు సమాంతర వర్క్‌ఫ్లో నమూనాల మధ్య తేడాను గుర్తించడం
  • బహుళ-దశల పనిని ప్రణాళిక-అమలు-ధృవీకరణ చక్రంగా విభజించడం

మేము మునుపటి యూనిట్‌లో సింగిల్-వెహికల్ సింపుల్ సైకిల్‌ను ఏర్పాటు చేసాము. నిజమైన పనికి తరచుగా బహుళ దశలు, బహుళ సాధనాలు మరియు కొన్నిసార్లు శాఖల నిర్ణయాలు అవసరమవుతాయి: "ఈ నెలలో ఆలస్యంగా వచ్చిన ఆర్డర్‌లను కనుగొనండి, కస్టమర్‌లకు క్షమాపణ ఇమెయిల్‌ను రూపొందించండి, మేనేజర్ కోసం సారాంశం చేయండి." ఈ యూనిట్‌లో, మీకు నిజమైన ఏజెంట్ అవసరమైనప్పుడు మరియు ప్లానింగ్-ఎగ్జిక్యూషన్-వెరిఫికేషన్ సైకిల్‌ని బహుళ-దశల టాస్క్‌లను నిర్వహించడానికి మేము నమూనాలను కవర్ చేస్తాము. ప్రధాన సూత్రం: అవసరమైనంత సంక్లిష్టత.

సరళమైన పరిష్కారం నుండి ఏజెంట్ వరకు స్కేల్ చేయండి

ప్రతి పని చాలా క్లిష్టమైన పరిష్కారానికి అర్హమైనది కాదు. సంక్లిష్టత స్కేల్‌పై దశలవారీగా ఎక్కండి మరియు సరళమైన తగిన పరిష్కారం వద్ద ఆపండి:

  1. ఒకే కాల్: ఒకే మోడల్ కాల్ (సారాంశం, వర్గీకరించడం) ద్వారా పనిని పరిష్కరించినట్లయితే ఇక్కడ ఆపివేయండి.
  2. RAGతో ఒకే కాల్: సమాచారం అవసరమైతే, తిరిగి పొందడం మరియు మళ్లీ ఒకే కాల్‌ని జోడించండి.
  3. స్థిర వర్క్‌ఫ్లో: దశలు ముందుగానే తెలిస్తే, వాటిని మాన్యువల్‌గా క్రమం చేయండి (కోడ్ ఫ్లో). మోడల్ ప్రతి దశలో ఉప-ఉద్యోగాన్ని చేస్తుంది, కానీ మీరు క్రమాన్ని నిర్ణయిస్తారు.
  4. మోడల్ నడిచే ఏజెంట్: దశలను ముందుగానే తెలుసుకోలేకపోతే, మోడల్ ఏ ఏజెంట్‌కి ఎప్పుడు కాల్ చేయాలో నిర్ణయిస్తుంది. అత్యంత శక్తివంతమైన కానీ అత్యంత ఖరీదైన మరియు ప్రమాదకర ఎంపిక.

వర్క్‌ఫ్లో మరియు ఏజెంట్ మధ్య వ్యత్యాసం కీలకం: వర్క్‌ఫ్లో, మీరు నియంత్రణ ప్రవాహాన్ని వ్రాస్తారు (ఊహించదగినది, పరీక్షించదగినది, చౌక). మీరు మోడల్‌కు ఎజెండాపై నియంత్రణను ఇస్తారు (అనువైనది కానీ అనూహ్యమైనది). చాలా కార్పొరేట్ పని వాస్తవానికి వర్క్‌ఫ్లో; నిజమైన ఏజెంట్లు చాలా తక్కువ.

చిట్కా: "నేను ఈ పనికి సంబంధించిన దశలను ముందుగానే వ్రాయవచ్చా?" అడగండి. మీరు దీన్ని వ్రాయగలిగితే, వర్క్‌ఫ్లోను రూపొందించండి — చౌకైనది, సురక్షితమైనది, మరింత పరీక్షించదగినది. అయినప్పటికీ, ఇన్‌పుట్‌పై ఆధారపడి దశలు మారుతూ ఉంటే మరియు అంచనా వేయలేకపోతే, ఏజెంట్ అవసరం.

మూడు ప్రాథమిక వర్క్‌ఫ్లో నమూనాలు

ప్రాంప్ట్ చైనింగ్: ఒక దశ యొక్క అవుట్‌పుట్ తదుపరి ఇన్‌పుట్. "డ్రాఫ్ట్ → ఎడిట్ → ఆకృతిని రూపొందించండి." ప్రతి అడుగు సాధారణ మరియు దృష్టి; డీబగ్ చేయడం సులభం.

రూటింగ్: మీరు ముందుగా ఇన్‌కమింగ్ అభ్యర్థనను వర్గీకరించి, తగిన నిపుణులకు పంపండి. "ఈ ప్రశ్న సాంకేతికమా, బిల్లింగ్ లేదా వాపసు?" → సరైన ఉప-ప్రవాహానికి దారి మళ్లించండి. ప్రతి మార్గం దాని స్వంత ప్రాంప్ట్ మరియు సాధనాలతో ఆప్టిమైజ్ చేయబడింది.

సమాంతరీకరణ: స్వతంత్ర ఉద్యోగాలను ఏకకాలంలో అమలు చేయడం మరియు ఫలితాలను కలపడం. "5 పత్రాలను విడిగా సంగ్రహించి, ఆపై కలపండి." ఇది వేగవంతమైనది మాత్రమే కాదు, ప్రతి భాగం పూర్తి శ్రద్ధను పొందుతుంది.

నమూనా

ఎప్పుడు

ఉదాహరణ

గొలుసులతో బంధించారు

దశలు వరుసగా మరియు ఆధారపడి ఉంటాయి

డ్రాఫ్ట్ → సవరణ → ఫార్మాట్

దారిమార్పు

ఇన్‌పుట్ రకాన్ని బట్టి విభిన్న ప్రాసెసింగ్

మద్దతు అభ్యర్థన వర్గీకరణ

సమాంతరంగా

స్వతంత్ర ఉప-పనులు

బహుళ పత్రాలను విడిగా సంగ్రహించండి

ఏజెంట్ (లూప్)

దశలను ముందుగానే ఊహించలేము

ఓపెన్-ఎండ్ పరిశోధన/మరమ్మత్తు

# రూటింగ్ నమూనా (సంభావిత) రకం = pattern.classify(request) # "return" | "టెక్నిక్" | "ఇన్‌వాయిస్" పర్యటన ఉంటే == "రిటర్న్": సమాధానం = రిటర్న్_ఫ్లో(అభ్యర్థన)ఎలిఫ్ టర్ == "సాంకేతిక": సమాధానం = సాంకేతిక_ఫ్లో(అభ్యర్థన) వేరే: సమాధానం = ఇన్‌వాయిస్_ఫ్లో(అభ్యర్థన)

ప్లానింగ్-ఎగ్జిక్యూషన్-వెరిఫికేషన్ సైకిల్

నిజమైన ఏజెంట్లలో శక్తివంతమైన నమూనా: మోడల్ ప్లాన్‌ను కలిగి ఉండండి, ఆపై అమలు చేయండి, ఆపై ధృవీకరించండి. మోడల్ సంక్లిష్టమైన పనిని ఉప-దశలుగా విభజించి, ప్రతి దశను సాధనాలతో నిర్వహిస్తుంది మరియు చివరకు "నేను లక్ష్యాన్ని సాధించానా?" అతను తనిఖీ చేస్తాడు. ధృవీకరణ దశ ప్రత్యేక, తాజా రూపంతో లోపాలను క్యాచ్ చేస్తుంది ("ఈ అవుట్‌పుట్ టాస్క్‌కి అనుగుణంగా ఉందా?").

# Plan-execute-verify (conceptual)plan = model.uret("ఈ పనిని దశలుగా విభజించండి: " + టాస్క్)ప్లాన్‌లో దశ కోసం: ఫలితం = agent_loop(స్టెప్) # toolcheck = model.uret("ఈ అవుట్‌పుట్ టాస్క్‌కి అనుగుణంగా ఉందా? ఏదైనా మిస్ అయితే నాకు చెప్పండి: " + టాస్క్ + ఫలితాలు ...) సరిచూసినట్లయితే.

సుదీర్ఘ పనుల కోసం రెండు మంచి అభ్యాసాలు: ఆపే షరతు విధించండి (గరిష్ట దశల సంఖ్య - అనంతమైన లూప్‌ను నిరోధిస్తుంది) మరియు ప్రోగ్రెస్ ట్రాకింగ్ (ఏజెంట్ పరధ్యానంలో పడకుండా అతను ఏమి చేస్తున్నాడో వ్రాసేలా చేయండి). స్టెప్ లిమిట్ లేని ఏజెంట్, అతను ఇరుక్కుపోతే మరియు ఖర్చు పేలితే శాశ్వతంగా తిరుగుతాడు.

బలహీనమైన/బలమైన డిజైన్

బలహీనం (అన్నీ ఒక పెద్ద ఏజెంట్‌పై ఉంచడం):

"క్లిష్టమైన పనిని పూర్తి చేయండి" అని చెప్పండి మరియు అపరిమిత సాధనాలతో దాన్ని విడుదల చేయండి.# ఫలితం: అనూహ్య ప్రవర్తన, అనంతమైన లూప్‌ల ప్రమాదం, అధిక ధర,# డీబగ్ చేయడం అసాధ్యం.

శక్తివంతమైన (మొదట ప్రవాహం, ఏజెంట్ అవసరమైన చోట మాత్రమే, పరిమితం):

ముందుగా ఉద్యోగాన్ని స్థిరమైన దశలుగా విభజించండి (రౌటింగ్ + చైనింగ్). దశలు తెలియని సబ్‌టాస్క్‌లో మాత్రమే ఏజెంట్‌ని ఉపయోగించండి; దశల పరిమితి, పురోగతి ట్రాకింగ్ మరియు ధృవీకరణ రౌండ్‌ను జోడించండి.

మూడు మినీ కేసులు

కేస్ 1 - ఏజెంట్‌కు బదులుగా వర్క్‌ఫ్లో. ఒక బృందం ఉచిత ఏజెంట్‌తో "ప్రాసెస్ సపోర్ట్ రిక్వెస్ట్" టాస్క్‌ను సెటప్ చేసింది; కొన్నిసార్లు ఏజెంట్ 15 అడుగులు వేసి తప్పుడు మార్గంలో వెళ్తాడు. దశలు తప్పనిసరిగా పరిష్కరించబడ్డాయి (వర్గీకరించండి → సంబంధిత సమాచారాన్ని పొందండి → డ్రాఫ్ట్ వ్రాయండి → ఆమోదం కోసం సమర్పించండి). మేము రూటింగ్ + చైనింగ్ వర్క్‌ఫ్లోకి మారినప్పుడు, స్థిరత్వం 58% నుండి 96%కి పెరిగింది మరియు ఖర్చు సగానికి తగ్గింది.

కేసు 2 - సమాంతర లాభం. ఒక న్యాయ బృందం 20 ఒప్పందాలను ఒక్కొక్కటిగా సంగ్రహిస్తోంది; ఇది మొత్తం 4 నిమిషాలు పట్టింది. మేము సమాంతర నమూనాకు మారినప్పుడు (అన్నీ ఒకే సమయంలో, ఆపై కలపడం), సమయం 25 సెకన్లకు తగ్గించబడింది మరియు ప్రతి సారాంశం పూర్తి శ్రద్ధను పొందడంతో నాణ్యత పెరిగింది.

కేసు 3 - ఆపే పరిస్థితి లేదు. ఒక పరిశోధనాత్మక ఏజెంట్ అదే రెండు సాధనాలను అనంతంగా కాల్ చేస్తూనే ఉన్నాడు, అతను కనుగొనలేకపోయిన సమాచారం కోసం వెతుకుతున్నాడు; రాత్రిపూట గణనీయమైన ఖర్చులను సేకరించారు. గరిష్టంగా 8-దశల పరిమితి మరియు "మీరు 3 ప్రయత్నాలలో కనుగొనలేకపోతే, నాకు తెలియదని చెప్పండి" అనే నియమాన్ని జోడించినప్పుడు, ఖర్చు నియంత్రణలో ఉంచబడింది మరియు నిజాయితీగా "నేను దానిని కనుగొనలేకపోయాను" అనే సమాధానాలు వచ్చాయి.

సాధారణ తప్పులు

  • ప్రతిదీ ఏజెంట్‌కు అప్పగించడం: వర్క్‌ఫ్లో చౌకైనది, సురక్షితమైనది మరియు దశలు తెలిస్తే పరీక్షించవచ్చు.
  • ఏజెంట్‌తో వర్క్‌ఫ్లో కలపడం: మీరు లేదా మోడల్ నియంత్రణ తీసుకుంటారా? దీన్ని స్పష్టంగా చెప్పకుండా డిజైన్ చేయవద్దు.
  • ఆపే పరిస్థితిని సెట్ చేయడం లేదు: ఏజెంట్ అనంతమైన లూప్‌లోకి ప్రవేశించి ఖర్చులను కూడగట్టుకుంటారు.
  • పురోగతి ట్రాకింగ్ లేదు: సుదీర్ఘ మిషన్ సమయంలో, ఏజెంట్ పరధ్యానంలో ఉంటాడు, మళ్లీ అదే పనిని చేస్తాడు.
  • ధృవీకరణ రౌండ్‌ను దాటవేయడం: తప్పుగా కానీ ఆమోదయోగ్యంగా కనిపించే అవుట్‌పుట్ ఎంపిక చేయబడలేదు.
శ్రద్ధ: ఉచిత ఏజెంట్, పేలుడు వ్యాసార్థం పెద్దదిగా మారుతుంది. వశ్యత ఉచితం కాదు; ప్రతి అదనపు స్వేచ్ఛ అనూహ్యత మరియు ప్రమాదాన్ని జోడిస్తుంది. ఇరుకైన తగిన పరిష్కారాన్ని ఎంచుకోండి.

సారాంశంలో

  • సంక్లిష్టతలో, "అవసరమైన విధంగా" సూత్రం వర్తిస్తుంది: సింగిల్ కాల్ → RAG → వర్క్‌ఫ్లో → ఏజెంట్ నిజంగా అవసరమైతే మాత్రమే.
  • వర్క్‌ఫ్లో, మీరు నియంత్రణ ప్రవాహాన్ని వ్రాస్తారు (ఊహించదగినది); మీరు ఎజెండాను మోడల్‌కు వదిలివేస్తారు (అనువైనది కానీ ప్రమాదకరం).
  • మూడు ప్రాథమిక నమూనాలు: చైనింగ్ (క్రమానుగతంగా ఆధారపడి), రూటింగ్ (రకం ద్వారా పంపిణీ), సమాంతర (స్వతంత్ర ఉద్యోగాలు).
  • రియల్ ఏజెంట్లు ప్లాన్-ఎగ్జిక్యూట్-వెరిఫై సైకిల్, స్టాపింగ్ కండిషన్ మరియు ప్రోగ్రెస్ ట్రాకింగ్‌ని ఉపయోగిస్తారు.
  • వశ్యత పెరిగేకొద్దీ, అనూహ్యత మరియు ఖర్చు పెరుగుతుంది; ఇరుకైన తగిన పరిష్కారాన్ని ఎంచుకోండి.

అప్లికేషన్ టాస్క్

మీ స్వంత వ్యాపారం నుండి బహుళ-దశల పనిని ఎంచుకోండి (ఉదా. "నెలవారీ నివేదికను సిద్ధం చేసి పంపిణీ చేయండి"). (1) మీరు ఈ పని యొక్క దశలను ముందుగానే వ్రాయగలరా? మీరు దీన్ని వ్రాయగలిగితే, దానిని వర్క్‌ఫ్లోగా రూపొందించండి (ఏ నమూనా: చైనింగ్/రూటింగ్/సమాంతర?); మీరు వ్రాయలేకపోతే, ఏజెంట్ ఎందుకు అవసరమో వివరించండి. (2) మీరు ఎంచుకున్న డిజైన్‌ను బాక్స్-బాణం రేఖాచిత్రంతో గీయండి. (3) ఏజెన్సీ అయితే: మీరు స్టాపింగ్ కండిషన్, ప్రోగ్రెస్ ట్రాకింగ్ మరియు వెరిఫికేషన్ రౌండ్‌ను ఎలా సెటప్ చేస్తారో రాయండి. (4) "సింగిల్ డెవ్ ఏజెంట్"తో అదే పనిని చేయడం వల్ల వచ్చే 3 రిస్క్‌లను జాబితా చేయండి.

చెక్లిస్ట్

  • [ ] నేను "అవసరమైనంత సంక్లిష్టత" స్కేల్‌పై సరైన స్థాయిని ఎంచుకోగలను.
  • [ ] నేను వర్క్‌ఫ్లో మరియు ఏజెంట్ మధ్య నియంత్రణలో తేడాను గుర్తించగలను.
  • [ ] నేను చైనింగ్, రూటింగ్ మరియు సమాంతర నమూనాలను తగిన పనులకు మ్యాప్ చేయగలను.
  • [ ] నేను ప్లాన్-ఎగ్జిక్యూట్-వెరిఫై సైకిల్‌ను సెటప్ చేయగలను, ఏజెంట్‌లలో కండిషన్ మరియు ప్రోగ్రెస్ ట్రాకింగ్‌ను ఆపివేయగలను.
  • [ ] చాలా వశ్యత అనూహ్యత మరియు ఖర్చులను తెస్తుందని నేను గుర్తుంచుకోవాలి.