Lợi nhuận:
- Áp dụng quy mô phức tạp ngày càng tăng từ giải pháp đơn giản nhất đến tác nhân
- Phân biệt giữa các mẫu quy trình làm việc theo chuỗi, định tuyến và song song
- Chia nhiệm vụ nhiều bước thành chu trình lập kế hoạch-thực hiện-xác minh
Chúng ta đã thiết lập chu trình đơn giản cho một phương tiện trong bài trước. Công việc thực tế thường đòi hỏi nhiều bước, nhiều công cụ và đôi khi là những quyết định phân nhánh: “Tìm những đơn hàng bị trễ trong tháng này, soạn thảo email xin lỗi khách hàng, tóm tắt cho người quản lý”. Trong phần này, chúng tôi đề cập đến các mẫu để tổ chức các nhiệm vụ gồm nhiều bước khi bạn cần một tổng đài viên thực sự và chu trình lập kế hoạch-thực hiện-xác minh. Nguyên tắc chính: phức tạp tùy theo nhu cầu.
Quy mô từ giải pháp đơn giản nhất đến đại lý
Không phải mọi nhiệm vụ đều xứng đáng có giải pháp phức tạp nhất. Leo lên từng bước trên thang độ phức tạp và dừng lại ở giải pháp phù hợp đơn giản nhất:
- Cuộc gọi đơn: Nếu nhiệm vụ được giải quyết bằng một cuộc gọi mô hình duy nhất (tóm tắt, phân loại) dừng ở đây.
- Cuộc gọi một lần với RAG: Nếu cần thông tin, hãy thêm truy xuất và thực hiện lại cuộc gọi đơn lẻ.
- Quy trình làm việc cố định: Nếu biết trước các bước, hãy sắp xếp chúng theo cách thủ công (luồng mã). Mô hình thực hiện một công việc phụ ở mỗi bước nhưng bạn xác định thứ tự.
- Tác nhân điều khiển mô hình: Nếu không thể biết trước các bước, mô hình sẽ quyết định gọi tác nhân nào và khi nào. Tùy chọn mạnh mẽ nhất nhưng đắt tiền và rủi ro nhất.
Sự khác biệt giữa Quy trình làm việc và tác nhân là rất quan trọng: Trong Quy trình làm việc, bạn viết quy trình kiểm soát (có thể dự đoán, có thể kiểm tra, giá rẻ). Bạn trao quyền kiểm soát chương trình nghị sự cho mô hình (linh hoạt nhưng không thể đoán trước). Hầu hết công việc của công ty thực chất là một quy trình làm việc; đại lý thực sự là tương đối ít.
Mẹo: "Tôi có thể viết trước các bước thực hiện nhiệm vụ này không?" hỏi. Nếu bạn có thể viết nó, hãy xây dựng một quy trình làm việc - rẻ hơn, an toàn hơn, dễ kiểm tra hơn. Tuy nhiên, nếu các bước khác nhau tùy thuộc vào đầu vào và không thể dự đoán được thì cần phải có một tác nhân.
Ba mẫu quy trình công việc cơ bản
Chuỗi nhắc nhở: Đầu ra của một bước là đầu vào của bước tiếp theo. “Tạo bản nháp → chỉnh sửa → định dạng.” Mỗi bước đều đơn giản và tập trung; dễ dàng gỡ lỗi.
Định tuyến: Trước tiên, bạn phân loại yêu cầu đến và gửi nó đến chuyên gia thích hợp. “Câu hỏi này là kỹ thuật, thanh toán hay hoàn tiền?” → chuyển hướng đến luồng phụ chính xác. Mỗi đường dẫn được tối ưu hóa với lời nhắc và công cụ riêng.
Song song hóa: Chạy đồng thời các công việc độc lập và kết hợp các kết quả. "Tóm tắt 5 tài liệu riêng biệt, sau đó kết hợp." Không chỉ nhanh mà mọi phần đều được chú ý đầy đủ.
hoa văn
khi nào
ví dụ
bị xiềng xích
Các bước là tuần tự và phụ thuộc
Bản nháp → chỉnh sửa → định dạng
chuyển hướng
Xử lý khác nhau tùy thuộc vào loại đầu vào
Phân loại yêu cầu hỗ trợ
song song
Các công trình phụ độc lập
Tóm tắt nhiều tài liệu riêng biệt
Tác nhân (vòng lặp)
Các bước không thể dự đoán trước
Nghiên cứu/sửa chữa mở
# Kiểu định tuyến (khái niệm)type = sample.classify(request) # "return" | "kỹ thuật" | "hóa đơn"if tour == "trở lại": trả lời = return_flow(request)elif tur == "kỹ thuật": câu trả lời = kỹ thuật_flow (yêu cầu) khác: câu trả lời = hóa đơn_flow (yêu cầu)
Chu trình lập kế hoạch-thực hiện-xác minh
Một mô hình mạnh mẽ trong các tác nhân thực: có kế hoạch mô hình, sau đó thực thi và xác minh. Mô hình chia nhiệm vụ phức tạp thành các bước nhỏ, thực hiện từng bước bằng các công cụ và cuối cùng hỏi "tôi đã đạt được mục tiêu chưa?" anh ấy kiểm tra. Bước xác minh sẽ phát hiện lỗi bằng một giao diện mới, riêng biệt (“kết quả đầu ra này có đáp ứng được nhiệm vụ không?”).
# Plan-execute-verify (conceptual)plan = model.uret("Chia nhiệm vụ này thành các bước: " + task)for step in plan: result = Agent_loop(step) # thực thi với toolscheck = model.uret("Đầu ra này có đáp ứng được nhiệm vụ không? Hãy cho tôi biết nếu thiếu thứ gì: " + task + results)if check.missing: # vòng chỉnh sửa ...
Hai phương pháp hay cho các nhiệm vụ dài: áp đặt điều kiện dừng (số bước tối đa - ngăn vòng lặp vô hạn) và theo dõi tiến độ (yêu cầu nhân viên viết ra những gì anh ta đang làm để không bị phân tâm). Đặc vụ không có giới hạn bước có thể quay mãi mãi nếu bị mắc kẹt và chi phí sẽ bùng nổ.
Thiết kế yếu/mạnh
Yếu (đặt mọi thứ vào một đại lý khổng lồ):
Nói "hoàn thành công việc phức tạp đó" và phát hành nó với số lượng công cụ không giới hạn.# Kết quả: hành vi không thể đoán trước, nguy cơ lặp lại vô hạn, chi phí cao,# không thể gỡ lỗi.
Mạnh mẽ (lưu lượng trước, chỉ tác nhân khi cần, có giới hạn):
Đầu tiên hãy chia công việc thành các bước cố định (định tuyến + xâu chuỗi). Chỉ sử dụng tác nhân trong nhiệm vụ phụ khi không xác định được các bước; Thêm giới hạn bước, theo dõi tiến độ và vòng xác minh.
Ba hộp nhỏ
Trường hợp 1 - Quy trình làm việc thay vì tác nhân. Một nhóm thiết lập nhiệm vụ "yêu cầu hỗ trợ quy trình" với một đại lý tự do; Đôi khi đặc vụ rẽ 15 bước và đi sai đường. Về cơ bản, các bước đã được khắc phục (phân loại → tìm nạp thông tin liên quan → viết bản nháp → gửi để phê duyệt). Khi chúng tôi chuyển sang quy trình định tuyến + xâu chuỗi, tính nhất quán đã tăng từ 58% lên 96% và chi phí giảm một nửa.
Trường hợp 2 - Độ lợi song song. Đội ngũ pháp lý đang tổng hợp lần lượt 20 hợp đồng; Tổng cộng mất 4 phút. Khi chúng tôi chuyển sang mẫu song song (tất cả cùng lúc, sau đó kết hợp), thời gian giảm xuống còn 25 giây và chất lượng tăng lên khi mỗi bản tóm tắt đều nhận được sự quan tâm đầy đủ.
Trường hợp 3 - Không có điều kiện dừng. Một nhân viên điều tra liên tục gọi hai công cụ giống nhau không ngừng, tìm kiếm thông tin mà anh ta không thể tìm thấy; tích lũy chi phí đáng kể qua đêm. Khi giới hạn 8 bước tối đa và quy tắc "Nếu bạn không thể tìm thấy nó trong 3 lần thử, hãy nói rằng tôi không biết" được thêm vào, chi phí đã được kiểm soát và các câu trả lời trung thực "Tôi không thể tìm thấy" đã xuất hiện.
Những lỗi thường gặp
- Ủy quyền mọi thứ cho tổng đài viên: Quy trình làm việc rẻ hơn, an toàn hơn và có thể kiểm tra được nếu biết rõ các bước.
- Trộn quy trình làm việc với tác nhân: Bạn hoặc mô hình có nắm quyền kiểm soát không? Đừng thiết kế mà không làm rõ điều này.
- Không đặt điều kiện dừng: Tác nhân đi vào một vòng lặp vô hạn và tích lũy chi phí.
- Không theo dõi tiến độ: Trong một nhiệm vụ dài, đặc vụ bị phân tâm, phải làm lại công việc tương tự.
- Bỏ qua vòng xác minh: Kết quả đầu ra không chính xác nhưng có vẻ hợp lý được gửi đi mà không được kiểm tra.
Chú ý: Tác nhân càng tự do thì bán kính vụ nổ càng lớn. Tính linh hoạt không miễn phí; mọi quyền tự do bổ sung đều làm tăng thêm sự khó lường và rủi ro. Chọn giải pháp thích hợp hẹp nhất.
Tóm lại
- Về mặt phức tạp, nguyên tắc "khi cần" được áp dụng: một cuộc gọi → RAG → quy trình làm việc → chỉ tổng đài viên nếu thực sự cần thiết.
- Trong Workflow, bạn viết luồng điều khiển (có thể dự đoán được); Bạn để lại chương trình nghị sự cho mô hình (linh hoạt nhưng rủi ro).
- Ba mẫu cơ bản: xâu chuỗi (phụ thuộc tuần tự), định tuyến (phân phối theo loại), song song (công việc độc lập).
- Các tác nhân thực sự sử dụng chu trình xác minh-thực hiện-xác minh kế hoạch, điều kiện dừng và theo dõi tiến trình.
- Khi tính linh hoạt tăng lên, tính khó dự đoán và chi phí tăng lên; Chọn giải pháp thích hợp hẹp nhất.
Nhiệm vụ ứng dụng
Chọn một nhiệm vụ gồm nhiều bước từ hoạt động kinh doanh của riêng bạn (ví dụ: "chuẩn bị và phân phối báo cáo hàng tháng"). (1) Bạn có thể viết trước các bước của nhiệm vụ này không? Nếu bạn có thể viết nó, hãy thiết kế nó như một quy trình làm việc (mẫu nào: chuỗi/định tuyến/song song?); Nếu bạn không thể viết, hãy giải thích lý do tại sao cần có người đại diện. (2) Vẽ thiết kế bạn đã chọn bằng sơ đồ mũi tên hộp. (3) Nếu là đại lý: viết cách bạn sẽ thiết lập điều kiện dừng, theo dõi tiến độ và vòng xác minh. (4) Liệt kê 3 rủi ro khi thực hiện cùng một nhiệm vụ với một “tác nhân phát triển duy nhất”.
danh sách kiểm tra
- [ ] Tôi có thể chọn mức độ phù hợp theo thang đo "độ phức tạp khi cần thiết".
- [ ] Tôi có thể phân biệt sự khác biệt trong kiểm soát giữa Workflow và tác nhân.
- [ ] Tôi có thể ánh xạ các mẫu chuỗi, định tuyến và song song vào các nhiệm vụ thích hợp.
- [ ] Tôi có thể thiết lập chu trình xác minh-thực hiện-xác minh kế hoạch, điều kiện dừng và theo dõi tiến trình trong các tổng đài viên.
- [ ] Tôi luôn nhớ rằng quá linh hoạt sẽ mang lại sự khó lường và chi phí.