Lợi nhuận:
- Giải thích nguyên nhân gây ảo giác và vai trò của việc tiếp đất
- Áp dụng các kỹ thuật khiến mô hình nói 'Tôi không biết' nếu nó không phù hợp với ngữ cảnh
- Đảm bảo độ tin cậy và khả năng kiểm toán bằng cách thêm các nguồn/trích dẫn có thể kiểm chứng vào phản hồi
Hành vi nguy hiểm nhất của người mẫu ngôn ngữ là bịa ra điều gì đó mình không biết với giọng điệu tự tin và thuyết phục. Điều này được gọi là ảo giác. Ảo giác về một trợ lý của công ty không chỉ gây khó chịu mà còn hết sức nguy hiểm: sai ngày nghỉ, sai giá, sai nội dung pháp lý thực sự có thể khiến nhân viên hoặc khách hàng gặp nguy hiểm. Trong phần này, chúng tôi đề cập đến lý do tại sao ảo giác xảy ra, cách giảm chúng trong RAG và cách đưa ra câu trả lời có thể kiểm chứng được.
Nguyên nhân gây ảo giác?
Mô hình được huấn luyện để tạo ra từ có khả năng xảy ra tiếp theo nhất; Không phải “nói sự thật” mà là “viết văn trôi chảy, hợp lý”. Nếu thông tin bị thiếu, nó có thể lấp đầy khoảng trống bằng điều gì đó hợp lý về mặt thống kê nhưng không chính xác về mặt thực tế. Ba yếu tố kích hoạt điển hình:
- Không có câu trả lời trong bối cảnh này, nhưng dù sao thì người mẫu cũng cảm thấy buộc phải nói điều gì đó.
- Bối cảnh xung đột hoặc không đầy đủ; Mô hình thu hẹp khoảng cách với dự đoán.
- Câu hỏi vượt ra ngoài bối cảnh; mô hình quay trở lại kiến thức chung (và có thể đã lỗi thời) của chính nó.
RAG làm giảm ảo giác vì nó cung cấp cho mô hình một nguồn thực - nhưng nó không thiết lập lại mô hình đó. Nếu bạn mang nhầm bộ phận hoặc để lại mô hình “tự do lấp chỗ trống” thì hệ thống có RAG cũng có thể phù hợp.
loại ảo giác
triệu chứng
nguyên nhân gốc rễ
lớp dung dịch
bắt nguồn từ việc truy xuất
Câu trả lời đúng có trong tài liệu nhưng nó không đến
Giao sai/thiếu phần
Phân chia, kết hợp, sắp xếp lại (Đơn vị 3-4)
Thế hệ có nguồn gốc
Đã có phần đúng nhưng câu trả lời sai/phải thêm vào
Mô hình lấp đầy khoảng trống với dự đoán
Căn cứ, cho phép “Tôi không biết”, tính sáng tạo thấp
Nguồn trích dẫn
Câu trả lời đúng nhưng nguồn sai
Mô hình được đề cập sai phần
Xác minh trích dẫn (xem Bài 8)
Gợi ý: Chia ảo giác thành hai phần. Nguồn từ truy xuất: phần sai/thiếu đã đến (giải pháp: cải thiện khả năng truy xuất). Nguồn tạo: Phần chính xác đã đến nhưng mô hình đã đọc/thêm nó không chính xác (giải pháp: nhắc nhở và nối đất). Bạn không thể sửa nó trừ khi bạn biết đó là cái nào.
Căn cứ: Đưa ra câu trả lời trong bối cảnh
Nối đất là tên được đặt cho tất cả các kỹ thuật yêu cầu mô hình "chỉ cần dựa vào văn bản tôi đưa cho bạn, đừng vượt quá nó." Kỹ thuật cơ bản và hiệu quả nhất của anh ấy: cho phép người mẫu nói 'Tôi không biết' một cách rõ ràng. Người mẫu cũng giống như con người, ngần ngại nói “Tôi không biết”; Bạn phải cho phép anh ta rõ ràng để làm điều này.
Chỉ trả lời dựa trên BỐI CẢNH bên dưới. Nếu câu trả lời không RÕ RÀNG trong ngữ cảnh, hãy viết chính xác như sau: "Tôi không thể tìm thấy đủ thông tin về vấn đề này trong tài liệu." Không bao gồm bất kỳ số, ngày tháng hoặc tên nào không có trong ngữ cảnh. Đừng đoán.
Kỹ thuật nối đất bổ sung:
- Yêu cầu trích dẫn: Trước mỗi tuyên bố, hãy trích dẫn nguyên văn ngữ cảnh (“Tài liệu nói: '...'"). Việc tạo ra các báo giá bịa đặt sẽ khó khăn hơn đối với mô hình.
- Nhiệt độ thấp: Nhiệt độ (nhiệt độ, tính sáng tạo/cài đặt ngẫu nhiên) phải ở mức thấp. Lưu ý: trong một số mẫu máy hiện tại, thông số này đã bị xóa; Trong đó, bạn cung cấp nền tảng bằng lời nhắc. Tính sáng tạo cao là kẻ thù của tính chính trực của doanh nghiệp.
- Giới hạn phạm vi: "Chỉ phản hồi các vấn đề về chính sách đồng ý; từ chối chọn không tham gia một cách lịch sự."
Trích dẫn
Cách phòng vệ mang tính hệ thống mạnh mẽ nhất chống lại ảo giác là làm cho câu trả lời có thể kiểm chứng được. Nếu người dùng có thể xem câu trả lời dựa trên tài liệu nào: (1) anh ta có thể tự mình nhận ra lỗi, (2) có thể thực hiện kiểm toán, (3) độ tin cậy tăng lên và (4) mô hình sản xuất thận trọng hơn với nhận thức rằng "Tôi sẽ cần phải trích dẫn nguồn".
Hai cách tiếp cận phổ biến:
Ghi công nội tuyến: Thẻ nguồn bên cạnh mỗi xác nhận quyền sở hữu. “Nghỉ phép hàng năm là 14 ngày [1].” Dưới đây là tài liệu đầy đủ của [1].
Đầu ra có cấu trúc: Yêu cầu mô hình đưa ra câu trả lời và danh sách nguồn trong các trường riêng biệt; Hiển thị tài nguyên dưới dạng liên kết có thể nhấp vào trong giao diện.
# Tạo câu trả lời có cấu trúc dựa trên mô hình (khái niệm) Đưa ra câu trả lời của bạn theo cấu trúc sau:- trả lời: <câu trả lời dựa trên ngữ cảnh>- nguồn: [{"part_no": 1, "file": "...", "section": "..."}]- tin cậy: <high|medium|low> # Bối cảnh hỗ trợ nó rõ ràng như thế nào? Nếu ngữ cảnh không hỗ trợ câu trả lời, hãy viết "không tìm thấy thông tin" vào trường câu trả lời và để trống phần nguồn.
Để Trích dẫn thực sự có tác dụng, cần phải xác minh rằng ghi công là chính xác. Người mẫu đôi khi có thể đưa ra câu trả lời đúng nhưng lại đưa ra sai nguồn. Các hệ thống nâng cao tự động kiểm tra xem mỗi tuyên bố được đưa ra có thực sự được hỗ trợ trong phần mà nó chỉ tới hay không ("đo lường mức độ trung thực" trong đơn vị tiếp theo).
Yếu/Mạnh: Nhắc nhở chống ảo giác
Yếu (mời điền vào chỗ trống):
Hãy trả lời câu hỏi tốt nhất có thể với thông tin bạn có: {context} Câu hỏi: {question}# "As best you can" có nghĩa là "đoán nếu bạn không biết" đối với mô hình.
Mạnh (có căn cứ + không biết quyền + nguồn + tin cậy):
Chỉ cần dựa vào BỐI CẢNH. Nếu không, hãy nói "Tôi không thể tìm thấy bất kỳ thông tin nào"; số/ngày/tên bổ sung. Thêm [n] số nguồn vào mỗi yêu cầu bồi thường. Chỉ định mức độ tin cậy được hỗ trợ bởi ngữ cảnh.CONTEXT: [1]... [2]... CÂU HỎI: {question}
Ba hộp nhỏ
Trường hợp 1 - Mã số sản phẩm bịa đặt. Một trợ lý luật sư đã đưa ra một tuyên bố "Điều 17/B" không đúng ngữ cảnh và cung cấp thông tin sai lệch cho nhân viên. Khi hướng dẫn “Không đưa số bài viết không đúng ngữ cảnh, nếu không thì nói là tôi không biết” + thêm nghĩa vụ trích dẫn, số trường hợp bài viết bịa đặt đã giảm từ 11 xuống 0 trong 40 ví dụ.
Trường hợp 2 - Trả lời đúng, sai nguồn. Trợ lý hỗ trợ nêu đúng thời gian trả bài nhưng trích dẫn sai bài; Khi khách hàng nhấp vào liên kết, một trang không liên quan sẽ mở ra. Khi xác minh trích dẫn (kiểm tra xem tuyên bố có xuất hiện trong phần được trích dẫn hay không) được thêm vào, tỷ lệ trích dẫn sai đã giảm từ 23% xuống 2%.
Trường hợp 3 - Quyền “Tôi không biết” không được cấp. Một trợ lý nhân sự đã bịa ra một câu trả lời hợp lý nhưng không chính xác cho một câu hỏi không có trong tài liệu. Khi có sự đồng ý rõ ràng là "Tôi không biết" và văn bản đầy đủ ("Tôi không thể tìm thấy thông tin về điều này trong tài liệu") được thêm vào lời nhắc, tỷ lệ từ chối trung thực đối với các câu hỏi không có câu trả lời, thay vì bịa đặt, đã tăng từ 8% lên 95%.
Những lỗi thường gặp
- Không cho phép "Tôi không biết": Mô hình lấp đầy khoảng trống bằng sự chế tạo.
- Giữ tính sáng tạo cao: Tính ngẫu nhiên có hại cho tính liêm chính của công ty.
- Tin cậy nguồn mà không xác minh: Mô hình có thể đính kèm nguồn sai vào câu trả lời đúng.
- Không phân biệt được hai loại ảo giác: Bạn sửa sai chỗ mà không biết là do tìm lại hay do sinh ra.
- Nhầm trích dẫn với mỹ phẩm: Trích dẫn nguồn vừa xác nhận, vừa mang tính chất răn đe; hãy thực hiện nó một cách nghiêm túc.
Lưu ý: "Mô hình trông rất tự tin" không giống như "mô hình đúng". Ảo giác nói chung là những câu trôi chảy và tự tin nhất. Hãy đọc sự tin cậy từ nguồn mà nó chỉ ra chứ không phải từ giọng điệu của câu.
Tóm lại
- Ảo giác là khi mô hình lấp đầy khoảng trống thông tin bằng văn bản hợp lý nhưng sai; RAG giảm nhưng không reset.
- Ảo giác có thể do tìm lại (sai phần) hoặc tạo ra (đọc sai); Xác định cái nào đầu tiên.
- Kỹ thuật mạnh mẽ nhất của nối đất là cấp cho mô hình quyền "Tôi không biết" rõ ràng; cũng yêu cầu trích dẫn và tính sáng tạo thấp.
- Trích dẫn làm cho câu trả lời có thể kiểm chứng được; Nó vừa mang lại sự tự tin vừa thúc đẩy mô hình được sản xuất một cách thận trọng.
- Tính chính xác của trích dẫn cũng cần được kiểm tra; Nguồn sai có thể được đính kèm vào câu trả lời đúng.
Nhiệm vụ ứng dụng
(1) Chuẩn bị 4 câu hỏi để hỏi trợ lý, câu trả lời không có trong tài liệu (câu hỏi bẫy). Kiểm tra từng cái bằng dấu nhắc yếu và mạnh và đánh dấu xem mô hình có phù hợp hay không. (2) Đối với 4 câu hỏi có câu trả lời trong tài liệu, hãy yêu cầu mô hình tạo số mối hàn và xác minh thủ công xem mối hàn mà nó hiển thị có thực sự là phần chính xác hay không. (3) Kiểm tra xem mô hình có đưa ra "câu trả lời đúng, sai nguồn" trong ít nhất một trường hợp hay không và viết vào một câu cách bạn có thể tự động nắm bắt được điều này.
danh sách kiểm tra
- [ ] Tôi có thể biết tại sao ảo giác lại xảy ra và RAG làm giảm nó nhưng không thiết lập lại nó.
- [ ] Tôi có thể phân biệt giữa hồi tưởng và ảo giác do thế hệ tạo ra và sửa lại đúng chỗ.
- [ ] Tôi đang thêm các quy tắc cơ bản và quyền "Tôi không biết" rõ ràng vào lời nhắc.
- [ ] Tôi đang thêm một nguồn (trích dẫn) có thể kiểm chứng được vào câu trả lời.
- [ ] Tôi hiểu sự cần thiết phải kiểm tra thêm tính chính xác của việc ghi công.