Lợi nhuận:
- Có thể giải thích ảo giác là gì và tại sao nó xảy ra
- Có thể xác định khi nào cần xác thực đầu ra AI
- Có thể áp dụng các kỹ thuật thực tế để tăng độ tin cậy
Có lẽ chủ đề quan trọng nhất của kiến thức AI là ở bài học này: Tạo dựng mô hình, tức là ảo giác. Hiểu thuật ngữ này là biện pháp phòng ngừa an toàn cơ bản nhất cho bất kỳ ai sử dụng AI. Bởi vì người dùng không nhận ra ảo giác có thể nhầm thông tin sai lệch là đúng và chuyển nó thành quyết định kinh doanh, giao tiếp với khách hàng hoặc tài liệu chính thức. Trong phần này, bạn sẽ tìm hiểu ảo giác là gì, tại sao nó là điều không thể tránh khỏi và cách bảo vệ khỏi nó.
Ảo giác là gì?
Ảo giác là khi một mô hình ngôn ngữ tạo ra thông tin không thực sự tồn tại bằng một ngôn ngữ trôi chảy và tự tin, cứ như thể nó là sự thật. Người mẫu không có ý định nói dối; Khi chỉ tạo ra "phần tiếp theo có khả năng xảy ra cao nhất", nó tạo ra một văn bản có vẻ có thể xảy ra nhưng thực tế là sai.
Ví dụ: Nếu bạn nói với một người mẫu "Đề xuất một nguồn học thuật về chủ đề Mọi thứ đều xuất hiện ở định dạng chính xác và thuyết phục; Nhưng nguồn này hoàn toàn là tưởng tượng. Đây là một ví dụ cổ điển về ảo giác.
Tại sao nó xảy ra? (Ghi nhớ bài 2)
Nguồn gốc của ảo giác nằm ở nguyên lý hoạt động của mô hình. Mô hình này không phải là một “bách khoa toàn thư về sự thật”; Đó là một "máy xác suất". Công việc của nó là tạo ra sự tiếp nối trôi chảy nhất có thể cho câu hỏi của bạn; Nó không phải là mang lại thông tin chính xác nhất. Mô hình:
- Anh ta không biết những gì anh ta không biết; Khi gặp chỗ trống, anh ấy có xu hướng điền vào một câu trả lời có thể xảy ra hơn là nói "Tôi không biết".
- Nó không có cơ chế kiểm soát thực tế; Nó không kiểm tra xem văn bản nó tạo ra có phù hợp với thế giới hay không.
- Sự trôi chảy và chính xác là hai điều khác nhau đối với anh ấy; Chỉ vì nó trôi chảy không có nghĩa là nó đúng.
Thận trọng: Ảo giác không phải là "trục trặc"; Đó là một đặc tính vốn có của công nghệ. Các mô hình mới giảm bớt điều này nhưng không thể loại bỏ hoàn toàn. Vì vậy, thay vì chờ đợi một “mô hình không ảo giác”, cần học cách sống chung với ảo giác.
Nguy cơ ảo giác cao ở đâu?
Không phải mọi kết quả đều có rủi ro như nhau. Rủi ro tăng lên khi:
Rủi ro cao
Rủi ro thấp
Số liệu, ngày tháng, số liệu thống kê chính xác
Xây dựng ý tưởng chung, động não
Yêu cầu nguồn, trích dẫn, tài liệu tham khảo
Thay đổi tông màu của văn bản
Các chuyên đề, chuyên đề
Chủ đề chung, chung
Sự kiện và con người hiện tại
Tóm tắt văn bản của bạn
Thông tin nội bộ cụ thể cho công ty của bạn
Sửa ngữ pháp
Ba hộp nhỏ
Trường hợp 1 - Một nhân vật giả bước vào bài thuyết trình. Một nhân viên đã hỏi AI về "tốc độ tăng trưởng thương mại điện tử năm 2023 và nguồn ở Türkiye" cho báo cáo ngành. Mô hình trả về tỷ lệ phần trăm thuyết phục (48%) và tên tổ chức. Nhân viên đưa nó vào bài thuyết trình mà không kiểm chứng; Khi cuộc họp tiết lộ rằng con số đó là bịa đặt, cả cách trình bày lẫn danh tiếng của công ty đều bị tổn hại. Nếu nhân viên đó nhận được số liệu từ nguồn chính thức thì sẽ không có vấn đề gì.
Trường hợp 2 - Văn bản pháp luật không tồn tại Một trợ lý đã yêu cầu AI cung cấp "điều luật liên quan" để kiến nghị. Mô hình này tạo ra số mục và văn bản trông giống như thật; nhưng món đồ đó không có ở đó. May mắn thay, bộ phận pháp lý đã chú ý trước khi giao hàng. Bài học: các trích dẫn pháp lý luôn được xác minh từ nguồn chính.
Trường hợp 3 - Phương pháp đúng, kết quả an toàn. Một nhân viên khác trong cùng nhóm chỉ cần nhờ AI soạn thảo báo cáo, tự mình nhập tất cả các con số từ dữ liệu chính thức và hướng dẫn anh ta “không thêm số liệu nào không có trong văn bản này”. Kết quả vừa nhanh vừa chính xác. Sự khác biệt: AI viết bản nháp, dữ liệu do con người cung cấp.
Nhắc yếu / Nhắc mạnh
Lời nhắc yếu: Đưa ra 3 nguồn học thuật quan trọng nhất về chủ đề này cùng với tác giả và năm.
Kết quả: Mô hình có thể phù hợp một cách an toàn với các nguồn không tồn tại.
Lời nhắc mạnh mẽ: Viết một bản tóm tắt dựa trên văn bản tôi đã dán bên dưới. Chỉ sử dụng thông tin trong văn bản này. Không thêm bất kỳ tên, số hoặc nguồn nào không có trong văn bản. Nếu bạn không chắc chắn, hãy viết "không được chỉ định trong văn bản".<text>[dán vào đây]</text>
Kết quả: Vì người mẫu lấy nguồn từ bạn nên không gian lắp ráp trở nên hẹp hơn.
Kỹ thuật thực tế làm tăng độ tin cậy
Đánh dấu từng tuyên bố có thể kiểm chứng được trong câu trả lời của bạn (số, ngày, tên, nguồn) và đặt chúng vào danh sách "phải kiểm tra" riêng.
Trả lời câu hỏi này. Nếu bạn không chắc chắn thì đừng đoán; Nói "Tôi không chắc" và giải thích rằng bạn không biết điều gì. Chủ đề: [chủ đề]
Trả lời cùng một câu hỏi theo hai cách khác nhau và đánh dấu sự mâu thuẫn giữa hai câu trả lời. Vậy hãy để tôi xem điểm nào còn nghi vấn. Câu hỏi: [câu hỏi]
Tôi sẽ xác minh văn bản dưới đây. Liệt kê các tuyên bố rủi ro mà tôi nên kiểm tra theo thứ tự quan trọng và đề xuất nơi tôi có thể xác minh từng tuyên bố. Văn bản: [dán vào đây]
Ngoài ra, hãy áp dụng những thói quen sau:
- Bạn cung cấp nguồn. Dán tài liệu liên quan vào văn bản và nói "chỉ trả lời dựa trên điều này".
- Luôn kiểm tra sự thật có thể kiểm chứng. Xác minh số, ngày tháng, tên, trích dẫn và nguồn từ một nguồn độc lập, đáng tin cậy.
- Yêu cầu anh ta cho biết rằng anh ta không chắc chắn về mô hình. Điều này làm giảm rủi ro nhưng không loại bỏ nó hoàn toàn.
- Đối với những công việc có rủi ro cao, hãy nhờ chuyên gia kiểm tra đầu ra. Các kết quả đầu ra liên quan đến pháp lý, tài chính và sức khỏe phải qua bộ lọc của các chuyên gia con người.
- Sử dụng AI làm “điểm khởi đầu” chứ không phải là “lời cuối cùng”. Bản thảo là của anh ấy; Việc xác minh và quyết định là của bạn.
Chú ý: Logic "Mô hình đã nói hai lần, thì đó là sự thật" logic là sai. Có thể tự tin lặp lại sai lầm tương tự. Sự lặp lại không phải là bằng chứng về tính chính xác.
Những lỗi thường gặp
Những lỗi thường gặp
- Sử dụng các nguồn mà không xác minh chúng. Nó có thể tạo ra các sách mẫu, bài viết, điều luật và liên kết; Mọi tài liệu tham khảo phải được xác nhận.
- Nhầm giọng điệu tự tin với sự chính xác. Điều nguy hiểm nhất của ảo giác chính là việc nó có vẻ tự tin.
- Chỉ cần người mẫu nói "bạn xác minh" là đủ. Tự xác nhận mô hình không phải là xác nhận độc lập.
- Sử dụng kết quả đầu ra có rủi ro cao mà không đưa cho chuyên gia. Sự kiểm soát của con người là điều cần thiết trong tiền bạc, luật pháp và sức khỏe.
Tóm lại
- Ảo giác là khi mô hình tạo ra thông tin không tồn tại một cách trôi chảy và tự tin như thể nó là sự thật.
- Nguyên nhân không phải do trục trặc mà là do bản chất dự đoán xác suất của mô hình; không thể loại bỏ hoàn toàn.
- Rủi ro đặc biệt cao khi nói đến số liệu, nguồn chính xác, thông tin cập nhật và các vấn đề thích hợp.
- Để bảo vệ bản thân: cung cấp nguồn, xác minh sự thật, nói "nếu bạn không chắc chắn, hãy cho tôi biết", nhờ chuyên gia kiểm tra đầu ra có rủi ro cao.
- Sử dụng AI làm điểm khởi đầu; Sự xác minh và trách nhiệm cuối cùng luôn thuộc về bạn.
Nhiệm vụ ứng dụng
Yêu cầu công cụ AI của bạn “gợi ý 3 nguồn học thuật” về một chủ đề đòi hỏi chuyên môn và cố gắng xác nhận các nguồn mà nó gợi ý trên internet; Lưu ý có bao nhiêu là có thật. Sau đó lặp lại thao tác tương tự với phương pháp "bạn ghi nguồn" và quan sát sự khác biệt.
Danh sách kiểm tra
- [ ] Tôi có thể giải thích ảo giác là gì và tại sao nó lại xảy ra.
- [ ] Tôi có thể phân biệt giữa nhiệm vụ có nguy cơ gây ảo giác cao và thấp.
- [ ] Tôi có thể giảm rủi ro bịa đặt bằng cách cung cấp nguồn cho mô hình.
- [ ] Tôi độc lập xác minh các con số, ngày tháng, tên và nguồn.
- [ ] Tôi không coi giọng điệu tự tin là bằng chứng của sự chính xác.