Lợi nhuận:
- Khả năng xác minh một cách có hệ thống tuyên bố thông qua xuất xứ, độ tin cậy của nguồn và các bước kiểm tra chéo độc lập
- Khả năng hiểu rằng bản thân trí tuệ nhân tạo có thể tạo ra thông tin sai lệch thông qua ảo giác, sai lệch dữ liệu đào tạo và xu nịnh, đồng thời xử lý đầu ra của nó với sự nghi ngờ cao độ
- Khả năng kiểm tra độ lệch bằng cách đánh dấu kết quả bằng nhãn mức độ tin cậy rõ ràng và đánh giá cùng một sự kiện từ các góc độ khác nhau
Ngoại giao làm việc với thông tin và giá trị của thông tin phụ thuộc vào tính chính xác của nó. Một cuộc họp ngắn, một quan điểm đàm phán hoặc một tuyên bố công khai dựa trên thông tin không chính xác sẽ gây ra những hậu quả khó đảo ngược. Đó là lý do tại sao một trong những kỹ năng cần thiết nhất của nhà ngoại giao là xác minh nguồn: đánh giá một cách có hệ thống một tuyên bố đến từ đâu, độ tin cậy của nó như thế nào và liệu nó có thực sự đúng hay không. Trong phần này, bạn sẽ học cách kết hợp trí tuệ nhân tạo vào quá trình xác minh; nhưng bạn sẽ học cách sử dụng nó trong khi hãy nhớ rằng bản thân AI có thể là nguồn cung cấp thông tin sai lệch và sai lệch.
Trước tiên chúng ta hãy tách ba khái niệm. Thông tin sai lệch: thông tin không chính xác được lan truyền một cách vô ý. Thông tin sai lệch: thông tin sai lệch được tạo ra và lan truyền một cách có chủ ý, có chủ đích. Định kiến: sự dịch chuyển thông tin hoặc đánh giá một cách có hệ thống về một phía nào đó. Một nhà ngoại giao phải cảnh giác với cả ba điều này, và AI có thể vừa giúp ích vừa là rủi ro trong cả ba điều này.
Từng bước: xác minh yêu cầu bồi thường
1. Nêu rõ yêu cầu bồi thường. Chính xác những gì cần được xác minh? Hãy rút gọn vấn đề thành một tuyên bố rõ ràng, duy nhất như “Quốc gia X đã rút khỏi thỏa thuận Y”. Những tuyên bố mơ hồ không thể được xác minh.
2. Tìm nguồn gốc của bạn. Tuyên bố này lần đầu tiên được đưa ra ở đâu, khi nào và bởi ai? Hầu hết thông tin sai lệch đều bắt nguồn từ một nguồn đáng ngờ và được khuếch đại. Hãy quay lại nguồn.
3. Đánh giá độ tin cậy của nguồn. Nguồn có chính thức, độc lập hay thiên vị? Trước đây anh ta có cung cấp thông tin chính xác không? Liệu anh ta có hứng thú với việc này không? Ngay cả một nguồn đáng tin cậy cũng có thể sai; nhưng nguồn có độ tin cậy thấp cần được xác nhận thêm.
4. Kiểm tra chéo. Xác nhận tuyên bố với ít nhất hai nguồn độc lập, đáng tin cậy. 50 trang web được cung cấp bởi cùng một hãng tin không phải là nguồn độc lập.
5. Kiểm tra tính nhất quán và bối cảnh nội bộ. Tuyên bố có nhất quán trong nội bộ không? Liệu nó có mâu thuẫn với sự thật đã biết? Đưa ra khỏi bối cảnh? Một câu đúng có thể gây hiểu lầm nếu đặt sai ngữ cảnh.
6. Đánh dấu kết quả với mức độ tin cậy. Đưa ra nhãn rõ ràng như "đã xác minh", "đã xác minh một phần", "nguồn duy nhất", "không thể xác minh", "sai". Ngay cả “Tôi không chắc” cũng là một kết luận và cần được nói một cách trung thực.
Mẹo: Một tuyên bố càng gây được tiếng vang hoặc gợi lên phản ứng cảm xúc thì bạn càng phải xác minh nó một cách tỉ mỉ. Thông tin sai lệch nhắm vào chính cảm xúc tức giận, sợ hãi hoặc "tin tức mà chúng tôi muốn". Thông tin nhắc bạn hành động nhanh chóng thường là thông tin cần được xác minh nhiều nhất.
Bản thân AI là một nguồn rủi ro
Lưu ý quan trọng nhất của đơn vị này: AI không phải là cơ quan xác minh; Bản thân nó có thể tạo ra thông tin sai lệch và thiên vị. AI có thể đánh lừa theo ba cách:
1. Ảo giác: Trình bày một nguồn, trích dẫn hoặc sự kiện không tồn tại là có thật. "Nguồn nào xác nhận tuyên bố này?" Khi bạn hỏi, anh ấy thậm chí có thể cho bạn một cái tên nguồn bịa đặt.
2. Xu hướng dữ liệu đào tạo: AI phản ánh quan điểm chủ đạo trong các văn bản mà nó được đào tạo. Nếu quan điểm của một phần thế giới về một vấn đề cụ thể chiếm ưu thế trong dữ liệu, thì AI có thể ảnh hưởng theo hướng đó. Đây không phải là cố ý mà là sự phản ánh dữ liệu - nhưng kết quả vẫn là kết quả sai lệch.
3. Sycophancy: AI có thể có xu hướng trả lời câu hỏi theo cách làm bạn hài lòng. Nếu bạn muốn xác minh một tuyên bố, nó có xu hướng tạo ra một câu trả lời hỗ trợ cho tuyên bố đó.
Vì vậy, hãy sử dụng AI làm công cụ để xác minh (chỉnh sửa nguồn, gắn cờ xung đột, trợ giúp truy tìm nguồn gốc), nhưng đừng bao giờ coi AI nói “điều này đúng” là lời cuối cùng.
Thận trọng: Khi bạn nhờ AI xác minh một nguồn, hãy kiểm tra xem AI đang hiển thị cho bạn nguồn thật hay đang tạo ra một sự bịa đặt có vẻ hợp lý. Đừng coi nó là "đã được xác minh" cho đến khi bạn độc lập mở và xem mọi tên nguồn, liên kết và trích dẫn mà anh ấy đưa ra. Nguồn do AI pha chế có vẻ thuyết phục hơn nguồn thực.
ba trường hợp nhỏ
Trường hợp 1 - Đã lưu xác minh xuất xứ. Một ảnh chụp màn hình "thông báo chính thức" rơi xuống bàn và nó trông như thật. Việc xác minh cho thấy không có tuyên bố nào như vậy trên các kênh chính thức của tổ chức đó; hình ảnh đó là giả. Việc kiểm tra nguồn gốc đã ngăn chặn một tuyên bố giả mạo lọt vào cuộc họp.
Trường hợp 2 - Nguồn do AI chế tạo. Một chuyên gia đã nhờ AI xác minh một thống kê. YZ trích dẫn một nguồn tin cho biết “theo báo cáo năm 2023 của tổ chức này…” Ông gọi nguồn chuyên gia: không có báo cáo cũng như con số như vậy; AI đã bịa ra cả hai. Việc kiểm tra độc lập đã phát hiện ra một “xác nhận” bịa đặt.
Trường hợp 3 - Độ lệch thiên vị. Một chuyên gia đã nhờ AI tóm tắt một sự kiện gây tranh cãi và nhận thấy rằng kết quả đầu ra rất giống với câu chuyện của một bên. Khi tôi hỏi lại “tóm tắt cùng một sự kiện từ góc nhìn của bên kia”, một bức tranh rất khác hiện ra. Việc so sánh hai kết quả đã ngăn cản việc đưa khuôn khổ một chiều vào báo cáo.
Bốn mẫu có thể sao chép
1) Quy trình xác minh yêu cầu:
Vai trò của bạn: nhà phân tích xác nhận. Đối với khẳng định sau: (1) rút gọn khẳng định thành một câu nettek, (2) tìm vị trí/thời điểm nó được đề cập lần đầu trong các nguồn tôi đưa ra, (3) có bao nhiêu nguồn ĐỘC LẬP hỗ trợ nó, (4) có bất kỳ nguồn xung đột nào không, (5) đánh dấu kết quả bằng một trong các thẻ sau: đã được xác minh / nguồn duy nhất / mâu thuẫn / chưa được xác minh. Chế tạo nguồn; Chỉ cần sử dụng những gì tôi cung cấp cho bạn. Khiếu nại+nguồn: [tại đây]
2) Kiểm tra sai lệch AI:
Đầu tiên, hãy tóm tắt sự việc sau đây một cách khách quan nhất có thể. Sau đó tóm tắt CÙNG một sự kiện riêng biệt (a) theo quan điểm của bên A, (b) theo quan điểm của bên B. Liệt kê sự khác biệt giữa ba phiên bản. Như vậy, có thể thấy điểm nào là cách giải thích của các bên và điểm nào là sự thật chung. Trường hợp/nguồn: [tại đây]
3) Đánh giá độ tin cậy của nguồn:
Đánh giá các nguồn sau: loại (chính thức/độc lập/thiên vị/ẩn danh), mối quan tâm tiềm ẩn đối với vấn đề, thông tin được cung cấp về độ tin cậy trong quá khứ, các bước bổ sung cần thiết để xác minh. Đồng thời viết ra lý do tại sao nguồn có thể sai. Nguồn: [tại đây]
4) Cờ đỏ về thông tin sai lệch:
Quét nội dung bên dưới để tìm thông tin sai lệch. Hãy tìm những dấu hiệu này: số liệu thống kê không có nguồn, ngôn ngữ kích thích cảm xúc, hình ảnh không có ngữ cảnh, áp lực “nhanh lên/chia sẻ”, từ ngữ có thẩm quyền không thể kiểm chứng, phổ biến phối hợp đồng thời. Đánh dấu mỗi phát hiện với sự biện minh. Đừng đưa ra phán xét cuối cùng. Nội dung: [tại đây]
Dấu nhắc yếu / Dấu nhắc mạnh
Dấu nhắc yếu:
Tuyên bố này có đúng không? Tìm kiếm trực tuyến và cho tôi biết.
AI nói "đúng" không phải là xác minh; Anh ta có thể đưa ra những nguồn sai lệch hoặc đưa ra một câu trả lời thiên vị hoặc tâng bốc.
Lời nhắc mạnh mẽ:
Vai trò của bạn: nhà phân tích xác minh. Dưới đây là một tuyên bố và các nguồn tôi thu thập được. Đừng bảo tôi “đúng/sai”; Thay vào đó: hãy chỉ ra nguồn gốc của tuyên bố, số lượng nguồn độc lập, mọi mâu thuẫn và mức độ tin cậy. Đừng đi xa hơn những nguồn tôi đã đưa ra, đừng bịa đặt nguồn. Nếu bạn không chắc chắn, hãy đánh dấu là "yêu cầu xác minh của con người". Khiếu nại+nguồn: [tại đây]
Sự khác biệt rất rõ ràng: yêu cầu xuất xứ, xác nhận độc lập và mức độ tin cậy thay vì phán đoán “đúng/sai” sẽ hạn chế rủi ro của AI.
Bảng trạng thái xác minh
Nhãn
Ý nghĩa
Cách sử dụng trong báo cáo
Đã xác minh
Ít nhất 2 nguồn đáng tin cậy độc lập
Có thể được sử dụng như một trường hợp
Đã xác nhận một phần
Một số xác nhận
Hạn chế, có giải thích
nguồn duy nhất
Chỉ một nguồn
Là một "khiếu nại", cần có xác nhận
mâu thuẫn
Nguồn không khớp
Trình bày dưới dạng không chắc chắn
Không thể xác minh
Không tìm thấy xác nhận
Không được sử dụng như một thực tế
sai
Điều ngược lại đã được chứng minh
Như một sự điều chỉnh trong báo cáo
Những lỗi thường gặp
- Coi việc AI nói "chính xác" là xác nhận. AI có thể bịa đặt, thiên vị hoặc thỏa hiệp.
- Mở nguồn do AI đưa ra và chấp nhận mà không cần nhìn thấy. Các nguồn bịa đặt có vẻ thuyết phục.
- Xác minh ít thông tin phù hợp với nhu cầu của bạn. Thông tin mang tính cảm xúc/phù hợp là thông tin cần được xác nhận nhiều nhất.
- Nhầm lẫn sự phong phú của các bản sao là xác nhận. Hàng trăm trang web cung cấp dữ liệu từ cùng một nguồn là một nguồn duy nhất.
- Không kiểm tra sự thiên vị nào cả. Tóm tắt cùng một sự kiện từ những quan điểm khác nhau mang lại sự cân bằng.
Tóm lại
Xác minh nguồn gốc là nền tảng của kiến thức ngoại giao và AI vừa là trợ giúp vừa là rủi ro trong công việc này. AI tổ chức các nguồn, hỗ trợ theo dõi xuất xứ và gắn cờ xung đột; nhưng bản thân nó có thể tạo ra thông tin sai lệch do ảo giác, sai lệch dữ liệu huấn luyện và xu nịnh. Truy tìm nguồn gốc, kiểm tra chéo độc lập, phân tách độ tin cậy của thông tin nguồn, gắn thẻ mức độ tin cậy và nghi ngờ bổ sung về đầu ra AI là xương sống của đơn vị này.
Nhiệm vụ ứng dụng
Chọn một tuyên bố hiện tại, gây tranh cãi và thu thập các nguồn từ các thể loại khác nhau. Đánh giá yêu cầu xuất xứ và xác minh độc lập bằng "quy trình xác minh yêu cầu". Với “kiểm tra sai lệch AI”, hãy tóm tắt cùng một sự kiện từ các góc nhìn khác nhau và liệt kê những điểm khác biệt. Nếu AI cung cấp tài nguyên, hãy mở tài nguyên đó một cách độc lập và kiểm tra xem tài nguyên đó có thực sự tồn tại hay không.
danh sách kiểm tra
- [ ] Tôi rút gọn lời khẳng định thành một câu rõ ràng và tìm kiếm nguồn gốc của nó.
- [ ] Tôi đã kiểm tra chéo với ít nhất hai nguồn độc lập đáng tin cậy.
- [ ] Tôi đã xác minh độc lập mọi nguồn do AI cung cấp.
- [ ] Tôi đã kiểm tra thành kiến bằng cách tóm tắt cùng một sự kiện từ những góc nhìn khác nhau.
- [ ] Tôi đã đánh dấu kết quả bằng nhãn mức độ tin cậy rõ ràng.