Lợi nhuận:
- Khả năng giải thích tại sao ảo giác (nguồn bịa đặt, trích dẫn, sự kiện) và lỗi thời là những sai lầm nguy hiểm nhất trong lịch sử
- Khả năng áp dụng nguyên tắc xác minh từng tài liệu tham khảo trong danh mục, so sánh nội dung với tài liệu và xác nhận chéo các sự kiện quan trọng.
- Khả năng đặt câu hỏi về sự thiên vị và thiếu tiếng nói trong các nguồn bằng cách hỏi trí tuệ nhân tạo để tìm nơi thay vì nguồn thực
Có một cảnh báo được lặp lại trong mỗi đơn vị của mô-đun này: đầu ra của AI là một tuyên bố chứ không phải sự thật cho đến khi được xác minh. Đơn vị này biến lời cảnh báo đó thành kỷ luật. Lịch sử và lưu trữ vốn là các lĩnh vực dựa trên bằng chứng; Kỹ năng cơ bản nhất của một nhà sử học là phê bình nguồn (đặt câu hỏi nguồn đó được tạo ra bởi ai, khi nào, vì mục đích gì và nó đáng tin cậy đến mức nào). Trong thời đại AI, kỹ năng này càng trở nên quan trọng hơn vì bản thân nguồn đó giờ đây có thể đã bị làm giả.
Ở đây chúng ta sẽ đề cập sâu hơn về ba mối nguy hiểm: ảo giác (AI tạo ra thông tin, nguồn hoặc trích dẫn bịa đặt), lỗi thời (các yếu tố định kỳ bị chuyển sang sai thời kỳ) và kỷ luật xác minh nguồn nói chung. Chúng ta cũng sẽ thấy AI học hỏi từ các nguồn không chính xác hoặc sai lệch trong quá khứ, do đó nó có thể tái tạo thành kiến.
Ảo giác: sai lầm nguy hiểm nhất
Ảo giác là khi AI tự tin trình bày một thứ gì đó không thực sự tồn tại. Trong lịch sử, nó thường được thấy dưới các hình thức sau:
- Nguồn/tài liệu tham khảo bịa đặt: Quỹ lưu trữ, số tập tin, cuốn sách hoặc bài báo không tồn tại.
- Trích dẫn bịa đặt: Một từ chưa thực sự được nói ra, một câu không có trong tài liệu.
- Sự kiện/ngày/người bịa đặt: Một sự kiện không hề xảy ra, một ngày tháng sai lầm, một người không tồn tại.
- Kết nối hư cấu: Mối quan hệ nhân quả không tồn tại giữa hai sự kiện có thật.
Điều khiến ảo giác trở nên nguy hiểm là nó có vẻ đáng tin cậy. Một tài liệu tham khảo giả tạo có cùng định dạng với một tài liệu tham khảo thực: tên quỹ, số, ngày. Vì vậy "định dạng có vẻ đúng" không bao giờ có nghĩa là "chính xác".
Lưu ý: Không thể sử dụng tài nguyên do YZ sản xuất mà không được xác minh và tìm thấy trong danh mục hoặc ở nơi đáng tin cậy. Cách duy nhất để chứng minh rằng một tài liệu tham khảo tồn tại là xem nó ở nơi có nguồn gốc (danh mục lưu trữ, thư viện, ấn phẩm). "AI đã cho nó" không phải là bằng chứng.
Lỗi thời: kính của thời kỳ
Chủ nghĩa lỗi thời đang nhìn quá khứ qua lăng kính ngày nay. Bởi vì AI được đào tạo bằng ngôn ngữ ngày nay nên nó có xu hướng mạnh mẽ:
- Thuật ngữ lỗi thời: Sử dụng một từ, tổ chức hoặc khái niệm không thuộc thời kỳ đó.
- Khái niệm lỗi thời: Chiếu một ý tưởng của hiện tại (ví dụ: một hệ tư tưởng hoặc bản sắc hiện đại) vào quá khứ.
- Lỗi thời về giá trị: Đánh giá hành vi trong quá khứ chỉ theo tiêu chuẩn ngày nay.
Công việc của nhà sử học là hiểu quá khứ trong bối cảnh của nó. AI thiếu độ nhạy ngữ cảnh này; Bạn phải tự cung cấp nó.
Hiểu được lý do tại sao ảo giác lại xảy ra thường xuyên như vậy sẽ giúp bạn dễ dàng bảo vệ khỏi nó hơn. AI là một hệ thống hoạt động để tạo ra “từ có khả năng xảy ra tiếp theo nhất”; Nó không có mục đích như "biết sự thật". Khi được hỏi một câu hỏi, dù anh ta có biết câu trả lời hay không, anh ta vẫn tạo ra văn bản có vẻ thuyết phục về mặt thống kê. Định dạng của tài liệu tham khảo lưu trữ (tên quỹ, số, ngày) là mẫu đã học; AI có thể điền vào mẫu này mà không cần tham chiếu thực sự. Vậy “tại sao AI lại tạo ra nó?” Câu trả lời cho câu hỏi rất đơn giản: anh ấy dễ làm lành hơn là “không biết”. Bạn có trách nhiệm lấp đầy các khuôn này bằng tài nguyên thực.
Kỷ luật xác minh nguồn: từng bước
1. Xác minh sự tồn tại của tài nguyên. Tìm mọi tài liệu tham khảo do AI đưa ra trong danh mục/ấn phẩm. Nếu bạn không thể tìm thấy nó, đừng sử dụng nó.
2. So sánh nội dung với nguồn. Thông tin mà AI gán cho một tài liệu có thực sự tồn tại trong tài liệu đó không? Câu trích dẫn có giống hệt nhau không?
3. Xác nhận chéo. Đối với một thực tế quan trọng, hãy xem xét ít nhất hai nguồn đáng tin cậy độc lập.
4. Áp dụng phê bình nguồn. Bản thân nguồn có đáng tin cậy không? Ai đã tạo ra nó, khi nào và nhằm mục đích gì? Nó có thiên vị không?
5. Chuyển nó qua bộ lọc lỗi thời. Có bất kỳ thuật ngữ, khái niệm hoặc đánh giá giá trị nào không phù hợp với khoảng thời gian trong đầu ra không?
6. Định kiến về câu hỏi. AI có thể tái tạo những thành kiến trong các nguồn lịch sử (bỏ qua một nhóm, ủng hộ một quan điểm)?
Lớp xác thực
Câu hỏi
ai làm
thực thể
Liệu tài nguyên này có thực sự tồn tại?
Bạn trong danh mục.
Nội dung
Điều này thực sự nói trong tài liệu?
Bạn trong tài liệu
Xác nhận
Có nguồn nào khác hỗ trợ nó không?
bạn, vượt qua
độ tin cậy
Nguồn có đáng tin cậy không?
đánh giá chuyên môn
Thời kỳ
Có bất kỳ lỗi thời nào không?
đánh giá chuyên môn
định kiến
Giọng nói của ai bị thiếu/méo?
đánh giá chuyên môn
ba trường hợp nhỏ
Trường hợp 1 - Sáu tài liệu tham khảo bịa đặt. Một nhà nghiên cứu đã yêu cầu AI cung cấp danh sách các nguồn về một chủ đề. YZ đã cung cấp 6 tài liệu tham khảo lưu trữ với định dạng hoàn hảo. Khi tìm kiếm trong danh mục, 4 trong số 6 chiếc bị thiếu, 2 chiếc sai số. Nếu nhà nghiên cứu không xác minh, một nghiên cứu trích dẫn các nguồn không tồn tại sẽ xuất hiện. Bài học: mọi tài liệu tham khảo đều được xác minh trong danh mục.
Trường hợp 2 - Báo giá tự tạo. Một nhà văn sẽ sử dụng một câu trích dẫn nổi bật mà AI gán cho một nhân vật lịch sử. Khi điều tra nguồn tin, anh thấy không có tài liệu nào chứng minh người đó đã nói như vậy và tuyên bố đó là do AI "bịa đặt". Bài học: không thể sử dụng các trích dẫn nếu không có sự xác minh từ nguồn chính hoặc đáng tin cậy.
Trường hợp 3 - Tái tạo thành kiến. Một học sinh được AI giải thích về lịch sử của một khu vực. Đầu ra hoàn toàn bỏ qua một cộng đồng cụ thể trong khu vực đó vì các nguồn mà AI đã học được cũng đã bỏ qua chúng. Sinh viên nhận thấy và sửa chữa khoảng trống này bằng cách tham khảo chéo. Bài học: AI tái tạo sự im lặng và thành kiến trong các nguồn; Người ta phải hỏi giọng nói của ai bị mất.
Bốn mẫu có thể sao chép
1) Danh sách xác minh tham khảo:
TẤT CẢ nguồn, tài liệu tham khảo, trích dẫn, ngày tháng và tên người trong văn bản bên dưới sẽ xuất hiện trong một danh sách riêng. Thêm ghi chú cho mỗi câu: "được xác nhận trong văn bản này, phải được xác minh độc lập." Nếu bạn không chọn gì, hãy "xác minh"; Chỉ cần tạo một danh sách để xác minh để tôi có thể kiểm tra nó từ danh mục/nguồn. Văn bản: [tại đây]
2) Quét lỗi thời:
Kiểm tra văn bản về [thời kỳ] bên dưới. Nêu bật các thuật ngữ, thể chế, khái niệm và giá trị CÓ THỂ KHÔNG thuộc về thời kỳ này. Đối với mỗi điều, hãy viết ngắn gọn lý do tại sao bạn nghi ngờ. Đưa ra phán quyết cuối cùng; Tạo một danh sách các nghi ngờ mà chuyên gia sẽ kiểm tra. Văn bản: [tại đây]
3) Khung phê bình nguồn:
Một bài phê bình nguồn được soạn thảo về nguồn sau: (1) Ai có thể đã tạo ra nó, (2) Khi nào, (3) Vì mục đích gì, (4) Những thành kiến có thể có của nó là gì, (5) Những vấn đề nào nên đáng tin cậy và những vấn đề nào cần thận trọng. Áp dụng phán quyết cuối cùng; Cung cấp câu hỏi và các lựa chọn trả lời có thể. Nguồn: [tại đây]
4) Thiếu điều khiển âm lượng/độ lệch:
Tiếng nói của AI và trải nghiệm của nhóm nào có thể bị thiếu hoặc phiến diện trong bản tóm tắt lịch sử sau đây? Quan điểm nào chiếm ưu thế, quan điểm nào vô hình? Tạo ra danh sách này dưới dạng các câu hỏi; Tôi sẽ điền nó với các tài liệu tham khảo chéo. Tóm tắt: [tại đây]
Dấu nhắc yếu / Dấu nhắc mạnh
yếu:
Hãy cho tôi những nguồn lịch sử đáng tin cậy và những trích dẫn về chủ đề này.
AI rất có xu hướng tạo ra các tài liệu tham khảo đúng về hình thức nhưng bịa đặt về nội dung khi được yêu cầu về "nguồn" và "trích dẫn". Lời nhắc này là lời mời trực tiếp đến ảo giác.
Mạnh mẽ:
Đề xuất LOẠI nguồn (loại quỹ lưu trữ, loại xuất bản, tổ chức) mà tôi nên tìm kiếm trong nghiên cứu của mình về chủ đề này. LẮP một tài liệu tham khảo, số hồ sơ hoặc báo giá cụ thể; Chỉ cần cho tôi biết nơi để tìm. Sau đó tôi sẽ tìm những nguồn thực sự từ các danh mục.
Sự khác biệt: AI được yêu cầu "tìm ở đâu" chứ không phải "tham khảo thực tế"; Nguy cơ ảo giác giảm đi hoàn toàn và việc xác minh được giao cho con người.
Những lỗi thường gặp
- Dựa vào tài liệu tham khảo chính xác. Tài liệu tham khảo trang điểm cũng có vẻ hoàn hảo; phải được xác minh trong danh mục.
- Lấy trích dẫn trực tiếp từ AI. Không thể sử dụng các trích dẫn nếu không có xác nhận từ nguồn chính/đáng tin cậy.
- Nhìn ra sự lỗi thời. Những thuật ngữ và khái niệm ngày nay đã âm thầm thấm vào quá khứ.
- Tái tạo thành kiến. AI sao chép khoảng lặng từ các nguồn; Cần phải hỏi về âm thanh còn thiếu.
- Dựa vào một nguồn duy nhất. Những thông tin quan trọng phải được xác nhận bởi ít nhất hai nguồn độc lập.
Tóm lại
Xác minh nguồn là trọng tâm của lịch sử và lưu trữ, thậm chí còn quan trọng hơn trong thời đại AI. Ảo giác tạo ra các nguồn, trích dẫn và sự kiện có hình thức hoàn hảo nhưng nội dung lại hư cấu; chủ nghĩa lỗi thời bóp méo quá khứ qua lăng kính ngày nay; và AI tái tạo những thành kiến trong các nguồn. Bảo vệ là một kỷ luật: xác minh từng tài liệu tham khảo trong danh mục, so sánh nội dung với tài liệu, kiểm tra chéo các sự kiện quan trọng, lọc theo thời kỳ và thành kiến. Hỏi AI về “tìm ở đâu” chứ không phải “nguồn thực tế”. Người bảo vệ sự thật luôn là chuyên gia.
Nhiệm vụ ứng dụng
Yêu cầu AI tạo danh sách các tài nguyên về chủ đề bạn đang nghiên cứu (với một "lời nhắc yếu" có chủ ý). Sau đó trích xuất tất cả các tham chiếu từ đầu ra này bằng mẫu "danh sách xác thực tham chiếu" và tìm kiếm từng tham chiếu trong một danh mục. Đếm xem có bao nhiêu thực sự tồn tại và bao nhiêu là bịa đặt hoặc không chính xác. Lặp lại cùng một chủ đề với một "lời nhắc mạnh mẽ" ("tôi nên tìm ở đâu") và trải nghiệm sự khác biệt.
danh sách kiểm tra
- [ ] Tôi đã xác minh từng tài liệu tham khảo trong danh mục/nguồn đáng tin cậy.
- [ ] Tôi đã xác minh từng trích dẫn bằng nguồn chính/đáng tin cậy.
- [ ] Tôi đã kiểm tra chéo các thông tin quan trọng với ít nhất hai nguồn độc lập.
- [ ] Tôi đã lọc kết quả đầu ra để tìm lỗi sai niên đại.
- [ ] Tôi đặt câu hỏi về những giọng nói bị thiếu/méo mó và sự thiên vị.