Lợi nhuận:
- Khả năng nắm bắt ảo giác bằng cách xác minh sự tồn tại của từng nguồn, đi đến nguồn chính và các bước xác nhận chéo độc lập
- Khả năng duy trì tính nguyên bản và tính toàn vẹn trong học thuật chống lại các trích dẫn và tài liệu bịa đặt trong khoa học xã hội và nhân văn
- Khả năng dạy người dùng kỹ năng xác minh nguồn và hiểu biết thông tin trong thời đại AI
Trọng tâm sứ mệnh xã hội của thủ thư là một lời hứa duy nhất: thông tin đáng tin cậy. Thủ thư không chỉ đưa người dùng đến thông tin mà còn đưa thông tin đã được xác minh và dạy anh ta cách tự đánh giá thông tin này. Trong thời đại trí tuệ nhân tạo, sứ mệnh này vừa khó khăn vừa trở nên quan trọng hơn; bởi vì AI có thể tạo ra thông tin sai lệch một cách có sức thuyết phục cao. Trong phần này, chúng ta sẽ đề cập đến nhận dạng ảo giác, nguyên tắc xác minh nguồn và dạy kiến thức thông tin trong thời đại AI.
Hãy xác định các khái niệm. Ảo giác là khi AI tạo ra thông tin, nguồn, trích dẫn hoặc sự kiện không thực sự tồn tại như thể chúng có thật. Xác minh nguồn là xác nhận rằng thông tin dựa trên nguồn chính xác, đáng tin cậy và chính xác. Kiến thức thông tin là khả năng của một người trong việc tìm kiếm thông tin, đánh giá nó, đặt câu hỏi về độ tin cậy của nó và sử dụng nó một cách có đạo đức. Đơn vị này nhằm mục đích giúp thủ thư tăng cường những kỹ năng này cả trong thực hành của mình và trong việc giảng dạy người dùng.
Từng bước: kỷ luật xác minh nguồn
1. Yêu cầu nguồn và xác minh sự tồn tại của nó. Khi AI đưa ra một tuyên bố hoặc trích dẫn, “cái này lấy từ nguồn nào?” và kiểm tra xem nguồn có thực sự tồn tại trong danh mục, cơ sở dữ liệu hoặc tài liệu chính độc lập hay không.
2. Đi tới nguồn chính. Hình thức thông tin đáng tin cậy nhất là nguồn thông tin trực tiếp. Đừng giải quyết bằng một bản tóm tắt về AI hoặc văn bản phụ; Nếu có thể, hãy truy cập tài liệu, dữ liệu hoặc ấn phẩm gốc.
3. Xác nhận chéo. Xác minh một tuyên bố quan trọng bằng ít nhất hai nguồn đáng tin cậy, độc lập với nhau. Một nguồn lực, đặc biệt là nguồn lực AI là chưa đủ.
4. Đánh giá độ tin cậy của nguồn. Ai viết nó, khi nào, với mục đích gì, trên bằng chứng gì? Nó có được cập nhật không? Sự tồn tại của thông tin không làm cho nó trở thành sự thật; Cũng đặt câu hỏi về bản chất của nguồn.
5. Thể hiện sự không chắc chắn một cách trung thực. Nếu thông tin không thể xác minh được thì phải nói rõ ràng. Nói "chưa được xác nhận" luôn tốt hơn là đưa ra một sự chắc chắn bịa đặt.
Mẹo: Khi bạn nhận được một trích dẫn hoặc nguồn từ AI, trước tiên hãy tìm kiếm tiêu đề và tác giả trong danh mục thực tế. Tài nguyên không tồn tại xuất hiện ngay tại đây. Quá trình kiểm tra 30 giây này ngăn nguồn bịa đặt xâm nhập vào thư mục, bài tập hoặc ấn phẩm.
Tính xác thực và xác minh trong khoa học xã hội và nhân văn
Các ngành khoa học xã hội và nhân văn đặc biệt dễ có nguy cơ bị ảo giác. Trong những lĩnh vực này, bằng chứng thường dựa trên một tài liệu cụ thể, ngày tháng, một trích dẫn hoặc nguồn của một nhận xét. AI có thể đưa ra những tuyên bố rất cụ thể nhưng hoàn toàn bịa đặt, chẳng hạn như “nhà sử học đó đã nói” hoặc “tài liệu đó từ năm 1923 nói”. Trong một tác phẩm văn học, lịch sử hay luật pháp, điều này có nghĩa là một chuỗi bằng chứng sai lầm.
Hơn nữa, tính độc đáo là giá trị cơ bản của những lĩnh vực này: điều quan trọng là văn bản, sự diễn giải hay bản dịch thực sự thuộc về ai. Việc trình bày văn bản do AI tạo ra dưới dạng tác phẩm gốc hoặc dựa vào "nguồn" do AI tạo ra là vi phạm tính liêm chính trong học thuật. Thủ thư là người hướng dẫn dạy người dùng cả cách xác minh lẫn giới hạn của tính độc đáo và đạo văn.
Thận trọng: Ngay cả trong trường hợp một câu trích dẫn do AI tạo ra có vẻ chính xác từng chữ và được cho là của một tác giả có thật, thì câu trích dẫn đó vẫn có thể bịa đặt. Xác minh một trích dẫn bằng cách chỉ tìm nó trong tác phẩm thực tế của tác giả; Logic “tác giả này có thể đã nói điều gì đó như thế này” là chưa đủ.
ba trường hợp nhỏ
Trường hợp 1 - Học sinh được dạy xác minh. Một thủ thư đã nhìn thấy 5 tài nguyên từ AI trong bài tập của học sinh. Họ cùng nhau kiểm tra nó trong danh mục: 2 nguồn là bịa đặt. Cậu học sinh đã trực tiếp trải nghiệm bài học “nhìn thật là không đúng” và một lần nữa hình thành thói quen kiểm chứng mọi nguồn tin.
Trường hợp 2 - Tài liệu lịch sử bịa đặt. Một nhà nghiên cứu nhận được “báo cáo năm 1919” từ AI; Ngày tháng, tên báo và nội dung đều vô cùng thuyết phục. Người thủ thư quét kho lưu trữ của tờ báo: lúc đó không có tin tức nào như vậy. Một nguồn chính bịa đặt đã bị phát hiện trước khi nó được đưa vào một bài báo.
Trường hợp 3 - Báo giá bị phân bổ sai. AI gán một câu trích dẫn cho một nhà tư tưởng nổi tiếng. Người thủ thư đã tìm từ này trong tác phẩm của nhà tư tưởng nhưng không tìm thấy nó; Từ này không được nhắc đến ở bất cứ đâu. Việc kiểm tra chéo đã ngăn chặn việc phổ biến một trích dẫn bị phân bổ sai.
Chuỗi lan truyền thông tin sai lệch và vai trò của thủ thư
Thông tin sai lệch thường bắt đầu bằng một thông tin bịa đặt duy nhất, nhưng không dừng lại ở đó. Người dùng đặt tài nguyên giả do AI tạo vào một bài tập; bài tập trở thành một ấn phẩm; ấn phẩm được những người khác trích dẫn, do đó một nguồn hư cấu có vẻ ngoài là "sự thật" khi được trích dẫn nhiều lần. Chúng ta có thể gọi đây là sự ô nhiễm do quy kết: thông tin sai lệch sẽ có được tính hợp pháp bằng cách lặp đi lặp lại. Thủ thư đứng ở mắt xích quan trọng nhất trong chuỗi này; vì đây là điểm kiểm soát cuối cùng nơi thông tin được xác minh trước khi vào hệ thống. Chỉ vì một nguồn “xảy ra ở nhiều nơi” không có nghĩa là nó đúng; Thông tin giả mạo giống nhau có thể xuất hiện ở nhiều nơi do bị sao chép lẫn nhau. Vì vậy, việc xác nhận chéo phải dựa trên câu hỏi “có bao nhiêu nguồn đáng tin cậy xác nhận nó độc lập với nhau”, chứ không phải “nó xuất hiện ở bao nhiêu nơi?” Mười nguồn thứ cấp lặp lại cùng một tuyên bố không có giá trị bằng một nguồn chính độc lập. Thủ thư nên đặt sự khác biệt này (không nhầm lẫn tính độc lập với sự lặp lại) ở trung tâm của cả việc xác minh và giảng dạy của mình cho người dùng.
Chú ý: Sự xuất hiện của thông tin trong công cụ tìm kiếm hoặc trên nhiều trang web không phải là bằng chứng về tính chính xác của nó. Sai lầm tương tự có thể đã trở nên phổ biến do bị sao chép từ nguồn này sang nguồn khác. Mức độ phổ biến và độ chính xác là những thứ khác nhau; Xác nhận yêu cầu một nguồn độc lập và đáng tin cậy.
Bốn mẫu có thể sao chép
1) Truy vấn thực thể tài nguyên:
Liệt kê mọi trích dẫn nguồn và trích dẫn trong văn bản dưới đây. Đối với từng: thông tin về tác giả, tên sách, năm và xuất bản (nếu có). Trích xuất từng mục thông tin tôi cần xác minh; không thêm.Text: [tại đây]
2) Đánh giá khả năng khẳng định:
Đối với mỗi tuyên bố sau đây, hãy tách biệt các yếu tố thực tế (ngày, tên, số, trích dẫn) cần được xác minh. Đề xuất loại nguồn (danh mục, tài liệu chính, cơ sở dữ liệu) có thể được xác minh dựa trên đó. Đừng đánh giá độ chính xác, chỉ hiển thị đường dẫn xác minh. Khẳng định: [tại đây]
3) Danh sách kiểm tra độ tin cậy hàn:
Đánh giá độ tin cậy của nguồn sau: ai viết nó, khi nào, vì mục đích gì, có bằng chứng, có cập nhật không, có thể có thành kiến không? Chỉ cần dựa vào thông tin tôi đưa, ghi "không rõ" thiếu ở đâu. Nguồn thông tin: [tại đây]
4) Kế hoạch dạy học kiến thức thông tin:
Tạo một hướng dẫn ngắn gọn dài 20 phút về xác minh nguồn và ảo giác trong thời đại AI cho nhóm người dùng sau (ví dụ: sinh viên đại học): mục tiêu, 3 ví dụ, 1 ứng dụng. Nhóm: [tại đây]
Dấu nhắc yếu / Dấu nhắc mạnh
Dấu nhắc yếu:
Viết một bản tóm tắt về chủ đề này với các nguồn đáng tin cậy.
Nói “với các nguồn đáng tin cậy” khuyến khích AI tạo ra các nguồn giả mạo có vẻ như thật; Không có móc xác nhận.
Lời nhắc mạnh mẽ:
Vai trò của bạn: trợ lý kiến thức thông tin. VIẾT tóm tắt về chủ đề sau; Thay vào đó, hãy liệt kê các câu hỏi thực tế mà người dùng cần xác minh và loại nguồn đáng tin cậy mà họ có thể xác minh chúng. Không bịa đặt bất kỳ trích dẫn nguồn nào; Đánh dấu khu vực bạn không chắc chắn là "phải được xác minh". Chủ đề: [tại đây]
Lời nhắc mạnh mẽ; Nó sử dụng AI làm hướng dẫn chỉ ra cách xác minh, thay vì đưa ra câu trả lời và ngăn chặn việc bịa đặt về mặt cấu trúc.
Bảng lớp xác thực
lớp
Câu hỏi
phương pháp
thực thể
Nguồn này có thật không?
Tìm kiếm danh mục/cơ sở dữ liệu
tính ưu việt
Đây có phải là nguồn gần nhất không?
Truy cập tài liệu gốc
Xác nhận
Có nguồn nào khác xác nhận điều này không?
Kiểm tra chéo độc lập
độ tin cậy
Nguồn ổn định đến mức nào?
Tác giả, ngày tháng, mục đích, bằng chứng
trung thực
Tôi có chắc không?
Nêu rõ sự không chắc chắn
Những lỗi thường gặp
- Nghĩ rằng những gì thuyết phục là đúng. Nhìn tốt không phải là bằng chứng của sự công bình.
- Hài lòng với một nguồn duy nhất. Thông tin quan trọng yêu cầu xác nhận chéo độc lập.
- Không tìm kiếm trích dẫn ở nguồn của nó. Đây là cách các từ được phân bổ sai lan truyền.
- Che giấu sự không chắc chắn. “Không thể kiểm chứng” còn tốt hơn là sự chắc chắn sai lầm.
- Không dạy người dùng xác thực. Kiến thức thông tin là nhiệm vụ của thủ thư.
Tóm lại
Xác minh nguồn và hiểu biết thông tin là những nhiệm vụ quan trọng nhất của thủ thư trong thời đại AI. Ảo giác tạo ra thông tin thuyết phục nhưng bịa đặt và đặc biệt nguy hiểm trong khoa học xã hội/nhân văn. Nguyên tắc rất rõ ràng: xác minh sự tồn tại của từng nguồn, đi đến nguồn chính, tiến hành kiểm tra chéo độc lập, đặt câu hỏi về độ tin cậy của nguồn và bày tỏ sự không chắc chắn một cách trung thực. Thủ thư truyền bá văn hóa xác minh này không chỉ trong hoạt động của mình mà còn bằng cách giảng dạy người dùng; Tính độc đáo và tính toàn vẹn trong học thuật là không thể thiếu đối với sứ mệnh này.
Nhiệm vụ ứng dụng
Yêu cầu 6 nguồn và 2 trích dẫn từ AI trong lĩnh vực của bạn. Xác minh từng nguồn bằng cách tìm kiếm nó trong danh mục thực tế và từng trích dẫn trong tác phẩm thực tế của tác giả; Lưu ý có bao nhiêu là bịa đặt. Sau đó, bằng cách sử dụng mẫu “Kế hoạch giảng dạy kiến thức thông tin”, soạn thảo một hướng dẫn dài 20 phút để giải thích việc xác minh nguồn cho nhóm người dùng và bao gồm các ví dụ thực tế mà bạn tự tìm thấy.
danh sách kiểm tra
- [ ] Tôi đã xác minh độc lập rằng mỗi nguồn thực sự tồn tại.
- [ ] Tôi đã sử dụng các nguồn chính bất cứ khi nào có thể.
- [ ] Tôi đã kiểm tra chéo các tuyên bố quan trọng với ít nhất hai nguồn độc lập.
- [ ] Tôi đã xác minh các trích dẫn bằng cách tìm kiếm chúng trong tác phẩm thực tế của tác giả.
- [ ] Tôi đã đánh dấu rõ ràng thông tin không thể xác minh là "không thể xác minh".