Lợi nhuận:
- Biết lý do tại sao ảo giác bị ẩn trong phạm vi con người và có thể chuyển từng nguồn thông qua chuỗi xác minh năm bước (sự tồn tại, dấu ấn, trích dẫn, bối cảnh, ghi công)
- Khả năng xác nhận tính xác thực của nguồn bằng các nhận dạng cụ thể như DOI, ISBN và danh mục.
- Hiểu kỷ luật cấm trí tuệ nhân tạo tạo ra sự bịa đặt và không bao giờ ủy quyền xác minh tính trung thực của trích dẫn và ghi công cho nó.
Giá trị của một văn bản trong các lĩnh vực con người và xã hội phụ thuộc vào tính xác thực và sự truyền tải chính xác các nguồn mà nó dựa vào. Một bài luận văn học, một luận văn, một bài giảng—tất cả đều dựa vào những nguồn đáng tin cậy và ghi nhận trung thực (cho biết bạn lấy thông tin hoặc trích dẫn từ ai/ở đâu). AI mang lại sự tiện lợi lớn trong lĩnh vực này, nhưng nó cũng tiềm ẩn mối nguy hiểm lớn nhất: ảo giác, tức là tạo ra một nguồn, trích dẫn hoặc sự kiện không tồn tại như có thật. Đơn vị này được dành riêng để thiết lập một "bộ giáp xác minh" chống lại mối nguy hiểm này.
Quy tắc một câu: Không nguồn, trích dẫn, ngày tháng hoặc số do AI tạo nào có thể nhập văn bản mà không có xác nhận của người thứ nhất từ nguồn chính hoặc đáng tin cậy. Quy tắc này là quy tắc được lặp lại nhiều nhất và kém linh hoạt nhất của mô-đun này.
Tại sao ảo giác lại nguy hiểm trong lĩnh vực này?
Nếu AI sai ở một câu hỏi kỹ thuật, nó thường sẽ được chú ý; nhưng trong phạm vi con người, ảo giác được che giấu một cách khéo léo:
- Dòng tên thực tế: AI kết hợp tên của tác giả có thật với tiêu đề phù hợp với lĩnh vực và năm hợp lý. Kết quả là một nguồn không tồn tại nhưng trông giống hệt như thật.
- Trích dẫn phù hợp với văn phong: AI có thể bắt chước văn phong của một tác giả và trình bày một câu không thuộc về tác giả đó là “lời của tác giả”.
- Đóng nhưng sai ngày: Năm của tác phẩm có thể bị lệch một hoặc hai năm; Điều này thoát khỏi sự bất cẩn của người đọc.
- Ghi công nhầm lẫn: Có thể gán ý tưởng cho sai người.
Tất cả những điều này có thể âm thầm xâm nhập vào văn bản của tác giả với ý đồ lương thiện, nếu không bị tóm sẽ gây tổn hại đến danh tiếng của tác giả cũng như lòng tin của người đọc.
Thận trọng: Chỉ vì một tài nguyên có vẻ "thực tế" đối với AI không có nghĩa là nó có thật. Chủ nghĩa hiện thực và hiện thực là hai thứ khác nhau; AI là bậc thầy về cái trước, nó không thể đảm bảo được cái sau.
Áo giáp xác minh: từng bước
Đối với mỗi nguồn và trích dẫn, hãy làm theo chuỗi sau:
- Có không? Tìm kiếm nguồn trong danh mục thư viện, cơ sở dữ liệu đáng tin cậy hoặc trang web của nhà xuất bản. Nếu không thể tìm thấy nó nghĩa là nó không tồn tại - đừng sử dụng nó.
- Dấu ấn có chính xác không? Tác giả, tiêu đề, nhà xuất bản/tạp chí, năm, trang - tất cả đều phải khớp chính xác.
- Lời trích dẫn có thật không? Tìm trích dẫn trong chính nguồn, trên trang được chỉ định và so sánh nguyên văn.
- Bối cảnh có đúng không? Câu trích dẫn có được sử dụng theo nghĩa đen hay đã bị bóp méo?
- Sự ghi nhận có trung thực không? Ý tưởng có được đưa ra đúng người hay không, nội dung nào đó được lấy từ nguồn thứ cấp có được coi là chính không?
Nếu thậm chí một liên kết của chuỗi này bị hỏng, nó sẽ không thể nhập được văn bản nguồn.
Mẹo: Hướng dẫn AI ngay từ đầu: "Đừng đưa ra bất kỳ nguồn nào mà bạn không chắc chắn là có tồn tại; nếu bạn không chắc chắn, hãy nói 'Tôi không thể tìm thấy nguồn đó'." Điều này không chấm dứt hoàn toàn ảo giác nhưng nó khiến AI nói “Tôi không biết” thay vì bịa đặt.
Trích dẫn và kỷ luật trích dẫn
Cùng với việc xác minh, ghi công trung thực cũng là một kỷ luật:
- Đưa ra báo giá trực tiếp với dấu ngoặc kép và trang; Hãy để nó theo nghĩa đen.
- Đồng thời liên kết trích dẫn gián tiếp (tóm tắt bằng lời của bạn) với nguồn; Nếu ý tưởng không phải của bạn thì nó cần được ghi nhận.
- Nêu rõ sự đóng góp của AI theo quy định của tổ chức bạn; AI không phải là “tài nguyên” nhưng nếu sử dụng thì phải khai báo.
- Không miêu tả nguồn thứ cấp là nguồn chính; Nếu bạn lấy một trích dẫn từ một tác giả từ một cuốn sách khác, hãy chỉ ra điều này.
ba trường hợp nhỏ
Trường hợp 1 - Hai trong số năm nguồn tin hóa ra là hư cấu. Một nhà nghiên cứu đã trải qua quá trình xác minh 5 nguồn do AI đưa ra. 2 cái hoàn toàn không có trong danh mục, 1 cái sai năm, 2 cái là thật và đúng. Chỉ có 2 cái đã được xác minh mới được sử dụng; bài viết được bảo vệ khỏi sự ghi nhận hư cấu.
Trường hợp 2 - Báo giá bị bóp méo. Một sinh viên đã tìm thấy một câu trích dẫn từ AI trong một cuốn sách thực tế, nhưng câu trích dẫn đó có ý nghĩa hoàn toàn ngược lại trong bối cảnh ban đầu. AI đã đưa câu này ra khỏi ngữ cảnh. Học sinh sửa câu trích dẫn cho đúng ngữ cảnh.
Trường hợp 3 - Đã sửa thuộc tính không chính xác. Trong một bài giảng, AI đã gán một ý kiến sai tác giả. Khi giáo viên kiểm tra chéo với hai nguồn đáng tin cậy, ông đã tìm được chủ sở hữu hợp pháp và sửa nó. Bức thư vẫn tồn tại mà không gây nhầm lẫn cho học sinh.
Bốn mẫu có thể sao chép
1) Hướng dẫn cấm chế tạo:
Từ giờ trở đi: KHÔNG cung cấp bất kỳ nguồn, trích dẫn, ngày tháng hoặc con số nào mà bạn không chắc chắn là có tồn tại. Nếu bạn không chắc chắn, hãy nói "cần xác minh" hoặc "Tôi không thể tìm thấy nó". Đừng bao giờ đưa ra một thẻ có tính thực tế nhưng bạn không thể đảm bảo tính xác thực của nó. Thực hiện theo quy tắc này với mọi phản hồi.
2) Lộ trình xác minh nguồn:
Tôi sẽ tự xác minh nguồn bên dưới. Hãy cho tôi biết nơi để tìm tài nguyên này (danh mục, cơ sở dữ liệu, nhà xuất bản) và thông tin chính nào. BẠN xác nhận rằng tài nguyên tồn tại; chỉ cần cung cấp các bước xác minh. Nguồn: [dán tín dụng]
3) Kiểm tra ngữ cảnh trích dẫn:
Dưới đây là một trích dẫn và đoạn văn thực tế trong đó nó xảy ra. Câu trích dẫn có được sử dụng đúng ngữ cảnh ban đầu hay đã bị bóp méo? Chỉ cần dựa vào văn bản tôi đã đưa cho bạn; thêm một bình luận. Trích dẫn: […] Đoạn gốc: […]
4) Kiểm tra tính toàn vẹn thuộc tính:
Trong văn bản của tôi bên dưới: câu nào yêu cầu nguồn nhưng không được ghi nguồn, ý tưởng nào có thể thuộc về người khác, có chỗ nào tôi hiển thị nguồn thứ cấp là nguồn chính không? Đề xuất các nguồn bịa đặt; chỉ cần chỉ ra những trích dẫn còn thiếu.Văn bản: [dán văn bản]
Dấu nhắc yếu / Dấu nhắc mạnh
Yếu: “Đưa ra 5 nguồn học thuật và trích dẫn về chủ đề này.”
Güçlü: "Hãy cho tôi biết loại nguồn và từ khóa nào tôi nên tìm khi nghiên cứu về chủ đề này. Không đưa ra bất kỳ tài liệu tham khảo hoặc trích dẫn nào mà bạn không chắc chắn tồn tại; nếu bạn không chắc chắn, hãy nói 'Tôi không thể tìm thấy nó'. Tôi sẽ cung cấp cho bạn những nguồn tôi tìm thấy sau; tôi sẽ xác nhận các trích dẫn trong sách."
Lời nhắc mạnh mẽ đóng cánh cửa ảo giác và để lại sự xác minh cho con người. Dấu nhắc yếu trực tiếp mời gọi sản xuất tài nguyên tưởng tượng.
Bảng chuỗi xác thực
bước
Câu hỏi
vị trí xác minh
thực thể
Nguồn có thực sự tồn tại?
Danh mục/cơ sở dữ liệu
dấu ấn
Tác giả, năm, trang có đúng không?
Nhà xuất bản/nhà xuất bản
trích dẫn
Nó có nguyên văn trong văn bản không?
bản thân nguồn
Bối cảnh
Ý nghĩa có bị bóp méo không?
đoạn chính
Trích dẫn
Đến đúng người?
kiểm tra chéo
Xác minh bằng liên kết và dấu ấn vĩnh viễn
Có nhiều cách cụ thể để xác nhận một cách nhanh chóng và đáng tin cậy liệu một tài nguyên có thực sự tồn tại hay không. Hầu hết các ấn phẩm học thuật hiện đại đều có DOI (Mã định danh đối tượng kỹ thuật số—một ID duy nhất không thay đổi được gán vĩnh viễn cho một ấn phẩm; nó hoạt động giống như một liên kết và dẫn trực tiếp đến ấn phẩm đó). Nếu bạn truy cập ấn phẩm thực tế khi bạn nhập DOI của một bài viết vào trình duyệt, nguồn đó sẽ tồn tại; Nếu bạn không thể tìm thấy nó hoặc DOI hoàn toàn không tồn tại, hãy nghi ngờ. Các “DOI” do AI tạo ra thường được tạo ra và chẳng đi đến đâu; Đây là một trong những thử nghiệm thực tế nhất về việc nắm bắt nguồn tưởng tượng.
ISBN (Số sách tiêu chuẩn quốc tế) cung cấp mã nhận dạng tương tự cho sách; Bạn có thể xác minh tính xác thực của cuốn sách bằng cách tìm kiếm nó theo ISBN trong danh mục thư viện hoặc cơ sở dữ liệu sách đáng tin cậy. Đối với các ấn phẩm định kỳ, hãy kiểm tra tên tạp chí và thông tin về số lượng/số phát hành trên trang web chính thức của nhà xuất bản. Những danh tính cụ thể này là câu trả lời cho câu hỏi “Nguồn có thật không?” Nó trả lời câu hỏi của bạn một cách rõ ràng trong vòng vài phút.
Các phương pháp này biến việc xác minh thành một “giao dịch” chứ không phải là “kho”: khi bạn mở và xem từng nguồn trực tiếp, trong danh mục, bởi DOI hoặc trên trang web của nhà xuất bản, nguy cơ ghi công ảo phần lớn sẽ bị loại bỏ.
Mẹo: Khi bạn hoàn thành thư mục của mình, hãy thực hiện “chuyến tham quan nhấp chuột”: thực sự mở DOI hoặc bản ghi danh mục của từng nguồn. Ngay cả một tài nguyên không mở cũng là một cảnh báo; hoặc sửa nó bằng dấu ấn chính xác hoặc xóa nó khỏi danh sách.
Những lỗi thường gặp
- Nhầm lẫn chủ nghĩa hiện thực với thực tế. Danh tính hợp lý của AI không chứng minh được sự tồn tại của nó.
- Không xác minh trích dẫn từ nguồn. Báo giá bịa đặt hoặc bị bóp méo có thể bị rò rỉ.
- Lấy lịch sử từ một nguồn duy nhất. Kiểm tra chéo với ít nhất hai nguồn đáng tin cậy.
- Làm cho phần thứ cấp trông giống như phần chính. Trình bày chuỗi truyền tải một cách trung thực.
- Trích dẫn AI làm nguồn. AI không phải là tài nguyên; việc sử dụng nó được khai báo, việc tham chiếu được thực hiện đối với nguồn chính.
Tóm lại
Tính trung thực trong nhân văn phụ thuộc vào độ chính xác của nguồn và trích dẫn. Mối nguy hiểm lớn nhất của AI là nó tạo ra những nguồn và trích dẫn trông có vẻ thực tế nhưng lại không tồn tại. Chuyển từng nguồn và trích dẫn thông qua chuỗi xác minh năm bước (thực thể, ghi công, trích dẫn, ngữ cảnh, ghi công). Cấm AI chế tạo ngay từ đầu và không bao giờ ủy quyền xác minh cho nó. Kỷ luật này là sự đảm bảo cho độ tin cậy của bạn trong nghề này.
Nhiệm vụ ứng dụng
Hãy thử yêu cầu AI đề xuất một số nguồn và trích dẫn về một chủ đề. Chạy từng nguồn thông qua chuỗi xác minh: có bao nhiêu nguồn thực sự tồn tại, bao nhiêu nguồn có ghi công chính xác, trích dẫn có thực sự có trong nguồn không? Viết kết quả vào bảng. Trải nghiệm này sẽ cho thấy cụ thể những hạn chế của AI trong lĩnh vực này.
danh sách kiểm tra
- [ ] Tôi đã xác nhận sự tồn tại của từng tài nguyên trong danh mục.
- [ ] Tôi đã xác minh nguyên văn từng trích dẫn từ nguồn ban đầu.
- [ ] Tôi đã kiểm tra để đảm bảo rằng ngữ cảnh của trích dẫn không bị bóp méo.
- [ ] Tôi đã kiểm tra chéo ngày tháng với ít nhất hai nguồn.
- [ ] Tôi đã cấm AI chế tạo và không ủy quyền xác minh cho nó.