Lợi nhuận:
- Khả năng sử dụng trí tuệ nhân tạo để tóm tắt và so sánh các nguồn thực, loại bỏ cơ sở cho việc ghi công bịa đặt với ràng buộc 'chỉ dựa trên nguồn nhất định'
- Khả năng áp dụng kỷ luật xác minh mọi trích dẫn trong danh mục thực tế, xác minh mọi bản tóm tắt trở lại nguồn và nắm bắt ảo giác DOI/dấu ấn
- Có thể hiểu được tính thời sự, đa ngôn ngữ và văn học xám xịt xác định giới hạn kiến thức của trí tuệ nhân tạo như thế nào và tại sao cần phải có văn bản gốc.
Khảo cổ học và di sản văn hóa là một môn khoa học tích lũy: mỗi nghiên cứu mới được xây dựng dựa trên các ấn phẩm trước đó kéo dài hàng thế kỷ. Quét tài liệu (tổng thể các bài báo, sách, báo cáo và luận văn được xuất bản về chủ đề đó) của một khu vực, một loại phát hiện hoặc một thời kỳ là bước đầu tiên và mệt mỏi nhất của bất kỳ nghiên cứu khoa học nào. Trong phần này, chúng ta sẽ tìm hiểu sâu về cách AI tăng tốc độ xem xét tài liệu, nhưng tại sao việc xác minh nguồn lại là điều tối quan trọng trong lĩnh vực này và cách chống lại sai lầm nguy hiểm nhất của AI: ảo giác (nguồn, trích dẫn và thông tin bịa đặt).
Nguyên tắc cơ bản: AI giúp tóm tắt, so sánh và sắp xếp tài liệu; Nhưng không có trích dẫn nào có thể được sử dụng mà không có sự xác nhận trong một danh mục thực tế, và không có bản tóm tắt nào có thể trở thành một tuyên bố khoa học nếu không đọc chính nguồn đó. Trong nhân văn, một nguồn sai sẽ phá hủy uy tín của toàn bộ tác phẩm.
Tại sao ảo giác lại quan trọng trong lĩnh vực này?
Lỗi phổ biến nhất của các công cụ trò chuyện công khai là tạo ra các tài nguyên học thuật không tồn tại nhưng có vẻ rất thực tế. AI có thể tạo nên một trích dẫn trông “hoàn hảo” bằng cách kết hợp tên của một tác giả có thật, tên của một tạp chí có thật và một tiêu đề hợp lý. Từ đâu?
- AI tạo ra “từ có khả năng xảy ra tiếp theo nhất”; nó không xem xét cơ sở dữ liệu thực tế (trừ khi một công cụ đặc biệt được kết nối).
- Vì các trích dẫn học thuật có khuôn mẫu nên AI rất “giỏi” trong việc tạo ra một trích dẫn phù hợp với khuôn mẫu nhưng nội dung lại bịa đặt.
- Trong nhân văn, người đọc thường không kiểm tra ngay nguồn; Điều này cho phép thuộc tính giả mạo hoạt động mà không bị chú ý.
Kết luận: đối với một nhà khảo cổ học, mọi bộ ba tiêu đề theo năm của tác giả trong đầu ra AI đều bị coi là đáng ngờ cho đến khi được chứng minh ngược lại.
Mẹo: Sử dụng AI không phải với tư cách là “công cụ tìm tài nguyên” mà là trợ lý “xử lý các tài nguyên thực mà bạn có”. Hãy tự tìm các bài báo thực tế, đưa bản PDF cho AI, sau đó nói "chỉ cần dựa vào những văn bản tôi đưa cho bạn". Vì vậy, cơ sở cho ảo giác phần lớn bị loại bỏ.
Các bước rà soát tài liệu
- Phạm vi và câu hỏi. Bạn đang tìm kiếm gì? Làm rõ chủ đề, thời kỳ, khu vực và ranh giới ngôn ngữ.
- Bộ sưu tập các tài nguyên thực sự. Tìm các ấn phẩm xác thực từ danh mục thư viện, cơ sở dữ liệu của tổ chức và các thư mục đáng tin cậy. Việc “đi tìm” tài nguyên cho AI ở bước này rất mạo hiểm.
- Tóm tắt và lập bản đồ. Cung cấp các văn bản thực tế mà bạn đã thu thập cho AI để tóm tắt và lập bản đồ các chủ đề cũng như thảo luận.
- So sánh và phân tích khoảng cách. So sánh quan điểm của các tác giả khác nhau, tìm ra những mâu thuẫn, những khoảng trống chưa được khám phá.
- Chính tả và ghi công. Viết lập luận của riêng bạn với các trích dẫn đã được xác minh. AI đưa ra bản nháp; bạn viết lại với phân tích của bạn và trích dẫn thực tế.
Kỷ luật xác minh nguồn
Đối với mỗi trích dẫn, hãy kiểm tra:
- Có không? Tác giả, năm, tên sách, tạp chí/nhà xuất bản có nằm trong một danh mục thực tế (thư viện, DOI, chỉ mục) không?
- Anh ấy có nói những gì anh ấy nói không? Nguồn có thực sự nói những gì AI tuyên bố? Mở nguồn và đọc phần có liên quan.
- Bối cảnh có đúng không? Trích dẫn có được lấy từ ý định của tác giả không? Quan điểm đối lập có phải là của tác giả không?
- Nó có cập nhật và đáng tin cậy không? Ấn phẩm có được bình duyệt, cập nhật hay phản ánh quan điểm lỗi thời?
Thận trọng: Việc DOI hoặc số hàng tồn kho do AI cung cấp xuất hiện ở "định dạng chính xác" không có nghĩa là bản ghi đó tồn tại. Tìm kiếm số trong hệ thống thực. DOI không tồn tại là một trong những dấu hiệu ảo giác phổ biến nhất.
ba trường hợp nhỏ
Trường hợp 1 - Tóm tắt tiết kiệm thời gian. Một nghiên cứu sinh tiến sĩ đã đưa 60 bài báo thực tế (tất cả đều do anh ấy tìm thấy và tải xuống) cho AI và tạo ra một bản đồ chủ đề; Anh ấy đã soạn thảo một bảng so sánh quan điểm của các tác giả khác nhau về một loại tìm kiếm trong hai ngày thay vì vài tuần. Mỗi bản tóm tắt đều có nguồn gốc và được xác minh.
Trường hợp 2 - Thảm họa hàn giả đã được ngăn chặn. Một sinh viên tốt nghiệp đã yêu cầu AI "đề xuất các nguồn về chủ đề này" và nhận được một danh sách tiện lợi gồm 15 trích dẫn. Khi kiểm tra nó ở thư viện, anh thấy rằng 9 trong danh sách chưa bao giờ tồn tại - tác giả thực sự, tiêu đề bịa đặt. Nếu danh sách này được đưa vào thư mục luận án, độ tin cậy của người bào chữa sẽ sụp đổ và thậm chí có thể bị coi là hành vi sai trái về mặt khoa học.
Trường hợp 3 - Đã sửa thuộc tính không chính xác. Một nhóm sẽ báo cáo rằng AI đã nói với một nhà văn "anh ta xác định niên đại của địa điểm đó là thời La Mã"; Khi chúng tôi tra cứu nguồn thì thấy tác giả khẳng định ngược lại, rằng địa điểm này có từ thời tiền La Mã. AI đã đảo ngược quan điểm. Đọc nguồn đã ngăn chặn một sai lầm nghiêm trọng.
Bốn mẫu có thể sao chép
1) Chỉ dựa vào nguồn đã cho:
Vai trò của bạn: trợ lý tóm tắt văn học. CHỈ dựa vào các văn bản tôi sẽ dán bên dưới. KHÔNG THÊM bất kỳ thông tin, nguồn hoặc tài liệu tham khảo nào từ bên ngoài các văn bản này. Viết ra từng tuyên bố của bạn, cho biết phần nào trong văn bản tôi đưa cho bạn được dựa trên. Nếu bạn được hỏi về điều gì đó không có trong văn bản, hãy nói "nó không có trong các nguồn đã cho".
2) Sơ đồ chủ đề và so sánh:
Tôi sẽ cung cấp tóm tắt về [N] nguồn bên dưới. Nhóm chúng theo chủ đề và tạo một bảng so sánh: đối với mỗi chủ đề, tác giả nói gì, đồng ý ở điểm nào, mâu thuẫn ở đâu. Chỉ sử dụng các quan điểm trong các văn bản tôi đã đưa ra; thêm ý kiến.
3) Danh sách kiểm tra xác minh trích dẫn:
Khi XÁC MINH danh sách trích dẫn bên dưới, hãy thực hiện các bước tôi cần kiểm tra từng bước (tìm kiếm trong danh mục, xác nhận DOI, đọc trang liên quan, kiểm tra ngữ cảnh). Bạn KHÔNG xác nhận tính chính xác của các ghi nhận; cho tôi biết những gì tôi nên kiểm tra. Chế tạo nguồn.
4) Phân tích khoảng trống:
Dựa trên các tóm tắt tài liệu mà tôi đã cung cấp, hãy liệt kê các câu hỏi/khoảng trống dường như chưa được nghiên cứu kỹ về chủ đề này. Đối với mỗi khoảng trống, hãy chỉ ra nguồn nào để mở. Chỉ dựa vào những văn bản tôi đã đưa cho bạn; Đừng suy đoán.
Dấu nhắc yếu / Dấu nhắc mạnh
Dấu nhắc yếu:
Đưa ra 15 nguồn học thuật quan trọng nhất về chủ đề này và tóm tắt của chúng.
AI tạo ra một danh sách thực tế nhưng có thể được làm giả một phần mà không cần xem xét cơ sở dữ liệu thực; Bản thân đây chính là cái bẫy ghi nhận sai lầm.
Lời nhắc mạnh mẽ:
Dưới đây tôi dán đầy đủ các trích dẫn và tóm tắt của 12 bài báo thực tế mà tôi tìm thấy. CHỈ dựa trên những điều này, một bản đồ chủ đề và bảng so sánh sẽ xuất hiện. THÊM tài nguyên mới. Cho biết mỗi dòng đến từ bài viết nào. Đánh dấu các chủ đề còn thiếu là "không có trong bộ tài nguyên này."
Sự khác biệt: thứ nhất là có nguy cơ từ các nguồn bịa đặt; cái sau xử lý tài nguyên thực một cách đáng tin cậy.
Tính hiện tại, ngôn ngữ và văn học xám
Ba đặc điểm của tài liệu khảo cổ học khiến việc sử dụng AI trở nên đặc biệt nguy hiểm. Đầu tiên là tính thời sự: kiến thức về một mô hình bị đóng băng vào một thời điểm nhất định, và việc khai quật, xác định niên đại mới và chỉnh sửa sau ngày đó đều không có trong đó. AI có thể hiển thị chế độ xem thay thế vẫn hợp lệ; Đó là lý do tại sao bạn nên quét các ấn phẩm hiện tại. Thứ hai, đa ngôn ngữ: khảo cổ học được viết bằng tiếng Đức, tiếng Pháp, tiếng Ý, tiếng Thổ Nhĩ Kỳ và nhiều ngôn ngữ địa phương khác ngoài tiếng Anh. Một báo cáo khai quật quan trọng có thể chỉ được xuất bản bằng một ngôn ngữ; Chỉ dựa vào các nguồn tiếng Anh có nghĩa là thiếu một phần lớn tài liệu. AI giúp quét các nguồn ngoại ngữ này, nhưng một lần nữa, bạn phải có sẵn nguồn thực tế.
Thứ ba, tài liệu xám: phần lớn kiến thức khảo cổ học nằm trong các tài liệu không xuất hiện trên các tạp chí chính thức, chẳng hạn như báo cáo khai quật thương mại, kho lưu trữ của cơ quan và các luận văn chưa được xuất bản. Tài liệu xám (các báo cáo được tạo ra trong các kênh thương mại hoặc doanh nghiệp không có sẵn trong các thư mục xuất bản truyền thống) không có hoặc khan hiếm trong dữ liệu đào tạo AI; Do đó, AI không biết thông tin này hoặc bịa ra. Câu chuyện khảo cổ thực sự của một khu vực thường nằm trong tài liệu xám xịt này và bạn chỉ có thể tiếp cận nó bằng bàn tay thực sự từ các kho lưu trữ của tổ chức.
Mẹo: Nói "AI không thể tìm thấy gì" hoặc "có ít tài nguyên" về một chủ đề không có nghĩa là có ít công việc về chủ đề đó; Thông thường nguồn ở dạng tài liệu xám, bằng tiếng nước ngoài hoặc sau phần thông tin của mô hình. Hãy hỏi kho lưu trữ thực sự về việc thiếu tài nguyên chứ không phải AI.
Bảng nhiệm vụ văn học
Nhiệm vụ
Vai trò của AI
quyết định của con người
xác minh
tìm nguồn cung ứng
Yếu/có nguy cơ
Lựa chọn từ danh mục thực
Xác nhận danh mục
tóm tắt
Mạnh (đối với văn bản đã cho)
sự chính xác, sự lựa chọn
Đọc nguồn
So sánh
Bản đồ chủ đề/mâu thuẫn
Bình luận, cân nặng
bối cảnh nguồn
Viết trích dẫn
định dạng phác thảo
nội dung, độ chính xác
Có/nó có nói không
Phân tích khoảng trống
Câu hỏi của ứng viên
Giá trị nghiên cứu
Kiến thức miền
Những lỗi thường gặp
- Làm cho AI "tìm" tài nguyên. Tạo ra sự phân bổ sai; Hãy tự tìm nguồn tài nguyên.
- Dựa vào định dạng DOI/dấu ấn. Mặc dù định dạng có vẻ đúng nhưng bản ghi có thể bị làm giả; Tìm kiếm trong hệ thống.
- Sử dụng tóm tắt mà không đọc nguồn. AI có thể đảo ngược quan điểm của tác giả.
- Xuất bản văn bản AI như hiện tại. Tính độc đáo và nguy cơ đạo văn; Viết với phân tích của riêng bạn.
- Không đặt ràng buộc "chỉ tài nguyên nhất định". Không có ràng buộc, AI sẽ thêm thông tin bịa đặt từ bên ngoài.
Tóm lại
Trong việc xem xét tài liệu, AI tiết kiệm rất nhiều thời gian trong việc tóm tắt, so sánh và phân tích các nguồn thực tế. Nhưng trong ngành nhân văn, việc xác minh nguồn là không thể thương lượng: tự mình tìm nguồn, xác minh mọi trích dẫn trong danh mục thực tế, kiểm tra lại mọi bản tóm tắt, áp đặt ràng buộc "chỉ nguồn được trích dẫn" và viết văn bản cuối cùng với phân tích ban đầu của riêng bạn. Một nguồn giả mạo sẽ phá hủy tác phẩm của bạn.
Nhiệm vụ ứng dụng
Chọn một chủ đề, tìm 8-10 ấn phẩm thực tế trong thư viện/mục lục và thu thập trích dẫn của chúng. Tạo biểu đồ so sánh với các mẫu "Chỉ dựa trên nguồn" và "Bản đồ chủ đề". Trong một thử nghiệm riêng biệt, hãy yêu cầu AI "đề xuất một nguồn" (không có bất kỳ hạn chế nào) và kiểm tra từng trích dẫn mà nó gợi ý trong danh mục và lưu ý xem có bao nhiêu trích dẫn là có thật.
danh sách kiểm tra
- [ ] Tôi tự tìm nguồn từ các danh mục thực tế.
- [ ] Tôi đặt ràng buộc "chỉ dựa vào nguồn nhất định" cho AI.
- [ ] Tôi đã xác nhận từng trích dẫn với danh mục/DOI.
- [ ] Tôi đã xác minh từng bản tóm tắt bằng cách quay lại nguồn.
- [ ] Tôi đã viết văn bản cuối cùng với phân tích ban đầu của riêng tôi và các tài liệu tham khảo đã được xác nhận.