Lợi nhuận:
- Có thể phân biệt đâu là trí tuệ nhân tạo tiết kiệm thời gian thực trong quy trình nghiên cứu học thuật (văn học, thiết kế, phân tích, viết) và đâu là phán đoán và trách nhiệm khoa học thuộc về nhà nghiên cứu, theo mức độ rủi ro của nhiệm vụ
- Có thể áp dụng một bộ môn kết nối và xác minh mọi đầu ra của trí tuệ nhân tạo với nguồn và hiểu được vấn đề phân bổ ảo giác (bịa đặt), đây là rủi ro nghiêm trọng nhất của học viện.
- Khả năng áp dụng khung sử dụng tuân thủ các chính sách sử dụng trí tuệ nhân tạo của tổ chức và tạp chí, các nguyên tắc minh bạch và trung thực trong học thuật.
Công việc của nhà nghiên cứu liên quan đến việc viết, đọc và chỉnh sửa nhiều hơn vẻ ngoài của nó: quét hàng trăm bài báo, tóm tắt chúng, mài giũa câu hỏi nghiên cứu, thiết kế phương pháp, phân tích dữ liệu, sao chép kết quả, định dạng trích dẫn, chọn tạp chí, trả lời nhận xét của người đánh giá. Phần lớn công việc này lặp đi lặp lại, tốn thời gian và gây mất tập trung; Nó đánh cắp những gì thực sự có giá trị, những suy nghĩ và diễn giải độc đáo. Trí tuệ nhân tạo (AI) — các chương trình máy tính có thể hiểu ngôn ngữ con người và tạo ra kết quả như văn bản, tóm tắt, mã, bản nháp, v.v. — là một trợ giúp đắc lực để đẩy nhanh gánh nặng lặp đi lặp lại này. Trong suốt mô-đun này, chúng tôi coi AI không phải là một nguồn thông tin kỳ diệu; Chúng ta sẽ học cách sử dụng nó như một trợ lý nghiên cứu, tạo bản thảo, đưa ra ý tưởng và chỉnh sửa.
Nhưng ngay từ đầu, hãy đặt câu quan trọng nhất dành riêng cho giới học thuật: AI không đưa ra quyết định khoa học thay cho nhà nghiên cứu; đưa ra dự thảo, đánh giá khoa học và trách nhiệm thuộc về người nghiên cứu. Trong giới học thuật, quy tắc này thậm chí còn chặt chẽ hơn so với các ngành nghề khác, bởi vì nền tảng của khoa học là lòng tin, và cơ sở của niềm tin đó là mọi tuyên bố đều được liên kết với một nguồn có thể kiểm chứng được.
Đơn vị đầu tiên này thiết lập ba nền tảng: phân biệt vị trí AI hoạt động và vị trí của nó trong quy trình nghiên cứu; xác minh từng đầu ra; Áp dụng nguyên tắc trung thực và minh bạch trong học thuật. Ba điều này là cơ sở bảo mật cơ bản cho tất cả các đơn vị tiếp theo.
AI tiết kiệm thời gian ở đâu, quyết định thuộc về nhà nghiên cứu?
Nó giúp suy nghĩ về các nhiệm vụ nghiên cứu về mức độ rủi ro. Mức độ rủi ro là mức độ gây hại cho hồ sơ khoa học nếu thực hiện không đúng.
Các nhiệm vụ có độ rủi ro thấp mà AI tăng tốc rất nhiều: Tạo chiến lược tìm kiếm (từ khóa, từ đồng nghĩa), tạo bản tóm tắt ban đầu cho một văn bản dài, đơn giản hóa ngôn ngữ của đoạn văn, gợi ý tiêu đề bảng, động não, giải thích một khái niệm theo nhiều cách khác nhau, đưa ra cấu trúc của một dàn ý. Ở đây AI giải quyết được vấn đề “trang trống”; bạn sửa chữa, xác minh và làm phong phú thêm.
Các nhiệm vụ do AI tạo ra có độ rủi ro trung bình yêu cầu xác minh nghiêm ngặt: Đề xuất lựa chọn kiểm tra thống kê, bản thảo mã, định dạng trích dẫn, bản thảo diễn giải một phát hiện, so sánh các tùy chọn phương pháp. Ở đây AI cho tốc độ nhưng mọi con số, mọi tag, mọi bước logic đều phải xác nhận thủ công.
Các nhiệm vụ có độ rủi ro cao trong đó quyết định chỉ thuộc về nhà nghiên cứu: xác định cuối cùng về giả thuyết và phương pháp, quyết định ý nghĩa của dữ liệu, đánh giá xem phát hiện đó có ý nghĩa hay không, các quyết định trong ủy ban đạo đức (IRB), quyết định liệu một nguồn có thực sự tồn tại và hỗ trợ cho tuyên bố, tuyên bố về quyền tác giả và đóng góp hay không. Những quyết định này xác định độ tin cậy của hồ sơ khoa học; Trách nhiệm và tiếng nói cuối cùng luôn thuộc về người nghiên cứu.
Thận trọng: "AI đã nói" không phải là lời biện minh. Biên tập viên tạp chí hoặc ban giám khảo luận án sẽ không chấp nhận tuyên bố "mô hình của tôi đã tạo ra nó như thế này". Một đầu ra AI chưa được xác minh giống như một tin đồn chưa được xác minh.
Tại sao cần phải xác minh? Ảo giác và quy kết bịa đặt
AI tạo ra văn bản không phải bằng cách "biết" mà bằng cách "dự đoán từ có thể". Chính vì vậy mà đôi khi nó đưa ra những thông tin cực kỳ trôi chảy nhưng thực chất lại không chính xác. Đây được gọi là ảo giác (bịa đặt). Hình thức nguy hiểm nhất của điều này trong giới học thuật là ghi công giả: AI tạo ra tên tác giả, năm, tạp chí hoặc thậm chí DOI (mã định danh đối tượng kỹ thuật số - địa chỉ thường trú của một ấn phẩm) có vẻ như thật nhưng nguồn đó chưa bao giờ tồn tại. Nếu một nhà nghiên cứu sử dụng thông tin này mà không kiểm tra, thì họ đang đưa ra tuyên bố dựa trên một nghiên cứu không tồn tại; Điều này dẫn đến việc bác bỏ luận điểm, rút lại bài viết và mất uy tín.
Vấn đề thứ hai là sự bóp méo: khi tóm tắt một bài báo, AI có thể phóng đại một phát hiện, tóm tắt một nghiên cứu cho biết “không có sự khác biệt đáng kể” là “đã tìm thấy sự khác biệt đáng kể”. Thứ ba là sai lệch: AI lặp lại các xu hướng trong dữ liệu mà nó được đào tạo; Nó có thể làm nổi bật một trường phái, ngôn ngữ hoặc quan điểm nhất định và làm cho văn học có vẻ bị bóp méo.
Vì những giới hạn này, chúng tôi đề xuất một nguyên tắc xác thực đơn giản để áp dụng cho từng đầu ra:
- Kết nối nó với nguồn. Tìm và xác minh nguồn thực tế (bài viết, cơ sở dữ liệu, DOI) cho mọi sự kiện, ngày tháng, con số, trích dẫn và đặc biệt là mọi trích dẫn.
- Kiểm tra lại. Kiểm tra thủ công các kết quả đầu ra bằng số hoặc logic (kết quả thống kê, tính toán mẫu).
- Bộ lọc khoa học “Tuyên bố này có phù hợp với các tài liệu đã biết trong lĩnh vực của tôi không?” xử lý nó bằng chuyên môn của riêng bạn.
- Chịu trách nhiệm. Thời điểm bạn đưa nó vào ấn phẩm hoặc luận án của mình, câu đó là của bạn; Mọi sai sót là trách nhiệm của bạn.
Trung thực và minh bạch trong học thuật
Tính liêm chính trong học thuật đảm bảo rằng tác phẩm thực sự là đóng góp ban đầu của bạn và tất cả các nguồn đều được trích dẫn một cách trung thực. Việc sử dụng AI không loại bỏ nguyên tắc này mà còn bổ sung thêm một trách nhiệm mới: tính minh bạch. Hầu hết các tạp chí và trường đại học hiện nay đều yêu cầu tuyên bố rõ ràng về việc sử dụng AI. Dòng biên tập chung (ví dụ, nguyên tắc của các cơ quan đạo đức xuất bản như ICMJE và COPE) nói rõ hai điều: AI không thể là tác giả (vì nó không thể chịu trách nhiệm, không thể tuyên bố xung đột lợi ích) và việc sử dụng AI không bị che giấu mà được tiết lộ trong phần phương pháp hoặc lời cảm ơn.
Mẹo: Trước khi dán văn bản vào bất kỳ công cụ nào, hãy đặt hai câu hỏi: (1) Công cụ này lưu trữ dữ liệu như thế nào, nó có được sử dụng trong giáo dục không? (2) Chính sách AI của tổ chức và tạp chí mục tiêu của tôi nói gì? Đừng bắt đầu mà không biết hai điều này.
ba trường hợp nhỏ
Trường hợp 1 - Luận điểm bị xâm phạm thuộc tính bịa đặt. Một sinh viên tốt nghiệp đã yêu cầu YZ cung cấp 12 nguồn tài liệu để giới thiệu luận án của anh ấy và nhận được tất cả chúng cùng với trích dẫn của họ. Cố vấn của anh ấy đã tìm kiếm ngẫu nhiên 4 người trong số họ trên Google Scholar; 2 trong số đó hoàn toàn không tồn tại, 1 trong số đó có DOI chuyển sang một bài viết khác. Sinh viên phải xác minh toàn bộ danh sách từng cái một và chỉ sử dụng 7 nguồn xác thực. Quá trình xác minh mất 40 phút; nhưng nếu nó được đưa ra với một tài liệu tham khảo hư cấu, niềm tin của bồi thẩm đoàn sẽ hoàn toàn bị lung lay.
Trường hợp 2 - Tiết kiệm thời gian. Một nhà nghiên cứu sau tiến sĩ dành 6 giờ để quét và tóm tắt 15-20 bài báo mới mỗi tuần. Anh ấy bắt đầu sử dụng AI làm công cụ tạo bản tóm tắt đầu tiên của mình: yêu cầu AI tóm tắt phần tóm tắt và phần giới thiệu của mỗi bài viết, đào sâu nó bằng cách đọc phản biện của chính anh ấy và xác minh những phát hiện từ văn bản gốc. Thời gian giảm từ 6 giờ mỗi tuần xuống còn ~2,5 giờ; Anh ấy đã dành thời gian kiếm được để viết bản tổng hợp nguyên bản.
Trường hợp 3 - Trở về từ trạng thái tàng hình. Một nhà khoa học xã hội chuẩn bị dán dữ liệu thực địa chưa được công bố và lời khai của người tham gia vào AI để phân tích. Anh nhận ra nó chứa thông tin xác thực; Thay vì chia sẻ dữ liệu thô, anh ấy chỉ yêu cầu một kế hoạch phân tích và mẫu tóm tắt, ẩn danh. Anh ta đã nhận được một đề xuất phương pháp có giá trị, nhưng không có dữ liệu nhạy cảm nào bị lộ ra ngoài.
Mẫu có thể sao chép
1) Tách nhiệm vụ theo mức độ rủi ro:
Vai trò của bạn: trợ lý học thuật hỗ trợ một nhà nghiên cứu. Chia các nhiệm vụ nghiên cứu sau thành ba danh sách: (A) các nhiệm vụ có rủi ro thấp mà AI có thể tạo ra bản thảo một cách an toàn, (B) các nhiệm vụ có rủi ro trung bình mà AI có thể tạo ra một bản thảo và yêu cầu xác minh nghiêm ngặt, (C) các nhiệm vụ có rủi ro cao mà quyết định cuối cùng phải thuộc về nhà nghiên cứu. Viết một câu biện minh cho mỗi nhiệm vụ. Nhiệm vụ: [dán nhiệm vụ riêng]
2) Lời nhắc kiểm tra xác thực:
Đánh dấu mỗi câu trong văn bản bên dưới có chứa sự kiện, ngày tháng, con số, trích dẫn hoặc ghi nhận và đánh dấu câu đó là "cần xác minh". Nêu rõ điểm bạn không chắc chắn. KHÔNG tạo nên nguồn hoặc số; Nếu không biết thì viết "Tôi không biết". Văn bản: [dán bản nháp]
3) Dự thảo tuyên bố sử dụng AI:
Đối với phần phương pháp/lời cảm ơn của một bài viết, hãy viết bản nháp 2-3 câu "tuyên bố sử dụng AI" giải thích rõ ràng ở những giai đoạn nào tôi đã sử dụng AI (ví dụ: sửa ngôn ngữ, bản phác thảo). Cách sử dụng: [giải thích]
4) Danh sách xác minh nguồn:
Tạo một bảng kiểm tra xác minh cho từng nguồn trong danh sách trích dẫn sau: [tác giả, năm, tiêu đề, DOI, đã xác minh?]. Bạn không thể xác minh; Đưa cho tôi một bảng trống để tôi kiểm tra thủ công. Danh sách: [dán trích dẫn]
Dấu nhắc yếu / Dấu nhắc mạnh
Dấu nhắc yếu:
Tìm cho tôi nguồn để giới thiệu luận án của tôi.
Không có bối cảnh và nguy hiểm: AI tạo ra ID giả và bạn nghĩ chúng là thật.
Lời nhắc mạnh mẽ:
Vai trò của bạn: một nhà tư vấn phương pháp luận. Địa điểm: "Động lực của sinh viên trong giáo dục từ xa". ĐỪNG TÌM CHO TÔI MỘT NGUỒN; Thay vào đó, hãy đề xuất 8 từ khóa, 3 nhóm từ đồng nghĩa và chuỗi tìm kiếm Boolean để tìm kiếm chủ đề này trong Scopus. Dòng nội dung bài viết thật FAKE. Tôi sẽ xác minh các nguồn tôi tìm thấy chính mình.
Nhiệm vụ
Mức độ rủi ro
Vai trò của AI
quyết định cuối cùng
Tạo chiến lược tìm kiếm
thấp
Đề xuất từ khóa/chuỗi
nhà nghiên cứu
Bản thảo tóm tắt bài viết
Thấp-Trung bình
Tạo bản nháp
Nhà nghiên cứu xác nhận
Đề xuất kiểm tra thống kê
trung bình
Cung cấp tùy chọn
Nhà nghiên cứu lựa chọn/xác nhận
Danh sách trích dẫn
cao
Trợ lý định dạng
Mỗi dấu ấn được xác minh bằng tay
Tìm cách giải thích/giả thuyết
cao
đưa ra ý tưởng
nhà nghiên cứu đơn độc
Những lỗi thường gặp
- Sử dụng trích dẫn mà không cần xác minh. Ghi công bịa đặt là lỗi thường gặp và nghiêm trọng nhất trong giới học thuật; dẫn đến việc rút tiền.
- Thay thế bản tóm tắt cho nguồn. Bản tóm tắt AI có thể làm sai lệch kết quả phát hiện; Không có trích dẫn nào được đưa ra mà không quay lại văn bản gốc.
- Bỏ qua tính minh bạch. Việc che giấu việc sử dụng là vi phạm đạo đức khi bị phát hiện.
- Hãy để AI đưa ra quyết định khoa học. Giả thuyết, giải thích và quyết định phương pháp thuộc về nhà nghiên cứu.
- Tải dữ liệu bí mật lên công cụ mở. Dữ liệu chưa được công bố và thông tin người tham gia nằm ngoài tầm kiểm soát của bạn.
Mẹo: Hãy coi mỗi phiên AI giống như làm việc với một thực tập sinh có kinh nghiệm nhưng không đáng tin cậy: anh ấy nhanh nhẹn và siêng năng, nhưng bạn phải xác minh mọi điều anh ấy nói trước khi ký.
Tóm lại
AI là một trợ lý đắc lực giúp giảm bớt gánh nặng cho nhà nghiên cứu trong việc đọc và viết lặp đi lặp lại; nhưng do ảo giác, méo mó và sai lệch nên mọi đầu ra đều cần được xác minh. Rủi ro nghiêm trọng nhất trong giới học thuật là trích dẫn giả: mọi nguồn đều phải được xác minh thông qua DOI và cơ sở dữ liệu. Phân tách nhiệm vụ theo mức độ rủi ro, bảo vệ dữ liệu, khai báo sử dụng minh bạch. Nguyên tắc nhỏ nhất: bản thiết kế là của AI, trách nhiệm khoa học là của nhà nghiên cứu.
Nhiệm vụ ứng dụng
Liệt kê 8 nhiệm vụ từ dự án nghiên cứu hiện tại của bạn và đánh dấu mỗi nhiệm vụ là rủi ro thấp/trung bình/cao. Sau đó chọn một nhiệm vụ có độ rủi ro thấp và viết lời nhắc có ngữ cảnh, chẳng hạn như "Lời nhắc mạnh mẽ" ở trên. Đánh dấu ít nhất 3 yếu tố (số, dấu ấn, xác nhận quyền sở hữu) mà bạn cần xác minh trong đầu ra và viết cách bạn sẽ xác minh nó.
danh sách kiểm tra
- [ ] Tôi đã tách nhiệm vụ theo mức độ rủi ro chưa?
- [ ] Tôi có dự định xác minh mọi trích dẫn và tính toán trong đầu ra AI không?
- [ ] Tôi có biết chính sách lưu giữ dữ liệu của chiếc xe tôi sử dụng không?
- [ ] Tôi đã đọc chính sách AI của tổ chức và tạp chí mục tiêu của mình chưa?
- [ ] Tôi có chắc chắn rằng tôi giữ lại phán quyết khoa học cuối cùng không?