Lợi nhuận:
- Khả năng sử dụng trí tuệ nhân tạo không phải để tìm nguồn mà để tóm tắt bài viết thực tế mà bạn cung cấp, thiết lập chiến lược tìm kiếm và định vị nó như một công cụ ngôn ngữ
- Hiểu cơ chế trích dẫn bịa đặt và loại bỏ từng trích dẫn bằng cách xác minh độc lập nó với PubMed/DOI
- Khả năng cung cấp các tuyên bố và con số khoa học cũng như tuyên bố minh bạch về việc sử dụng trí tuệ nhân tạo
Phần lớn thời gian của một nhà sinh vật học là dành cho việc đọc và viết: theo dõi lĩnh vực này, xem lượng chủ đề đã được nghiên cứu, biến những phát hiện của mình thành một bài báo, luận văn hoặc đơn xin tài trợ. Trí tuệ nhân tạo mang lại khả năng tăng tốc lớn trong cả hai lĩnh vực này; Nhưng đây chính là nơi chứa đựng cái bẫy nguy hiểm nhất: những trích dẫn ảo giác. Mô hình này có thể tạo ra dòng tiêu đề bài viết hoàn toàn không tồn tại nhưng trông cực kỳ thực tế. Trong bài này, chúng ta sẽ học cách sử dụng trí tuệ nhân tạo một cách an toàn trong việc nghiên cứu tài liệu và viết khoa học.
Nguyên tắc cơ bản: hãy để AI tăng tốc độ đánh máy của bạn chứ không phải tốc độ suy nghĩ và soát lỗi của bạn.
Vai trò đúng đắn của trí tuệ nhân tạo trong phê bình văn học
Trí tuệ nhân tạo không phải là cơ sở dữ liệu văn học. LLM chung không biết chắc chắn bài báo nào tồn tại và không thể tạo ra các trích dẫn thực tế. Các công cụ phù hợp cho công việc:
- PubMed, Google Scholar, Semantic Scholar: Tìm kiếm bài viết thực sự.
- Các công cụ xâu chuỗi trích dẫn (ví dụ: Bài viết được kết nối, Bản đồ văn bản): Tìm các bài viết liên quan dưới dạng bản đồ trực quan.
- AI dựa trên tài liệu: Công cụ tóm tắt bài viết thực tế (PDF/văn bản) mà bạn cung cấp và trả lời các câu hỏi của bạn dựa trên văn bản đó. Ở đây mô hình không tạo nên nguồn, nó xử lý những gì bạn cung cấp.
Sử dụng LLM an toàn: tóm tắt các bài viết thực tế bạn tìm thấy, so sánh chúng, giải thích một chủ đề cho bạn, gợi ý các cụm từ tìm kiếm.
Mẹo: Đừng nói với AI “cho tôi 10 nguồn về chủ đề này”; thay vào đó là “tôi nên sử dụng thuật ngữ tìm kiếm nào trong PubMed về chủ đề này?” hỏi. Sau đó, bạn thực hiện cuộc gọi thực sự. Mô hình này đáng tin cậy không phải ở việc tìm kiếm tài nguyên mà ở việc thiết lập chiến lược tìm kiếm.
Vấn đề phân bổ bịa đặt: tại sao và làm thế nào để tránh nó
LLM tạo ra văn bản; Nó hoạt động theo logic "từ có thể tiếp theo". Khi được yêu cầu trích dẫn, thay vì nhớ lại một bài báo thực tế, nó "tạo ra" một dòng tên trông thực tế: tên tác giả hợp lý, tạp chí thực tế, năm thích hợp, thậm chí cả DOI giả. Hầu hết chúng không bao giờ tồn tại. Bảo vệ:
- Xác minh độc lập từng trích dẫn: tìm kiếm DOI trên doi.org, trích dẫn trên PubMed.
- Chỉ trích dẫn những bài viết bạn đã đọc.
- Không bao giờ đặt trực tiếp trích dẫn do mô hình tạo ra vào thư mục.
- Ngay cả khi bạn đang sử dụng công cụ dựa trên tài liệu, hãy kiểm tra xem trích dẫn có trong văn bản thực tế hay không.
Trí tuệ nhân tạo trong văn bản khoa học
Ở đây trí tuệ nhân tạo thực sự rất mạnh mẽ, vì nó không còn đóng vai trò là “nguồn thông tin” nữa mà là “công cụ ngôn ngữ”:
- Tạo bản nháp: Phiên bản đầu tiên của một đoạn phương pháp, một bản tóm tắt.
- Chỉnh sửa ngôn ngữ: Lưu loát và ngữ pháp, đặc biệt đối với những người không nói tiếng Anh bản xứ.
- Sắp xếp lại: Đưa các ghi chú rải rác vào dòng chảy hợp lý.
- Đối tượng khác nhau: Viết lại cùng một phát hiện cho chuyên gia, sinh viên hoặc công chúng.
- Thư phản hồi: Dự thảo phản hồi ý kiến của trọng tài.
Nhưng những tuyên bố, con số và tài liệu tham khảo khoa học phải luôn đến từ bạn và được bạn xác minh.
Từng bước: xử lý tóm tắt bài viết
- Tìm bài viết thực tế (PubMed/Scholar).
- Đưa văn bản cho AI (tóm tắt hoặc toàn văn).
- Yêu cầu một bản tóm tắt có cấu trúc: câu hỏi, phương pháp, phát hiện, hạn chế.
- So sánh các tuyên bố với văn bản: Mô hình có thực hiện bất kỳ bổ sung nào không?
- Chuyển vào ghi chú của chính bạn, ghi nguồn kèm theo trích dẫn thật.
Mẫu lời nhắc có thể sao chép
Tóm tắt phần tóm tắt bài viết sau đây dưới 5 tiêu đề: (1) câu hỏi nghiên cứu, (2) phương pháp và mẫu, (3) phát hiện chính (có số liệu), (4) hạn chế, (5) mối liên hệ với nghiên cứu của tôi. Không thêm bất kỳ thông tin nào KHÔNG có trong văn bản. Văn bản: [trừu tượng]
Đề xuất các chuỗi tìm kiếm hiệu quả để tìm kiếm chủ đề sau trong PubMed: từ khóa, từ đồng nghĩa, thuật ngữ MeSH và toán tử boolean. Chủ đề: [chủ đề]. Đừng đưa cho tôi danh sách các nguồn, chỉ cho tôi một chiến lược tìm kiếm.
Phương pháp này sắp xếp hợp lý đoạn văn của tôi và sửa lỗi ngữ pháp nhưng không thay đổi bất kỳ giá trị số, tên phương thức hoặc xác nhận nào. Đánh dấu những thay đổi. Văn bản: [đoạn]
Viết lại phát hiện của tôi cho ba đối tượng khác nhau: (1) chuyên gia trong lĩnh vực, (2) sinh viên đại học, (3) công chúng nói chung. Duy trì tính chính xác khoa học, không phóng đại. Tìm kiếm: [văn bản]
Dấu nhắc yếu / Dấu nhắc mạnh
Yếu: "Viết phần giới thiệu về CRISPR và thêm nguồn."
Strong: "Dưới đây là 4 bài viết do tôi tự đọc và xác minh (có trích dẫn đính kèm). Dựa trên những bài viết này, soạn thảo một đoạn giới thiệu về CRISPR trong nhân giống cây trồng; nêu trong ngoặc đơn nguồn nào trong 4 nguồn này hỗ trợ cho mỗi tuyên bố; không thêm bất kỳ tuyên bố nào không có trong các nguồn này."
Sự khác biệt: Trong lời nhắc mạnh mẽ, bạn cung cấp tài nguyên và mô hình chỉ sử dụng chúng. Nguy cơ phân bổ bịa đặt được loại bỏ.
ba trường hợp nhỏ
Trường hợp 1 - DOI giả: Một sinh viên tốt nghiệp đã đưa 8 nguồn do trí tuệ nhân tạo cung cấp vào phần giới thiệu luận văn của mình. Khi chuyên gia tư vấn kiểm tra thì hóa ra 3 trong số đó chưa từng tồn tại và tác giả của 2 trong số đó đã sai. Học sinh đã phải xem lại toàn bộ thư mục. Bài học: đừng bao giờ tin vào sự phân bổ của mô hình.
Trường hợp 2 - Phát hiện bổ sung: Một nhà nghiên cứu đã tóm tắt một bài báo; mô hình đã thêm cụm từ “có ý nghĩa thống kê” không có trong phần tóm tắt. Nhà nghiên cứu nhận thấy sự khác biệt khi so sánh nó với văn bản. Bài học: luôn so sánh phần tóm tắt với nguồn.
Trường hợp 3 - Cách sử dụng đúng: Một nhà nghiên cứu, một người không nói tiếng Anh bản xứ, đã nhờ AI sắp xếp hợp lý phần phương pháp mà anh ta viết; Ông quy định rằng ông không nên thay đổi con số và yêu cầu bồi thường. Kết quả là một văn bản dễ đọc hơn nhiều mà không làm sai lệch ý nghĩa. Bài học: Là một công cụ ngôn ngữ, AI rất tuyệt vời.
biểu đồ so sánh
Nhiệm vụ
Trí tuệ nhân tạo có đáng tin cậy không?
Công cụ/phương pháp đúng
tìm nguồn cung ứng
không
PubMed/Học giả
Tạo một trích dẫn
Không (làm bù)
Xác minh thủ công
Tóm tắt bài viết đã cho
Có (xác nhận bằng tin nhắn)
LLM + so sánh
Chỉnh sửa ngôn ngữ
Có
LLM
Tạo bản nháp
Có (yêu cầu từ bạn)
LLM
Chiến lược tìm kiếm
Có
LLM
Những lỗi thường gặp
- Sử dụng thuộc tính của mô hình mà không xác minh nó: Sai lầm phổ biến nhất và có hại nhất.
- LLM nhầm với công cụ tìm kiếm: Nó không tìm thấy bài viết thực sự.
- Dựa vào tóm tắt và không đọc nguồn: Có thể gây thêm/méo mô hình.
- Làm cho trí tuệ nhân tạo đưa ra các tuyên bố: Tuyên bố khoa học phải đến từ bạn.
- Đạo văn và độc đáo: Trình bày văn bản do mô hình tạo ra như thể đó là câu của chính tôi; có thể vi phạm chính sách của tạp chí.
Thận trọng: Nhiều tạp chí và tổ chức yêu cầu tiết lộ việc sử dụng AI và không thừa nhận AI là tác giả. Nêu rõ công cụ và phạm vi bạn sử dụng trong bài viết được AI hỗ trợ; Bạn chịu trách nhiệm về tính chính xác của văn bản cuối cùng.
Sàng lọc có hệ thống và biên giới của trí tuệ nhân tạo
Trí tuệ nhân tạo có vẻ hấp dẫn trong các đánh giá có hệ thống muốn quét toàn bộ một chủ đề một cách toàn diện và khách quan, nhưng nên sử dụng nó một cách thận trọng. Bản chất của tìm kiếm có hệ thống là một chiến lược tìm kiếm minh bạch và có thể lặp lại: ghi lại cơ sở dữ liệu nào đã được tìm kiếm, với những thuật ngữ nào, với tiêu chí bao gồm/loại trừ nào. AI giúp bạn thiết lập chiến lược này, mở rộng các điều khoản và viết quy trình sàng lọc. Nhưng chính việc tìm kiếm cơ sở dữ liệu thực tế mới thực sự tìm thấy các bài báo; Chỉ vì mô hình cho biết "đây là các nghiên cứu có liên quan" không phải là sự thay thế sàng lọc và có thể bỏ lỡ các nghiên cứu quan trọng.
Một cách sử dụng mạnh mẽ và an toàn khác là giúp sàng lọc số lượng lớn bài viết: sàng lọc hàng trăm bản tóm tắt để xem liệu chúng có đáp ứng tiêu chí đưa vào của bạn hay không cần có thời gian. Mô hình có thể phân loại trước từng bản tóm tắt là “có thể phù hợp/không liên quan” dựa trên tiêu chí của bạn; nhưng quyết định cuối cùng về việc đưa vào những tình huống không chắc chắn vẫn thuộc về con người. Ở đây một lần nữa, mô hình không phải là người ra quyết định mà là công cụ hỗ trợ sàng lọc trước.
Đánh giá phần tóm tắt bài viết sau đây theo các tiêu chí đưa vào sau:[tiêu chí]. Phân loại là "có liên quan/không liên quan/không chắc chắn" và đưa ra lời giải thích trong một câu. Quyết định cuối cùng là của tôi; Bạn chỉ cần đủ điều kiện trước. Tóm tắt: [văn bản]
Dấu vết trí tuệ nhân tạo ẩn giấu trong bài viết của tôi
Các văn bản do AI tạo ra đôi khi quá chung chung, lặp đi lặp lại hoặc “hay nhưng trống rỗng”. Tính cụ thể là điều cần thiết trong văn bản khoa học: mỗi câu nên truyền tải một số thông tin. Thay vì giữ nguyên dàn ý mẫu, hãy bắt đầu mỗi đoạn bằng câu hỏi "câu này có thực sự nói lên điều gì không, hay nó chỉ là phần bổ sung?" Loại bỏ. Ngoài ra, văn bản do mô hình tạo ra đôi khi có chứa các thuật ngữ sai hoặc cách diễn đạt phổ biến nhưng có sai sót; Kiểm tra từng thuật ngữ kỹ thuật bằng con mắt của một chuyên gia tên miền. AI là công cụ tạo bản nháp đầu tiên tốt; Anh ấy không phải là người hiệu đính tốt. Người đọc cuối cùng luôn là bạn.
Tại sao phân bổ được tạo thành: hiểu cơ chế.
Việc coi việc bịa đặt thuộc tính của mô hình là hệ quả tự nhiên của cách nó hoạt động chứ không phải là một "sai lầm" sẽ giúp bảo vệ mô hình dễ dàng hơn. Trong quá trình đào tạo, mô hình tìm hiểu mẫu của hàng triệu dòng tên thực: tên tác giả trông như thế nào, định dạng tên tạp chí, cấu trúc của DOI. Khi một trích dẫn được yêu cầu, nó không "tra cứu" bản ghi thực tế; Nó "tạo ra" một thẻ có giá trị thống kê hợp lý phù hợp với mẫu mà nó đã học được. Vì vậy, kết quả trông rất thực tế nhưng có thể không có thật; anh ta thậm chí có thể đưa tên của một tác giả có thật vào một bài báo mà anh ta chưa từng viết. Khi bạn hiểu cơ chế này, quy tắc sẽ trở nên rõ ràng: mọi mã định danh do mô hình tạo ra sẽ không được coi là tồn tại cho đến khi bạn nhìn thấy nó trong cơ sở dữ liệu. Các công cụ phụ thuộc vào tài liệu (nơi bạn cung cấp văn bản thực tế) giảm thiểu rủi ro này vì mô hình dựa vào văn bản bạn cung cấp thay vì phù hợp; nhưng vẫn kiểm tra xem trích dẫn có thực sự có trong văn bản đó không.
Tóm lại
AI không tìm thấy (tạo nên) nguồn trong tìm kiếm tài liệu nhưng nó tóm tắt các bài viết thực tế mà bạn cung cấp, xây dựng chiến lược tìm kiếm và sắp xếp hợp lý bài viết của bạn. Mối nguy hiểm lớn nhất là sự phân bổ bịa đặt; xác minh độc lập từng dòng tên và chỉ sử dụng các nguồn bạn đã đọc. Những tuyên bố, con số và trích dẫn khoa học đến từ bạn; AI chỉ củng cố ngôn ngữ và trật tự. Khai báo sử dụng một cách minh bạch.
Nhiệm vụ ứng dụng
Đưa một bài viết bạn thực sự đọc (tóm tắt hoặc toàn văn) cho trí tuệ nhân tạo và tạo một bản tóm tắt có cấu trúc (câu hỏi, phương pháp, phát hiện, giới hạn). So sánh bản tóm tắt với văn bản nguồn để xem liệu mô hình có thêm hay bóp méo điều gì không. Riêng biệt, hãy yêu cầu người mẫu cung cấp danh sách các tài nguyên về cùng một chủ đề; Tìm kiếm từng dòng tên anh ấy đưa ra trên PubMed và đếm xem có bao nhiêu dòng là thật.
danh sách kiểm tra
- [ ] Tôi tự tìm nguồn trong PubMed/Scholar, tôi không làm cho phù hợp với mô hình.
- [ ] Tôi đã xác minh độc lập từng trích dẫn.
- [ ] Tôi đã so sánh bản tóm tắt với văn bản nguồn.
- [ ] Tôi đã tự mình cung cấp các tuyên bố và con số khoa học.
- [ ] Tôi chỉ trích dẫn những nguồn tôi đã đọc.
- [ ] Tôi đã tuyên bố minh bạch việc sử dụng trí tuệ nhân tạo.