Lợi nhuận:
- Khả năng hiểu ảo giác vốn có trong mô hình ngôn ngữ và chọn phương pháp xác minh phù hợp cho từng loại đầu ra.
- Xác minh các giá trị quan trọng theo hai cách độc lập bằng phương pháp tam giác và không nhầm lẫn giữa sự lưu loát với độ chính xác
- Khả năng áp dụng tính minh bạch, truy xuất nguồn gốc, tính toàn vẹn dữ liệu và trách nhiệm của con người làm cơ sở cho tính toàn vẹn khoa học
Một cụm từ được lặp đi lặp lại trong suốt mô-đun này: “AI sản xuất, con người xác minh”. Ở bài này, chúng ta biến câu đó thành một hệ thống. Mục đích là để nhận ra ảo giác (tạo ra thông tin sai lệch/bịa đặt bằng ngôn ngữ tự tin), đây là hành vi nguy hiểm nhất của AI, để thiết lập phương pháp xác minh cụ thể cho từng loại đầu ra và đặt tất cả những điều này trong khuôn khổ tính toàn vẹn khoa học (trung thực, minh bạch, truy xuất nguồn gốc). Kết quả đầu ra AI chưa được xác minh trong hóa học không chỉ là một sai lầm; Đó có thể là một thí nghiệm phát nổ, một người bị đầu độc hoặc một tờ giấy bị rút lại.
Tại sao ảo giác là không thể tránh khỏi?
Mô hình ngôn ngữ lớn tạo ra “từ có khả năng xảy ra tiếp theo nhất”; Nó nhằm vào những gì có thể, không phải những gì là sự thật. Vì vậy, anh ta có thể điền trọng lượng phân tử, DOI hoặc điểm sôi với một giá trị “có vẻ hợp lý” - mà không cần kiểm tra xem nó có thật hay không. Ảo giác không phải là một trục trặc mà là hệ quả của bản chất của công nghệ này. Giải pháp không phải là "cố gắng sửa" mô hình mà là xây dựng lớp vỏ xác thực xung quanh mỗi đầu ra.
Khía cạnh quỷ quyệt nhất của ảo giác là ngôn ngữ tự tin của nó. Trọng lượng phân tử không chính xác được trình bày với độ tin cậy chính xác như trọng lượng phân tử đúng. Vì thế "trông có vẻ tự tin" không bao giờ có nghĩa là "đúng".
Lưu ý: AI nói trôi chảy và tự tin như thế nào về một chủ đề không liên quan đến tính chính xác của thông tin đó. Sự lưu loát thuyết phục; Chỉ có nguồn độc lập mới xác định được độ chính xác.
Xác nhận theo loại đầu ra trong hóa học
Mỗi loại đầu ra có phương pháp xác minh riêng. Thay vì ghi nhớ một quy tắc duy nhất, hãy sử dụng công cụ thích hợp cho kết quả đầu ra:
Loại đầu ra
Phương pháp xác minh
xe cộ
Trọng lượng phân tử, công thức
Tính lại từ công thức
RDKit/thủ công
CƯỜI/cấu trúc
Phân tích cú pháp + chuẩn hóa
RDKit
Trích dẫn/DOI
Giải quyết trong cơ sở dữ liệu
doi.org, Crossref
Hằng số vật lý (kn, pKa)
Cơ sở dữ liệu tham khảo
PubChem, sổ tay
phép tính số
Viết + chạy mã
Python
phản ứng/điều kiện
Xác nhận văn học
Reaxys, bài viết
yêu cầu bảo mật
SDS/GHS
SDS chính thức
Phân bổ phổ
Đa kỹ thuật + con người
Phổ thí nghiệm
Bảng này thực chất là bản tóm tắt của mô-đun này: mỗi đơn vị là một hàng.
Tam giác: ba con đường độc lập
Kỹ thuật xác minh mạnh mẽ nhất là "tam giác": đi đến cùng một kết luận theo ba cách độc lập. Ví dụ: đối với trọng lượng phân tử: (1) những gì YZ nói, (2) phép tính của RDKit, (3) tính toán thủ công từ công thức. Nếu cả ba trùng lặp thì độ tin cậy cao; Nếu ai đó đi lạc, hãy dừng lại và điều tra. Đừng bao giờ dựa vào một nguồn duy nhất trong hóa học; Hãy tìm ít nhất hai đường đi độc lập.
Từng bước: quy trình xác minh
- Phân loại đầu ra: Đó có phải là con số, cấu trúc, thuộc tính, xác nhận bảo mật không?
- Chọn công cụ thích hợp: Nhận đường dẫn xác minh thích hợp cho loại đầu ra từ bảng trên.
- Tính toán/tìm kiếm độc lập: Chạy xe độc lập với AI; so sánh kết quả.
- Nếu có sai lệch, hãy dừng lại: Nếu các giá trị không khớp, đừng tiếp tục mà không điều tra xem giá trị nào đúng.
- Để lại dấu ấn của bạn: Ghi lại những gì bạn đã xác minh và cách thức (tính chính trực về mặt khoa học).
- Chỉ định sự không chắc chắn: Đánh dấu điều gì đó không thể xác minh là "chưa được xác nhận", đừng che giấu nó.
Bốn mẫu có thể sao chép
1) Tự xác minh:
Bạn vừa đưa ra kết quả sau: [OUTPUT]. Nhiệm vụ: Liệt kê từng khẳng định bằng số/thực tế của kết quả này trên một dòng riêng. Đối với mỗi khẳng định: "làm thế nào để xác minh nó một cách độc lập?" phương thức ghi (công cụ/cơ sở dữ liệu nào). KHÔNG YÊU CẦU rằng tuyên bố đó là đúng; chỉ cần đưa ra một cách để xác minh nó.
2) Kiểm soát tam giác:
Tôi muốn kiểm tra trọng lượng của phân tử sau theo ba cách: [SMILES]. Nhiệm vụ: 1) Suy ra công thức phân tử.2) Hiển thị nguyên tử tính trọng lượng phân tử theo nguyên tử (đóng góp của từng nguyên tố). Lưu ý: Tôi cũng sẽ tính toán nó trong RDKit và thứ ba so sánh nó với kết quả bạn đã đưa ra. Nếu cả ba không trùng nhau, hãy cảnh báo.
3) Đánh dấu sự mơ hồ:
Có nhiều tuyên bố thực tế trong văn bản sau:[TEXT]Nhiệm vụ: Đặt nhãn mức độ tin cậy bên cạnh mỗi tuyên bố:[VERIFIED] / [VERIFIED] / [UNCERTAIN]. Không đánh dấu bất cứ điều gì [ĐÃ XÁC MINH] nếu bạn không chắc chắn.
4) Truy vấn chéo nhất quán:
Tôi sẽ hỏi cùng một câu hỏi theo hai cách khác nhau; Xem liệu câu trả lời của bạn có nhất quán hay không. Câu A: Công thức phân tử của hợp chất là gì?
Dấu nhắc yếu / Dấu nhắc mạnh
yếu:
Viết ra tất cả những gì bạn biết về hợp chất này.
AI trộn lẫn thông tin có thể xác minh và bịa đặt một cách bừa bãi; Không rõ cái nào là thật.
Mạnh mẽ:
Cung cấp thông tin về hợp chất này, nhưng gắn nhãn cho mỗi tuyên bố là: [XÁC ĐỊNH - được xác minh bằng công cụ] ví dụ: công thức phân tử, [THÍ NGHIỆM - cần dẫn nguồn] ví dụ: điểm nóng chảy, [CHƯA CHẮC CHẮN - không chắc chắn]. Không viết bất kỳ tuyên bố nào không có nhãn.
Sự khác biệt: Chúng tôi buộc AI phải đánh dấu sự không chắc chắn của chính nó; Chúng tôi đã lập kế hoạch cho công việc xác minh.
Tính chính trực khoa học: tính trung thực và khả năng truy xuất nguồn gốc
Xác minh không chỉ là một bước kỹ thuật mà còn là vấn đề đạo đức. Tính trung thực về mặt khoa học đòi hỏi:
- Tính minh bạch: Đừng che giấu việc bạn đang sử dụng AI; Chỉ định theo chính sách xuất bản/báo cáo của bạn.
- Truy xuất nguồn gốc: Ghi lại kết quả đầu ra đến từ AI và cách xác minh nó.
- Tính toàn vẹn của dữ liệu: “Làm đẹp” kết quả bằng AI, loại bỏ các giá trị ngoại lệ mà không có lý do chính đáng là gian lận.
- Trách nhiệm: Bạn chịu trách nhiệm về kết quả cuối cùng; “AI đã nói vậy” không phải là một cái cớ.
Mẹo: Hãy chấp nhận ngay từ đầu rằng bạn không bao giờ được sử dụng cụm từ “AI đã nói như vậy” trong một báo cáo hoặc bào chữa. Sự chấp nhận này tự động mang lại thói quen xác minh mọi đầu ra.
trường hợp nhỏ
Trường hợp 1 - Phép tam giác gặp lỗi. Một sinh viên đã kiểm tra trọng lượng phân tử theo ba cách: YZ cho biết 178,2, tính toán thủ công cho 180,16, RDKit cho 180,16. Hai con đường độc lập chồng chéo và loại bỏ AI. Bài học: hai xác minh độc lập âm thầm đánh bại một kết quả sai.
Trường hợp 2 - Ngôn ngữ an toàn, thông tin sai. AI đã viết rất tự tin rằng một phản ứng “diễn ra một cách tự nhiên ở nhiệt độ phòng”. Các tài liệu cho thấy rằng điều này đòi hỏi phải đun nóng và sử dụng chất xúc tác. Học sinh tin tưởng vào nguồn chứ không phải ngôn ngữ an toàn. Bài học: sự lưu loát không phải là sự chính xác.
Trường hợp 3 - Đạt được sự minh bạch. Trong phần phương pháp trong bài báo của mình, một nhà nghiên cứu đã nêu rõ những bước mà anh ấy sử dụng AI (chỉnh sửa văn bản, soạn thảo mã) và viết rằng anh ấy đã xác minh độc lập tất cả các kết quả bằng số. Quá trình trọng tài diễn ra suôn sẻ. Bài học: minh bạch tạo nên niềm tin, che giấu tạo ra rủi ro.
Những lỗi thường gặp
- Tin tưởng vào ngôn ngữ an toàn. Giọng điệu tự tin của AI không phải là dấu hiệu của sự chính xác.
- Dựa vào một nguồn duy nhất. Chấp nhận một đầu ra duy nhất mà không cần tam giác hóa.
- Không tách loại đầu ra. Nghĩ rằng tôi đã "kiểm tra" số lượng, ghi công và xác nhận bảo mật bằng cùng một phương pháp.
- Che giấu sự không chắc chắn. Báo cáo điều gì đó không thể xác minh được như thể nó là chắc chắn.
- Ẩn việc sử dụng AI. Thiếu minh bạch làm suy yếu tính toàn vẹn khoa học.
- Phân công trách nhiệm. Lý do "AI đã nói như vậy" là không hợp lệ; Trách nhiệm thuộc về con người.
Tóm lại
- Ảo giác vốn có trong mô hình ngôn ngữ; Giải pháp là xây dựng một lớp vỏ xác thực xung quanh mỗi đầu ra.
- Mỗi loại đầu ra có phương pháp xác minh riêng; phân loại đầu ra và sử dụng công cụ thích hợp.
- Tam giác (hai đường độc lập) là điều khiển mạnh nhất; Đừng tin tưởng một nguồn duy nhất.
- Ngôn ngữ trôi chảy và tự tin không liên quan đến tính chính xác.
- Tính toàn vẹn về mặt khoa học đòi hỏi sự minh bạch, truy xuất nguồn gốc, tính toàn vẹn dữ liệu và trách nhiệm của con người.
Nhiệm vụ ứng dụng
Cố ý tạo ra nhiều loại kết quả đầu ra trong phiên AI: trọng lượng phân tử, tham chiếu, hằng số vật lý, yêu cầu bảo mật, phép tính số. Xác minh từng phương pháp một cách độc lập bằng phương pháp đúng (xem bảng). Cố gắng nắm bắt ít nhất một ảo giác. Sau đó chuẩn bị một "ma trận xác thực": đầu ra hàng, cột (giá trị AI/giá trị độc lập/nó có trùng lặp/làm cách nào để xác minh nó). Bạn sẽ báo cáo phiên họp này như thế nào về tính trung thực về mặt khoa học?
danh sách kiểm tra
- [ ] Tôi hiểu tại sao ảo giác là điều không thể tránh khỏi.
- [ ] Tôi phân loại từng đầu ra theo loại của nó và xác minh nó bằng phương pháp thích hợp.
- [ ] Tôi thực hiện phép tính tam giác (hai đường độc lập) trên các giá trị tới hạn.
- [ ] Tôi tin vào nguồn chứ không phải ngôn ngữ an toàn.
- [ ] Tôi đánh dấu những gì không thể xác nhận là "không chắc chắn".
- [ ] Tôi minh bạch trong việc sử dụng AI và tự chịu trách nhiệm về kết quả.