Con người trong thử nghiệm: Đạo đức, quyền riêng tư, trách nhiệm và quy trình làm việc toàn diện

Lợi nhuận:

• Tích hợp nguyên tắc con người vào quy trình làm việc từ đầu đến cuối trong thử nghiệm và có thể tách biệt vai trò của trí tuệ nhân tạo/con người ở từng giai đoạn
• Khả năng làm việc với các ví dụ proxy chung mà không cung cấp cấu trúc và dữ liệu bí mật cho trí tuệ nhân tạo nói chung
• Khả năng đặt cổng phê duyệt của con người tại các điểm quan trọng và chịu trách nhiệm cuối cùng với tính minh bạch và khả năng truy xuất nguồn gốc

Trong phần cuối cùng này, chúng tôi kết hợp toàn bộ mô-đun vào một khung duy nhất: con người trong vòng lặp. Nguyên tắc này nói lên rằng dù AI có năng lực đến đâu thì con người cũng phải hiểu, kiểm soát và phê duyệt ở mọi thời điểm quan trọng của một quyết định về hóa học. Trong phần này, trước tiên chúng ta sẽ làm rõ các khía cạnh đạo đức và tính bảo mật, sau đó thiết lập quy trình làm việc toàn diện để đưa một phân tử từ ý tưởng đến báo cáo và xem cách AI và con người phân chia lao động ở mọi giai đoạn. Mục tiêu là biến mọi thứ bạn đã học thành một hệ thống phù hợp với công việc hàng ngày.

Quyền riêng tư: những gì không nên cung cấp cho AI?

Hóa học thường làm việc với thông tin bí mật: phân tử không có bằng sáng chế, lộ trình tổng hợp bí mật của công ty, dữ liệu chưa được công bố, mẫu bệnh phẩm. Văn bản bạn nhập vào dịch vụ AI công cộng có thể được lưu trữ hoặc xử lý theo chính sách của dịch vụ. Vì thế:

• Kiểm tra chính sách thể chế của bạn trước khi phát hành các cấu trúc gốc chưa được công bố (phân tử tiền cấp bằng sáng chế) cho AI công khai.
• Không bao giờ nhập dữ liệu cá nhân/bệnh nhân (mẫu lâm sàng) ở dạng có thể nhận dạng được.
• Xem xét các thỏa thuận bảo mật trước khi chia sẻ lộ trình tổng hợp bí mật thương mại.
• Chọn các công cụ AI triển khai nội bộ/tùy chỉnh khi cần thiết.

Thận trọng: Hỏi AI chung về một phân tử có thể có nghĩa là tiết lộ cấu trúc của phân tử đó. Đối với một cấu trúc độc đáo chưa được cấp bằng sáng chế, điều này có thể gây nguy hiểm cho quyền ưu tiên của bạn (quyền sáng chế). Yêu cầu các cấu trúc ẩn với các ví dụ chung/thay thế.

Đạo đức: bốn nguyên tắc

1. Tính minh bạch: Đừng che giấu nơi bạn sử dụng AI; Tuân thủ các chính sách xuất bản và thể chế.
2. Trách nhiệm: Con người chịu trách nhiệm về quyết định cuối cùng; “Đề xuất AI” không bào chữa cho hành vi vi phạm an ninh hoặc tính toàn vẹn.
3. Không ác ý: Không sử dụng AI cho các ứng dụng tổng hợp nguy hiểm/bất hợp pháp, sử dụng kép (tiềm năng vũ khí).
4. Công bằng và trung thực: Không bóp méo dữ liệu, không thêu dệt kết quả, không tạo dựng sự quy kết.

Quy trình làm việc toàn diện: phân tử → báo cáo

Bây giờ hãy kết hợp toàn bộ mô-đun thành một luồng duy nhất. Ở mỗi giai đoạn, hãy chú ý đến sự khác biệt giữa những gì AI làm và những gì con người làm.

Sân khấu

Vai trò của AI

Vai trò (quan trọng) của con người

1. Ý tưởng/văn học

Tóm tắt khái niệm, thuật ngữ tìm kiếm

Tìm nguồn thật, xác nhận ghi công

2. Mô tả cấu trúc

tạo ra nụ cười

Xác thực bằng RDKit, InChIKey

3. Kế hoạch tổng hợp

Tái tổng hợp, thay thế

Xác nhận tài liệu, lựa chọn con đường

4. Bảo mật

Tóm tắt SDS, không khớp sơ bộ

Đọc SDS, phê duyệt, quyết định PPE

5. Ứng dụng

(Không có)

Tất cả công việc trong phòng thí nghiệm

6. Phân tích

Hỗ trợ bình luận phổ

Phân công cấu trúc cuối cùng

7. Xử lý dữ liệu

viết mã

Chạy mã, xác minh kết quả

8. Tài liệu

Định dạng, kiểm soát

Quan sát, sai lệch, chữ ký

9. Báo cáo

văn bản dự thảo

Xác minh số lượng/trích dẫn, trách nhiệm giải trình

Bảng này cho thấy cách sắp xếp 11 đơn vị của mô-đun thành một công việc. AI tăng tốc; mọi người xác minh và sở hữu.

Từng bước: thiết lập quy trình làm việc

1. Làm rõ vai trò: Đối với mỗi nhiệm vụ, “AI hay con người quyết định?” xác định ngay từ đầu.
2. Thiết lập bộ lọc quyền riêng tư: Không cần cung cấp thông tin gì cho AI, bạn có thể hỏi "điều này có riêng tư/riêng tư không?" hỏi.
3. Đặt cổng xác minh: Bước xác minh ở cuối mỗi giai đoạn (bảng bài 10).
4. Duy trì khả năng truy xuất nguồn gốc: Đầu ra nào đến từ AI, nó được xác minh như thế nào, ai đã phê duyệt nó.
5. Đặt điểm phê duyệt: Sự phê duyệt của con người là bắt buộc tại các điểm quan trọng như bảo mật và kết quả cuối cùng.
6. Phản hồi: Ghi lại mọi lỗi gặp phải và cải thiện quy trình làm việc.

Bốn mẫu có thể sao chép

1) Bộ lọc trước quyền riêng tư:

Trước khi đặt câu hỏi, hãy cân nhắc điều này:Nội dung: [TÔI ĐANG HỎI GÌ]Nhiệm vụ: Nội dung này có chứa các tạo tác gốc, dữ liệu cá nhân hoặc bí mật thương mại chưa được xuất bản không? Nếu đúng như vậy, hãy đề xuất cách tôi có thể viết lại câu hỏi bằng một ví dụ chung/thay thế sẽ ẩn cấu trúc.

2) Cổng xác minh cuối giai đoạn:

Tôi đã hoàn thành giai đoạn sau: [PHASE, ví dụ: kế hoạch tổng hợp]. Nhiệm vụ: Liệt kê tất cả các yếu tố cần được xác minh trong giai đoạn này (số lượng, trích dẫn, cấu trúc, yêu cầu bảo mật). Đối với mỗi, hãy viết phương thức xác minh và ai sẽ xác nhận nó. Đánh dấu mọi mục đang mở cần đóng trước khi chuyển sang bước tiếp theo.

3) Kế hoạch phân bổ vai trò con người-AI:

Dự án của tôi: [MÔ TẢ NGẮN]. Nhiệm vụ: Chia dự án này thành các giai đoạn. Đối với mỗi giai đoạn, hãy phân biệt giữa: - AI có thể làm gì (dự thảo, viết mã, tóm tắt) - Con người phải quyết định điều gì (bảo mật, hậu quả, phê duyệt). Đánh dấu những điểm quan trọng mà trách nhiệm cuối cùng thuộc về con người.

4) Kiểm tra tính toàn vẹn của báo cáo:

Dưới đây là bản thảo báo cáo của tôi:[DRAFT]Nhiệm vụ: Kiểm tra và đánh dấu những mục sau:1) Có số liệu/trích dẫn nào chưa được xác minh không?2) Việc sử dụng AI có được tuyên bố minh bạch không?3) Dữ liệu có xuất hiện "làm đẹp" (ẩn ngoại lệ) không?4) Có bất kỳ sai sót nào về bảo mật/đạo đức không? [KIỂM TRA] chỗ nào bạn không chắc chắn.

Dấu nhắc yếu / Dấu nhắc mạnh

yếu:

Cách tốt nhất để tổng hợp phân tử bí mật mới của công ty chúng ta là gì?[cấu trúc ban đầu thực tế]

Điều này làm lộ ra cấu trúc ban đầu trước khi có bằng sáng chế đối với một dịch vụ chung; Nó đặt ưu tiên và bảo mật có nguy cơ.

Mạnh mẽ:

Tôi muốn tìm hiểu chiến lược tổng hợp lại chung cho cấu trúc tương tự của một loại xeton thơm. Giải thích thông qua một ví dụ chung (dẫn xuất acetophenone) mà không đưa ra cấu trúc cụ thể, ban đầu. Tôi sẽ áp dụng chiến lược này cho phân tử của chính mình.

Sự khác biệt: không tiết lộ cấu trúc tiềm ẩn, việc học đạt được tương tự như với ví dụ thay thế chung.

trường hợp nhỏ

Trường hợp 1 - Cấu trúc ban đầu được tiết lộ. Một nhóm đã hỏi AI tổng quát về một phân tử độc đáo trước khi nộp đơn xin cấp bằng sáng chế. Đơn vị pháp lý tuyên bố rằng điều này có thể khiến người ta nghi ngờ về mức độ ưu tiên; Quá trình này đã bị trì hoãn. Bài học: yêu cầu cấu trúc độc đáo với proxy chung, tôn trọng chính sách quyền riêng tư.

Trường hợp 2 - Sự đồng ý của con người đã ngăn chặn tai nạn. Trong quy trình làm việc tự động, AI tạo ra một quy trình dự thảo và sẽ được triển khai trực tiếp; Nhưng một nhà hóa học có kinh nghiệm đã phát hiện ra một cặp thuốc thử không tương thích ở cổng "thông quan an toàn" chảy qua. Bài học: tại những thời điểm quan trọng, cửa phê duyệt của con người sẽ cứu mạng sống.

Trường hợp 3 - Kỷ luật từ đầu đến cuối. Một sinh viên thạc sĩ đã triển khai toàn bộ mô-đun trong một dự án: tóm tắt tài liệu + xác minh trích dẫn thực tế bằng AI, xác minh cấu trúc bằng RDKit, phân tích dữ liệu bằng mã, bảo mật bằng SDS, tài liệu trung thực, báo cáo minh bạch. Kết quả vừa nhanh hơn vừa mạnh mẽ hơn; trong phần bảo vệ luận án "Bạn đã xác minh AI bằng cách nào?" Anh ấy đã trả lời câu hỏi một cách rõ ràng. Bài học: AI + kỷ luật xác minh phối hợp tốt nhất.

Những lỗi thường gặp

• Đưa ra cấu trúc tiềm ẩn cho AI nói chung. Nó xâm phạm quyền ưu tiên bằng sáng chế và bí mật thương mại.
• Nhập dữ liệu cá nhân/bệnh nhân có thể nhận dạng được. Vi phạm quyền riêng tư và rủi ro pháp lý.
• Vượt qua cổng phê duyệt. Bảo mật và cuối cùng là tiến về phía trước mà không cần sự chấp thuận của con người.
• Chuyển giao trách nhiệm cho AI. “AI được đề xuất” không bào chữa cho bất kỳ sai sót nào.
• Tránh sự minh bạch Che giấu việc sử dụng AI làm suy yếu tính toàn vẹn.
• Bỏ qua nguy cơ sử dụng kép. Việc sử dụng AI cho các ứng dụng có hại là trái đạo đức.

Mẹo: Thiết kế quy trình làm việc của bạn với “mọi quyết định quan trọng mà con người dừng lại và phê duyệt”. Hãy biến AI thành một mắt xích giúp tăng tốc chuỗi và nút giữ chuỗi luôn là con người.

Tóm lại

• Nguyên tắc con người trong thí nghiệm: trong mọi quyết định quan trọng về hóa học, con người đều hiểu, giám sát và phê duyệt.
• Quyền riêng tư: không cung cấp các tạo phẩm độc đáo, dữ liệu cá nhân và bí mật thương mại cho AI công khai; Sử dụng proxy chung.
• Đạo đức: minh bạch, trách nhiệm, không ác ý, trung thực là bốn nguyên tắc cơ bản.
• Trong quy trình làm việc từ đầu đến cuối, AI tăng tốc ở mọi giai đoạn; mọi người xác minh và sở hữu.
• Đặt cổng phê duyệt của con người tại các điểm quan trọng (bảo mật, kết quả cuối cùng) và duy trì khả năng truy xuất nguồn gốc.

Nhiệm vụ ứng dụng

Chọn một dự án của riêng bạn (thực tế hoặc giả định) và thiết kế quy trình làm việc AI-con người từ đầu đến cuối. Điều chỉnh bảng 9 giai đoạn trên cho phù hợp với dự án của riêng bạn: AI sẽ làm gì ở mỗi giai đoạn, con người sẽ phê duyệt điều gì? Áp dụng bộ lọc trước quyền riêng tư: thông tin nào bạn không cung cấp cho AI, bạn khái quát hóa thông tin đó như thế nào? Xác định ít nhất hai cổng phê duyệt của con người và một phương pháp truy xuất nguồn gốc. Viết “quy trình làm việc và kế hoạch xác minh” dài một trang.

danh sách kiểm tra

• [ ] Trong thí nghiệm, tôi đã nắm được nguyên tắc của con người và tại sao nó lại cần thiết.
• [ ] Tôi khái quát hóa cấu trúc/dữ liệu ẩn mà không đưa nó cho AI chung.
• [ ] Tôi tuân thủ các nguyên tắc minh bạch, trách nhiệm, không ác ý và trung thực.
• [ ] Tôi đã tách biệt vai trò của AI/con người trong quy trình làm việc từ đầu đến cuối.
• [ ] Tôi đặt cổng phê duyệt của con người ở những điểm quan trọng.
• [ ] Tôi theo dõi kết quả đầu ra nào đến từ AI và cách xác minh nó.

Thi học phần

1. Định vị nào sau đây là chính xác nhất cho trí tuệ nhân tạo trong hóa học?

• A) Trí tuệ nhân tạo là người trợ giúp mã hóa, soạn thảo và chỉnh sửa; Trách nhiệm về cơ cấu, số lượng, tài nguyên, an ninh và các quyết định đạo đức thuộc về con người ✔
• B) Trí tuệ nhân tạo là một động cơ hóa học và trọng lượng phân tử mà nó mang lại luôn chính xác.
• C) Trí tuệ nhân tạo chỉ hoạt động trong việc xem xét tài liệu, nó không liên quan gì đến phân tích và bảo mật
• D) Vì trí tuệ nhân tạo vô tư hơn con người nên các quyết định về bảo mật nên được giao cho nó

Mô tả: Trí tuệ nhân tạo; Đó là một trợ lý viết mã, tạo bản nháp, xây dựng bộ khung tổng hợp lại, giúp đỡ và tổ chức giải thích phổ. Tuy nhiên, việc tính toán xác định trọng lượng phân tử và phép đo lượng hóa học, xác minh cấu trúc bằng RDKit, xác nhận các trích dẫn trong cơ sở dữ liệu, quyết định về độ an toàn với SDS/GHS và trách nhiệm cuối cùng thuộc về nhà hóa học có thẩm quyền. Mô hình ngôn ngữ lớn không phải là một máy tính hay một công cụ hóa học; Nó là một trình tạo văn bản tạo ra 'từ có khả năng xảy ra tiếp theo nhất' và kết quả đầu ra chưa được xác minh của nó có thể dẫn đến cấu trúc, số lượng hoặc mối nguy hiểm không chính xác.

2. Cách đáng tin cậy nhất để mô tả một phân tử cho trí tuệ nhân tạo là gì?

• A) Chỉ viết tên tiếng Thổ Nhĩ Kỳ thông dụng
• B) Đưa ra biểu diễn cấu trúc như SMILES và xác nhận danh tính bằng InChIKey ✔
• C) Chỉ cho biết trọng lượng phân tử
• D) Chỉ cần viết nhãn hiệu là đủ

Giải thích: Tên (đặc biệt là tên thương mại và tên đồng nghĩa) không rõ ràng và có thể dẫn đến phân tử sai. Việc gán cho phân tử một ký hiệu cấu trúc như SMILES mang lại độ chính xác; Danh tính của anh ta được xác nhận trong cơ sở dữ liệu bằng InChIKey. Ngoài ra, SMILES do trí tuệ nhân tạo cung cấp phải được phân tích cú pháp bằng RDKit và được xác minh bằng cách chuẩn hóa.

3. Bạn nên sử dụng trọng lượng phân tử do trí tuệ nhân tạo đưa ra như thế nào?

• A) Sử dụng trực tiếp, vì AI đáng tin cậy về số lượng
• B) Tính toán và xác minh độc lập với công thức theo cách thủ công hoặc bằng RDKit ✔
• C) Chỉ cần hỏi một trí tuệ nhân tạo khác và so sánh
• D) Trọng lượng phân tử không quan trọng, không cần xác minh

Giải thích: Trọng lượng phân tử là đại lượng được tính xác định từ công thức phân tử. Vì vậy, hỏi mô hình ngôn ngữ là cách yếu nhất; Nó phải được xác minh độc lập bằng một công cụ như RDKit hoặc bằng cách tính toán thủ công từ một công thức. Mô hình ngôn ngữ có thể khớp những con số như vậy với giá trị 'có thể xảy ra'.

4. Cần làm gì trước khi sử dụng trích dẫn tài liệu (bài báo/DOI) do trí tuệ nhân tạo trả về?

• A) Không có gì; Nếu trí tuệ nhân tạo đưa ra một tài liệu tham khảo thì đó là sự thật
• B) Chỉ cần nhìn tiêu đề cho thấy thuyết phục là đủ.
• C) Xác nhận từng trích dẫn và DOI bằng cách giải mã chúng trong cơ sở dữ liệu (doi.org, Crossref) ✔
• D) Số DOI dài chứng tỏ nó là thật.

Mô tả: Mô hình ngôn ngữ có thể tạo ra các bài viết, tác giả và DOI trông thực tế nhưng không tồn tại (trích dẫn giả). Chỉ vì nó cung cấp DOI không có nghĩa là nó hợp lệ. Mỗi trích dẫn phải được xác minh bằng độ phân giải trong cơ sở dữ liệu như doi.org, Crossref hoặc trang của nhà xuất bản; Luồng an toàn nhất là con người tìm thấy bài viết thực sự và tóm tắt văn bản bằng trí tuệ nhân tạo.

5. Trí tuệ nhân tạo yếu nhất ở lĩnh vực nào và cần có sự xác nhận trong kế hoạch phản ứng?

• A) Khi nhận biết phản ứng thuộc lớp tổng quát nào
• B) Số điều kiện chính xác, giá trị hiệu suất và tên thuốc thử/chất xúc tác ✔
• C) Giải thích một cơ chế bằng ngôn ngữ đơn giản
• D) Động não tìm các tuyến đường thay thế

Giải thích: AI thường dự đoán tốt loại phản ứng và sản phẩm chính của các phản ứng được ghi chép rõ ràng. Tuy nhiên, các con số điều kiện chính xác (nhiệt độ, thời gian, đương lượng), giá trị hiệu suất, phản ứng hiếm gặp và tên thuốc thử/chất xúc tác là yếu nhất và dễ bị chế tạo nhất; những điều này cần được xác nhận bằng tài liệu và danh mục.

6. Cách đáng tin cậy nhất để sử dụng trí tuệ nhân tạo trong việc giải thích phổ là gì?

• A) Chỉ cần đưa ra một vài đỉnh và hỏi 'đây là quang phổ gì?' hỏi
• B) Đưa ra cấu trúc dự kiến và dữ liệu thô đầy đủ và kiểm tra tính nhất quán (kiểm tra giả thuyết) ✔
• C) Chỉ ghi các giá trị dịch chuyển mà không thực hiện tích phân và chia
• D) Thực hiện phân công cấu trúc dứt khoát bằng một kỹ thuật duy nhất (chỉ IR)

Mô tả: Hỏi AI 'phổ này là hợp chất nào?' Hỏi từ đầu làm tăng tỷ lệ lỗi. Cách đáng tin cậy nhất là đưa cấu trúc dự kiến ​​(SMILES) và dữ liệu thô (tích hợp, phân tách, bộ giải, danh sách đỉnh) lại với nhau và hỏi 'dữ liệu này có phù hợp với cấu trúc này không?' là hỏi ; nghĩa là sử dụng trí tuệ nhân tạo làm công cụ kiểm tra giả thuyết. Nhiệm vụ cuối cùng dành cho nhà hóa học là kiểm tra quang phổ thực nghiệm.

7. Cách đáng tin cậy nhất để có được kết quả tính toán hóa học (ví dụ: phần trăm năng suất) là gì?

• A) Yêu cầu kết quả trực tiếp từ trí tuệ nhân tạo bằng lời nói
• B) In và chạy mã Python của tài khoản và kiểm tra nó bằng một ví dụ đã biết ✔
• C) Hỏi cùng một câu hỏi nhiều lần và lấy số xuất hiện thường xuyên nhất
• D) Ước tính nhanh không cần xác định đơn vị

Giải thích: Mô hình ngôn ngữ thực hiện số học bằng cách 'dự đoán kết quả có thể xảy ra' và có thể sai ngay cả với các phép nhân rất đơn giản. Cách đáng tin cậy nhất là yêu cầu AI viết MÃ của nó (ví dụ: Python), chứ không phải chính tài khoản và chạy mã đó; mã này có tính xác định và có thể kiểm tra được. Mã cũng nên được kiểm tra với một mẫu nhỏ có câu trả lời đã biết.

8. Khái niệm 'miền ứng dụng' có ý nghĩa gì trong dự đoán tính chất phân tử?

• A) Sức mạnh xử lý của máy tính chạy mô hình
• B) Vùng phân tử tương tự như dữ liệu huấn luyện, trong đó mô hình đưa ra dự đoán đáng tin cậy ✔
• C) Vùng đảm bảo trong đó con số được mô hình đưa ra luôn chính xác
• D) Khoảng nhiệt độ mà phân tử có thể được tổng hợp trong phòng thí nghiệm

Giải thích: Mô hình QSAR/dự đoán hoạt động tốt trên các phân tử tương tự với các phân tử mà nó đã được đào tạo. Với một phân tử rất khác với dữ liệu huấn luyện, mô hình vẫn tạo ra một con số, nhưng con số này không đáng tin cậy; điều này được gọi là 'nằm ngoài phạm vi áp dụng'. Người mẫu luôn đưa ra câu trả lời; Việc đánh giá câu trả lời có đáng tin cậy hay không là tùy thuộc vào con người.

9. Cách tiếp cận đúng đắn để xử lý các quan sát trong tài liệu thí nghiệm là gì?

• A) Viết quan sát vào trí tuệ nhân tạo để tiết kiệm thời gian
• B) Người tiến hành thí nghiệm ghi lại kết quả quan sát được; AI chỉ định dạng và kiểm tra ✔
• C) Không cần ghi lại các quan sát, chỉ cần viết kết quả cuối cùng
• D) Che giấu những sai lệch so với kế hoạch để làm cho báo cáo trông đẹp hơn

Giải thích: Trí tuệ nhân tạo không biết nó là gì; Việc thực hiện các quan sát (thay đổi màu sắc, giải phóng khí, v.v.) phù hợp với nó sẽ tạo ra các hồ sơ có vẻ hợp lý nhưng không hề xảy ra và đây là gian lận khoa học. AI định dạng bản ghi, thu hồi các trường bị thiếu và kiểm tra độ lặp lại; nhưng người thực nghiệm phải cung cấp những quan sát và sự kiện. Những sai lệch so với kế hoạch cũng phải được ghi lại.

10. Vai trò của trí tuệ nhân tạo đối với an toàn trong phòng thí nghiệm và nguồn gốc của sự thật là gì?

• A) Nếu trí tuệ nhân tạo nói 'an toàn' thì không cần nguồn khác
• B) Nguồn gốc của sự thật là SDS và GHS; AI rất hữu ích nhưng không thể có tiếng nói cuối cùng ✔
• C) Các quyết định bảo mật có thể được ủy quyền hoàn toàn cho trí tuệ nhân tạo
• D) SDS là không cần thiết; Diễn đàn Internet cung cấp đủ thông tin.

Mô tả: An toàn là ưu tiên hàng đầu trong hóa học và trí tuệ nhân tạo không bao giờ có thể có lời cuối cùng ở đây. Nguồn thông tin an toàn thực tế là SDS (Bảng dữ liệu an toàn) và phân loại GHS do nhà sản xuất cung cấp. AI có thể tóm tắt văn bản SDS, tạo bản nháp biểu mẫu và thực hiện sàng lọc sơ bộ việc không tuân thủ; Tuy nhiên, tất cả các khiếu nại phải được xác minh bằng SDS và thủ tục phải được phê duyệt bởi người/nhân viên an ninh có kinh nghiệm.

11. Sự kết hợp thuốc thử nào sau đây được biết là nguy hiểm (không tương thích)?

• A) Trộn nước và muối ăn
• B) Trộn dung dịch axit với dung dịch chứa hypochlorite (nguy cơ tạo ra khí clo) ✔
• C) Trộn etanol và nước
• D) Hòa tan đường và nước

Giải thích: Mặc dù một số hóa chất tương đối an toàn khi đứng riêng lẻ nhưng chúng lại nguy hiểm khi kết hợp với nhau. Trộn axit và hypochlorite giải phóng khí clo; Chất oxy hóa + chất hữu cơ có nguy cơ cháy/nổ, nước + nhiệt kim loại phản ứng/hydro. Mặc dù AI biết hầu hết các kết hợp này nhưng nó không đảm bảo tất cả chúng và đôi khi có thể đưa ra gợi ý nguy hiểm bằng ngôn ngữ vô hại; mỗi quy trình phải được sàng lọc để phát hiện việc không tuân thủ SDS.

12. Cách diễn đạt chính xác nhất cho “ảo giác” (trí tuệ nhân tạo tạo ra thông tin bịa đặt) là gì?

• A) Đây là một lỗi phần mềm hiếm gặp và được loại bỏ hoàn toàn khi cập nhật.
• B) Đó là hành vi vốn có trong mô hình ngôn ngữ; Giải pháp là xác minh độc lập từng đầu ra ✔
• C) Nó chỉ xuất hiện trong những lời nhắc viết sai, không bao giờ xuất hiện trong những lời nhắc đúng.
• D) Nếu trí tuệ nhân tạo nói bằng ngôn ngữ an toàn thì đó không phải là ảo giác

Giải thích: Ảo giác không phải là sự cố mà là kết quả của bản chất của mô hình ngôn ngữ tạo ra 'từ có khả năng xảy ra tiếp theo nhất'; Mô hình hướng tới điều có thể, không phải sự thật. Phần xảo quyệt nhất là nó trình bày thông tin sai lệch bằng ngôn ngữ tự tin giống như sự thật. Giải pháp không phải là cố gắng sửa mô hình mà là xây dựng một lớp vỏ xác thực phù hợp với loại xung quanh mỗi đầu ra; sự trôi chảy không bao giờ là bằng chứng của sự chính xác.

13. 'Triangulation' có nghĩa là gì để xác minh một giá trị tới hạn (ví dụ: trọng lượng phân tử)?

• A) Đặt cùng một câu hỏi cho cùng một trí tuệ nhân tạo ba lần
• B) So sánh và đi đến cùng một kết luận theo nhiều cách độc lập ✔
• C) Tính khối lượng của ba phân tử khác nhau cùng một lúc
• D) Làm tròn kết quả đến ba chữ số thập phân

Giải thích: Phép tam giác đi đến cùng một kết luận thông qua nhiều con đường độc lập; Ví dụ: so sánh trọng lượng phân tử theo trí tuệ nhân tạo, tính toán RDKit và tính toán thủ công. Nếu hai con đường độc lập trùng nhau thì độ tin cậy cao; Nếu ai đó đi chệch hướng, nó sẽ bị dừng lại và điều tra. Thay vì dựa vào một nguồn duy nhất, nên tìm kiếm ít nhất hai phương pháp độc lập.

14. Cách chính xác để hỏi dịch vụ AI nói chung về một phân tử duy nhất chưa được cấp bằng sáng chế là gì?

• A) Đưa ra cấu trúc ban đầu một cách trực tiếp vì tốc độ là quan trọng
• B) Học chiến lược thông qua ví dụ chung/ví dụ thay thế mà không tiết lộ cấu trúc ban đầu ✔
• C) Đưa ra cấu trúc không phải là vấn đề, AI không bao giờ che giấu thông tin
• D) Không nêu tên phân tử mà chỉ chia sẻ toàn bộ SMILES của nó là đủ để bảo vệ.

Mô tả: Nội dung được nhập vào dịch vụ trí tuệ nhân tạo nói chung có thể được lưu trữ hoặc xử lý theo chính sách dịch vụ; Đưa ra một cấu trúc ban đầu có nguy cơ bảo mật và ưu tiên bằng sáng chế. Cách tiếp cận đúng là tìm hiểu chiến lược từ một ví dụ chung/thay thế (một loại cấu trúc tương tự) và áp dụng nó cho phân tử nội bộ của chính nó mà không tiết lộ cấu trúc ban đầu. Dữ liệu cá nhân/bệnh nhân cũng không được nhập ở dạng có thể nhận dạng được.