Lợi nhuận:
- Khả năng thiết kế quy trình làm việc gồm bảy bước từ câu hỏi đến kết quả được xác minh bằng cách đặt cổng xác minh ở mỗi bước
- Khả năng xác minh mã Python được viết bởi trí tuệ nhân tạo với dữ liệu thử nghiệm đã biết và phân biệt sự khác biệt giữa 'mã hoạt động' và 'mã chính xác'
- Làm cho phân tích có thể lặp lại (phiên bản, phương tiện, hạt giống, tài liệu) và báo cáo với xác minh ướt, tính minh bạch và phê duyệt của chuyên gia
Chúng ta đã học các phần trong chín bài trước: phân tích trình tự, omics, mô hình protein, thiết kế thí nghiệm, dữ liệu phòng thí nghiệm, xử lý sinh học, văn học và đạo đức. Trong phần cuối cùng này, chúng ta sẽ ghép các phần lại với nhau và xây dựng một quy trình làm việc từ đầu đến cuối — một chuỗi từ câu hỏi nghiên cứu đến kết luận được xác thực, trong đó AI hỗ trợ ở mọi bước nhưng con người đưa ra mọi quyết định và xác minh quan trọng. Chúng tôi cũng sẽ đề cập đến Python, xương sống của chuỗi này và nguyên tắc về khả năng tái tạo - khả năng lặp lại phân tích của người khác, với cùng một dữ liệu, để đưa ra kết quả tương tự.
Mục tiêu không phải là truyền đạt các công cụ riêng lẻ mà là tư duy quy trình làm việc có trách nhiệm: bạn sẽ biết đặt AI ở đâu, đặt cổng xác minh ở đâu và cách làm cho toàn bộ quy trình có thể theo dõi được.
Tại sao lại là Python?
Ngôn ngữ chung của tin sinh học và sinh học tính toán là Python (và R). Bởi vì bạn có thể tự động hóa và làm cho hầu hết mọi bước có thể lặp lại bằng các thư viện nguồn mở (Biopython để phân tích trình tự, pandas cho bảng dữ liệu, scikit-learn cho máy học, matplotlib để trực quan hóa). AI rất mạnh trong việc viết mã Python; Nhưng việc chấp nhận mã mà nó tạo ra mà không chạy và xác minh nó là điều nguy hiểm — mã có thể âm thầm trả về kết quả sai (lỗi đơn vị, cột sai, bộ lọc bị thiếu).
Chú ý: Ngay cả khi mã do AI viết hoạt động, nó có thể không chính xác. "Nó hoạt động không có lỗi" và "nó cho kết quả chính xác" là hai điều khác nhau. Hãy thử từng mã với một dữ liệu thử nghiệm nhỏ đã biết: đầu vào-đầu ra có như bạn mong đợi không? Đây là cách duy nhất để bắt lỗi im lặng.
Giải phẫu quy trình làm việc
Quy trình công nghệ sinh học hỗ trợ AI có trách nhiệm tuân theo khuôn khổ này:
- Câu hỏi và giả thuyết. Một câu hỏi rõ ràng, có thể kiểm chứng. (AI có thể truyền cảm hứng; bạn làm rõ.)
- Thu thập dữ liệu và kiểm soát quyền riêng tư. Dữ liệu từ đâu, phương tiện cá nhân hoặc được phê duyệt? (đơn vị 9.)
- Tiền xử lý và kiểm soát chất lượng. Làm sạch, chuẩn hóa, kiểm soát hàng loạt. (Đơn vị 2-3.)
- Phân tích. Thống kê, mô hình hóa, dự báo. (Cổng xác minh ở mỗi bước.)
- Bình luận. Đánh vào tâm sinh, tương quan nhân quả phân biệt.
- Xác minh phòng thí nghiệm ướt. Giả thuyết quan trọng được kiểm tra bằng thực nghiệm. (Bài 1, 4, 5.)
- Báo cáo và minh bạch. Mã có thể tái tạo, tuyên bố AI, phê duyệt của chuyên gia. (Đơn vị 8-9.)
Mỗi bước có một điểm kiểm tra - điểm mà tại đó đầu ra được xác minh trước khi chuyển sang bước tiếp theo. AI tăng tốc một bước, bạn không thể chuyển sang bước tiếp theo nếu không vượt qua cửa.
Mẹo: Lưu quy trình làm việc của bạn dưới dạng tập lệnh và sổ ghi chép; Hãy để đầu vào, đầu ra và quyết định của từng bước được ghi lại. Có thể trả lời câu hỏi “làm thế nào tôi có được kết quả này” trong vòng vài phút sau nhiều tháng là điều quý giá đối với cả khoa học và kiểm toán.
Khả năng tái tạo: bảo hiểm kết quả
Một kết quả chỉ đáng tin cậy nếu nó có thể được người khác lặp lại. Bốn trụ cột của khả năng tái tạo là: (1) mã nằm trong kiểm soát phiên bản (với git), (2) môi trường cố định (các phiên bản thư viện được đăng ký, ví dụ: require.txt hoặc môi trường conda), (3) dữ liệu và hạt giống ngẫu nhiên được đăng ký, (4) mỗi bước đều được ghi lại. AI giúp xây dựng cơ sở hạ tầng này, nhưng việc thực thi kỷ luật là tùy thuộc vào bạn.
ba trường hợp nhỏ
Trường hợp 1 - Đã phát hiện lỗi mã im lặng. Một nhóm đã sử dụng tập lệnh chuẩn hóa do AI viết; Mã đã hoạt động không có lỗi. Khi họ thử nó với dữ liệu thử nghiệm đã biết, họ nhận thấy đầu ra bị thay đổi theo hệ số 1.000 - tập lệnh đang thực hiện chuyển đổi đơn vị không chính xác. Dữ liệu thử nghiệm nhỏ đã phát hiện một lỗi có thể làm gián đoạn toàn bộ quá trình phân tích.
Trường hợp 2 - Độ tái lập được lưu. Sau khi phát sóng, trọng tài yêu cầu xem lại kết quả. Nhóm đã sao chép nguyên văn bản phân tích trong 20 phút vì họ đã phiên bản mã trong Git và môi trường được ghim. Một nhóm đối thủ không ghi lại môi trường đã không thể đáp ứng yêu cầu tương tự trong nhiều tuần.
Trường hợp 3 - Xác minh từ đầu đến cuối. Trong một dự án enzyme, quy trình làm việc hoạt động như sau: AI đề xuất một giả thuyết từ tài liệu (đã được xác thực), các đột biến ứng cử viên được xếp hạng theo mô hình protein (được thử nghiệm bằng thực nghiệm), DoE giảm số lượng thí nghiệm, một trong ba đột biến đã tăng hoạt động lên 1,9 lần. AI tăng tốc ở mọi bước, được con người xác minh ở mọi cửa; Kết quả vừa nhanh chóng vừa có thể phòng thủ được.
Bốn mẫu có thể sao chép
1) Thiết lập khung công việc:
Vai trò của bạn: cố vấn dự án sinh học tính toán. Thiết kế quy trình làm việc toàn diện để trả lời câu hỏi sau: [câu hỏi]. Đối với mỗi bước, (1) phải làm gì, (2) AI trợ giúp ở đâu, (3) khung xác thực nên là gì, (4) nên sử dụng công cụ nào. Bao gồm bước xác nhận và minh bạch trong phòng thí nghiệm ướt.
2) Mã Python + yêu cầu kiểm tra:
Vai trò của bạn: nhà phát triển tin sinh học. Viết hàm Python thực hiện công việc sau: [job]. Thư viện: [gấu trúc/Biopython]. CŨNG thêm một ví dụ xác thực với một dữ liệu thử nghiệm ít được biết đến: đầu vào là gì, đầu ra dự kiến là gì. Tôi sẽ chạy mã và kiểm tra nó bằng dữ liệu thử nghiệm. Chức năng/tham số phù hợp không tồn tại.
3) Kiểm tra độ tái lập:
Tôi muốn làm cho phân tích của tôi có thể tái sản xuất. Cung cấp cho tôi danh sách kiểm tra: kiểm soát phiên bản, ghim môi trường (yêu cầu/conda), hạt giống ngẫu nhiên, đăng ký nguồn dữ liệu, tài liệu từng bước. Đưa ra cách ứng dụng thực tế cho từng mục.
4) Kiểm tra xác nhận kết quả:
Tôi muốn thực hiện kiểm tra xác thực lần cuối trước khi đưa kết quả phân tích vào báo cáo. Hãy đưa cho tôi danh sách kiểm tra gồm những câu hỏi sau: kết quả có hợp lý về mặt sinh học không, số liệu thống kê có chính xác không (nhiều xét nghiệm, mẫu), nó đã được xác nhận bằng các phương pháp độc lập chưa, nó có phụ thuộc vào nguồn không, có cần thử nghiệm ướt không, tuyên bố AI đã được thực hiện chưa?
Dấu nhắc yếu / Dấu nhắc mạnh
Dấu nhắc yếu:
Viết cho tôi mã Python để phân tích dữ liệu này.
Nhiệm vụ mơ hồ, không thử nghiệm, không xác minh; im lặng dễ bị lỗi.
Lời nhắc mạnh mẽ:
Vai trò của bạn: nhà phát triển tin sinh học. Đối với CSV (các cột: gen, control_mean, Treatment_mean, pvalue) có gấu trúc: (1) thêm cột thay đổi lần log2, (2) tính giá trị p đã hiệu chỉnh BH, (3) lọc ra padj<0,05 và |log2FC|>1. CŨNG hiển thị kết quả mong đợi với 5 hàng dữ liệu mẫu để tôi có thể xác minh. Không sử dụng tên cột sai hoặc chức năng không tồn tại.
Sự khác biệt: nhiệm vụ rõ ràng, số liệu thống kê rõ ràng, xác thực bằng dữ liệu thử nghiệm và cấm chế tạo.
Cổng xác thực quy trình làm việc từ đầu đến cuối
bước
Đóng góp của AI
cổng xác minh
giả thuyết
cảm hứng, văn học
Nó có thể kiểm tra hoặc hàn được không?
Dữ liệu/quyền riêng tư
danh sách kiểm tra
Khử nhận dạng, môi trường được phê duyệt
tiền xử lý
kịch bản
Kiểm soát lô/QC
Phân tích
mã, mô hình
Dữ liệu thử nghiệm, xe độc lập
Bình luận
dự thảo
Tâm sinh học, nhân quả tương quan
xác minh ướt
kế hoạch thử nghiệm
Kết quả thí nghiệm thực tế
Báo cáo
dự thảo
Khả năng tái tạo, minh bạch, phê duyệt của chuyên gia
Những lỗi thường gặp
- Nghĩ rằng mã làm việc là chính xác. “Làm việc không có lỗi” ≠ “kết quả đúng”; nên được thử với dữ liệu thử nghiệm.
- Vượt qua cổng xác minh. Việc vượt qua một cánh cửa vì tốc độ sẽ khiến tất cả các bước tiếp theo gặp rủi ro.
- Bỏ qua khả năng tái lập. Nếu không đăng ký môi trường/phiên bản thì kết quả sẽ không thể lặp lại được.
- Trì hoãn/bỏ qua việc xác minh ướt. Không thể đưa ra quyết định cho đến khi dự đoán của máy tính được xác nhận bằng thí nghiệm.
- Quên tính minh bạch và sự chấp thuận của chuyên gia. Chữ ký cuối cùng và khai báo AI là một phần của quy trình làm việc.
Tóm lại
Kỹ thuật sinh học có trách nhiệm sử dụng AI không phải như một công cụ riêng lẻ mà như một phần của quy trình làm việc từ đầu đến cuối được gắn với các cổng xác thực. Python và khả năng tái tạo là xương sống của luồng này; AI viết mã nhưng bạn xác minh nó bằng dữ liệu thử nghiệm, vì mã đang hoạt động không phải là mã chính xác. AI tăng tốc ở mọi bước, con người xác minh ở mọi cửa; Các giả thuyết quan trọng được thử nghiệm trong phòng thí nghiệm ẩm ướt và kết quả được báo cáo một cách minh bạch và được sự chấp thuận của chuyên gia. Bản chất của mô-đun này nằm trong một câu: Lấy tốc độ AI, giữ quyết định và trách nhiệm trong con người.
Nhiệm vụ ứng dụng
Thiết kế quy trình làm việc từ đầu đến cuối cho câu hỏi nghiên cứu của riêng bạn. Yêu cầu AI đưa ra kế hoạch bảy bước với mẫu “bộ khung quy trình làm việc” và thêm cổng xác minh của riêng bạn vào mỗi bước. Sau đó, in tập lệnh có mẫu “Mã Python + yêu cầu kiểm tra” cho một trong các bước phân tích, chạy tập lệnh đó với dữ liệu kiểm tra nhỏ và chứng minh rằng kết quả đầu ra là chính xác. Cuối cùng, hãy chuẩn bị danh sách "kiểm tra xác thực kết quả" và chuẩn bị sẵn quy trình làm việc này để báo cáo. Ghi lại toàn bộ quá trình ở định dạng (mã + phương tiện + tài liệu) có thể tái tạo.
danh sách kiểm tra
- [ ] Tôi đã thiết kế quy trình làm việc gồm bảy bước và một cổng xác minh ở mỗi bước.
- [ ] Tôi đã xác minh mã do AI viết bằng dữ liệu thử nghiệm đã biết.
- [ ] Tôi đã thực hiện phân tích có thể tái tạo (phiên bản, môi trường, hạt giống, tài liệu).
- [ ] Tôi cho rằng giả thuyết quan trọng là do việc xác nhận trong phòng thí nghiệm ẩm ướt.
- [ ] Tôi đã tích hợp các biện pháp kiểm soát an toàn sinh học và quyền riêng tư dữ liệu vào quy trình làm việc.
- [ ] Tôi đã hoàn thành báo cáo với tuyên bố AI minh bạch và sự chấp thuận của chuyên gia.
Thi học phần
1. Định vị nào sau đây là chính xác nhất cho trí tuệ nhân tạo trong công nghệ sinh học?
- A) AI là công cụ sàng lọc và soạn thảo; Trách nhiệm đối với các quyết định xác định ý nghĩa và sự an toàn sinh học thuộc về con người ✔
- B) Trí tuệ nhân tạo có thể đưa các phân tử ứng cử viên trực tiếp vào sản xuất mà không cần sự chấp thuận của con người
- C) Vì trí tuệ nhân tạo luôn khách quan hơn con người nên việc giải thích sinh học nên để cho nó.
- D) Trí tuệ nhân tạo chỉ hữu ích cho việc tóm tắt văn bản, nó không liên quan gì đến dữ liệu phòng thí nghiệm
Mô tả: Trí tuệ nhân tạo; Nó là một trợ lý quét dữ liệu khổng lồ và ồn ào, đánh dấu các mẫu và tạo ra các bản phác thảo. Chính chuyên gia có thẩm quyền mới là người đưa ra ý nghĩa sinh học, an toàn và quyết định cuối cùng; một bản in chưa được xác minh có thể khiến bệnh nhân, lô sản xuất hoặc ấn phẩm gặp rủi ro. Trong các lĩnh vực quan trọng về an toàn, kết quả đầu ra của AI không thể thay thế cho sự chấp thuận của chuyên gia.
2. Mục đích của bước 'liên kết nguồn' khi xác thực đầu ra AI là gì?
- A) Loại bỏ các kết luận bịa đặt (ảo giác) bằng cách kết nối từng tuyên bố với dữ liệu cụ thể hoặc nguồn gốc ✔
- B) Làm cho đầu ra trôi chảy hơn và dễ đọc hơn
- C) Bỏ qua xác nhận để hoàn thành phân tích nhanh hơn
- D) Chấp nhận các tài liệu tham khảo được đưa ra bởi trí tuệ nhân tạo
Mô tả: AI thông thạo nhưng đôi khi tạo ra ảo giác; có thể trình bày một gen, con đường hoặc tham chiếu không tồn tại là có thật. Việc liên kết từng tuyên bố với dữ liệu cứng hoặc nguồn ban đầu sẽ ngăn cản việc đưa ra kết luận bịa đặt trong báo cáo hoặc ấn phẩm.
3. Khi diễn giải kết quả BLAST hoặc căn chỉnh trình tự, cần phải làm gì để đánh giá sự trùng khớp 'tự tin'?
- A) Chỉ cần nhìn vào độ dài của chuỗi
- B) Dựa trực tiếp vào tên loại do trí tuệ nhân tạo đưa ra
- C) Đánh giá các số liệu căn chỉnh như phần trăm nhận dạng, mức độ phù hợp và giá trị điện tử cùng nhau ✔
- D) Chỉ cần đếm xem đầu ra có bao nhiêu dòng
Mô tả: Cần có các số liệu như phần trăm nhận dạng, phạm vi bao phủ và giá trị điện tử để xác thực cách diễn giải chuỗi. Giá trị điện tử nhỏ cho thấy sự giống nhau không phải là ngẫu nhiên. Nếu không có những số liệu này, việc giải thích 'protein này là cái kia' không thể được xác minh và có thể là ảo giác.
4. Tại sao 'giá trị p đã điều chỉnh' (padj) được sử dụng khi kiểm tra đồng thời 20.000 gen trong phân tích biểu hiện vi phân RNA-seq?
- A) Để tăng sự thay đổi tầng
- B) Để kiểm soát kết quả dương tính giả do xét nghiệm nhiều lần và hạn chế tỷ lệ phát hiện sai ✔
- C) Để giảm cỡ mẫu
- D) Để tăng tốc độ phân tích
Giải thích: Khi hàng nghìn gen được kiểm tra cùng lúc, hàng trăm gen có thể trở nên 'có ý nghĩa' dù chỉ là tình cờ. Nhiều thử nghiệm hiệu chỉnh như Stewamini-Hochberg hạn chế tỷ lệ phát hiện sai. Với giá trị p thô, danh sách trở nên căng thẳng một cách sai lầm; Sử dụng padj là điều cần thiết để có khả năng phòng thủ khoa học.
5. Cái bẫy nào xảy ra trong phân tích omics khi hai nhóm xử lý được xử lý vào những ngày khác nhau, dẫn đến nhầm lẫn sự khác biệt về mặt kỹ thuật với sự khác biệt về mặt sinh học?
- A) Lỗi chuyển tầng
- B) Tối ưu hóa codon
- C) Hiệu ứng hàng loạt ✔
- D) Hiệu ứng cạnh
Giải thích: Hiệu ứng hàng loạt là sự khác biệt về mặt kỹ thuật phát sinh từ việc xử lý mẫu theo các ngày, thiết bị hoặc con người khác nhau và là nguyên nhân gây ra lỗi lớn nhất trong phân tích omics. Trước khi bắt đầu phân tích, cần vẽ biểu đồ PCA và kiểm tra xem các mẫu có được phân cụm theo điều kiện sinh học hoặc lô hay không.
6. Điểm pLDDT có ý nghĩa gì đối với dự đoán cấu trúc protein được tạo ra bằng AlphaFold và nên sử dụng điểm này như thế nào?
- A) Thể hiện mức độ tin cậy của mô hình đối với từng vùng; Nên tránh những tuyên bố dựa trên vùng có độ tin cậy thấp ✔
- B) Nó đo tốc độ gấp nếp của protein và có thể bỏ qua
- C) Chứng minh rằng protein có cấu trúc chính xác đã được giải quyết bằng thực nghiệm.
- D) Cung cấp ái lực gắn kết trực tiếp
Mô tả: pLDDT là điểm tin cậy cho biết mức độ tin cậy của mô hình đối với từng axit amin. Giá trị cao (>90) nhìn chung đáng tin cậy; giá trị thấp hơn (<50) thường biểu thị các vùng không đều hoặc không rõ ràng. Cơ chế xác nhận quyền sở hữu dựa trên các vùng có độ tin cậy thấp là sai lầm; các cấu trúc quan trọng phải được xác minh bằng thực nghiệm.
7. Điểm gắn kết phân tử nên được giải thích như thế nào trong thiết kế thuốc/enzym?
- A) Nó nên được coi là ái lực ràng buộc tuyệt đối.
- B) Nó đảm bảo rằng một phân tử sẽ không bao giờ liên kết
- C) Nó là một công cụ tương đối để sắp xếp các phân tử trước khi thử nghiệm; Quyết định cuối cùng được đưa ra bằng phép đo ái lực thực nghiệm ✔
- D) Chỉ riêng nó là đủ để được phê duyệt lâm sàng
Nhận xét: Điểm gắn kết mang tính tương đối và không dự đoán mối quan hệ ràng buộc thực tế; Tỷ lệ dương tính giả cao. Cách sử dụng đúng là sắp xếp hàng nghìn phân tử trước khi thử nghiệm và làm nổi bật những phân tử có triển vọng nhất. Quyết định cuối cùng được đưa ra bằng phép đo ái lực thử nghiệm như SPR hoặc ITC.
8. Lỗ hổng chính của phương pháp 'từng biến một' (OFAT) đối với một kỹ sư xử lý sinh học đang tìm cách tối ưu hóa năm thông số là gì?
- A) Bỏ lỡ tương tác giữa các tham số ✔
- B) Luôn đòi hỏi ít thử nghiệm
- C) Tăng sức mạnh thống kê
- D) Tự động loại bỏ hiệu ứng hàng loạt
Giải thích: Phương thức OFAT bỏ sót tương tác giữa các tham số; có lẽ nhiệt độ cao chỉ tốt ở độ pH thấp. Thiết kế thử nghiệm (DoE) nắm bắt các tương tác và giảm số lượng thử nghiệm với thiết kế giai thừa thay đổi các tham số một cách đồng bộ và cân bằng.
9. Cách tiếp cận đúng khi mô hình tối ưu hóa khuyến nghị nhiệt độ sẽ giết chết vi khuẩn nuôi cấy trong phòng thí nghiệm là gì?
- A) Thực hiện đề xuất vì mô hình thông minh hơn
- B) Đưa ra các giới hạn an toàn và sinh lý làm ràng buộc cho mô hình và kiểm tra từng đề xuất bằng kiến thức trong phòng thí nghiệm ✔
- C) Từ bỏ hoàn toàn việc tối ưu hóa
- D) Thử bỏ qua giới hạn nhiệt độ
Giải thích: Mô hình không biết giới hạn sinh lý, an toàn; tối ưu về mặt toán học có thể nguy hiểm hoặc không thể thực hiện được. Cách tiếp cận đúng là đưa ra các giới hạn an toàn và sinh lý làm ràng buộc cho mô hình và kiểm tra từng đề xuất bằng kiến thức trong phòng thí nghiệm. Giới hạn vật lý vượt trội hơn mức tối ưu về mặt toán học.
10. Điều nào là bắt buộc khi đánh giá kết quả đếm tế bào tự động hoặc phân loại huỳnh quang?
- A) Chấp nhận kết quả trực tiếp, vì mô hình nhanh hơn con người
- B) Chỉ báo cáo số lượng hình ảnh
- C) Chỉ nhìn vào hình ảnh có tín hiệu cao nhất
- D) Xác minh thủ công kết quả đầu ra trên một mẫu và xác nhận bằng các biện pháp kiểm soát thích hợp (bao gồm cả âm tính, không nhuộm màu) ✔
Mô tả: Đầu ra tự động phải được xác minh thủ công trên một mẫu và mỗi phép đo phải được xác nhận bằng các biện pháp kiểm soát thích hợp (dương, âm, trắng, không nhuộm màu). Ví dụ: nếu có tín hiệu trong bộ điều khiển không nhuộm màu thì đây có thể là tín hiệu tự phát huỳnh quang; Nếu không có điều khiển, phân tích tự động không thể phân biệt tín hiệu thực với tín hiệu giả.
11. Nên làm gì nếu đề xuất tối ưu hóa trong quy trình sinh học làm tăng năng suất nhưng lại đưa thuộc tính chất lượng tới hạn (CQA) ra khỏi đặc điểm kỹ thuật?
- A) Vì hiệu quả là quan trọng nên lựa chọn hiệu quả cao được ưu tiên
- B) Hiệu quả được duy trì bằng cách nới lỏng giới hạn CQA
- C) Quyết định được giao cho trí tuệ nhân tạo
- D) Chất lượng được ưu tiên hơn hiệu quả; Ưu tiên lựa chọn chất lượng nằm trong không gian thiết kế ✔
Mô tả: Trong xử lý sinh học, chất lượng vượt trội năng suất; Các giới hạn CQA (độ tinh khiết, glycosyl hóa, hoạt tính) phải được duy trì để sản phẩm an toàn và hiệu quả. Nếu điểm tối đa hóa hiệu quả làm suy giảm chất lượng thì lựa chọn chất lượng còn lại trong không gian thiết kế sẽ được ưu tiên.
12. Rủi ro chính khi một mô hình ngôn ngữ được yêu cầu 'tìm 10 bài viết về chủ đề này và tóm tắt chúng' là gì?
- A) Mô hình chạy rất chậm
- B) Mô hình có thể tạo ra các tham chiếu thực tế nhưng không tồn tại (bịa đặt) mà không cần thực hiện tìm kiếm thực tế ✔
- C) Mô hình luôn tìm thấy quá nhiều bài viết
- D) Mô hình chỉ trả về các bài viết cũ
Giải thích: Các công cụ trò chuyện đơn giản thường không thực hiện tìm kiếm thực tế; tạo ra các câu trả lời 'dường như có khả năng' về mặt thống kê từ bộ nhớ. Điều này có nghĩa là tài liệu tham khảo thực tế nhưng giả mạo (tác giả, tạp chí, DOI bịa đặt). Mỗi tài liệu tham khảo phải được xác minh dựa trên cơ sở dữ liệu thực tế (PubMed, DOI) và nếu có thể, nên sử dụng các công cụ dựa trên RAG được liên kết với các tài liệu thực tế.
13. Hành vi đúng đắn khi người dùng yêu cầu AI về các đột biến sẽ làm tăng hiệu quả của độc tố vi khuẩn là gì?
- A) Trả lời yêu cầu một cách chi tiết vì nó khoa học
- B) Giảm rủi ro bằng cách chỉ cung cấp một phần thông tin
- C) Từ chối yêu cầu, giải thích rằng yêu cầu đó thuộc DURC và báo cáo cho kênh an toàn sinh học của tổ chức ✔
- D) Bỏ qua yêu cầu và chuyển sang chủ đề khác
Giải thích: Yêu cầu này là yêu cầu có hại theo mục đích sử dụng kép (DURC). AI phải từ chối các yêu cầu như vậy, giải thích lý do tại sao nó gây ra rủi ro sử dụng kép và báo cáo tình hình cho kênh đạo đức/an toàn sinh học của công ty. Không nên đưa ra lời khuyên kỹ thuật nào có thể làm tăng khả năng gây hại.
14. Kết luận nào là đúng khi đoạn script phân tích Python được viết bởi trí tuệ nhân tạo hoạt động không có lỗi?
- A) Kết quả hoàn toàn chính xác vì mã hoạt động
- B) Không cần kiểm tra mã vì AI đã viết nó
- C) Việc không có lỗi cũng đảm bảo khả năng tái tạo.
- D) Mã chạy có thể không chính xác; Đầu ra dự kiến phải được xác minh dựa trên dữ liệu thử nghiệm đã biết ✔
Giải thích: 'Nó hoạt động không có lỗi' và 'nó cho kết quả đúng' là hai việc khác nhau. Mã có thể âm thầm trả về kết quả sai do lỗi đơn vị, sai cột hoặc bộ lọc bị thiếu. Mỗi mã phải được kiểm tra bằng một dữ liệu thử nghiệm nhỏ có đầu vào và đầu ra đã biết; Tuy nhiên, nó nên được coi là đáng tin cậy khi nó mang lại kết quả như mong đợi.