Tích hợp từ đầu đến cuối, ranh giới và thực thi có trách nhiệm

Lợi nhuận:

• Khả năng kết hợp các phần hình ảnh, tín hiệu, dữ liệu và quy định thành một quy trình làm việc AI y sinh có trách nhiệm duy nhất
• Khả năng áp dụng các nguyên tắc kiểm tra con người trong vòng lặp, truy xuất nguồn gốc và giám sát sau phân phối
• Khả năng duy trì giới hạn ở mọi giai đoạn mà trí tuệ nhân tạo không thay thế được sự chấp thuận của bác sĩ và kỹ sư

Thi học phần

1. Nguyên tắc cơ bản nào sau đây quyết định rủi ro của đầu ra AI trong kỹ thuật y sinh?

• A) Rủi ro của kết quả đầu ra tương đương với tác hại mà nó có thể gây ra cho bệnh nhân nếu kết quả đầu ra không chính xác; thang đo xác nhận phù hợp ✔
• B) Đầu ra AI nhìn chung là an toàn vì được viết trôi chảy và có tính kỹ thuật
• C) Việc xác nhận là không cần thiết khi sử dụng mô hình mới nhất
• D) Nếu đầu ra đề cập đến sổ tay thì không cần kiểm tra thêm

Giải thích: Rủi ro của kết quả đầu ra tương đương với tác hại đối với bệnh nhân nếu kết quả đầu ra đó không chính xác. Mặc dù một sai sót nhỏ trong phần tóm tắt tài liệu có nguy cơ thấp, nhưng một sai sót trong quá trình phát hiện hình ảnh hoặc quyết định lâm sàng đe dọa trực tiếp đến sự an toàn của bệnh nhân; Do đó, cường độ xác minh sẽ tăng theo mức độ nguy hại tiềm ẩn và mọi quyết định liên quan đến sự an toàn của bệnh nhân đều phụ thuộc vào sự chấp thuận của bác sĩ.

2. Vai trò thích hợp của mô hình phát hiện được hỗ trợ bởi AI trong ứng dụng lâm sàng trong X quang là gì?

• A) Tự động phê duyệt báo cáo của bác sĩ X quang và loại bỏ khối lượng công việc
• B) Đóng các trường hợp có mức độ ưu tiên thấp mà không cần gặp bác sĩ X quang
• C) Nếu xác suất mô hình cao, hãy chẩn đoán mà không cần kiểm tra bổ sung
• D) Là một công cụ hỗ trợ thu hút sự chú ý đến việc phát hiện và ưu tiên nó, nhưng trách nhiệm chẩn đoán vẫn thuộc về bác sĩ X quang ✔

Mô tả: Image AI là công cụ hỗ trợ ra quyết định: thu hút, ưu tiên, đo lường và gắn cờ; tuy nhiên, trách nhiệm chẩn đoán vẫn thuộc về bác sĩ X quang. Đầu ra của mô hình không thay thế cho quyết định của bác sĩ X quang, nó chỉ là đầu vào. Kết quả đầu ra được sử dụng cùng với đánh giá lâm sàng độc lập vì luôn có thể xảy ra dương tính giả và âm tính giả.

3. Vấn đề thường gặp nhất khi chuyển hiệu suất của mô hình AI từ phòng thí nghiệm này sang phòng thí nghiệm khác trong bệnh lý kỹ thuật số là gì?

• A) Mô hình hoạt động rất nhanh
• B) Tệp slide quá nhỏ
• C) Sự thay đổi miền do sự khác biệt về nhuộm và quét ✔
• D) Các nhà nghiên cứu bệnh học hoàn toàn không muốn sử dụng mô hình

Mô tả: Quy trình nhuộm, nhãn hiệu máy quét và độ dày phần khác nhau tùy theo từng phòng thí nghiệm; Nếu mô hình đã học dựa trên số liệu thống kê hình ảnh của một phòng thí nghiệm, hiệu suất của nó sẽ giảm ở phòng thí nghiệm khác. Hiện tượng này được gọi là dịch chuyển miền và là nguyên nhân phổ biến nhất gây ra lỗi trong bệnh lý kỹ thuật số; Đó là lý do tại sao việc xác thực bên ngoài và chuẩn hóa màu sắc là rất quan trọng.

4. Phản xạ xác nhận đầu tiên của kỹ sư là gì khi mô hình phân loại ECG gắn nhãn 'rung nhĩ'?

• A) Ghi nhãn trực tiếp vào hồ sơ bệnh nhân để chẩn đoán
• B) Kiểm tra tín hiệu thô, hiện vật và tính hợp lý về mặt sinh lý và để bác sĩ quyết định ✔
• C) Nếu điểm tin cậy của mô hình cao thì không cần bất kỳ biện pháp kiểm soát nào khác.
• D) Hướng dẫn bệnh nhân điều trị bằng thuốc

Giải thích: Đầu ra trước tiên phải được kiểm tra độ tin cậy sinh lý và chất lượng tín hiệu: độ lệch đường cơ sở, tạo tác cơ hoặc giãn điện cực trong bản ghi có thể bắt chước nhịp điệu. Sẽ là sai lầm khi tin tưởng vào nhãn mà không nhìn vào tín hiệu thô và khoảng R-R; Chẩn đoán nhịp cuối cùng thuộc về bác sĩ. Mô hình tạo ra tín hiệu sơ bộ, nó không đưa ra quyết định.

5. Tính năng chính của việc xử lý tín hiệu EEG bằng AI khiến việc xác minh trở nên đặc biệt khó khăn là gì?

• A) Tỷ lệ tín hiệu trên nhiễu thấp và độ tạo tác/độ biến thiên cao ✔
• B) Tín hiệu EEG có biên độ rất cao và không bị nhiễu
• C) Ghi EEG chỉ từ một kênh
• D) Dữ liệu EEG không bao giờ là kỹ thuật số

Giải thích: Điện não đồ là tín hiệu có biên độ rất thấp (phạm vi microvolt) và dễ bị ô nhiễm bởi các tạo tác như chớp mắt, chuyển động cơ, điện cực và nhiễu mạng; Ngoài ra, độ biến thiên giữa các cá nhân và bản ghi là cao. Tỷ lệ tín hiệu trên nhiễu thấp này khiến cho kết quả đầu ra của mô hình trở nên mong manh và cần có sự xác nhận của chuyên gia sinh lý thần kinh.

6. Giới hạn quan trọng nhất khi làm việc với dữ liệu nhịp tim từ thiết bị đeo của người tiêu dùng là gì?

• A) Máy nhanh hết pin
• b) Lưu trữ dữ liệu trên đám mây
• C) Thiết bị thường không được chứng nhận về mặt y tế và tín hiệu dễ bị giả/sai lệch ✔
• D) Thiết bị quá đắt

Tiết lộ: Hầu hết các thiết bị đeo của người tiêu dùng không được chứng nhận là thiết bị y tế; Tín hiệu PPG (photoplethysmography) bị ảnh hưởng bởi tạo tác chuyển động và các yếu tố như tông màu da tối và hình xăm có thể làm giảm độ chính xác. Những dữ liệu này có giá trị về xu hướng/nhận thức, nhưng cần phải có phép đo lâm sàng được xác nhận và đánh giá của bác sĩ để đưa ra quyết định chẩn đoán.

7. “Rò rỉ tạm thời” nghĩa là gì khi xây dựng mô hình dự đoán bằng dữ liệu hồ sơ sức khỏe điện tử (EHR)?

• A) Lưu trữ dữ liệu được mã hóa
• B) Rò rỉ thông tin trong tương lai vào các tính năng chưa tồn tại tại thời điểm dự đoán ✔
• C) Dữ liệu quá cũ
• D) Huấn luyện mô hình quá chậm

Giải thích: Rò rỉ tạm thời là sự can thiệp của các tính năng đào tạo với thông tin chưa có tại thời điểm dự đoán (tương lai); ví dụ, sử dụng chẩn đoán xuất viện để dự đoán rủi ro khi nhập viện. Điều này dẫn đến hiệu suất cao trong phòng thí nghiệm nhưng lại giảm hiệu suất khi sử dụng lâm sàng thực tế và là một trong những sai sót nguy hiểm nhất của các mô hình dữ liệu lâm sàng.

8. Điều nào sau đây trở thành bắt buộc khi bản thân một phần mềm được mô tả là 'phần mềm thiết bị y tế' (SaMD)?

• A) Chỉ cần làm việc nhanh là đủ
• B) Không yêu cầu bất kỳ tài liệu nào
• C) Chỉ cần giao diện đẹp
• D) Kiểm soát thiết kế, quản lý rủi ro, xác minh/xác nhận và tuân thủ quy định trở thành bắt buộc ✔

Mô tả: SaMD (Software as a Medical Device) là phần mềm hoạt động với mục đích chẩn đoán, điều trị hoặc theo dõi và không phụ thuộc vào bất kỳ phần cứng nào. Trong trường hợp này, các biện pháp kiểm soát thiết kế, quản lý rủi ro (ISO 14971), xác minh/xác nhận và tuân thủ quy định là bắt buộc; Phần mềm không thể được coi là 'chỉ là phần mềm' vì lỗi của nó ảnh hưởng trực tiếp đến sự an toàn của bệnh nhân.

9. Rủi ro nghiêm trọng nhất khi bạn yêu cầu AI cung cấp điều khoản hoặc số tiêu chuẩn MDR (Chỉ thị về Thiết bị Y tế) là gì?

• A) Mô hình tạo ra các tài liệu tham khảo tiêu chuẩn/bài viết giả mạo và trình bày chúng một cách an toàn ✔
• B) Mô hình đưa ra câu trả lời quá ngắn
• C) Người mẫu trả lời bằng tiếng Anh
• D) Mô hình phản hồi quá chậm

Giải thích: Mô hình ngôn ngữ có thể tự tin tạo ra số mục không tồn tại, phiên bản tiêu chuẩn không chính xác và tài liệu tham khảo bịa đặt (ảo giác). Trong việc tuân thủ quy định, việc tham chiếu chất không chính xác sẽ dẫn đến việc không tuân thủ nghiêm trọng; vì vậy, mỗi ghi nhận phải được xác minh độc lập với văn bản chính thức, AI chỉ nên được sử dụng để điều hướng/soạn thảo.

10. Dữ liệu sức khỏe thuộc loại nào trong phạm vi của KVKK và điều này có nghĩa là gì?

• A) Dữ liệu cá nhân thông thường; có thể được xử lý tự do
• B) Đó không phải là dữ liệu cá nhân; không có hạn chế
• C) Các loại dữ liệu cá nhân đặc biệt; Được xử lý với các điều kiện và biện pháp bảo vệ nghiêm ngặt hơn ✔
• D) Chỉ bí mật kinh doanh; không cần sự riêng tư

Giải thích: Dữ liệu sức khỏe được coi là “dữ liệu cá nhân đặc biệt” trong KVKK; Theo quy định, việc xử lý phụ thuộc vào sự đồng ý rõ ràng hoặc các trường hợp ngoại lệ do pháp luật quy định và yêu cầu các biện pháp bảo vệ nghiêm ngặt hơn. Vì vậy, dữ liệu bệnh nhân không thể được nhập vào các công cụ không được kiểm soát; Việc ẩn danh, hạn chế truy cập và thỏa thuận xử lý dữ liệu là bắt buộc.

11. 'Hiệu chuẩn' có nghĩa là gì trong mô hình AI lâm sàng và tại sao nó lại quan trọng?

• A) Mô hình chạy nhanh như thế nào
• B) Mô hình có bao nhiêu tham số?
• C) Màu sắc giao diện của mô hình
• D) Khả năng tương thích của xác suất do mô hình đưa ra với tần suất sự kiện thực tế ✔

Giải thích: Việc hiệu chỉnh là sự phù hợp giữa xác suất mà mô hình đưa ra với tần suất thực tế: sự kiện thực sự sẽ xảy ra ở khoảng 20% số bệnh nhân mà mô hình cho biết 'nguy cơ 20%'. Vì các quyết định trong phòng khám được đưa ra dựa trên ngưỡng xác suất, nên một mô hình được hiệu chỉnh kém sẽ dẫn đến các quyết định về ngưỡng không chính xác ngay cả khi nó được xếp hạng chính xác; do đó, việc hiệu chuẩn cũng như độ phân biệt (AUC) phải được xác minh.

12. Tại sao 'hiệu suất nhóm con' phải được kiểm tra riêng biệt trong các mô hình dữ liệu hình ảnh, tín hiệu hoặc dữ liệu lâm sàng?

• A) Chỉ cần độ chính xác tổng thể là đủ
• B) Vì các nhóm con ảnh hưởng đến tốc độ mô hình
• C) Số liệu chung có thể che giấu sự kém hiệu quả và sai lệch ở các nhóm bệnh nhân cụ thể ✔
• D) Phân tích nhóm con chỉ cần thiết cho hoạt động tiếp thị

Giải thích: Mặc dù một mô hình có thể trông đẹp ở mức trung bình nhưng nó có thể hoạt động kém hơn đáng kể ở một số nhóm nhỏ nhất định (tuổi, giới tính, màu da, loại thiết bị, bệnh viện); Số liệu chung che giấu sự bất bình đẳng này. Trong chăm sóc sức khỏe, điều này dẫn đến tác hại có hệ thống ở một số nhóm bệnh nhân; Vì vậy, việc thực hiện nên được chia thành các nhóm nhỏ và báo cáo cho công bằng.

13. Cách tiếp cận tốt nhất chống lại nguy cơ 'tái nhận dạng' khi làm việc với dữ liệu bệnh nhân là gì?

• A) Chỉ cần xóa tên là đủ trong mọi trường hợp.
• B) Khái quát hóa các định danh gián tiếp cũng như các định danh trực tiếp và hạn chế quyền truy cập ✔
• C) Nếu dữ liệu thuộc về một số ít người thì không cần có biện pháp phòng ngừa nào
• D) Chỉ thay đổi tên tệp thay vì mã hóa

Mô tả: Ngay cả dữ liệu đã bị xóa tên cũng có thể được xác định lại bằng sự kết hợp hiếm hoi giữa chẩn đoán, ngày sinh, mã vùng và ngày. Vì vậy, chỉ trích xuất các số nhận dạng trực tiếp là chưa đủ; Các kỹ thuật như dịch chuyển ngày, khái quát hóa, ẩn danh k và kiểm soát truy cập nên được áp dụng cùng nhau và văn bản tự do nhạy cảm cũng cần được làm sạch.

14. Lý do chính để duy trì khả năng kiểm soát 'con người trong vòng lặp' từ đầu đến cuối trong quy trình làm việc AI y sinh là gì?

• A) Sự kiểm soát của con người chỉ tạo ra sự chậm chạp và cần được loại bỏ
• B) Nếu điểm tin cậy của mô hình cao thì việc xác nhận của con người là không cần thiết
• C) Không có lý do thực tế nào ngoài nghĩa vụ pháp lý
• D) AI có thể bị sai lệch và sai sót; Các quyết định và trách nhiệm về an toàn của bệnh nhân phải thuộc về chuyên gia có trình độ ✔

Mô tả: Trí tuệ nhân tạo tạo ra, ưu tiên và đưa ra các giả thuyết; nhưng các mẫu mà nó học được từ dữ liệu có thể không đầy đủ, sai lệch hoặc nằm ngoài ngữ cảnh. Điều bắt buộc là các quyết định liên quan đến an toàn của bệnh nhân phải được sự chấp thuận của bác sĩ và kỹ sư được ủy quyền, vừa để phát hiện sai sót vừa để đảm bảo trách nhiệm được đặt đúng chỗ; AI không thay thế sự phê duyệt này ở bất kỳ giai đoạn nào.