Lợi nhuận:
- Có thể phân biệt nơi trí tuệ nhân tạo tạo ra giá trị an toàn trong quy trình làm việc y sinh và quyết định nào vẫn là trách nhiệm của bác sĩ và kỹ sư được ủy quyền.
- Khả năng áp dụng một nguyên tắc xác nhận chéo từng đầu ra AI theo thứ tự cường độ sinh lý, tính hợp lý về mặt lâm sàng và bằng chứng độc lập
- Nhận biết các rủi ro về ảo giác, rò rỉ dữ liệu và sự an toàn của bệnh nhân, đồng thời phát triển thói quen thiết lập các lời nhắc an toàn bằng cách ẩn danh bối cảnh.
Kỹ thuật y sinh là một nghề mà sự phức tạp của cơ thể con người và việc theo đuổi độ chính xác của kỹ thuật giao nhau. Tín hiệu ECG là bóng điện của tim, hình ảnh MRI là tiếng vang từ của mô, giá trị xét nghiệm là ảnh chụp nhanh. Tất cả các phép đo này đều gián tiếp, ồn ào và cần được giải thích. Trí tuệ nhân tạo (AI; hệ thống phần mềm học từ các mẫu dữ liệu lớn và tạo ra văn bản/hình ảnh/số) có thể tăng tốc độ diễn giải này, nhưng cũng có thể che giấu những sai sót của nó bằng ngôn ngữ trôi chảy. Đơn vị này đặt hai nền tảng để xây dựng toàn bộ mô-đun: AI tạo ra giá trị thực ở đâu trong quy trình y sinh và cách chúng tôi xác thực từng đầu ra.
Hãy vạch ra một ranh giới tuyệt đối ngay từ đầu: không có kỹ thuật nào bạn học trong suốt mô-đun này sẽ thay thế được chẩn đoán của bác sĩ có trình độ, sự chấp thuận của kỹ sư có năng lực và quy trình thiết bị đã được xác nhận. Trí tuệ nhân tạo không chẩn đoán được. Trí tuệ nhân tạo là trợ lý; Đọc nhanh, ký nhanh, nắm bắt mẫu. Nhưng nếu bỏ sót một khối u, thiết bị đưa ra cảnh báo sai, tính toán sai liều lượng thì trách nhiệm không thuộc về phần mềm mà thuộc về bác sĩ và kỹ sư đã đưa ra quyết định. Bạn sẽ thấy câu này ở các dạng khác nhau trong mỗi bài, bởi vì đây là sự thật duy nhất trong kỹ thuật liên quan đến an toàn bệnh nhân.
Trí tuệ nhân tạo tạo ra giá trị ở đâu trong quy trình y sinh?
Một tuần của kỹ sư y sinh hoặc nhóm công nghệ lâm sàng được chia thành ba loại công việc: chuẩn bị dữ liệu (làm sạch tín hiệu, tiền xử lý hình ảnh, chỉnh sửa bảng, trích xuất nhật ký), giải thích và phân tích (phát hiện phát hiện, phân loại, mô hình dự đoán, chấm điểm rủi ro) và truyền thông và tài liệu (tệp kỹ thuật, báo cáo xác nhận, tóm tắt tài liệu, hướng dẫn sử dụng thiết bị). AI chạm đến cả ba lĩnh vực, nhưng sự đóng góp và rủi ro của nó ở mỗi lĩnh vực là khác nhau.
Chuẩn bị dữ liệu là lĩnh vực trí tuệ nhân tạo an toàn nhất và có lợi nhất. Loại bỏ nhiễu khỏi tín hiệu thô, chia tỷ lệ hình ảnh thành kích thước tiêu chuẩn, dịch các ghi chú lâm sàng văn bản tự do thành các trường có cấu trúc, căn chỉnh các đơn vị không nhất quán—đây là những nhiệm vụ lặp đi lặp lại, dựa trên quy tắc và dễ xác minh. Kể cả nếu có sai sót ở đây thì cũng phải mất vài phút để quay lại nguồn (dữ liệu thô) và kiểm tra.
Lĩnh vực diễn giải và phân tích mang lại giá trị cao nhất và rủi ro cao nhất. AI có thể đánh dấu vùng đáng ngờ trong hình ảnh, phát hiện khả năng rối loạn nhịp tim trong tín hiệu; điều này có thể tiết lộ một mô hình có thể bị bỏ qua trong một phòng khám bận rộn. Nhưng cùng một mô hình có thể tự tin đưa ra một phát hiện không tồn tại (hiện tượng này được gọi là ảo giác: mô hình trình bày thông tin không tồn tại như thật). Trong lĩnh vực này, AI là công cụ đưa ra giả thuyết và ưu tiên, không phải là người đưa ra quyết định.
Công cụ tăng tốc dự thảo AI trong giao tiếp và tài liệu. Tạo phần phương pháp của báo cáo xác nhận, bản tóm tắt tài liệu hoặc bản thảo phân tích rủi ro đầu tiên trong vài phút. Rủi ro ở đây là các nguồn bịa đặt và những con số không chính xác có thể lọt vào một đoạn văn bản trôi chảy mà không bị chú ý.
Kỷ luật xác nhận: Quy tắc ba mỏ neo
Trọng tâm của mô-đun này là một thói quen duy nhất: không kết hợp bất kỳ đầu ra AI nào vào quyết định lâm sàng hoặc kỹ thuật mà không xác nhận nó. Chúng tôi xác thực dựa trên ba điểm neo độc lập.
Điểm neo đầu tiên - Thứ tự độ lớn sinh lý. Kết quả có nằm trong phạm vi đã biết của sinh lý con người không? Nhịp tim khi nghỉ ngơi thường là 50-100 nhịp mỗi phút; Nếu mô hình cho 400 thì có thể có lỗi giả hoặc lỗi chỉnh sửa. Nhiệt độ cơ thể người trưởng thành nằm trong khoảng 36-38 °C; 45 °C về mặt sinh lý không tương thích với các sinh vật sống. Tổng lượng máu của một người trưởng thành là khoảng 5 lít. Quá trình kiểm tra này mất vài giây và phát hiện được hầu hết các lỗi.
Neo thứ hai - Tính hợp lý về mặt lâm sàng. Kết quả đầu ra có phù hợp với bệnh sử lâm sàng của bệnh nhân và cơ sở y tế không? Nếu mô hình gợi ý “độ tin cậy cao” là một phát hiện nâng cao đối với một bệnh nhân 25 tuổi không có triệu chứng, thì xác suất trước xét nghiệm là thấp và tín hiệu này được xem xét với nhiều nghi ngờ hơn. Tuổi tác, giới tính, tiền sử và các triệu chứng là bộ lọc tính hợp lý mà mọi cách giải thích đều phải vượt qua.
Mỏ neo thứ ba - Bằng chứng độc lập. Đây là mỏ neo mạnh nhất. Một bài kiểm tra tiêu chuẩn tham khảo, phương pháp hình ảnh thứ hai, xác nhận của phòng thí nghiệm, ý kiến thứ hai của chuyên gia. Một phát hiện được AI gắn cờ sẽ được kiểm tra theo phương pháp tiêu chuẩn vàng hoặc đánh giá độc lập của chuyên gia. Sự thật lâm sàng luôn chiến thắng.
Ba trường hợp nhỏ: Bằng những con số
Trường hợp 1 - Tiết kiệm thời gian trong quá trình tiền xử lý tín hiệu. Một kỹ sư lâm sàng đang phân đoạn và gắn cờ các tạo tác theo cách thủ công trong 320 bản ghi ECG cho một nghiên cứu; trung bình 7 phút cho mỗi lần ghi, tổng cộng khoảng 37 giờ. Với quy trình xử lý trước được hỗ trợ bởi AI, nó đã giảm thời gian đánh dấu bản nháp đầu tiên xuống còn 40 giây cho mỗi bản ghi, dành thời gian còn lại cho việc kiểm tra trực quan. Tổng thời gian giảm xuống còn khoảng 12 giờ; điều quan trọng là thời gian tiết kiệm được dành cho việc xác minh.
Trường hợp 2 - Bị ảo giác. Khi một kỹ sư y sinh yêu cầu bản tóm tắt tài liệu cho báo cáo đánh giá lâm sàng của một thiết bị, văn bản có chứa câu “Yilmaz và cộng sự 2019 đã báo cáo độ nhạy 98%”. Không có bài viết như vậy; mô hình đã tạo ra sự phân bổ bằng cách bắt chước một mẫu thực. Xác minh nguồn (DOI và kiểm tra tạp chí) đã phát hiện lỗi trước khi báo cáo được ký.
Trường hợp 3 - Lỗi đơn vị. Trong công cụ hỗ trợ tính toán liều lượng, mô hình đã dịch chuyển thể tích khuyến nghị gấp 1000 lần bằng cách nhầm lẫn nồng độ thuốc với µg/mL thay vì mg/mL. Trình tự sinh lý của việc kiểm tra cường độ—“một người lớn được cho 2 ml chứ không phải 2 lít”—ngay lập tức bộc lộ sai sót. Cách tính này vẫn được dược sĩ và bác sĩ phê duyệt; AI chỉ đơn thuần là một công cụ điều khiển trung gian.
Nhắc yếu / Nhắc mạnh
Dấu nhắc yếu:
Nhìn vào dữ liệu của bệnh nhân này và nêu chẩn đoán của anh ta.[dữ liệu]
Lời nhắc mạnh mẽ:
Vai trò của bạn: Bạn là nhà phân tích dữ liệu y sinh (BẠN KHÔNG CHẨN ĐOÁN). Tóm tắt các phép đo ẩn danh sau đây CHỈ dựa trên dữ liệu được cung cấp. - Không chẩn đoán; Chỉ đưa ra những kết quả bằng số và so sánh phạm vi bình thường. - Không thêm bất kỳ phát hiện, giá trị hoặc câu chuyện nào không có trong dữ liệu. - Hiển thị dòng dữ liệu bạn đang dựa vào bằng dấu ngoặc đơn bên cạnh mỗi quan sát. - Ghi “không đủ số liệu” vào chỗ không rõ ràng. - Cuối cùng: lập danh sách riêng 3 điểm mà bác sĩ phải xác nhận. Dữ liệu ẩn danh: [đo lường]
Lời nhắc mạnh mẽ áp đặt ba điều lên mô hình: bám sát nguồn, không thừa nhận quyền chẩn đoán và đánh dấu những thứ cần xác minh. Điều này không chấm dứt hoàn toàn ảo giác nhưng nó làm cho nó hiển hiện và định vị vai trò một cách chính xác.
Bốn mẫu có thể sao chép
1) Thiết lập bối cảnh ẩn danh:
Tôi muốn được giúp đỡ trong một sứ mệnh y sinh. Tên bệnh nhân, danh tính, ngày tháng và thông tin tổ chức được BÍ MẬT; Tôi sẽ cung cấp cho họ những biểu thức đại diện như "Bệnh nhân-A", "Ngày-0". Nhiệm vụ: [nhiệm vụ]. Chỉ cần dựa vào dữ liệu kỹ thuật ẩn danh mà tôi cung cấp.
2) Ba yêu cầu xác minh neo:
Thực hiện ba lần kiểm tra cho kết quả đầu ra sau:1) Thứ tự độ lớn sinh lý: mỗi số có nằm trong phạm vi của con người không? Nếu không, đánh dấu.2) Tính hợp lý về mặt lâm sàng: có tuyên bố nào không phù hợp với độ tuổi/tiền sử/triệu chứng không?3) Danh sách xác minh: các mục cần được xác nhận bởi xét nghiệm/chuyên gia độc lập. Đầu ra: [văn bản]
3) Thực thi sự mơ hồ:
Đưa ra cách diễn giải của bạn ở ba mức độ tin cậy: - Độ tin cậy cao (được hỗ trợ trực tiếp bởi dữ liệu) - Độ tin cậy trung bình (suy luận hợp lý) - Suy đoán (yêu cầu dữ liệu/kiểm tra bổ sung) Nhiệm vụ: [nhiệm vụ]. Dữ liệu: [dữ liệu ẩn danh]
4) Phân biệt quyết định/hỗ trợ:
Chia nhiệm vụ sau thành hai:A) Dữ liệu/công việc nháp mà AI có thể thực hiện một cách tự tinB) Các điểm quyết định mà bác sĩ/kỹ sư được ủy quyền phê duyệt là BẮT BUỘC Mô tả nhiệm vụ: [định nghĩa]
Vai trò của AI: Rủi ro theo loại nhiệm vụ
Loại nhiệm vụ
Đóng góp của AI
Mức độ rủi ro
Mật độ xác minh
Tiền xử lý tín hiệu/hình ảnh
cao
thấp
kiểm tra tại chỗ
Tìm dấu hiệu sơ bộ
cao
trung bình
Chuyên môn + tính hợp lý
Dự đoán/cho điểm rủi ro
trung bình
cao
Hiệu chuẩn + độc lập
Quyết định chẩn đoán/điều trị
hạn chế
rất cao
Sự chấp thuận đầy đủ của bác sĩ
Báo cáo/bản thảo tài liệu
cao
trung bình
xác nhận nguồn
Quyết định bảo mật thiết bị
hạn chế
rất cao
Tiêu chuẩn + V&V + phê duyệt
Mẹo: Để xác định mức độ rủi ro của một nhiệm vụ, hãy hỏi một câu hỏi: “Điều gì xảy ra với bệnh nhân nếu kết quả này không chính xác?” Nếu câu trả lời là “Tôi sẽ mất vài phút”, hãy xác minh nhẹ nhàng; Nếu "một bệnh nhân có thể bị tổn hại", hãy coi kết quả đầu ra như một giả thuyết và chạy nó trong toàn bộ quy trình kỹ thuật/lâm sàng.
Chú ý: Đặc điểm nguy hiểm nhất của trí tuệ nhân tạo không phải là nó mắc lỗi mà là nó mắc lỗi một cách tự tin và bằng ngôn ngữ y khoa. Một văn bản trôi chảy, mang tính kỹ thuật và chuyên nghiệp không có nghĩa là nó đúng. Hãy tin vào bằng chứng chứ không phải phong cách.
Những lỗi thường gặp
- Nhầm lẫn sự trôi chảy với sự chính xác. Cho dù văn bản có vẻ y tế như thế nào, các tuyên bố thực tế (giá trị, phát hiện, nguồn, liều lượng) đều phải được xác minh độc lập.
- Không chia tỷ lệ rủi ro theo loại nhiệm vụ. Xem xét tài khoản liều lượng giống như cách xem bản nháp email. Việc xác nhận được mở rộng theo mức độ gây hại tiềm ẩn cho bệnh nhân.
- Nhập dữ liệu bệnh nhân mà không cần suy nghĩ. Dữ liệu sức khỏe là dữ liệu cá nhân đặc biệt; ẩn danh trước khi vào xe không được kiểm soát.
- Trao quyền chẩn đoán AI. AI không chẩn đoán; tạo ra các giả thuyết. Quyết định chẩn đoán và điều trị thuộc về bác sĩ.
- Bỏ qua sự không chắc chắn. Chỉ vì mô hình trông “tự tin” không có nghĩa là sự không chắc chắn đó biến mất; Yêu cầu mức độ tin cậy và phạm vi.
Tóm lại
- Các phép đo y sinh là gián tiếp và ồn ào; Trí tuệ nhân tạo vừa có thể tăng tốc độ vừa che giấu lỗi của chúng.
- Trí tuệ nhân tạo là an toàn nhất và có lợi nhất trong việc chuẩn bị dữ liệu, có giá trị nhất nhưng rủi ro nhất trong việc giải thích/phân tích và là công cụ tăng tốc trong tài liệu.
- Mỗi kết quả được xác nhận bởi ba điểm neo: thứ tự sinh lý, tính hợp lý về mặt lâm sàng, bằng chứng độc lập.
- Rủi ro của một kết quả tương đương với tác hại mà nó sẽ gây ra cho bệnh nhân nếu kết quả đó không chính xác; quy mô xác nhận cho phù hợp.
- AI không chẩn đoán; Mọi quyết định liên quan đến sự an toàn của bệnh nhân đều được thực hiện với sự chấp thuận của bác sĩ và kỹ sư được ủy quyền.
Nhiệm vụ ứng dụng
Liệt kê năm nhiệm vụ y sinh mà bạn thực hiện trong một tuần từ công việc của chính mình (ví dụ: xóa tín hiệu, tìm ánh sáng trước, phần báo cáo, chú thích rủi ro, kiểm tra thiết bị). Đặt mỗi thứ ở mức độ rủi ro theo bảng trong phần này và hỏi “điều gì xảy ra với bệnh nhân nếu nó sai?” Trả lời câu hỏi trong một câu. Sau đó viết một lời nhắc mạnh mẽ, ẩn danh cho nhiệm vụ có rủi ro thấp nhất và thử thực hiện; Kiểm tra đầu ra bằng ba điểm neo và lưu ý điểm neo nào gặp sự cố.
danh sách kiểm tra
- [ ] Tôi có thể phân biệt đâu là trí tuệ nhân tạo tạo ra giá trị an toàn và đâu là giá trị rủi ro trong quy trình làm việc y sinh.
- [ ] Tôi đã có được phản xạ để xác minh mọi kết quả bằng mức độ sinh lý, tính hợp lý về mặt lâm sàng và bằng chứng độc lập.
- [ ] Mức độ rủi ro của một nhiệm vụ "điều gì xảy ra với bệnh nhân nếu nó gặp trục trặc?" Tôi có thể xác định bằng câu hỏi.
- [ ] Tôi biết ảo giác và sự không chắc chắn là gì và làm thế nào để chúng có thể nhìn thấy được.
- [ ] Tôi đã hiểu rằng trí tuệ nhân tạo không chẩn đoán và quyết định chẩn đoán/điều trị là tùy thuộc vào bác sĩ.