Lợi nhuận:
- Có thể phân biệt đâu là trí tuệ nhân tạo giúp tiết kiệm thời gian thực trong quy trình làm việc lâm sàng và đâu là trách nhiệm chẩn đoán và điều trị thuộc về bác sĩ có thẩm quyền, tùy theo mức độ rủi ro
- Khả năng triển khai kỷ luật xác thực nhiều lớp để kiểm tra từng đầu ra AI dựa trên hướng dẫn hiện tại, kiểm tra lâm sàng và các nguồn độc lập
- Khả năng hình thành thói quen ẩn danh bối cảnh, tuân thủ KVKK và chọn công cụ đảm bảo quyền riêng tư để bảo vệ dữ liệu bệnh nhân.
Y học là một chuỗi quyết định lâu dài và có trách nhiệm, biến khiếu nại thành chẩn đoán chính xác và chẩn đoán chính xác thành phương pháp điều trị an toàn. Một số liên kết trong chuỗi này (thư từ, tóm tắt, soạn thảo, nhắc nhở) có thể nhanh chóng được tự động hóa; Một số không bao giờ có thể chuyển vào máy được vì chúng liên quan trực tiếp đến cuộc sống con người. Trí tuệ nhân tạo (viết tắt là AI; phần mềm học các mẫu từ lượng lớn dữ liệu và tạo ra văn bản, hình ảnh hoặc mã) là một máy gia tốc rất mạnh trong chuỗi này: mở rộng danh sách chẩn đoán phân biệt, soạn thảo sử thi, tóm tắt tài liệu, đơn giản hóa ghi chú thông tin bệnh nhân. Nhưng AI không phải là bác sĩ; Anh ta không khám, không chịu trách nhiệm, không biết bệnh nhân, không ký. Trong phần này, bạn sẽ tìm hiểu cách sử dụng AI trong công việc lâm sàng, vị trí cần thực hiện và cách xác thực từng đầu ra. Mục tiêu là biến bạn thành bác sĩ điều khiển AI chứ không phải người phụ thuộc vào AI.
Nguyên tắc chính đã rõ ràng ngay từ đầu: AI không chẩn đoán, không bắt đầu điều trị. Quyết định chẩn đoán và điều trị được thực hiện bằng việc khám và phán đoán lâm sàng của thầy thuốc có thẩm quyền; AI chỉ tạo ra các đề xuất và bản nháp.
AI có thể làm gì và không thể làm gì trong y học?
Sức mạnh thực sự của AI là tạo ra ngôn ngữ, mô hình và biến thể. Lời nhắc chẩn đoán phân biệt, phác thảo tiền sử (lịch sử bệnh nhân), khung biểu hiện, tóm tắt bằng chứng và văn bản thông tin bệnh nhân xuất hiện sau vài giây. Trong những nhiệm vụ này, AI có thể giúp bạn tiết kiệm vài phút, đôi khi hàng giờ và nhắc nhở bạn về một khả năng có thể bị bỏ qua.
Điều AI không thể làm là phán đoán lâm sàng, điều này đòi hỏi phải có trách nhiệm. Nhìn, nghe, sờ nắn bệnh nhân; giải thích những phát hiện trong toàn bộ bệnh nhân; đưa ra quyết định trong điều kiện không chắc chắn. AI gây ảo giác vì nó học từ các văn bản trên internet và trong sách: nghĩa là nó có thể tạo ra những gì có vẻ như thật nhưng lại sai liều lượng, một tác phẩm tưởng tượng, một chất hướng dẫn không tồn tại. Trong y học, loại lỗi này không chỉ là lỗi đánh máy; Điều trị sai, chẩn đoán sai có nghĩa là gây hại cho bệnh nhân.
Lưu ý: Kết quả đầu ra của AI là bản nháp, không phải ý kiến chuyên gia. Không có quyết định quan trọng nào về an toàn (chẩn đoán, điều trị, liều lượng, phân loại) có thể được đưa ra mà không có sự chấp thuận của bác sĩ có thẩm quyền. AI không thay thế sự đồng ý này và không chia sẻ trách nhiệm pháp lý.
Ba vùng theo mức độ rủi ro
Cách thiết thực nhất để sử dụng AI một cách an toàn là chia mỗi nhiệm vụ thành ba vùng dựa trên mức độ rủi ro. Sự khác biệt này tập trung vào việc “AI có nên làm điều này không?” Trả lời câu hỏi nhanh chóng và chính xác.
Vùng
Nhiệm vụ mẫu
Vai trò của AI
Mức độ xác minh
Xanh (rủi ro thấp)
Ghi chú cuộc họp, đơn giản hóa ngôn ngữ, email nháp, định dạng, tóm tắt đào tạo
sản xuất miễn phí
Đánh giá nhanh
Vàng (rủi ro trung bình)
Bản thảo tiền sử/epicrisis, tóm tắt tài liệu, ghi chú thông tin bệnh nhân, nhắc nhở chẩn đoán phân biệt, khuyến nghị mã hóa
Dự thảo + đề xuất
Kiểm soát của bác sĩ + xác nhận nguồn
Màu đỏ (bảo mật quan trọng)
Chẩn đoán xác định, quyết định điều trị/liều lượng, phân loại, kê đơn, báo cáo hình ảnh
Chỉ quét trước/nhắc nhở
Sự kiểm tra và phê duyệt của bác sĩ có thẩm quyền là bắt buộc
Hãy nhanh chóng trong vùng màu xanh lá cây. Sử dụng AI trong vùng màu vàng nhưng hãy xác minh mọi thông tin và nguồn y tế. Trong vùng màu đỏ, AI không bao giờ có tiếng nói cuối cùng; Nó chỉ là một sự trợ giúp giúp đẩy nhanh công việc của bác sĩ.
Kỷ luật xác minh nhiều lớp
Việc xác minh không phải là việc có thể trì hoãn với suy nghĩ "Tôi sẽ kiểm tra nó sau"; là một phần của quy trình làm việc. Một xác minh vững chắc bao gồm năm lớp:
- Trở về nguồn. Nếu AI đã đưa ra liều lượng, tiêu chuẩn chẩn đoán hoặc khuyến nghị, hãy xác nhận điều đó trong hướng dẫn lâm sàng hiện tại, tờ hướng dẫn sử dụng hoặc bài viết chính.
- Kiểm tra nó trên lâm sàng. So sánh khuyến nghị với kết quả khám thực tế của bệnh nhân, xét nghiệm và hình ảnh. Đề xuất không tuân thủ sẽ bị từ chối.
- Tài khoản độc lập. Tự tính toán lại kết quả bằng số (liều lượng, độ thanh thải creatinine, tính toán lượng dịch) hoặc bằng công cụ đã được xác nhận.
- Mắt chuyên gia. Nếu quyết định liên quan thuộc về chuyên môn của một chuyên khoa khác (X quang, tim mạch, bệnh lý), hãy tham khảo ý kiến chuyên gia đó hoặc xin phê duyệt.
- Để lại dấu ấn của bạn. Lưu ý trong tệp đầu ra nào đã được xác thực và cách thực hiện; Hãy để nó được kiểm tra sau.
Gợi ý: "AI nói" không phải là lời biện minh. Cơ sở lý luận cho một quyết định lâm sàng luôn là việc kiểm tra, hướng dẫn hiện hành, xét nghiệm/hình ảnh hoặc ý kiến chuyên gia có thẩm quyền. AI giúp bạn chuẩn bị những lời biện minh này, nó không thay thế chúng.
ba trường hợp nhỏ
Trường hợp 1 - Sử dụng đúng cách giúp tiết kiệm thời gian. Một bác sĩ đa khoa đang viết bản phác thảo về một bệnh nhân 42 tuổi bị ho 3 ngày và sốt 38,2 độ C yêu cầu bản nháp từ AI với bối cảnh ẩn danh. AI tạo ra bộ xương sử thi thông thường trong 4 phút; Bác sĩ đối chiếu từng dòng với hồ sơ thật, sửa 2 chỗ nhỏ và ký tên. Tổng thời gian giảm từ 25 phút xuống còn 8 phút. Quyết định và trách nhiệm thuộc về bác sĩ; AI chỉ giúp việc gõ phím nhanh hơn.
Trường hợp 2 - Bị ảo giác. Một bác sĩ yêu cầu tài nguyên AI cho một hội chứng hiếm gặp. AI đưa ra 3 bài báo rất thuyết phục có tựa đề “Tạp chí Y học New England 2021”. Bác sĩ tìm kiếm những thông tin này trên PubMed; 2 trong số đó hoàn toàn không tồn tại, kết quả của 1 hoàn toàn ngược lại. AI đã tạo ra ngôn ngữ an toàn. Nếu không có sự xác nhận thì những nguồn này sẽ được đưa vào tổng hợp.
Trường hợp 3 - Đường viền vùng màu đỏ. Trong phòng cấp cứu, bác sĩ yêu cầu AI tăng tốc độ phân loại bệnh nhân bị đau ngực. AI nói "rủi ro thấp". Bác sĩ vẫn đo điện tâm đồ và kê đơn thuốc troponin; Troponin cao, chẩn đoán hội chứng mạch vành cấp. Đầu ra AI không thể loại bỏ sự nghi ngờ lâm sàng; Trong vùng màu đỏ, quyết định thuộc về bác sĩ.
Từng bước: Đưa AI vào một nhiệm vụ một cách an toàn
- Đặt nhiệm vụ trong khu vực. Xanh, vàng hay đỏ?
- Ẩn danh bối cảnh. Xóa các định danh như tên, TR ID, số tập tin (KVKK).
- Đưa ra một bản tóm tắt rõ ràng. Viết rõ ràng bối cảnh lâm sàng, câu hỏi và định dạng mong muốn.
- Hãy coi đầu ra là một bản nháp. Không bao giờ sử dụng nó như một quyết định cuối cùng.
- Áp dụng các lớp xác minh. Nguồn, phòng khám, tài khoản, chuyên gia, dấu vết.
- Ghi lại quyết định và lý do của nó.
Bốn mẫu có thể sao chép
Vai trò: Bạn là trợ lý viết lâm sàng, không phải bác sĩ. Nhiệm vụ: Tạo BẢN THẢO cho [nhiệm vụ]. Bối cảnh (ẩn danh): Tuổi […], giới tính […], khiếu nại […], phát hiện […]. Quy tắc: Dán nhãn "BẮT BUỘC XÁC NHẬN" cho mỗi liều lượng/chẩn đoán/nguồn mà bạn không chắc chắn. Ranh giới: Đưa ra chẩn đoán, bắt đầu điều trị; Chỉ đưa ra gợi ý và bản nháp. Hình thức: Trong dấu đầu dòng, có lý do.
Nhiệm vụ: LIST tất cả các tuyên bố y tế, giá trị liều lượng, tiêu chuẩn chẩn đoán và trích dẫn nguồn trong văn bản dưới đây. Thêm ghi chú "nguồn phải được xác minh" cho mỗi nguồn. Đừng tự mình xác minh, chỉ cần đánh dấu nó. Văn bản: […]
Nhiệm vụ: Phân loại đầu ra AI này theo mức độ rủi ro theo quan điểm của bác sĩ. Với mỗi mục: xanh/vàng/đỏ và đưa ra một câu giải thích. Viết "cần có sự kiểm tra và phê duyệt của bác sĩ có trình độ" trong các mục màu đỏ. Đầu ra: […]
Nhiệm vụ: Ẩn danh văn bản bệnh nhân/trường hợp bên dưới. Thay thế các thông tin nhận dạng như tên, họ, TR ID, số tệp, địa chỉ, số điện thoại và ngày bằng [LABEL]; bảo tồn ý nghĩa lâm sàng. Văn bản: […]
Dấu nhắc yếu / Dấu nhắc mạnh
Yếu: “Bệnh nhân này bị bệnh gì, chẩn đoán thế nào?”
Strong: "Liệt kê CÁC KHẢ NĂNG chẩn đoán phân biệt cho một trường hợp ẩn danh như một lời nhắc nhở: 55 tuổi, nam, khó thở ngày càng tăng trong 2 tuần, phù nề ở chân, tiền sử hút thuốc. KHÔNG CHẨN ĐOÁN; viết ra việc khám/xét nghiệm nào sẽ phân biệt cho từng khả năng và đánh dấu các dấu hiệu khẩn cấp. Nói rõ rằng đây là một lời nhắc nhở, quyết định là ở bác sĩ."
Trong lời nhắc mạnh mẽ, bối cảnh, ranh giới và kết quả mong đợi đều rõ ràng; Rõ ràng AI sẽ đứng ở đâu.
Những lỗi thường gặp
- Nhầm đầu ra AI với ý kiến chuyên gia. AI tạo ra các bản phác thảo và đề xuất chứ không phải chẩn đoán.
- Ủy quyền đưa ra quyết định quan trọng về an toàn cho AI. Chẩn đoán, điều trị, liều lượng, phân loại không bao giờ được giao phó cho AI.
- Sử dụng thông tin mà không kiểm chứng nguồn. Mỗi liều lượng, tiêu chí và tài liệu tham khảo phải được xác minh từ nguồn hiện tại.
- Đang tải dữ liệu bệnh nhân trực tiếp. Không nên bỏ qua việc ẩn danh và lựa chọn phương tiện tuân thủ KVKK.
- Không nhận thấy ảo giác. Mặc dù AI có vẻ tự tin nhưng nó có thể sai; Một tuyên bố chắc chắn không phải là bằng chứng của sự thật.
Tóm lại
AI là một máy gia tốc thực sự trong y học, nhưng nó không thể thay thế bác sĩ. Chia nhiệm vụ thành các vùng xanh, vàng và đỏ; Hãy nhanh chóng ở màu xanh lá cây, xác nhận ở màu vàng, đừng bao giờ đưa ra quyết định cuối cùng cho AI về màu đỏ. Hãy coi mọi đầu ra đều là bản nháp và chuyển nó qua quá trình xác minh năm lớp. Hãy coi trọng quyền riêng tư của bệnh nhân và KVKK. Trách nhiệm chẩn đoán và điều trị luôn thuộc về bác sĩ có thẩm quyền; AI không chia sẻ trách nhiệm này.
Nhiệm vụ ứng dụng
Chọn ba nhiệm vụ từ quá trình thực hành của riêng bạn (ví dụ: viết sử thi, tóm tắt tài liệu, kiểm soát liều lượng). Phân loại từng màu xanh lá cây/vàng/đỏ. Viết ra những lớp xác minh nào bạn sẽ áp dụng cho nhiệm vụ màu vàng và đỏ và những gì cần kiểm tra/phê duyệt đối với nhiệm vụ màu đỏ. Ngoài ra, hãy tìm và ghi chú trong chính sách quyền riêng tư của công cụ AI mà bạn sử dụng xem liệu nó có sử dụng dữ liệu trong đào tạo hay không.
danh sách kiểm tra
- [ ] Tôi đã đặt nhiệm vụ vào vùng rủi ro.
- [ ] Tôi đã ẩn danh bối cảnh (KVKK).
- [ ] Tôi đã đưa ra một bản tóm tắt rõ ràng, phù hợp về mặt lâm sàng.
- [ ] Tôi coi kết quả đầu ra là bản nháp.
- [ ] Tôi đã xác nhận liều lượng/chẩn đoán/nguồn từ nguồn hiện tại.
- [ ] Tôi đã thử nghiệm đề xuất này dựa trên kết quả lâm sàng thực tế của bệnh nhân.
- [ ] Tôi đã kết thúc quyết định quan trọng về mặt an toàn với sự kiểm tra và phê duyệt của bác sĩ có trình độ.
- [ ] Tôi đã lưu dấu vết xác minh vào tệp.