Lợi nhuận:
- Để có thể xác định lý do tại sao trách nhiệm chẩn đoán và điều trị không thể được chuyển giao cho trí tuệ nhân tạo và vị trí pháp lý của bác sĩ
- Khả năng sử dụng trí tuệ nhân tạo theo sự đồng ý, minh bạch và các quy tắc đạo đức nghề nghiệp
- Khả năng áp dụng cách kết thúc quyết định lâm sàng được hỗ trợ bởi AI với sự hướng dẫn, kiểm tra và phê duyệt của bác sĩ có thẩm quyền
Khi bệnh nhân bị tổn hại, câu hỏi đầu tiên được đặt ra là: ai chịu trách nhiệm? Nếu trí tuệ nhân tạo (AI) đưa ra khuyến nghị chẩn đoán và quyết định đó hóa ra là sai, liệu AI có chịu trách nhiệm không? Câu trả lời rất rõ ràng: Không. Trách nhiệm y tế luôn thuộc về bác sĩ có thẩm quyền, người đưa ra quyết định. AI giống như một công cụ; như ống nghe hoặc thiết bị thí nghiệm. Nhiệm vụ của bác sĩ là giải thích đầu ra của thiết bị, chấp nhận hoặc từ chối nó và đưa ra quyết định cuối cùng. Trong phần này, bạn sẽ tìm hiểu cơ sở pháp lý về trách nhiệm pháp lý, các nguyên tắc đạo đức nghề nghiệp, tính minh bạch và sự đồng ý có hiểu biết cũng như cách đưa ra quyết định được hỗ trợ bởi AI một cách hợp lý.
Tại sao trách nhiệm lại thuộc về bác sĩ?
Y học dựa trên "nghĩa vụ chăm sóc": bác sĩ có nghĩa vụ thực hiện sự chăm sóc theo yêu cầu của việc hành nghề y tốt. Việc sử dụng phương tiện không làm giảm bớt nghĩa vụ này của anh ta; Ngược lại, sử dụng công cụ một cách chính xác cũng là một phần của việc chăm sóc. Làm theo gợi ý của AI một cách mù quáng hoặc bỏ qua một cảnh báo hữu ích đều có thể là hành vi vi phạm sự cẩn trọng. Bác sĩ phải đánh giá kết quả đầu ra của AI bằng phán đoán lâm sàng của mình.
Về mặt pháp lý, AI không phải là “chủ thể của pháp luật”; không thể bị kiện, không bồi thường và không thể bị trừng phạt. Trách nhiệm pháp lý đối với sản phẩm của nhà sản xuất là một vấn đề riêng biệt, nhưng trách nhiệm về mối quan hệ y tế và quyết định với bệnh nhân thuộc về bác sĩ. “Đó là điều AI đã nói” không phải là lời bào chữa; Ngược lại, việc dựa vào đầu ra AI chưa được xác minh có thể làm nặng thêm trách nhiệm pháp lý.
Thận trọng: Mọi quyết định được đưa ra dựa trên kết quả AI đều là quyết định của chính bác sĩ. Việc tuân theo một khuyến nghị không có căn cứ sẽ khiến bác sĩ phải chịu trách nhiệm về mặt pháp lý và đạo đức. Không thể đổ trách nhiệm cho phương tiện được.
Đạo đức nghề nghiệp và AI
Bốn nguyên tắc cơ bản của y đức hướng dẫn việc sử dụng AI:
- Lợi ích: Sử dụng AI để cải thiện việc chăm sóc vì lợi ích của bệnh nhân.
- Nonmaleficence: Quản lý rủi ro gây hại từ sản phẩm chưa được xác minh; Khi nghi ngờ, hãy chọn con đường an toàn.
- Tự chủ: Tôn trọng quyền quyết định của bệnh nhân; Thông báo, nhận được sự đồng ý.
- Tính công bằng: Đảm bảo sự thiên vị của AI không gây bất lợi cho một số nhóm nhất định.
Những nguyên tắc này đưa AI từ một “công cụ vận tốc” trở thành “một phần của thực hành lâm sàng có trách nhiệm”.
Sự minh bạch và sự đồng ý có hiểu biết
Sự đồng ý có hiểu biết là sự hiểu biết và chấp nhận của bệnh nhân về thủ tục sẽ được thực hiện đối với họ. Vậy bệnh nhân có nên biết rằng AI đang góp phần vào quyết định của họ không? Nguyên tắc minh bạch yêu cầu bác sĩ phải thành thật tuyên bố rằng họ đang sử dụng AI để hỗ trợ và quyết định cuối cùng là của riêng họ. Thật sai lầm khi che giấu việc sử dụng AI và quy toàn bộ quyết định cho AI. Thái độ đúng đắn: "Tôi sử dụng các nguồn lực và hỗ trợ cập nhật khi đưa ra quyết định của mình, nhưng tôi đánh giá và đề xuất chẩn đoán và điều trị."
Gợi ý: Một bệnh nhân hỏi: “AI có quyết định không?” Câu trả lời trung thực và yên tâm nhất là: "AI là công cụ giúp tôi; sự đánh giá và quyết định cuối cùng thuộc về tôi. Tôi đã xem xét hoàn cảnh của bạn". Điều này duy trì cả sự minh bạch và tin cậy.
Từng bước: Tắt quyết định do AI cung cấp
- Sử dụng AI làm trợ lý. Gợi ý, nhắc nhở, soạn thảo.
- Đánh giá bằng phán đoán lâm sàng. Khuyến cáo có phù hợp với thực tế của bệnh nhân không?
- Xác nhận với hướng dẫn và nguồn. Quyết định phải dựa trên bằng chứng.
- Tham khảo ý kiến chuyên gia nếu cần thiết. Nó đang ở trong tình trạng nguy kịch và không chắc chắn.
- Ghi lại quyết định và lý do của nó. Tài liệu đóng góp và xác nhận AI.
- Hãy minh bạch; Có được sự đồng ý khi cần thiết.
ba trường hợp nhỏ
Trường hợp 1 - Giới hạn trách nhiệm pháp lý. Một bác sĩ thực hiện một phương pháp điều trị do AI khuyến nghị mà không xác minh và bệnh nhân sẽ bị tổn hại. Cách bào chữa "đề xuất bởi AI" không được chấp nhận trong quá trình đánh giá; Người ta xác định rằng bác sĩ đã không thực hiện nghĩa vụ xác minh của mình. Bài học: Đầu ra AI là quyết định của chính bác sĩ.
Trường hợp 2 - Độ trong suốt chính xác. Một bệnh nhân thắc mắc làm thế nào chẩn đoán của anh ta được thực hiện. Bác sĩ giải thích rằng ông sử dụng AI như một công cụ trợ lý nhưng tự mình thực hiện việc thăm khám, kiểm tra và đánh giá. Bệnh nhân cảm thấy tự tin; Sự đồng ý có hiểu biết được thiết lập một cách lành mạnh.
Trường hợp 3 - Bỏ qua cảnh báo hữu ích. AI nhắc nhở chúng ta về sự tương tác thuốc bị bỏ qua. Bác sĩ xác nhận điều này và đảm bảo việc điều trị an toàn. Ở đây, việc chú ý đến cảnh báo của phương tiện trở thành một phần của việc chăm sóc vì lợi ích của bệnh nhân.
Bảng rõ ràng về trách nhiệm
Trạng thái
ai chịu trách nhiệm
tại sao
Đề xuất AI được triển khai mà không cần xác minh
bác sĩ
Trách nhiệm chăm sóc và xác minh
Cảnh báo AI bị bỏ qua và xảy ra thiệt hại
bác sĩ
Bằng đánh giá lâm sàng
Đầu ra AI đã được xác minh và đưa ra quyết định đúng đắn
Bác sĩ (tích cực)
Quyết định thuộc về bác sĩ
Lỗi kỹ thuật của xe (trách nhiệm sản phẩm riêng)
Nhà sản xuất (một phần)
Quyết định y tế vẫn nằm trong tay bác sĩ
Bốn mẫu có thể sao chép
Nhiệm vụ: Chuyển đổi quyết định lâm sàng do AI cung cấp sau đây thành ghi chú LÝ DO để ghi lại: khuyến nghị nào đã được đưa ra, cách xác minh khuyến nghị đó (người hướng dẫn/người kiểm tra/chuyên gia), ai là người đưa ra quyết định cuối cùng. Thêm câu “Trách nhiệm thuộc về thầy thuốc”. Quyết định: […]
Nhiệm vụ: Viết một đoạn văn ngắn cho bệnh nhân giải thích một cách minh bạch và trấn an rằng tôi đã sử dụng một công cụ để hỗ trợ anh ấy đưa ra quyết định. Nhấn mạnh rằng quyết định cuối cùng là của tôi; đừng sa lầy vào các chi tiết kỹ thuật. Bối cảnh: […]
Nhiệm vụ: Chuyển quyết định sau đây thành một danh sách kiểm tra với bốn nguyên tắc y đức (lợi ích, không ác ý, tự chủ, công bằng). Tạo câu hỏi kiểm soát cho từng chính sách. Quyết định: […]
Nhiệm vụ: Trong quy trình được hỗ trợ bởi AI này, hãy đánh dấu những điểm cần có sự ĐỒNG Ý ĐƯỢC THÔNG TIN và tính minh bạch, đồng thời đặt câu hỏi về những gì nên nói với bệnh nhân đối với mỗi điểm. Quá trình: [...]
Dấu nhắc yếu / Dấu nhắc mạnh
Yếu: "AI đã đưa ra chẩn đoán này, tôi có nên áp dụng nó không?"
Güçlü: "Để tôi đánh giá chẩn đoán này do AI đề xuất: tôi nên xác nhận nó với cuộc kiểm tra/kiểm tra nào, tôi nên xem xét hướng dẫn hiện tại nào, tôi nên loại trừ cờ đỏ nào? Tôi sẽ đưa ra quyết định; đưa ra một bản dự thảo xác nhận và hồ sơ biện minh cho việc này và thêm cụm từ 'trách nhiệm thuộc về bác sĩ'."
Trong lời nhắc mạnh mẽ, AI không phải là người ra quyết định; Nó là một trợ lý ghi lại và củng cố quyết định của bác sĩ.
Những lỗi thường gặp
- Đang cố gắng chuyển trách nhiệm sang AI. “AI nói” không phải là biện hộ.
- Áp dụng mà không cần xác minh. Sẽ có sự vi phạm nghĩa vụ chăm sóc.
- Bỏ qua cảnh báo hữu ích. Đây cũng có thể là một sự vi phạm sự chăm sóc.
- Ẩn việc sử dụng AI. Nó đi ngược lại nguyên tắc minh bạch.
- Không ghi lại quyết định và lý do giải trình. Cần có dấu vết có thể kiểm tra được.
Pháp luật về thiết bị y tế và việc sử dụng được phê duyệt
Một số công cụ AI dành cho mục đích lâm sàng (ví dụ: phần mềm phát hiện kết quả bằng hình ảnh, hỗ trợ chẩn đoán) được coi là thiết bị y tế về mặt pháp lý và phải vượt qua sự phê duyệt theo quy định có liên quan. Mô hình trò chuyện có mục đích chung không được phê duyệt là thiết bị y tế; Tốt nhất nó chỉ là một công cụ hỗ trợ chẩn đoán lâm sàng chứ không phải là một "công cụ chính thức". Sự khác biệt này rất quan trọng: một thiết bị y tế được phê duyệt đã được xác nhận và dán nhãn cho mục đích sử dụng cụ thể (chỉ định); Việc sử dụng nó ngoài nhãn sẽ tạo ra trách nhiệm pháp lý bổ sung.
Trong thực tế, các câu hỏi mà bác sĩ nên hỏi là: Thiết bị tôi sử dụng có phải là thiết bị y tế được phê duyệt để sử dụng lâm sàng hay là mẫu có mục đích chung không? Nếu được chấp thuận, mục đích tôi sử dụng có phù hợp với mục đích được dán nhãn không? Sự rõ ràng này là cơ sở cho cả việc sử dụng an toàn và đánh giá pháp lý có thể có. Sử dụng mô hình có mục đích chung làm công cụ chẩn đoán và áp dụng nó mà không xác nhận kết quả là vị trí dễ bị tổn thương nhất.
Thận trọng: Mẫu lưỡi đa năng không phải là thiết bị y tế được phê duyệt. Sử dụng nó như một công cụ chẩn đoán lâm sàng và áp dụng nó mà không xác nhận kết quả đầu ra của nó là không thể bào chữa được từ cả quan điểm pháp lý và trách nhiệm pháp lý.
Tóm lại
Trách nhiệm y tế luôn thuộc về bác sĩ có thẩm quyền đưa ra quyết định; AI là một công cụ, không phải là chủ thể của pháp luật. “AI nói” không phải là biện hộ mà là tăng nặng nếu cần thiết. Sử dụng AI theo cách phù hợp với bốn nguyên tắc y đức, minh bạch và tôn trọng sự đồng ý có hiểu biết; biện minh cho mỗi quyết định bằng phán đoán lâm sàng, hướng dẫn và ý kiến chuyên gia khi cần thiết; Ghi lại sự biện minh và xác minh. Khi bệnh nhân hỏi "AI có quyết định không?" Trả lời câu hỏi một cách trung thực và trấn an.
Nhiệm vụ ứng dụng
Hãy xem xét một quyết định lâm sàng gần đây khi bạn tận dụng AI. Tài liệu có mẫu hồ sơ giải trình ở trên: khuyến nghị nào đã được đưa ra, nó được xác thực như thế nào, ai là người đưa ra quyết định? Kiểm tra cùng một quyết định với bốn nguyên tắc đạo đức. Đồng thời viết ra cách bạn sẽ giải thích một cách minh bạch việc sử dụng AI của mình cho bệnh nhân.
danh sách kiểm tra
- [ ] Tôi đã sử dụng AI như một công cụ trợ lý chứ không phải với vai trò là người ra quyết định.
- [ ] Tôi đã chứng minh khuyến nghị đó bằng sự đánh giá và hướng dẫn lâm sàng.
- [ ] Tôi đã tham khảo ý kiến chuyên gia khi cần thiết.
- [ ] Tôi đã kiểm tra quyết định dựa trên bốn nguyên tắc đạo đức.
- [ ] Tôi đã minh bạch; Tôi đã nhận được sự đồng ý khi cần thiết.
- [ ] Tôi đã ghi lại quyết định, lời giải thích và lời giải thích.
- [ ] Tôi đã ghi nhận rằng trách nhiệm thuộc về bác sĩ.