Lợi nhuận:
- Khả năng xác định lý do tại sao việc chẩn đoán, điều trị và quyết định dùng thuốc không thể được giao cho trí tuệ nhân tạo và vai trò của sự phê duyệt của bác sĩ có thẩm quyền
- Khả năng sử dụng trí tuệ nhân tạo trong lĩnh vực này chỉ như một công cụ sàng lọc trước, danh sách kiểm tra và giao tiếp trong giới hạn an toàn
- Khả năng triển khai cách kết thúc đề xuất AI quan trọng về an toàn với quy trình của cơ quan, đánh giá lâm sàng và phê duyệt của cơ quan có thẩm quyền
Một trong những kỹ năng chuyên môn quan trọng nhất của y tá là biết liệu quyết định đó có thuộc thẩm quyền của họ hay của bác sĩ/chuyên gia hay không. Giới hạn này không chỉ mang tính quan liêu mà còn là cơ sở cho sự an toàn của bệnh nhân. Trong thời đại trí tuệ nhân tạo, ranh giới này càng trở nên quan trọng hơn: trí tuệ nhân tạo nói trôi chảy và tự tin đến mức người ta có thể rơi vào bẫy tưởng mình là chuyên gia. Trong phần này, bạn sẽ tìm hiểu lý do tại sao các quyết định quan trọng về an toàn không thể được giao cho trí tuệ nhân tạo, vai trò của sự phê duyệt của bác sĩ/chuyên gia có thẩm quyền và cách sử dụng trí tuệ nhân tạo trong giới hạn an toàn trong lĩnh vực này. Nguyên tắc bất biến: Chẩn đoán, điều trị, dùng thuốc và các quyết định lâm sàng quan trọng về an toàn cần có sự chấp thuận của bác sĩ/chuyên gia có thẩm quyền; Đầu ra AI không thay thế sự phê duyệt này.
Quyết định quan trọng về an ninh là gì?
Một quyết định quan trọng về an toàn là một quyết định mà nếu không đúng có thể gây ra tổn hại nghiêm trọng, không thể khắc phục được cho bệnh nhân hoặc gây nguy hiểm đến tính mạng của bệnh nhân. Trong bối cảnh điều dưỡng, những việc này thường nằm trong tầm nhìn của bác sĩ: chẩn đoán, bắt đầu hoặc thay đổi phương pháp điều trị, yêu cầu thuốc và liều lượng, quyết định phẫu thuật, quyết định xuất viện. Y tá cũng có những cân nhắc quan trọng về an toàn của riêng mình: nhận thấy tình trạng bệnh nhân đang xấu đi, nhận ra tình huống cần can thiệp ngay lập tức. Những quyết định này được cung cấp bởi dữ liệu, nhưng mọi người có tiếng nói cuối cùng.
Trí tuệ nhân tạo không thể có tiếng nói cuối cùng trong bất kỳ quyết định nào trong số này. Nguyên nhân rất đơn giản: trí tuệ nhân tạo không nhìn thấy bệnh nhân, không chịu trách nhiệm, không chịu trách nhiệm và có thể gây ảo giác. Để lại chẩn đoán, liều lượng hoặc quyết định cho AI là chuyển trách nhiệm cho một bên không thể chịu trách nhiệm - điều này không thể chấp nhận được cả về mặt đạo đức và pháp lý.
Lưu ý: Cho dù trí tuệ nhân tạo có giải thích một quyết định thuyết phục đến đâu thì điều này không có nghĩa là quyết định đó đúng hoặc có thẩm quyền. Sự lưu loát không phải là chuyên môn. Mọi quyết định quan trọng về an toàn đều được đưa ra với sự đánh giá và phê duyệt của bác sĩ/chuyên gia có thẩm quyền.
Vai trò an toàn của trí tuệ nhân tạo
AI không bị loại trừ hoàn toàn khỏi lĩnh vực quan trọng về bảo mật; nhưng vai trò của nó bị hạn chế nghiêm ngặt. Các vai trò an toàn là:
- Quét trước: Nhắc nhở các điểm cần xem xét trong một lượng lớn thông tin.
- Danh sách kiểm tra: Lập các bước rõ ràng có thể bỏ qua.
- Công cụ truyền thông: Tổ chức báo cáo giữa bác sĩ và bệnh nhân.
- Tổ chức thông tin: Đưa dữ liệu phân tán vào dạng dễ hiểu.
Không có vai trò nào trong số này đưa ra quyết định; Tất cả đều chuẩn bị và tạo điều kiện thuận lợi cho quyết định của con người. Điều nguy hiểm là biến vai trò hỗ trợ này thành vai trò “ra quyết định”.
ba trường hợp nhỏ
Trường hợp 1 - Ranh giới đúng. Một y tá yêu cầu AI đưa ra báo cáo SBAR về tình trạng bệnh nhân đang xấu đi, sau đó gọi cho bác sĩ. Bác sĩ đưa ra quyết định điều trị. Trí tuệ nhân tạo đã tăng tốc giao tiếp; Quyết định vẫn thuộc về bác sĩ. Đường viền đã được vẽ chính xác.
Trường hợp 2 - Doanh thu nguy hiểm. Một y tá hỏi trí tuệ nhân tạo "chẩn đoán và điều trị những triệu chứng này như thế nào?" và cố gắng thực hiện đề xuất mà không hỏi ý kiến bác sĩ. Y tá phụ trách can thiệp: chẩn đoán và điều trị là quyết định của bác sĩ. Bài học: Đề xuất của AI không thay thế được trật tự
Trường hợp 3 - Xác nhận đóng. Một y tá nhận thấy khả năng tương tác thuốc có thể xảy ra mà AI sàng lọc trước. Anh ta mang điều này đến với dược sĩ và bác sĩ không phải như một “quyết định” mà như một “câu hỏi”. Các chuyên gia đánh giá và đưa ra quyết định. Trí tuệ nhân tạo thu hút sự chú ý, con người đưa ra quyết định và quá trình kết thúc với sự phê duyệt có thẩm quyền.
Từng bước: tắt đề xuất AI quan trọng về bảo mật
- Hãy coi lời đề nghị đó như một câu hỏi chứ không phải một quyết định. “AI đã gắn cờ cái này” là một sự khởi đầu.
- Xác định quyền tài phán của bạn. Quyết định này là của y tá hay bác sĩ/chuyên gia?
- Kiểm tra với nguồn và giao thức. Khuyến nghị có phù hợp với kiến thức hiện tại không?
- Mang nó đến một chuyên gia có thẩm quyền. Hãy để bác sĩ/dược sĩ/chuyên gia đánh giá nó.
- Ghi lại quyết định và lý do của nó. Đóng với sự chấp thuận có thẩm quyền.
- Chỉ giữ AI ở vai trò chuẩn bị.
Bốn mẫu có thể sao chép
Nhiệm vụ: Đánh dấu danh sách PRE-SCAN các rủi ro có thể xảy ra cần chú ý trong các phát hiện (ẩn danh) sau đây. Đưa ra chẩn đoán, đề nghị điều trị; Đưa cho mỗi mục một ghi chú "phải được bác sĩ đánh giá". Các phát hiện: […]
Nhiệm vụ: Sắp xếp thông tin tôi cần truyền đạt cho bác sĩ về tình huống bệnh nhân này ở định dạng SBAR. Đưa ra quyết định hoặc mệnh lệnh; chỉ cần chuẩn bị giao tiếp. Tình huống: […]
Nhiệm vụ: Nhắc tôi dưới dạng danh sách kiểm tra các bước an toàn có thể bị bỏ sót trong quá trình dùng thuốc/quyết định này. Quyết định tùy thuộc vào tôi và chuyên gia có thẩm quyền; Bạn chỉ cần nhắc tôi các bước. Quy trình: […]
Nhiệm vụ: Phân loại đề xuất trí tuệ nhân tạo sau đây từ góc độ của y tá: quyết định này có thuộc thẩm quyền của y tá không, nó có cần sự chấp thuận của bác sĩ/bác sĩ chuyên khoa không? Đối với mỗi hạng mục, hãy ghi rõ phạm vi thẩm quyền và lý do cần phê duyệt. Lời khuyên: […]
Dấu nhắc yếu / Dấu nhắc mạnh
Yếu: “Tôi nên bắt đầu phương pháp điều trị nào cho bệnh nhân này?”
Güçlü: "Đánh dấu những điểm cần chú ý mà tôi cần truyền đạt cho bác sĩ trong những phát hiện ẩn danh sau đây dưới dạng danh sách sàng lọc trước và đưa ra ghi chú 'cần bác sĩ đánh giá' cho mỗi phát hiện đó. Không đưa ra chẩn đoán, không khuyến nghị điều trị. Mục tiêu của tôi là chuẩn bị cho cuộc gặp với bác sĩ; bác sĩ sẽ đưa ra quyết định."
Trong lời nhắc mạnh mẽ, trí tuệ nhân tạo được giữ ở vai trò chuẩn bị; Quyết định rõ ràng là dành cho bác sĩ.
Những lỗi thường gặp
- Nhầm lẫn sự trôi chảy với kiến thức chuyên môn. Giọng điệu tự tin của AI không phải là uy quyền hay sự chính xác.
- Thay thế gợi ý vào thứ tự. Việc chẩn đoán, điều trị và liều lượng đều thuộc thẩm quyền của bác sĩ.
- Quyền tài phán khó hiểu. Biết quyết định nào là của ai là an toàn cho bệnh nhân.
- Bỏ qua bước xác nhận. Quyết định quan trọng về bảo mật được kết thúc bằng xác nhận có thẩm quyền.
- Chuyển vai trò hỗ trợ sang vai trò quyết định. Sàng lọc trước không phải là một quyết định.
Nhiệm vụ riêng của y tá: vận động
Nguyên tắc về sự đồng ý có thẩm quyền không biến y tá thành một người hành nghề thụ động. Ngược lại, vai trò chuyên môn mạnh mẽ nhất của y tá là vận động bệnh nhân: dừng lại, đặt câu hỏi và phản đối nếu cần thiết, khi một mệnh lệnh hoặc quyết định dường như có thể gây hại cho bệnh nhân. Ví dụ, nếu một liều lượng có vẻ cao bất thường, y tá sẽ không quản lý nó một cách mù quáng vì được yêu cầu "quản lý liều này"; Anh ta hỏi bác sĩ và yêu cầu xác nhận. Đây vừa là quyền hạn vừa là trách nhiệm của người điều dưỡng. AI có thể hỗ trợ việc vận động này: nó có thể sàng lọc trước và thu hút sự chú ý của y tá về các khía cạnh của mệnh lệnh có vẻ bất thường. Nhưng cô y tá tỏ ra quyết đoán và can đảm đặt câu hỏi.
Ở đây AI đóng một vai trò kép thú vị: một mặt, nó có thể nhắc nhở y tá về nguy cơ mà họ có thể bỏ lỡ, nhưng mặt khác, nó không nên thay thế trực giác lâm sàng của chính y tá. Sự cân bằng lành mạnh nhất là sử dụng AI như con mắt thứ hai để xác nhận hoặc thách thức trực giác của bạn, nhưng để lại quyết định cuối cùng cho phán đoán của chính bạn và sự chấp thuận của chuyên gia có thẩm quyền.
Bẫy thiên vị tự động hóa
Thiên kiến tự động hóa là xu hướng mọi người tin tưởng vào kết quả đầu ra của máy móc hoặc phần mềm hơn là phán đoán của chính họ. Trong lĩnh vực chăm sóc sức khỏe, điều này rất nguy hiểm: y tá có thể bị cám dỗ làm theo khuyến nghị của AI hiện lên trên màn hình, ngay cả khi quan sát của chính cô ấy cho cô ấy biết điều ngược lại. Thuốc giải cho cái bẫy này là định vị AI như một “trợ lý” thay vì “có thẩm quyền”. Khi AI gợi ý điều gì đó, người ta phải theo phản xạ hỏi: "Cái này có phù hợp với bệnh nhân này không, có mâu thuẫn với những gì tôi thấy không?" Khi quan sát lâm sàng của bạn xung đột với AI, hãy mặc định dựa vào quan sát của bạn và đánh giá tình hình với chuyên gia có thẩm quyền. Chỉ vì một cỗ máy tự tin không có nghĩa là bạn sai. Sự nghi ngờ có ý thức này là thói quen nghề nghiệp quan trọng nhất trong việc sử dụng AI an toàn.
Mẹo: Để nhanh chóng xác định liệu một quyết định có “quan trọng về an toàn hay không”, hãy tự hỏi bản thân: “Liệu bệnh nhân có phải chịu tổn hại không thể khắc phục nếu quyết định này sai không?” Nếu câu trả lời là “có” hoặc “có thể”, quyết định đó nằm trong vùng đỏ và cần có sự chấp thuận của chuyên gia có thẩm quyền; AI chỉ là sự chuẩn bị ở đó. Câu hỏi đơn giản này là một chiếc la bàn nhanh chóng và đáng tin cậy trong thực hành hàng ngày. La bàn thứ hai là: "Nếu tôi phải bảo vệ quyết định này, lý do biện minh của tôi là gì?" Nếu lời biện minh duy nhất của bạn là "AI đã đề xuất điều này", hãy dừng lại; Sự biện minh của bạn phải luôn là quy trình, mệnh lệnh, bằng chứng hoặc đánh giá lâm sàng của tổ chức. Hai câu hỏi này là cách thiết thực nhất để vẽ đường viền một cách chính xác.
Tóm lại
Các quyết định quan trọng về an toàn—chẩn đoán, điều trị, cấp thuốc, xuất viện, đánh giá mức độ suy giảm—khi không chính xác sẽ gây ra tác hại không thể khắc phục và cần có sự chấp thuận của bác sĩ/chuyên gia có thẩm quyền. Trí tuệ nhân tạo không thể có tiếng nói cuối cùng trong những quyết định này vì nó không nhìn thấy bệnh nhân, không chịu trách nhiệm và có thể gây ảo giác. Vai trò an toàn của AI là sàng lọc trước, kiểm tra, tổ chức thông tin và liên lạc. Việc biến vai trò phụ trợ thành vai trò quyết định là sai lầm nguy hiểm nhất; Mọi đề xuất quan trọng về bảo mật đều được đóng lại với sự phê duyệt có thẩm quyền.
Nhiệm vụ ứng dụng
Chọn một ví dụ về một quyết định quan trọng về an toàn từ thực tiễn của chính bạn (ví dụ: thay đổi liều thuốc, đánh giá tình trạng xấu đi). Thiết kế một quy trình trong đó bạn chỉ sử dụng AI với vai trò chuẩn bị trong quy trình này: sàng lọc trước ở bước nào, giao tiếp ở bước nào, phê duyệt có thẩm quyền ở bước nào. Viết một đoạn văn tại sao trí tuệ nhân tạo không thể đưa ra quyết định và ai là người phê duyệt.
danh sách kiểm tra
- [ ] Tôi đã xác định thẩm quyền của quyết định.
- [ ] Tôi coi đề xuất của trí tuệ nhân tạo như một câu hỏi chứ không phải một quyết định.
- [ ] Tôi đã thử nghiệm đề xuất với nguồn và giao thức.
- [ ] Tôi đã chuyển quyết định quan trọng về mặt an toàn cho bác sĩ/chuyên gia có thẩm quyền.
- [ ] Tôi chỉ giữ AI ở vai trò chuẩn bị.
- [ ] Tôi đã ghi lại quyết định và lý do đưa ra.
- [ ] Tôi không rơi vào cái bẫy nhầm lẫn sự trôi chảy với kiến thức chuyên môn.