Схвалення лікаря та спеціаліста: критично важливі для безпеки рішення та обмеження

Прибуток:

• Здатність визначити, чому рішення щодо діагностики, лікування та ліків не можна делегувати штучному інтелекту, а також роль схвалення компетентного лікаря
• Можливість використовувати штучний інтелект у цій сфері лише як засіб попереднього відбору, контрольний список і засіб спілкування в безпечних межах
• Можливість реалізувати, як закрити важливу для безпеки рекомендацію штучного інтелекту за допомогою протоколу агентства, клінічної оцінки та компетентного схвалення

Однією з найважливіших професійних навичок медсестри є знання того, чи є рішення в його чи її юрисдикції чи в компетенції лікаря/фахівця. Це обмеження – не просто бюрократія, це основа безпеки пацієнтів. В епоху штучного інтелекту ця межа стає ще важливішою: штучний інтелект говорить настільки вільно та впевнено, що можна потрапити в пастку, подумавши, що він експерт. У цьому розділі ви дізнаєтесь, чому критичні для безпеки рішення не можна делегувати штучному інтелекту, роль компетентного лікаря/експертного схвалення та як використовувати штучний інтелект у безпечних межах у цій галузі. Незмінний принцип: діагностика, лікування, лікування та критичні для безпеки клінічні рішення вимагають схвалення компетентного лікаря/спеціаліста; Вихід AI не замінює це схвалення.

Що таке критично важливе для безпеки рішення?

Критично важливе для безпеки рішення — це рішення, яке, якщо воно буде прийняте неправильно, може завдати серйозної, незворотної шкоди пацієнту або загрожувати його життю. У медсестринському контексті це, як правило, входить до компетенції лікаря: встановлення діагнозу, початок або зміна лікування, призначення ліків і дозування, рішення про операцію, рішення про виписку. У медсестри також є свої критичні міркування щодо безпеки: помітити, що стан пацієнта погіршується, розпізнати ситуацію, яка вимагає негайного втручання. Ці рішення ґрунтуються на даних, але останнє слово залишається за людьми.

Штучний інтелект не може мати останнє слово в жодному з цих рішень. Причина проста: штучний інтелект не бачить пацієнта, не бере на себе відповідальності, не підзвітний і може галюцинувати. Залишення діагнозу, дозування чи рішення штучному інтелекту означає передачу відповідальності стороні, яка не може взяти на себе відповідальність — це як з етичної, так і з юридичної точки зору неприйнятно.

Увага: як би переконливо штучний інтелект не пояснював рішення, це не означає, що воно правильне чи авторитетне. Вільне володіння – це не досвід. Кожне критично важливе для безпеки рішення приймається оцінкою та схваленням компетентного лікаря/експерта.

Безпечна роль штучного інтелекту

ШІ не повністю виключено з критично важливої для безпеки сфери; але його роль суворо обмежена. Безпечні ролі:

• Попереднє сканування: нагадування моментів, які слід враховувати в масі інформації.
• Контрольний список: зробити видимими кроки, які можна пропустити.
• Інструмент комунікації: організація зв’язку з лікарем і пацієнтом.
• Організація інформації: Приведення розрізнених даних у зрозумілу форму.

Жодна з цих ролей не приймає рішень; Всі вони готують і полегшують рішення людини. Небезпека полягає в тому, щоб перетворити цю допоміжну роль на роль «прийняття рішень».

три міні-чохла

Випадок 1 — Правильна межа. Медсестра просить ШІ надати звіт SBAR для пацієнта, стан якого погіршується, а потім викликає лікаря. Рішення про лікування приймає лікар. Штучний інтелект прискорив спілкування; Рішення залишилося за лікарем. Границя проведена правильно.

Випадок 2 — Небезпечний оборот. Медсестра запитує штучний інтелект "який діагноз і яке лікування при цих симптомах?" і намагається реалізувати пропозицію без консультації з лікарем. Втручається старша медсестра: діагноз і лікування – це рішення лікаря. Урок: пропозиції ШІ не замінюють порядок.

Випадок 3 — Підтвердження закриття. Медсестра помічає можливу взаємодію ліків, яку ШІ попередньо перевіряє. Він доводить це до фармацевта та лікаря не як «рішення», а як «питання». Експерти оцінюють і приймають рішення. Штучний інтелект привернув увагу, люди прийняли рішення, і процес завершився компетентним схваленням.

Крок за кроком: вимкніть важливу для безпеки рекомендацію ШІ

1. Поставтеся до пропозиції як до запитання, а не як до рішення. «ШІ позначив це» — це початок.
2. Визначте свою юрисдикцію. Це рішення медсестри чи лікаря/спеціаліста?
3. Тест з джерелом і протоколом. Чи відповідає ця рекомендація поточним знанням?
4. Зверніться до кваліфікованого фахівця. Нехай лікар/фармацевт/експерт оцінить це.
5. Записати рішення та його мотивування. Закрити з компетентного погодження.
6. Виконуйте ШІ лише підготовчу роль.

Чотири шаблони, які можна копіювати

Завдання: Позначте список ПЕРЕД СКАНУВАННЯМ можливих ризиків, які потребують уваги, у наступних (анонімних) висновках. Постановка діагнозу, рекомендація лікування; До кожного пункту додайте примітку «потрібно направити на огляд до лікаря». Результати: [...]

Завдання: Упорядкувати інформацію, яку мені потрібно передати лікарю для цієї ситуації пацієнта, у форматі SBAR. Прийняття рішень або розпоряджень; просто підготуйте спілкування. Ситуація: [...]

Завдання: нагадайте мені як контрольний список заходів безпеки, які можна пропустити під час цього процесу прийому ліків/прийняття рішення. Рішення за мною та компетентним експертом; Ви просто нагадуєте мені кроки. Процес: [...]

Завдання: класифікуйте наступну пропозицію щодо штучного інтелекту з точки зору медсестри: чи це рішення входить до повноважень медсестри, чи вимагає воно схвалення лікаря/спеціаліста? Для кожного пункту напишіть сферу повноважень і чому він повинен йти на затвердження. Пропозиція: [...]

Слабка підказка / Сильна підказка

Слабкий: «Яке лікування я повинен почати для цього пацієнта?»

Гючлю: «Позначте пункти уваги, які я маю передати лікарю в наступних анонімних висновках як список попереднього скринінгу, і дайте кожному з них примітку «потрібна оцінка лікаря». Не ставте діагноз, не рекомендуйте лікування. Моя мета — підготуватися до зустрічі з лікарем; лікар прийме рішення».

У потужній підказці штучний інтелект виконує підготовчу роль; Рішення однозначно залишається за лікарем.

Поширені помилки

• Помилково приймаючи вільне мовлення за досвід. Впевнений тон ШІ – це не авторитет чи точність.
• Підстановка пропозиції в наказ. Діагностика, лікування та дозування знаходяться під контролем лікаря.
• Плутана юрисдикція. Знати, чиє рішення – це безпека пацієнта.
• Пропуск кроку підтвердження. Критично важливе для безпеки рішення завершується компетентним підтвердженням.
• Перенесення ролі підтримки на роль прийняття рішення. Попереднє обстеження не є рішенням.

Власний мандат медсестри: пропаганда

Принцип компетентної згоди не перетворює медичну сестру на пасивного лікаря. Навпаки, найсильнішою професійною роллю медсестри є захист інтересів пацієнта: зупинятися, допитуватись і, якщо необхідно, заперечувати, коли наказ або рішення, здається, може завдати шкоди пацієнту. Наприклад, якщо доза здається незвично високою, медсестра не вводить її наосліп, тому що їй наказано «ввести це»; Питає лікаря і просить підтвердження. Це і повноваження, і відповідальність медсестри. ШІ може підтримувати цю пропаганду: він може попередньо перевірити та привернути увагу медсестри до аспектів замовлення, які здаються незвичними. Але медсестра демонструє рішення та сміливість ставити запитання.

Тут ШІ відіграє цікаву подвійну роль: з одного боку, він може нагадувати медсестрі про ризик, який вона або вона може пропустити, але з іншого боку, він не повинен замінювати власну клінічну інтуїцію медсестри. Найздоровіший баланс — використовувати штучний інтелект як друге око, яке підтверджує або ставить під сумнів вашу інтуїцію, але залишає останнє слово за вашим власним судженням і схваленням компетентного експерта.

Автоматична пастка зміщення

Упередженість автоматизації — це схильність людей більше довіряти результатам роботи машини чи програмного забезпечення, ніж власним судженням. У сфері охорони здоров’я це небезпечно: у медсестри може виникнути спокуса виконати рекомендації штучного інтелекту, які з’являться на екрані, навіть якщо її власні спостереження свідчать про інше. Протиотрута від цієї пастки полягає в позиціонуванні ШІ як «помічника», а не «авторитета». Коли штучний інтелект щось пропонує, треба рефлекторно запитати: «Ну, це підходить цьому пацієнту, чи суперечить тому, що я бачу?» Якщо ваше власне клінічне спостереження суперечить ШІ, покладайтеся на своє спостереження за замовчуванням і оцініть ситуацію разом із компетентним експертом. Те, що машина впевнена, не означає, що ви не праві. Цей свідомий сумнів є найважливішою професійною звичкою безпечного використання ШІ.

Порада: щоб швидко визначити, чи є рішення «критичним для безпеки», запитайте себе: «Чи зазнав би пацієнт незворотної шкоди, якби це було неправильно?» Якщо відповідь «так» або «можливо», це рішення знаходиться в червоній зоні і потребує схвалення компетентного експерта; ШІ там лише підготовчий. Це просте запитання є швидким і надійним компасом у щоденній практиці. Другий компас: «Якби мені довелося захищати це рішення, яким би було моє виправдання?» Якщо ваше єдине виправдання: «ШІ запропонував це», зупиніться; Вашим обґрунтуванням завжди має бути інституційний протокол, порядок, докази або клінічна оцінка. Ці два питання є найпрактичнішим способом правильно накреслити кордон.

Підсумовуючи

Критично важливі для безпеки рішення — діагностика, лікування, ліки, виписка, оцінка погіршення — якщо вони неправильні, завдають незворотної шкоди та вимагають схвалення компетентного лікаря/спеціаліста. Штучний інтелект не може мати останнє слово в цих рішеннях, оскільки він не бачить пацієнта, не бере на себе відповідальність і може галюцинувати. Безпечна роль штучного інтелекту полягає в попередній перевірці, складання контрольних списків, комунікації та організації інформації. Перетворення допоміжної ролі в роль вирішальної є найнебезпечнішою помилкою; Кожна критична для безпеки пропозиція закривається компетентним схваленням.

Аплікаційне завдання

Виберіть приклад критично важливого для безпеки рішення з вашої власної практики (наприклад, зміна дози ліків, оцінка погіршення). Розробіть потік, у якому ви використовуєте штучний інтелект лише як підготовчу роль у цьому процесі: на якому етапі – попередня перевірка, на якому – комунікація, на якому – компетентне затвердження. Напишіть в абзаці, чому штучний інтелект не може прийняти рішення і хто має схвалення.

контрольний список

• [ ] Я визначив юрисдикцію рішення.
• [ ] Я сприйняв пропозицію щодо штучного інтелекту як запитання, а не рішення.
• [ ] Я перевірив пропозицію з джерелом і протоколом.
• [ ] Я передав важливе для безпеки рішення компетентному лікарю/спеціалісту.
• [ ] Я зберіг ШІ лише в підготовчій ролі.
• [ ] Я записав рішення та його обґрунтування.
• [ ] Я не потрапив у пастку, помилково прийнявши вільне володіння мовою за досвід.