Прибуток:
- Вміти визначити, чому відповідальність за діагностику та лікування не може бути передана штучному інтелекту та правовій позиції лікаря
- Здатність використовувати штучний інтелект відповідно до інформованої згоди, прозорості та правил професійної етики
- Можливість застосувати те, як закрити клінічне рішення за допомогою ШІ за допомогою вказівок, обстеження та схвалення компетентного лікаря
Коли пацієнту завдано шкоди, перше запитання: хто відповідальний? Якщо штучний інтелект (ШІ) зробив діагностичну рекомендацію, а рішення виявилося неправильним, чи несе ШІ відповідальність? Відповідь однозначна: ні. Медична відповідальність завжди лежить на компетентному лікарі, який приймає рішення. ШІ схожий на інструмент; як стетоскоп або лабораторне обладнання. Лікар зобов’язаний інтерпретувати результат пристрою, прийняти чи відхилити його та прийняти остаточне рішення. У цьому розділі ви дізнаєтеся про правову основу відповідальності, принципи професійної етики, прозорості та інформованої згоди, а також про те, як правильно закрити рішення за допомогою ШІ.
Чому відповідальність лежить на лікаря?
Медицина базується на «обов’язку догляду»: лікар зобов’язаний проявляти турботу, яку вимагає належна медична практика. Використання ним транспортного засобу не звільняє його від цього обов'язку; Навпаки, правильне використання інструменту також є частиною догляду. Сліпе виконання підказок штучного інтелекту або ігнорування корисного попередження може бути порушенням догляду. Лікар повинен оцінити результат штучного інтелекту, використовуючи своє клінічне судження.
Юридично ШІ не є «суб’єктом права»; не може бути пред'явлений до суду, не виплачує компенсацію і не може бути покараний. Відповідальність виробника за продукт є окремим питанням, але відповідальність за медичні відносини та рішення з пацієнтом лежить на лікарі. «Це те, що сказав AI» не є захистом; І навпаки, покладаючись на неперевірені результати штучного інтелекту, це може посилити відповідальність.
Застереження: будь-яке рішення, прийняте на основі даних ШІ, є власним рішенням лікаря. Дотримання необґрунтованої рекомендації призводить до того, що лікар несе юридичну та етичну відповідальність. Перекласти відповідальність на транспортний засіб неможливо.
Професійна етика та ШІ
Чотири фундаментальні принципи медичної етики керують використанням ШІ:
- Благодіяння: використовуйте ШІ для покращення догляду на користь пацієнта.
- Nonmaleficence: Управління ризиком шкоди від неперевірених результатів; Якщо сумніваєтеся, оберіть безпечний шлях.
- Автономія: поважати право пацієнта на прийняття рішення; Повідомити, отримати згоду.
- Справедливість: переконайтеся, що упередженість ШІ не завдає шкоди певним групам.
Ці принципи перетворюють штучний інтелект із «інструменту підвищення швидкості» на «частину відповідальної клінічної практики».
Прозорість та інформована згода
Інформована згода — це розуміння та згода пацієнта на процедуру, яка йому/ній буде виконана. Отже, чи повинен пацієнт знати, що штучний інтелект сприяє прийняттю його рішення? Принцип прозорості вимагає від лікаря чесної заяви про те, що він/вона використовує штучний інтелект як допоміжний засіб і що остаточне рішення приймає він сам. Неправильно приховувати використання штучного інтелекту та приписувати рішення повністю ШІ. Правильне ставлення: «Я використовую сучасні ресурси та допоміжні засоби, приймаючи рішення, але я оцінюю та рекомендую діагностику та лікування».
Підказка: пацієнт запитав: «Чи вирішив ШІ?» Чесна та обнадійлива відповідь: «ШІ — це інструмент, який мені допомагає; остаточна оцінка та рішення належать мені. Я розглянув вашу ситуацію». Це підтримує як прозорість, так і довіру.
Крок за кроком: вимкніть рішення на основі штучного інтелекту
- Використовуйте ШІ як помічника. Пропозиція, нагадування, чернетка.
- Оцініть за допомогою клінічного судження. Чи відповідає рекомендація дійсності пацієнта?
- Підтвердьте з гідом і джерелом. Рішення має ґрунтуватися на доказах.
- При необхідності проконсультуйтеся з фахівцем. Він у критичному та невизначеному стані.
- Записати рішення та його мотивування. Задокументуйте внесок ШІ та перевірку.
- Бути прозорим; За необхідності отримати згоду.
три міні-чохла
Випадок 1 — Обмеження відповідальності. Лікар проводить лікування, рекомендоване штучним інтелектом, не перевіряючи його, і пацієнту завдається шкоди. Захист «ШІ запропонував» не приймається в оцінці; Встановлено, що лікар не виконав своїх обов’язків щодо перевірки. Урок: результати штучного інтелекту – це власне рішення лікаря.
Випадок 2 — Правильна прозорість. Пацієнт цікавиться, як йому поставили діагноз. Лікар пояснює, що він використовує ШІ як допоміжний інструмент, але сам проводить огляд, обстеження та оцінку. Пацієнт почувається впевнено; Інформована згода встановлюється здоровим способом.
Випадок 3 — Ігнорування корисного попередження. ШІ нагадує нам про забуту про взаємодію ліків. Лікар підтверджує це і робить лікування безпечним. Тут дотримання попереджень транспортного засобу стає частиною догляду на користь пацієнта.
Таблиця наочності відповідальності
Статус
хто відповідає
чому
Рекомендація AI реалізована без перевірки
лікар
Обов'язок догляду та перевірки
Попередження штучного інтелекту було проігноровано, і сталося пошкодження
лікар
За клінічним судженням
Результати штучного інтелекту були перевірені та прийнято правильне рішення
Лікар (позитивно)
Рішення за лікарем
Технічна несправність транспортного засобу (окрема відповідальність за товар)
Виробник (частково)
Медичне рішення все ще в руках лікаря
Чотири шаблони, які можна копіювати
Завдання: перетворіть наведене нижче клінічне рішення на базі штучного інтелекту в ОБГРУНТУВАННЯ для запису: яка рекомендація була прийнята, як вона була перевірена (керівництво/екзаменатор/експерт), хто прийняв остаточне рішення. Додати фразу «Відповідальність несе лікар». Рішення: [...]
Завдання: напишіть пацієнту короткий текст, у якому прозоро та заспокійливо поясніть, що я використовував інструмент, щоб допомогти йому прийняти рішення. Підкресліть, що остаточне рішення за мною; не занурюйтеся в технічні деталі. Контекст: [...]
Завдання: перетворіть наступне рішення на контрольний список із чотирма принципами медичної етики (доброчинність, нешкідливість, автономія, справедливість). Створіть контрольне запитання для кожної політики. Рішення: [...]
Завдання: у цьому процесі на основі штучного інтелекту позначте, у яких пунктах потрібні ІНФОРМАЦІЙНА ЗГОДА та прозорість, і сформуйте запитання про те, що слід сказати пацієнту для кожного з них. Процес: [...]
Слабка підказка / Сильна підказка
Слабкий: «ШІ поставив цей діагноз, чи варто його застосовувати?»
Гючлю: «Щоб я оцінив цей діагноз, запропонований штучним інтелектом: за допомогою якого обстеження/обстеження я маю його підтвердити, які поточні рекомендації я маю переглянути, який червоний прапорець я маю виключити? Я прийму рішення; створю чернетку підтвердження та обґрунтування для цього та додам фразу «відповідальність лежить на лікарі».
У потужній підказці ШІ не приймає рішення; Це помічник, який документує та підтверджує рішення лікаря.
Поширені помилки
- Спроба перекласти відповідальність на ШІ. «AI сказав» не є захистом.
- Подача без перевірки. Було б порушення обов'язків з догляду.
- Ігнорування корисного попередження. Це також може бути порушенням догляду.
- Приховування використання ШІ. Це суперечить принципу прозорості.
- Не записуючи рішення та обґрунтування. Потрібна перевірка.
Законодавство про медичні пристрої та дозволене використання
Деякі інструменти штучного інтелекту для клінічних цілей (наприклад, програмне забезпечення, яке виявляє знахідки на зображеннях, допомагає в діагностиці) юридично вважаються медичними пристроями та повинні пройти відповідний нормативний дозвіл. Модель чату загального призначення не схвалена як медичний пристрій; У кращому випадку це допомога в клінічній діагностиці, а не «офіційний інструмент». Ця відмінність є важливою: схвалений медичний виріб був валідований і позначений для конкретного призначення (показання); Використання не за призначенням створює додаткову відповідальність.
На практиці питання, які лікар повинен поставити: чи пристрій, яким я користуюся, є медичним пристроєм, схваленим для клінічного використання, чи це модель загального призначення? Якщо схвалено, чи збігається мета, з якою я його використовую, зазначеній меті? Ця чіткість є основою як для безпечного використання, так і для можливої юридичної оцінки. Використання моделі загального призначення як інструмента діагностики та її застосування без перевірки результату є найбільш вразливим становищем.
Застереження: модель язика загального призначення не є схваленим медичним пристроєм. Використання його як клінічного діагностичного інструменту та його застосування без перевірки його результату є невиправданим як з точки зору регулювання, так і з точки зору відповідальності.
Підсумовуючи
Медична відповідальність завжди лежить на компетентному лікарі, який приймає рішення; ШІ є інструментом, а не суб’єктом права. «ШІ сказав» — це не захист, а загострення, якщо потрібно. Використовувати штучний інтелект у спосіб, який відповідає чотирьом принципам медичної етики, прозоро та з повагою до інформованої згоди; обґрунтовувати кожне рішення клінічним судженням, вказівками та експертним висновком, коли це необхідно; Обґрунтування запису та перевірка. Коли пацієнт запитує "Чи вирішив ШІ?" Відповідайте на запитання чесно та заспокійливо.
Аплікаційне завдання
Розглянемо нещодавнє клінічне рішення, де ви використовували ШІ. Документ із шаблоном запису обґрунтування вище: яку рекомендацію було прийнято, як її перевірено, хто прийняв рішення? Перевірте те саме рішення чотирма етичними принципами. Також запишіть, як ви прозоро пояснюєте пацієнту використання ШІ.
контрольний список
- [ ] Я використовував ШІ як допоміжний інструмент, а не як засіб прийняття рішень.
- [ ] Я обґрунтував свою рекомендацію клінічним судженням і вказівками.
- [ ] За потреби я звертався до експерта.
- [ ] Я перевірив рішення на відповідність чотирьом етичним принципам.
- [ ] Я був прозорий; Там, де це було необхідно, я отримав згоду.
- [ ] Я записав рішення, обґрунтування та обґрунтування.
- [ ] Я задокументував, що відповідальність лежить на лікарі.