Прибыль:
- Способность определить, почему решения о диагностике, лечении и лечении не могут быть делегированы искусственному интеллекту, а также роль одобрения компетентного врача.
- Возможность использовать искусственный интеллект в этой области только в качестве предварительного отбора, контрольного списка и инструмента коммуникации в безопасных пределах.
- Возможность реализовать, как закрыть критически важную для безопасности рекомендацию ИИ с помощью протокола агентства, клинической оценки и компетентного одобрения.
Одним из наиболее важных профессиональных навыков медсестры является знание того, находится ли решение в пределах его юрисдикции или юрисдикции врача/специалиста. Это ограничение — не просто бюрократия, это основа безопасности пациентов. В эпоху искусственного интеллекта эта граница становится еще более важной: искусственный интеллект говорит настолько свободно и уверенно, что можно попасть в ловушку, думая, что он эксперт. В этом модуле вы узнаете, почему критически важные для безопасности решения нельзя делегировать искусственному интеллекту, роль компетентного одобрения врача/эксперта и как использовать искусственный интеллект в безопасных пределах в этой области. Непреложный принцип: диагностика, лечение, медикаментозное лечение и критически важные для безопасности клинические решения требуют одобрения компетентного врача/специалиста; Выход AI не заменяет данное одобрение.
Что такое критическое для безопасности решение?
Решение, критическое с точки зрения безопасности, – это решение, неправильное решение которого может нанести серьезный, необратимый вред пациенту или поставить под угрозу его жизнь. В контексте сестринского дела это обычно входит в компетенцию врача: постановка диагноза, начало или изменение лечения, назначение лекарств и их дозировки, решение об операции, решение о выписке. У медсестры также есть свои собственные соображения, критически важные для безопасности: она замечает ухудшение состояния пациента, распознает ситуацию, требующую немедленного вмешательства. Эти решения основаны на данных, но последнее слово остается за людьми.
Искусственный интеллект не может иметь решающее слово ни в одном из этих решений. Причина проста: искусственный интеллект не видит пациента, не берет на себя ответственность, не несет ответственности и может галлюцинировать. Оставить диагноз, дозировку или решение ИИ — значит передать ответственность стороне, которая не может взять на себя ответственность — это неприемлемо как с этической, так и с юридической точки зрения.
Внимание: Как бы убедительно искусственный интеллект ни объяснял решение, это не значит, что оно правильное или авторитетное. Свободное владение языком – это не экспертность. Каждое решение, имеющее решающее значение для безопасности, принимается после оценки и одобрения компетентного врача/эксперта.
Безопасная роль искусственного интеллекта
ИИ не полностью исключен из критически важной для безопасности области; но его роль строго ограничена. Безопасные роли:
- Предварительное сканирование: напоминание о точках, которые следует учитывать в массе информации.
- Контрольный список: создание видимых шагов, которые можно пропустить.
- Инструмент коммуникации: Организация отчетности перед врачом и общение с пациентом.
- Организация информации: приведение разрозненных данных в понятную форму.
Ни одна из этих ролей не принимает решений; Все они подготавливают и облегчают принятие человеком решения. Опасность состоит в том, чтобы превратить эту вспомогательную роль в роль «принимающего решения».
три мини-кейса
Случай 1 — Правильная граница. Медсестра просит ИИ выдать отчет SBAR для пациента, состояние которого ухудшается, а затем вызывает врача. Решение о лечении принимает врач. Искусственный интеллект ускорил общение; Решение осталось за врачом. Граница нарисована правильно.
Случай 2 — Опасный оборот. Медсестра спрашивает у искусственного интеллекта «какой диагноз и какое лечение при данных симптомах?» и пытается реализовать предложение без консультации с врачом. Вмешивается старшая медсестра: диагноз и лечение – это решение врача. Урок: предложение ИИ не заменяет порядок.
Случай 3 — Подтвердите закрытие. Медсестра замечает возможное лекарственное взаимодействие, которое предварительно проверяет ИИ. Он доносит это до аптекаря и врача не как «решение», а как «вопрос». Эксперты оценивают и принимают решение. Искусственный интеллект привлек внимание, люди приняли решение, и процесс завершился компетентным одобрением.
Шаг за шагом: отключите критически важные для безопасности рекомендации ИИ
- Относитесь к предложению как к вопросу, а не как к решению. «ИИ отметил это» — это только начало.
- Определите свою юрисдикцию. Это решение принимает медсестра или врач/специалист?
- Проверьте источник и протокол. Соответствует ли рекомендация современным знаниям?
- Отнесите к грамотному специалисту. Пусть это оценит врач/фармацевт/эксперт.
- Запишите решение и его обоснование. Завершить с компетентным одобрением.
- Оставьте ИИ только в подготовительной роли.
Четыре копируемых шаблона
Задание: Отметьте список возможных рисков, требующих внимания в рамках ПРЕДВАРИТЕЛЬНОГО СКАНИРОВАНИЯ, в следующих (анонимных) заключениях. Постановка диагноза, рекомендации лечения; Дайте каждому пункту пометку «необходимо направить на осмотр к врачу». Выводы: [...]
Задача: Организовать информацию, которую мне нужно передать врачу для данной ситуации с пациентом, в формате SBAR. Принятие решений или приказов; просто подготовьте общение. Ситуация: [...]
Задача: Напомните мне в качестве контрольного списка меры безопасности, которые можно пропустить во время принятия лекарства/принятия решения. Решение за мной и компетентным экспертом; Ты просто напоминаешь мне о шагах. Процесс: [...]
Задание: Классифицировать следующее предложение искусственного интеллекта с точки зрения медсестры: находится ли это решение в компетенции медсестры, требует ли оно одобрения врача/специалиста? По каждому пункту напишите сферу полномочий и почему он должен пройти согласование. Предложение: [...]
Слабая подсказка / Сильная подсказка
Слабый: «Какое лечение мне следует начать у этого пациента?»
Гючлю: «В следующих анонимных заключениях в списке предварительного обследования отметьте моменты, на которые мне необходимо обратить внимание, и дайте каждому из них пометку «требуется осмотр врача». Не ставьте диагноз, не назначайте лечение. Моя цель — подготовиться к встрече с врачом; решение примет врач».
В мощной подсказке искусственный интеллект играет подготовительную роль; Решение явно остается за врачом.
Распространенные ошибки
- Принимаем беглость речи за компетентность. Уверенный тон ИИ не является авторитетом или точностью.
- Подставляем предложение в заказ. Диагностика, лечение и дозировка находятся под контролем врача.
- Запутанная юрисдикция. Знание того, какое решение является чьим, обеспечивает безопасность пациента.
- Пропуск шага подтверждения. Критическое для безопасности решение завершается компетентным подтверждением.
- Смещение вспомогательной роли на роль принятия решения. Предварительная проверка не является решением.
Собственный мандат медсестры: пропаганда
Принцип компетентного согласия не превращает медсестру в пассивного практикующего врача. Напротив, самая сильная профессиональная роль медсестры – это защита интересов пациента: останавливаться, задавать вопросы и возражать, если необходимо, когда кажется, что приказ или решение могут нанести вред пациенту. Например, если доза кажется необычно высокой, медсестра не вводит ее вслепую, потому что ей говорят «ввести это»; Он спрашивает врача и просит подтверждения. Это и полномочия, и ответственность медсестры. ИИ может поддержать эту пропаганду: он может предварительно проверять и привлекать внимание медсестры к аспектам заказа, которые кажутся необычными. Но медсестра проявляет решимость и смелость задавать вопросы.
Здесь ИИ играет интересную двойную роль: с одной стороны, он может напомнить медсестре о риске, который она может упустить, но, с другой стороны, он не должен заменять собственную клиническую интуицию медсестры. Самый здоровый баланс — использовать ИИ в качестве второго глаза, который подтверждает или оспаривает вашу интуицию, но оставляет последнее слово за вашим собственным суждением и одобрением компетентного эксперта.
Ловушка предвзятости автоматизации
Предвзятость автоматизации — это тенденция людей доверять результатам работы машины или программного обеспечения больше, чем собственному суждению. В здравоохранении это опасно: у медсестры может возникнуть соблазн следовать рекомендациям ИИ, появляющимся на экране, даже если ее собственные наблюдения говорят ей об обратном. Противоядием от этой ловушки является позиционирование ИИ как «помощника», а не как «авторитета». Когда ИИ что-то предлагает, надо рефлекторно спросить: «Ну, подходит ли это этому пациенту, противоречит ли это тому, что я вижу?» Когда ваше собственное клиническое наблюдение противоречит ИИ, положитесь на свое наблюдение по умолчанию и оцените ситуацию с компетентным экспертом. Тот факт, что машина уверена в себе, не означает, что вы не правы. Это сознательное сомнение — самая важная профессиональная привычка безопасного использования ИИ.
Совет: Чтобы быстро определить, является ли решение «критичным для безопасности», спросите себя: «Понесет ли пациент необратимый вред, если оно окажется неправильным?» Если ответ «да» или «может быть», такое решение находится в красной зоне и требует одобрения компетентной экспертизы; ИИ там просто подготовительный. Этот простой вопрос — быстрый и надежный компас в повседневной практике. Второй компас: «Если бы мне пришлось защищать это решение, каково было бы мое оправдание?» Если ваше единственное оправдание — «ИИ предложил это», остановитесь; Вашим обоснованием всегда должен быть институциональный протокол, приказ, доказательства или клиническая оценка. Эти два вопроса — наиболее практичный способ правильно провести границу.
В итоге
Решения, имеющие решающее значение для безопасности (диагностика, лечение, медикаментозное лечение, выписка, оценка ухудшения состояния), если они неправильны, наносят необратимый вред и требуют одобрения компетентного врача/специалиста. Искусственный интеллект не может иметь решающее слово в этих решениях, поскольку он не видит пациента, не берет на себя ответственность и может галлюцинировать. Безопасная роль ИИ — предварительная проверка, составление контрольных списков, коммуникация и организация информации. Превращение вспомогательной роли в решающую — самая опасная ошибка; Каждое критичное для безопасности предложение получает компетентное одобрение.
Задача приложения
Выберите пример решения, критического для безопасности, из вашей собственной практики (например, изменение дозы лекарства, оценка ухудшения состояния). Спроектируйте поток, в котором вы используете ИИ только в подготовительной роли в этом процессе: на каком этапе предварительный отбор, на каком этапе коммуникация, на каком этапе компетентное одобрение. Напишите в абзаце, почему искусственный интеллект не может принять решение и у кого есть на это разрешение.
контрольный список
- [ ] Я определил юрисдикцию решения.
- [ ] Я воспринял предложение об искусственном интеллекте как вопрос, а не решение.
- [ ] Я проверил предложение с источником и протоколом.
- [ ] Я передал критически важное для безопасности решение компетентному врачу/специалисту.
- [ ] Я оставил ИИ только в подготовительной роли.
- [ ] Я записал решение и его обоснование.
- [ ] Я не попал в ловушку, принимая беглость речи за компетентность.