Прибыль:
- Возможность разделения акушерских работ на зеленую (комфортно использовать), желтую (поддерживать, осторожно) и красную (искусственный интеллект не решает) зоны в зависимости от уровня риска.
- Способность распознавать риск галлюцинаций и защищать каждый вывод ИИ с помощью дисциплины Verify-Customize-Link.
- Способность принять принципы конфиденциальности и ответственности и применять принцип, согласно которому клиническое решение всегда остается за акушеркой и врачом.
Акушерство — это профессия, которая объединяет множество разных работ в один и тот же день. Утром акушерка измеряет беременной женщине артериальное давление и оценивает результаты анализов, днем успокаивает тревожную будущую маму, днем корректирует положение кормящей матери, вечером готовит брошюру по дородовому обучению, а в конце дня пишет свои конспекты. Часть этой работы включает в себя организацию информации, создание и запоминание текста; Некоторые из них представляют собой клинические решения с небольшой погрешностью, которые напрямую касаются здоровья матери и ребенка. Весь этот модуль учит четко разделять эти две группы и использовать искусственный интеллект только в первой группе, в безопасных пределах.
Искусственный интеллект (сокращенно ИИ; компьютерные системы, обученные работе с огромными объемами текста и способные писать и читать на человеческих языках) является мощным подспорьем в акушерской практике при правильном использовании. Здесь мы конкретно говорим об инструментах типа большой языковой модели (LLM; тип ИИ, который создает текст, соответствуя вам — например, чат-помощник). Эти инструменты обобщают текст, упрощают брошюру, составляют историю, пишут сообщение о встрече. Но он не ставит диагноз, не оценивает риск и не рекомендует лечение. Главный принцип, который мы будем повторять на протяжении всего модуля:
Искусственный интеллект — помощник: генерирует черновики, напоминает, упрощает. Диагностика, принятие решения о риске, назначение лекарств и клиническое руководство являются обязанностью акушерки и врача. Непроверенный вывод ИИ похож на неподписанную записку пациента; Само по себе оно не имеет обязывающего действия.
Что именно ускоряет ИИ в акушерстве?
Чтобы понять ценность ИИ в акушерстве, давайте разделим все на три области в зависимости от уровня риска. Это различие является основой для остальной части модуля.
Зеленая зона — комфортно используйте ИИ (текстовая и информационная работа): черновик образовательной брошюры, сообщение о приеме и подготовке к беременной женщине, перевод сложного медицинского текста на простой язык, оптимизация передаточной записи, первый перевод многоязычного информационного текста, дорожная карта, где искать актуальную литературу по теме. Здесь ИИ экономит время, и ошибку вывода легко обнаружить, когда акушерка ее прочитает и исправит.
Желтая зона. Используйте ИИ с осторожностью, только в качестве поддержки: перечисление факторов риска в истории (как напоминание, а не решение), составление контрольного списка с красным флажком, «приведение в голову» возможных дифференциальных ситуаций. Здесь ИИ может действовать как контрольный список/защита от забвения; Но акушерка фильтрует каждый пункт списка своими знаниями и решение остается за акушеркой.
Красная зона — ИИ НЕ принимает решения: ставит диагноз (например, диагноз преэклампсии), оценивает риск и принимает решение о направлении, определяет лекарство и дозировку, ведет роды, принимает решение об экстренном вмешательстве. В этой области выход AI может быть не более чем одним входом; никогда не сможет взять на себя ответственность.
Совет: прежде чем поручить задачу ИИ, задайте себе один вопрос: «Если эти результаты неверны, кто пострадает и как быстро?» Если повреждение происходит быстро и непосредственно у матери/ребенка, вы находитесь в красной зоне; Используйте ИИ только для редактирования текста, а не для его оценки.
Галлюцинация: почему ИИ кажется уверенным, но ошибается
Самой опасной особенностью больших языковых моделей является галлюцинация: модель выдает информацию, которой на самом деле не существует, на свободном и уверенном языке, как если бы она была правдой. Вместо того, чтобы говорить «Я не знаю», ИИ может заполнить пробел правдоподобной выдумкой. Конкретные примеры этого в акушерстве включают: составление несуществующего руководства, уверенное назначение неправильной дозы лекарства, указание неправильного «нормального диапазона» для значения анализа, цитирование исследования, которое фактически не было опубликовано.
Галлюцинация — это не «неисправность», а естественное следствие работы этих инструментов; не исчезает полностью. Поэтому решение состоит не в том, чтобы полагаться на ИИ, а в том, чтобы проверять каждое числовое и клиническое утверждение из независимого источника. Беглость текста не является доказательством его точности.
Дисциплина проверки: правило АНК
Прежде чем отпустить каждый выход AI, выполните три шага. Давайте для краткости назовем это ANC: Проверка – Настройка – Подключение.
- Проверка: проверьте каждое число, дозу, значение анализа, недельный предел и инструкции в тексте из текущего официального источника (руководства Министерства здравоохранения, протокол учреждения, надежное профессиональное руководство). Удалите предложение, которое вы не можете проверить.
- Настройте: адаптируйте общий текст к этой беременной женщине, этому учреждению, этому культурному контексту. ИИ пишет для обычного пациента; Перед вами реальный человек.
- Ссылка: Свяжите результаты с клиническим контекстом и цепочкой ответственности: добавьте примечание «Это проект, требуется одобрение акушерки/врача», при необходимости проконсультируйтесь с врачом.
три мини-кейса
Случай 1 — Проект брошюры (зеленая зона): Акушерка подготовит брошюру «Питание беременных» для школы беременных, в которой учатся 20 учеников. Он просит у AI простой черновик из 350 слов, получает его за 8 минут, исправляет 2 предложения в соответствии с протоколом железа и фолиевой кислоты своего учреждения и раздает его. Если бы он написал это от руки, это заняло бы 45 минут; ИИ сократил время примерно на 80%, а риск ошибки был низким, поскольку акушерка проверяла каждую цифру.
Случай 2 — Фальшивая доза (сдвиг в красную зону): Другая акушерка спросила Ю.З.: «Какова суточная доза железа при железодефицитной анемии во время беременности?» — спрашивает он. ИИ дает уверенную цифру. Когда акушерка собирается сказать об этом непосредственно беременной женщине, она останавливается и смотрит на институциональный протокол; Он видит, что диапазон, заданный ИИ, не соответствует протоколу. Решение о дозировке принадлежит врачу; Акушерка вообще не использует выход AI. Правило сработало: числовые/клинические результаты не используются без проверки.
Случай 3. Сбор истории болезни (желтая зона). Третья акушерка просит ИИ обобщить беспорядочную 12-страничную карту беременности (без идентифицирующей информации) и запрашивает список «существенных факторов риска». ИИ производит 6 предметов. Акушерка читает список, понимает, что 1 пункт был понят неправильно, удаляет его и добавляет 1 недостающий пункт. Список – это не решение, а вклад в оценку акушерки.
Копируемые шаблоны
Вы можете адаптировать четыре приведенных ниже шаблона к своей практике. Что у них общего: переписывание роли, лимита и требования проверки в подсказке.
Роль: Вы младший помощник, пишущий для опытной акушерки. Задача: Написать ПРОСТОЙ информационный проект для беременных женщин по следующей теме. Тема: [тема]Правила: - НЕ ставьте диагноз, не рекомендуйте лекарство/дозу, стратифицируйте риск. - НЕ ПИШИТЕ цифры, дозы или предложения, в которых вы не уверены; вместо этого оставьте ярлык «[АКУШЕРКА ПРОВЕРЕНА]». - Язык: уровень 6-го класса, короткие предложения, объяснение медицинского термина при первом употреблении. Длина: 300 слов или меньше.
Сканируйте следующий вывод AI с помощью «проверочного глаза». Вывод: [вставить текст]Просто дайте мне список: 1) Каждое утверждение НОМЕР, ДОЗА, НЕДЕЛЯ и НОРМАЛЬНЫЙ ДИАПАЗОН в нем (отдельно). 2) Каждое предложение, которое ссылается на руководство/протокол. 3) Каждое утверждение с определенными формулировками («всегда», «никогда», «определенно»). Это элементы, которые я проверю ВРУЧНУЮ; добавление комментариев.
Роль: Вы помощник по упрощению текста. Задание: Перепишите приведенный ниже медицинский текст так, чтобы его могла понять будущая мама выпускница средней школы. НЕ МЕНЯЙТЕ смысл, ДОБАВЛЯЙТЕ и УДАЛЯЙТЕ информацию. Если вы не можете упростить термин, кратко объясните его в скобках. Текст: [текст]
Это проект акта передачи; не требует клинического суждения. Организуйте следующие разбросанные заметки по заголовкам: [История] [Выводы сегодня] [Действия] [Напоминания для последующего наблюдения].Нет новой информации НЕ ПРОЙДЕНО; Если поле отсутствует, напишите «[ПУСТОЕ]». Необработанное примечание: [примечание]
Слабая подсказка / Сильная подсказка
<w:tcPr><w:tcW w:type="dxa" w:w="2880"/></w:tcPr><w:p><w:r><w:rPr><w:b/></w:rPr><w:t>Слабое приглашение
Мощная подсказка
текст
«Дайте информацию о железе при беременности»
«Роль: помощник акушерки. Напишите информативный план для беременных женщин на уровне 6-го класса, максимум 250 слов. Рекомендуйте дозировку/лекарство; отметьте число, в котором вы не уверены, как «[АКУШЕРКА ПРОВЕРИТЬ]».
Заключение
Текст без источников, труднопроверяемый текст, содержащий дозы и заявления.
Безопасно редактируемый черновик с четкими границами и отмеченными областями для проверки.
При слабом приглашении ИИ высвобождается; Он легко входит в красную зону. В мощном приглашении роль, лимит, тег проверки и длина определяются с самого начала; Результат остается под контролем акушерки.
Этика и конфиденциальность: два правила с самого начала
Начиная с первого модуля, на протяжении всего модуля применяются два этических принципа. Первое — это конфиденциальность: никогда не записывайте идентифицирующую информацию, такую как имя беременной женщины, номер TR ID, номер телефона, номер файла, адрес AI (подробности в пункте 9). Во-вторых, прозрачность и подотчетность: не представляйте текст, сгенерированный ИИ, как написанный человеком; За каждое заявление, входящее в клинический документ, ответственность несет акушерка, его утвердившая.
Внимание: ИИ пишет в соответствии с культурным «средним»; поэтому он может упускать из виду или неправильно принимать во внимание некоторые социальные, религиозные или местные особенности. Акушерка всегда осуществляет культурную адаптацию (подробности в разделе 10).
Распространенные ошибки
- Запрашиваю у ИИ «решение»: «Должен ли я направить эту беременную женщину?» Подобные вопросы — это красная зона; Вы не можете спросить ИИ.
- Использование цифр без их проверки: Оставлять в тексте каждую цифру, например, дозу, неделю, интервал анализа, без ее подтверждения – самая распространенная и опасная ошибка.
- Написание идентификационной информации: Любая информация, позволяющая узнать беременную женщину, не должна включаться в подсказку.
- Путаница беглости с точностью: то, что текст написан хорошо, не означает, что его содержание правильное.
- Не записывать роль и ограничения: неограниченное количество подсказок дает неограниченный (и рискованный) результат.
- Опираясь на один вывод: в критических текстах полезно повторно запустить ИИ в качестве второго «проверочного глаза» и просканировать его собственный вывод.
В итоге
Искусственный интеллект — мощный помощник, ускоряющий текстовую и информационную работу в акушерстве; но он не заменяет такие решения, как диагноз, риск, лечение и направление к врачу. Разделите задачи на зеленую (комфортно использовать), желтую (поддерживать, внимательно) и красную (принятие решений) зоны. Проверяйте каждое числовое и клиническое утверждение из независимых источников из-за риска галлюцинаций; пропускать каждый вывод через дисциплину «Проверка-Настройка-Связь». На протяжении всего модуля действуют принципы конфиденциальности и ответственности: решение всегда остается за человеком.
Задача приложения
Выберите 6 своих еженедельных задач и составьте график, поместив каждое из них в зеленую/желтую/красную зону. Используйте приведенный выше шаблон брошюры, чтобы составить план бизнеса в зеленой зоне; затем отсканируйте собственную распечатку с помощью шаблона «проверочного глаза» и отметьте элементы, требующие проверки. Для работы, которую вы помещаете в красную зону, напишите в двух предложениях, почему вы не будете использовать ИИ.
контрольный список
- [ ] Я поместил задание в зеленую/желтую/красную зону; Если он красный, значит, я не использовал ИИ для принятия решения.
- [ ] Я написал в приглашении роль, лимит (без диагноза/дозы) и тег проверки.
- [ ] Я независимо проверил каждое число, дозу, неделю и рекомендации в распечатке.
- [ ] В запросе не было введено никакой идентифицирующей информации.
- [ ] Я выполнил шаги «Проверка–Настройка–Связывание вывода».
- [ ] Я подтверждаю, что несу ответственность за заявление, внесенное в клинический документ.