Прибыль:
- Способность различать, где искусственный интеллект экономит реальное время в рабочем процессе визуализации (предварительное получение изображений, получение данных, считывание, отчетность) и где критические для безопасности решения (диагноз, выпуск отчета, уведомление о критических результатах) остаются на усмотрение рентгенолога, в зависимости от уровня риска задачи
- Способность применять дисциплину подключения каждого вывода ИИ к изображению и клиническому контексту, независимую проверку и окончательное утверждение подписи.
- Анонимизация изображений DICOM и данных отчетов в рамках KVKK/конфиденциальности и приобретение привычки выбирать безопасный автомобиль.
Сотни изображений проходят через радиологическое отделение каждый день. Является ли тень на рентгенограмме грудной клетки нормальным сосудом или небольшим узлом? имеется ли скрытое кровотечение за головной болью пациента на КТ головного мозга; является ли скопление микрокальцинатов на маммограмме доброкачественным или первым признаком раннего рака; На контрольной томографии – действительно ли узел разросся или его просто измеряют в другой плоскости. Некоторые из этих вопросов повторяются и отнимают много времени; Некоторые из них представляют собой решения, которые напрямую определяют жизнь человека и погрешность которых должна быть близка к нулю. Искусственный интеллект (сокращенно ИИ – компьютерные системы, которые могут распознавать закономерности на изображениях, классифицировать их, измерять и генерировать текст) находится прямо посередине этой картины: при правильном использовании он выдвигает на первый план неотложные дела, ускоряет измерения, составляет отчет и дает время подумать; При неправильном использовании он может передать в отчет пациента, казалось бы, безопасный, но неправильный результат или привести к ложной уверенности.
Первый раздел этого модуля не является введением в программное обеспечение. Его цель — прояснить, где следует использовать ИИ в вашей профессии, а где его вообще не следует использовать. Потому что радиология является областью, «критичной с точки зрения безопасности»: каждый отчет, который вы создаете, влияет на диагностическое решение врача, план операции, дозу химиотерапии, недели беспокойства пациента. Давайте с самого начала изложим основной принцип: искусственный интеллект — помощник, а не рентгенолог. Диагностика, выдача (подписание) заключения и уведомление о критическом заключении принадлежат компетентному эксперту — докладчику-рентгенологу и лечащему врачу. Непроверенный вывод AI представляет собой неподписанный отчет.
Рабочий процесс обработки изображений и место ИИ
Чтобы понять суть радиологии, полезно разделить этот процесс на четыре этапа. Фаза перед экстракцией: запрос на обследование, оценка показаний (медицинских причин, требующих обследования), выбор протокола, подготовка пациента. Фаза сбора данных: применение метода (метод визуализации — рентген, КТ/компьютерная томография, МРТ/магнитный резонанс, УЗИ, маммография), корректировка дозы и качества. Этап чтения: рентгенолог оценивает изображение, измерения, сравнение с предыдущими исследованиями. Фаза отчета: структурирование результатов, написание заключения, сообщение о важных результатах и доставка отчета клиницисту. ИИ может затрагивать все четыре этапа, но не каждый с одинаковым авторитетом.
Под «модальностью» мы подразумеваем модальность изображения. «Нахождение» — это ненормальная или поразительная ситуация, обнаруженная на изображении. «Сортировка» означает вынесение срочных дел на передний план рабочего списка. «Ложноотрицательный результат» означает отсутствие факта, который действительно существует; Это самый опасный тип ошибки в радиологии, поскольку он незаметно причиняет вред. ИИ может выдать приоритетный сигнал, флаг или проект отчета для проверки; Но только врач-рентгенолог оценивает, соответствуют ли они клиническому состоянию пациента, анамнезу и предыдущим обследованиям.
В следующей таблице суммированы роль и уровень риска ИИ по миссиям:
Квест
Роль ИИ
Уровень риска
Кто одобряет
Оценка рабочей нагрузки, планирование рабочего списка
ускоритель, планировщик
низкий
Менеджер подразделения
Протокол/рекомендация по дозе
Предложение, проверено
Низкий-средний
Техник + радиолог
Написать проект отчета
генератор эскизов
средний
рентгенолог
Автоматическое измерение (узел, объем)
Калькулятор, проверено
средний
рентгенолог
Флаг сортировки/приоритета
Расстановка приоритетов, а не последнее слово
Средне-высокий
Радиолог (все еще читает)
Маркировка повреждений (CAD)
Предварительный скрининг, второй глаз
высокий
Врач-рентгенолог (ставит диагноз)
Критическое обнаружение оповещения
напоминание, черновик
очень высокий
Радиолог (подтверждает + сообщает)
Диагностика / окончательный отчет
бесполезно
очень высокий
Радиолог + врач
Помните об одной линии на этой диаграмме: по мере роста риска роль ИИ уменьшается, а одобрение людей растет. ИИ не может «освободить» исследование ни в каком направлении.
Почему проверка — это сердце этого бизнеса
Кажется, что искусственный интеллект уверен в результатах, которые он дает, но он может и не быть в этом уверен. Модели изображений могут пропустить результат (ложноотрицательный результат) или отметить факт, которого не существует (ложноположительный результат). С другой стороны, языковые модели, генерирующие текст, могут добавить в отчет в беглом предложении вывод, которого на самом деле нет на изображении, как если бы это было правдой; это называется галлюцинация. Например, предложение «аденома правого надпочечника» может быть включено в проект отчета о КТ грудной клетки, который никогда не рассматривался. Обе ловушки имеют одинаковую текучесть; Единственное, что отличает правильное от неправильного, — это ваш опыт и привычка проверять.
Проверочная дисциплина состоит из трех этапов:
- Ссылка на изображение: сопоставьте все обнаруженные флаги ИИ и каждое предложение, которое он записывает в отчет, с самим изображением. Любое выражение, не имеющее эквивалента на изображении, не может быть включено в отчет. Используйте ИИ для привлечения внимания, а не в качестве доказательства.
- Прочтите самостоятельно/переоцените: Обязательно прочитайте области, не отмеченные ИИ. Отрицательный результат ИИ не является гарантией «отсутствия результатов»; Никогда не пропускайте собственный систематический скрининг.
- Клинический фильтр: проверьте экспертным взглядом, не противоречат ли выходные данные истории пациента, показаниям, предыдущим обследованиям и результатам обследований.
Внимание: Подписание проекта отчета, созданного ИИ, без сопоставления каждого предложения с изображением влечет за собой ту же ответственность, что и отправка неподписанного отчета. Плавный вывод не является правильным выводом.
Конфиденциальность: данные изображения являются личными данными.
Радиологические изображения и отчеты являются особыми персональными данными и защищены KVKK (Законом о защите персональных данных) в Турции и GDPR в Европе. Более того, радиологические данные содержат идентичность в двух отдельных слоях: заголовок DICOM (такие поля, как имя пациента, идентификационный номер, дата рождения, учреждение, дата исследования в начале файла изображения) и иногда встроенный текст (информация о пациенте, полученная с экрана УЗИ или сканера и преобразованная в пиксели). При загрузке изображения или отчета в общедоступный инструмент искусственного интеллекта доступны оба слоя. Правило простое: сначала анонимизируйтесь. Очистить заголовок DICOM, замаскировать встроенный текст; Делясь историей, напишите «62-летняя женщина, известная история рака молочной железы» вместо «Айше Йылмаз, протокол 2024-114523, рак молочной железы». Если есть возможность, выбирайте корпоративные инструменты, у которых есть соглашение об обработке данных и не используйте ваши данные при обучении модели.
три мини-кейса
Случай 1 — Безопасное использование. Радиологу предстоит выполнить 40 КТ головного мозга во время напряженной смены. Triage AI предлагает два теста как «возможное острое кровотечение». Радиолог сначала читает эти два, обнаруживает в одном действительно большое субдуральное кровотечение и вызывает нейрохирурга в течение 6 минут; Он видит, что другой — артефакт движения, и устраняет его. Остальные 38 исследований он читает полностью по порядку. ИИ изменил порядок, но не исключил чтение; Критическое событие длилось минуты.
Случай 2 — Непроверенная тяговая ловушка. Другой радиолог быстро подписывает созданный ИИ проект отчета о КТ грудной клетки. В проекте есть предложение «Аденома правого надпочечника 2 см»; тогда как в этом разделе такого поражения не было — модель вызывала галлюцинацию. В таком виде отчет передается клиницисту, и пациент подвергается ненужной цепочке эндокринных обследований. Проверка пропущена, предложение не соответствует изображению.
Случай 3 — Нарушение конфиденциальности. Техник загружает интересующее его ультразвуковое изображение с именем пациента в общедоступный инструмент искусственного интеллекта и спрашивает: «Что это может быть?» Изображение было отправлено на внешний сервер вместе с идентификатором пациента. Учреждению грозит проверка КВКК. Правильный способ — замаскировать встроенный текст, очистить заголовок DICOM и поделиться только анонимным изображением.
Слабая подсказка / Сильная подсказка
Слабая подсказка:
Напишите этот отчет КТ грудной клетки: Айше Йылмаз, TC 123..., протокол 2024-114523, я думаю, что-то в легких.
Этот запрос неверен по трем аспектам: информация о личности разглашается (нарушение КВКК), не приводятся выводы и подробности модальности, не определены роль и границы. ИИ заполняет пробелы догадками, и существует риск ложных выводов.
Мощная подсказка:
Ваша роль: Помощник отчитывающегося радиолога по подготовке проекта. Не ставьте диагноз, не считайте отчет завершенным. Создайте структурированный ПРОЕКТ исключительно на основе результатов, которые я вам даю; добавление любых выводов, не соответствующих изображению; Отметьте область, в которой вы не уверены, как «[позволить рентгенологу подтвердить]». Пациент: женщина, 62 года, кашель, курение. Методика: КТ грудной клетки без контраста. Полученные данные: узел плотности мягких тканей размером 8 мм в правой верхней доле; В средостении лимфатических узлов патологических размеров нет; Плевральный выпот отсутствует. Рубрики: Клиническая информация, Методика, Результаты, Заключение, Рекомендации.
Сильная воля анонимна, определяет роль и границы, дает модальность и выводы, запрещает фальсификацию и требует знака проверки.
Копируемые шаблоны подсказок
ШАБЛОН ОПИСАНИЯ РОЛИ И ГРАНИЦВаша роль: Помощник рентгенолога, готовящего проект. Вы не рентгенолог; постановка диагноза, публикация отчета, сообщение о критических выводах. Окончательное утверждение и подпись остается за рентгенологом. Не добавляйте никаких выводов, не соответствующих изображению; Если вы не уверены, отметьте это как «[позволите рентгенологу подтвердить]», не выдумывайте. Задача: [написать задачу].
ШАБЛОН КОНТРОЛЯ АНОНИМИЗАЦИИИзвлеките имя, TR ID, номер протокола/обследования, дату рождения, контактную информацию и информацию об учреждении из текста ниже; Вместо этого напишите «[удалено]». Оставляйте только клинически значимую информацию (возрастная группа, пол, соответствующий анамнез). Примечание. Напомните мне, что если я собираюсь поделиться изображением, мне также необходимо очистить заголовок DICOM и текст, встроенный в изображение. Текст: [вставить текст]
ШАБЛОН ПРОВЕРКИ ПОДТВЕРЖДЕНИЯ Для каждого вывода в черновике, который вы создаете, укажите: (1) на каких входных данных основан этот вывод, (2) что именно на изображении необходимо проверить, (3) где это зависит от клинического контекста. При необходимости используйте формулировки «возможный/подозрительный», а не однозначные утверждения.
ШАБЛОН СОРТИРОВКИ УРОВНЕЙ РИСКА Разложите и обоснуйте задание по радиологии, которое я вам дам, по следующим категориям: (A) низкий риск — схема/рекомендации AI адекватны, (B) средний риск — рентгенолог должен подтвердить, (C) высокий/очень высокий риск — диагноз/решение/уведомление принадлежит рентгенологу, AI является лишь вспомогательным. Задача: [написать задачу].
Распространенные ошибки
- Принимаем ИИ за рентгенолога. ИИ сканирует шаблоны, но не несет ответственности и не имеет подписи; Диагноз ваш. Результатом является проект, а не решение.
- Забывание личности, заложенной в образе. Очистки заголовка DICOM недостаточно; Имя, выгравированное в пикселях на изображениях УЗИ/сканера, также должно быть анонимным.
- Полагаться на отрицательные результаты AI и расслаблять сканирование. «Нет признаков» не означает отсутствия находок; Никогда не пропускайте свое систематическое чтение.
- Подписание проекта отчета без сопоставления. Вы можете добавить результат, который не является моделью; Каждое предложение должно быть подтверждено изображением.
- Не придавая клинического контекста. Интерпретация, сделанная без указаний, анамнеза или предыдущего обследования, вводит в заблуждение.
Совет: При каждом обследовании задавайте себе один вопрос: «Что произойдет с пациентом, если распечатка будет неверной?» Если ответ серьезный — а в радиологии это часто так — используйте ИИ только для предварительной выборки/рисования/измерений и никогда не пропускайте проверку.
В заключение
Искусственный интеллект — мощный помощник в радиологии: он выдвигает неотложный случай, делает измерения, делает эскизы, становится вторым глазом. Но поскольку вы работаете в области, где безопасность критична, диагностика, выпуск отчета и уведомление о критических результатах остаются на усмотрение квалифицированного радиолога. Роль ИИ на четырех этапах процесса визуализации (предварительный захват, захват, чтение, отчет) варьируется в зависимости от уровня риска; По мере увеличения риска растет и одобрение людей. Каждый шаг охраняется тремя дисциплинами: ссылка на изображение, независимое чтение, клинический фильтр. И за всем этим стоит конфиденциальность: изображение и отчет не передаются на внешнее устройство без анонимизации, включая заголовок DICOM и встроенный текст.
Задача приложения
Выберите три разные задачи для вашего подразделения (или из примерного сценария): одну с низким риском (например, сводка ежедневного рабочего списка), одну со средним риском (например, составление отчета), одну с очень высоким риском (например, уведомление о критических результатах). Для каждого (1) опишите роль ИИ в одном предложении, (2) запишите, какой шаг проверки вы предпримете, (3) укажите, как вы будете анонимизировать данные (как текст, так и изображения). Затем адаптируйте приведенный выше шаблон «Определение роли и границ» к своей задаче со средним риском и напишите подсказку.
контрольный список
- [ ] Я определил уровень риска (низкий/средний/высокий/очень высокий) задачи.
- [ ] Я ограничил роль ИИ «помощником/воспитателем/черновиком/измерителем»; диагноз и подпись врача-рентгенолога.
- [ ] Я анонимизировал текст; Появилось имя, ТР ID, протокол и дата рождения.
- [ ] Я отметил, что если бы я делился изображениями, я бы очистил заголовок DICOM и встроенный текст.
- [ ] Я добавил в подсказку клинический контекст (возраст, пол, показания, анамнез, предыдущее обследование).
- [ ] Несмотря на отрицательные результаты работы ИИ, я решил заняться собственным систематическим чтением.
- [ ] Я не подпишу рукопись, не сопоставив каждое предложение с изображением.