Прибуток:
- Можливість розрізнити, де штучний інтелект економить реальний час у робочому процесі візуалізації (попереднє отримання, отримання, зчитування, звітування), а де прийняття критично важливих для безпеки рішень (діагноз, оприлюднення звіту, повідомлення про критичні знахідки) залишається за радіологом, залежно від рівня ризику завдання.
- Здатність застосовувати дисципліну підключення кожного виходу ШІ до зображення та клінічного контексту, незалежного огляду та остаточного затвердження підпису
- Знеособлення даних зображення та звіту DICOM в рамках KVKK/конфіденційності та набуття звички обирати безпечний транспортний засіб
Щодня через радіологічне відділення проходять сотні зображень. Чи є тінь на рентгенограмі грудної клітки нормальною судиною чи невеликим вузликом; чи є тиха кровотеча за головним болем пацієнта на КТ головного мозку; чи є кластер мікрокальцифікатів на мамографії доброякісним або першою ознакою раннього раку; У контрольній томографії перевірте, чи дійсно вузлик виріс, чи його просто вимірюють в іншій площині. Деякі з цих запитань повторюються та забирають багато часу; Деякі з них – це рішення, які безпосередньо визначатимуть життя людини і похибка яких має бути близькою до нуля. Штучний інтелект (скорочено ШІ – комп’ютерні системи, які можуть розпізнавати закономірності в зображеннях, класифікувати їх, вимірювати та генерувати текст) підходить якраз у середину цієї картини: за правильного використання він переносить нагальну справу вперед, пришвидшує вимірювання, складає проект звіту та дає вам час подумати; При неправильному використанні він може передати начебто безпечний, але неправильний результат у звіт пацієнта або викликати у вас помилкову впевненість.
Перший блок цього модуля не є вступом до програмного забезпечення. Його мета — роз’яснити, куди вставляти ШІ у вашій професії, а куди взагалі не варто. Оскільки радіологія є «критичною для безпеки» сферою: кожен звіт, який ви створюєте, впливає на діагностичне рішення лікаря, план операції, дозу хіміотерапії, тижні тривоги пацієнта. Давайте з самого початку викладемо основний принцип: штучний інтелект – це помічник, а не радіолог. Постановка діагнозу, видача (підписання) висновку та повідомлення про критичний висновок належать компетентному експерту — рентгенологу, який звітує, і лікуючому клініцисту. Неперевірений вихід AI є непідписаним звітом.
Робочий процес обробки зображень і місце ШІ
Щоб зрозуміти бізнес радіології, корисно розділити процес на чотири етапи. Фаза перед екстракцією: запит на обстеження, показання (медична причина, що вимагає обстеження), оцінка, вибір протоколу, підготовка пацієнта. Фаза збору: застосування методу (метод візуалізації — рентген, КТ/комп’ютерна томографія, МРТ/магнітний резонанс, ультразвук, мамографія), корекція дози та якості. Фаза читання: рентгенолог оцінює зображення, вимірювання, порівнює з попередніми дослідженнями. Етап звітування: структурування результатів, написання висновку, звіт про критичні висновки та надання звіту клініцисту. ШІ може торкатися всіх чотирьох етапів, але не на кожному з однаковими повноваженнями.
Під «модальністю» ми маємо на увазі модальність зображення. «Знахідка» — це ненормальна або вражаюча ситуація, виявлена на зображенні. «Сортування» означає винесення термінових справ на початок робочого списку. «Хибнонегативний результат» означає відсутність результату, який насправді існує; Це найстрашніший тип помилки в радіології, оскільки він мовчки завдає шкоди. AI може створити сигнал пріоритету, позначку або проект звіту для аудиту; Але тільки лікар-рентгенолог оцінює, чи відповідають вони клінічному стану пацієнта, анамнезу та попереднім обстеженням.
У наступній таблиці підсумовано роль і рівень ризику ШІ за місією:
Квест
Роль ШІ
Рівень ризику
Хто затверджує
Оцінка навантаження, планування робочого списку
акселератор, планувальник
низький
Керівник підрозділу
Рекомендації щодо протоколу/дози
Пропозиція, перевірено
Низький-Середній
Технік + рентгенолог
Напишіть чернетку звіту
генератор ескізів
середній
рентгенолог
Автоматичне вимірювання (вузлики, об'єм)
Калькулятор, перевірено
середній
рентгенолог
Прапор сортування/пріоритету
Пріоритет, а не останнє слово
Середньо-високий
Рентгенолог (досі читає)
Маркування ураження (CAD)
Попередній скринінг, друге око
висока
Рентгенолог (ставить діагноз)
Сповіщення про критичну знахідку
нагадування, чернетка
дуже високий
Рентгенолог (підтверджує + звіти)
Діагноз / підсумковий звіт
не корисно
дуже високий
Рентгенолог + клініцист
Майте на увазі один рядок на цій діаграмі: зі зростанням ризику роль ШІ зменшується, схвалення людей зростає. ШІ не може «звільнити» дослідження в жодному рядку.
Чому перевірка є серцем цього бізнесу
Здається, що штучний інтелект впевнений у результатах, які він дає, але він може бути не впевненим. Моделі зображень можуть пропустити знахідку (хибнонегативний) або позначити знахідку, яка не існує (хибнопозитивний). З іншого боку, мовні моделі, що генерують текст, можуть додати знахідку, якої насправді немає на зображенні, до звіту в плавному реченні, як якщо б це було правдою; це називається галюцинацією. Наприклад, речення «аденома правої надниркової залози» може бути включене в проект звіту КТ грудної клітини, який ніколи не розглядався. Обидві пастки мають однакову плинність; Єдине, що відокремлює правильне від неправильного, це ваш досвід і ваша звичка перевіряти.
Дисципліна перевірки складається з трьох етапів:
- Посилання на зображення: зіставте кожну знахідку з прапорцями ШІ та кожне речення, яке він записує у звіт, із самим зображенням. Будь-який вираз, який не має еквівалента на зображенні, не може бути включений у звіт. Використовуйте ШІ, щоб привернути увагу, а не як доказ.
- Прочитайте самостійно / переоцініть: обов’язково прочитайте області, не позначені AI. Негативний результат штучного інтелекту не є гарантією відсутності результатів; Ніколи не пропускайте свій власний систематичний скринінг.
- Клінічний фільтр: Перевірте оком експерта, чи результат суперечить історії пацієнта, показанням, попереднім обстеженням і висновкам обстеження.
Застереження: підписання чернетки звіту, створеного штучним інтелектом, без зіставлення кожного речення із зображенням несе таку ж відповідальність, як і подання непідписаного звіту. Плавне виведення не є правильним виведенням.
Конфіденційність: дані зображення є приватними даними
Радіологічні зображення та звіти є спеціальними персональними даними та захищені KVKK (Закон про захист персональних даних) у Туреччині та GDPR у Європі. Крім того, радіологічні дані містять ідентифікаційні дані у двох окремих шарах: заголовок DICOM (такі поля, як ім’я пацієнта, ідентифікаційний номер, дата народження, установа, дата обстеження на початку файлу зображення) та інколи вбудований текст (інформація про пацієнта, отримана з екрана УЗД або сканера та оброблена в пікселі). Завантаження зображення або звіту як є в загальнодоступний інструмент AI відкриває обидва шари. Правило просте: спочатку анонімізуйте. Очистити заголовок DICOM, маскувати вбудований текст; Ділячись історією, напишіть «62-річна жінка, відома історія раку молочної залози» замість «Айше Їлмаз, протокол 2024-114523, рак молочної залози». Якщо можливо, вибирайте корпоративні інструменти, які мають угоду про обробку даних, і не використовуйте ваші дані під час навчання моделей.
три міні-чохла
Випадок 1 — Безпечне використання. Рентгенолог стикається з робочим списком із 40 комп’ютерних сканувань мозку протягом напруженої зміни. Triage AI висуває два тести як «можливу гостру кровотечу». Рентгенолог спочатку читає ці два, виявляє справді велику субдуральну кровотечу в одному та викликає нейрохірурга протягом 6 хвилин; Він бачить, що інший є артефактом руху, і усуває його. Він читає решту 38 досліджень повністю, по порядку. AI змінив порядок, а не усунув читання; Критична подія набрала хвилин.
Випадок 2 — Неперевірена тягова пастка. Інший рентгенолог швидко підписує згенерований штучним інтелектом проект звіту про КТ грудної клітини. У проекті є речення «Аденома правої надниркової залози 2 см»; тоді як у цій ділянці такого ураження не було — модель викликала галюцинацію. У такому вигляді звіт надходить до клініциста, а пацієнт потрапляє в непотрібний ланцюжок ендокринних обстежень. Перевірку пропущено, речення не зіставлено із зображенням.
Випадок 3 — Порушення конфіденційності. Технік завантажує ультразвукове зображення, яке йому здається цікавим, із вбудованим іменем пацієнта в загальнодоступний інструмент штучного інтелекту та запитує: "Що це може бути?" Зображення надійшло на зовнішній сервер разом із ідентифікатором пацієнта. Закладу чекає перевірка КВКК. Правильним способом було замаскувати вбудований текст, очистити заголовок DICOM і поділитися лише анонімним зображенням.
Слабка підказка / Сильна підказка
Слабка підказка:
Напишіть цей звіт КТ грудної клітини: Айше Їлмаз, ТК 123..., протокол 2024-114523, я думаю, що в легені щось є.
Цей запит є неправильним у трьох аспектах: розповсюджується інформація про особу (порушення KVKK), не надаються висновки та деталі модальності, не визначено роль та межі. ШІ заповнює прогалини за допомогою припущень, і існує ризик помилкових висновків.
Потужна підказка:
Ваша роль: помічник рентгенолога з підготовки DRAFT. Не ставте діагноз, не вважайте звіт завершеним. Створіть структурований ПРОЕКТ виключно на основі висновків, які я вам надаю; додавання будь-яких знахідок, які не відповідають зображенню; Позначте область, у якій ви не впевнені, як «[нехай рентгенолог підтвердить]». Хвора: Жінка 62 років, кашель, паління. Методика: безконтрастна КТ грудної клітки. Результати: вузлик щільності м’яких тканин 8 мм у правій верхній частці; У середостінні відсутні лімфовузли патологічних розмірів; Плеврального випоту немає. Рубрики: Клінічна інформація, Техніка, Висновки, Висновки, Рекомендації.
Сильна воля анонімна, визначає роль і межі, дає модальність і висновки, забороняє фабрикацію і вимагає знак перевірки.
Шаблони підказок, які можна копіювати
ШАБЛОН ОПИСУ РОЛЬІ МЕЖ Твоя роль: Асистент радіолога з підготовки звіту. Ви не рентгенолог; встановлення діагнозу, оприлюднення звіту, повідомлення про критичні результати. Остаточне затвердження та підпис належить радіологу. Не додавайте знахідки, які не відповідають зображенню; Якщо ви не впевнені, позначте це як «[нехай рентгенолог підтвердить]», не вигадуйте. Завдання: [написати завдання].
ШАБЛОН УПРАВЛІННЯ АНОНІМІЗАЦІЄЮ. Витягніть ім’я, TR ID, номер протоколу/обстеження, дату народження, контактну інформацію та інформацію про установу з тексту нижче; Натомість напишіть "[видалено]". Залиште лише клінічно значущу інформацію (вікова група, стать, відповідний анамнез). Примітка. Нагадайте мені, що якщо я збираюся поділитися зображенням, мені також потрібно очистити заголовок DICOM і текст, вбудований у зображення. Текст: [вставити текст]
ШАБЛОН ПЕРЕВІРКИ ПІДТВЕРДЖЕННЯ Для кожного звіту про висновок у створеному вами чернетці вкажіть: (1) на яких вхідних даних ґрунтується цей висновок, (2) що саме на зображенні потрібно перевірити, (3) де це залежить від клінічного контексту. За потреби використовуйте формулювання «можливо/підозрювано», а не остаточне твердження.
ШАБЛОН СОРТУВАННЯ РІВНЯ РИЗИКУ. Розмістіть і обґрунтуйте радіологічне призначення, яке я розподілю за такими категоріями: (A) низький ризик – ШІ схема/рекомендація адекватна, (B) середній ризик – радіолог повинен підтвердити, (C) високий/дуже високий ризик – діагноз/рішення/повідомлення належить радіологу, ШІ є лише допоміжним. Завдання: [написати завдання].
Поширені помилки
- Приймаючи ШІ за радіолога. AI сканує шаблони, але не несе відповідальності та підпису; Діагноз за вами. Результатом є проект, а не рішення.
- Забуття ідентичності, вбудованої в образ. Очистити заголовок DICOM недостатньо; Ім’я, вигравіруване пікселями на зображеннях ультразвуку/сканера, також має бути анонімним.
- Покладаючись на негативні результати ШІ та розслаблюючи сканування. «Немає ознак» не означає відсутність знахідки; Ніколи не пропускайте власне систематичне читання.
- Підписання проекту звіту без звірки. Ви можете додати знахідку, яка не є моделлю; Кожне речення необхідно перевірити зображенням.
- Без надання клінічного контексту. Інтерпретація, зроблена без показань, історії або попереднього обстеження, є оманливою.
Порада: для кожного обстеження ставте собі одне запитання: «Що станеться з пацієнтом, якщо роздруківка буде неправильною?» Якщо відповідь серйозна — а в радіології це часто так — використовуйте штучний інтелект лише для попередньої вибірки/начерку/вимірювання та ніколи не пропускайте перевірку.
Підсумовуючи
Штучний інтелект – потужний помічник у радіології: він висуває термінову справу, робить вимірювання, робить ескізи, стає другим оком. Але оскільки ви працюєте в критично важливій для безпеки зоні, діагностику, оприлюднення звіту та повідомлення про критичні результати покладає на кваліфікованого радіолога. Роль штучного інтелекту на чотирьох етапах процесу формування зображення (попереднє захоплення, захоплення, читання, звіт) змінюється залежно від рівня ризику; Із зростанням ризику зростає схвалення людей. Три дисципліни охороняють кожен крок: посилання на зображення, незалежне читання, клінічний фільтр. І за всім цим стоїть конфіденційність: зображення та звіт не потрапляють на зовнішні пристрої без анонімізації, включаючи заголовок DICOM і вбудований текст.
Аплікаційне завдання
Виберіть три різні завдання зі свого підрозділу (або з прикладу сценарію): одне з низьким рівнем ризику (наприклад, щоденний підсумок робочого списку), одне із середнім ризиком (наприклад, складання звіту), одне з дуже високим ризиком (наприклад, повідомлення про критичні результати). Для кожного (1) опишіть роль штучного інтелекту одним реченням, (2) запишіть, який крок перевірки ви зробите, (3) вкажіть, як ви будете анонімізувати дані (як текст, так і зображення). Потім адаптуйте наведений вище шаблон «Визначення ролі та меж» до свого завдання із середнім ризиком і напишіть підказку.
контрольний список
- [ ] Я визначив рівень ризику (низький/середній/високий/дуже високий) завдання.
- [ ] Я обмежив роль штучного інтелекту до «помічника/вихователя/проекту/вимірювання»; діагноз і підпис рентгенолога.
- [ ] я анонімізував текст; З'явилися ім'я, ПІБ, протокол і дата народження.
- [ ] Я зазначив, що якби я мав поділитися зображеннями, я б очистив заголовок DICOM і вбудований текст.
- [ ] Я додав клінічний контекст (вік, стать, показання, анамнез, попередній огляд) до підказки.
- [ ] Незважаючи на негативні результати штучного інтелекту, я зобов’язався займатися власним систематичним читанням.
- [ ] Я не підпишу рукопис, не зіставивши кожне речення із зображенням.