Прибуток:
- Можливість розпізнавати вбудовану ідентифікаційну інформацію (заголовок і записані дані) у зображеннях DICOM і застосовувати правила анонімізації та безпечного обміну
- Здатність критично оцінювати валідацію, рівень доказів, регуляторне схвалення (CE/нормативне регулювання) і місцеву валідацію моделі ШІ
- Здатність вирішувати етичні проблеми, такі як упередженість алгоритму, згода пацієнта, відповідальність і прозорість у контексті візуалізації
Радіологічні дані є одним із найбільш чутливих типів персональних даних. Зображення передає не тільки хворобу, але й те, чия це хвороба; МРТ головного мозку може ідентифікувати особу за допомогою реконструкції обличчя, файл DICOM зберігає ім’я пацієнта, ідентифікаційний номер і дату народження у своєму заголовку. В епоху штучного інтелекту ці дані легко завантажити в інструмент, поділитися ними або використати для навчання моделі — і саме ця легкість створює найбільший ризик конфіденційності. У цьому розділі ми обговоримо анонімізацію DICOM, KVKK/конфіденційність, перевірку моделі та питання етики.
Основний принцип: радіологічні зображення та звіти є спеціальними персональними даними. Ідентифікаційні дані в заголовку DICOM і вбудовані в зображення не потрапляють у зовнішні інструменти без анонімізації. Надійність моделі; Валідація оцінюється за рівнем доказів, схваленням регуляторних органів і місцевою перевіркою. Відповідальність, підпис і остаточне рішення завжди лежить на радіологі.
DICOM несе ідентифікацію на двох рівнях
Радіологічні дані, на відміну від інших даних про здоров’я, містять ідентифікаційні дані у двох окремих шарах, і анонімізація є неповною без очищення обох.
1. Заголовок DICOM: структуровані поля на початку файлу зображення — ім’я пацієнта, ідентифікаційний номер/номер протоколу, дата народження, стать, заклад, дата обстеження, апарат. Ці області можна видалити/замаскувати за допомогою інструменту, але якщо забути, зображення й надалі міститиме ідентифікацію, хоча вважатиметься «анонімним».
2. Згорілі дані: на деяких зображеннях, особливо на ультразвукових знімках, знімках екрана флюороскопії, зовнішніх сканах, інформація про пацієнта записується безпосередньо в пікселі. Очищення заголовка не видаляє це; вбудований текст має бути замаскований (покритий) або ця область має бути обрізана.
Крім того, існує ризик реконструкції обличчя: обличчя можна реконструювати в тривимірному вигляді за допомогою КТ голови/мозку та МРТ високої роздільної здатності; Це також є формою розкриття особи та, у деяких контекстах, вимагає «псування».
шар
де
Як чистити
якщо забутий
Заголовок DICOM
Назва файлу
Інструмент анонімізації
ID залишається відкритим
вбудований текст
внутрішній піксель
Маскування/обрізання
Імідж несе ідентичність
дані обличчя
3D вид голови
псування
Впізнаваний по обличчю
Текст звіту
РІС/текст
Видалення імені/номера
Особу встановлено
КВКК і безпечний шеринг
У Туреччині KVKK (Закон про захист персональних даних) розглядає дані про здоров’я як «особисті дані особливого характеру» з найвищим рівнем захисту; У Європі його еквівалентом є GDPR. Основні правила: обробляти дані лише стільки, скільки необхідно для необхідної мети; деанонімізація поза закладом; Якщо ви збираєтеся використовувати його в моделях навчання, надайте правову основу та чітку згоду, якщо необхідно; Знайте, куди йдуть ваші дані. Завантаження неанонімних зображень/звітів у загальнодоступний інструмент ШІ є витоком даних. Слід віддавати перевагу корпоративним інструментам, які мають угоду про обробку даних (DPA), не використовують ваші дані під час навчання моделей і, бажано, працюють усередині/на місці.
Увага: повідомлення «я щойно видалив прізвище» або «інструмент уже захищено» не є анонімізацією. Жодні дані не виходять за межі установи без видалення всіх імен, TR ID, номера протоколу/обстеження, дати народження, контактної особи, установи та ідентифікаційних даних вбудованих/заголовків. Анонімізація – це не звичка, не одноразове завдання.
Перевірка моделі: коли довіряти моделі
Недостатньо сказати, що модель «працює»; Треба запитати як, де і скільки це працює.
- Валідація та рівень доказовості: у якій популяції, у скількох випадках, з якими показниками (чутливість, специфічність, хибнонегативні) була протестована модель? Чи є опубліковані незалежні докази?
- Схвалення регуляторних органів: чи схвалено продукт як медичний пристрій (наприклад, маркування CE, відповідне схвалення регуляторних органів)? Яке використання охоплює схвалення?
- Локальна перевірка: найважливіший крок. Чи була модель перевірена на вашому власному пристрої, вашому власному протоколі, вашій власній популяції? Дрейф розподілу (зниження продуктивності в міру віддалення від умов навчання) не спостерігається без локальної перевірки.
- Відстеження: чи відстежуються версія моделі, оновлення та зміна продуктивності?
Етичний вимір
Алгоритмічне упередження: якщо модель навчена на певній групі населення, вона може працювати гірше в інших групах (вік, стать, етнічна приналежність, рідкісні захворювання) і посилювати нерівність. Згода пацієнта та прозорість: чи повинен пацієнт знати, що в його діагностиці використовується штучний інтелект; Як установа робить це прозорим? Відповідальність: якщо зчитування за допомогою штучного інтелекту дає помилку, хто несе відповідальність — відповідь лежить на радіологі, який підписав; ШІ не бере на себе відповідальності. Справедливий доступ: якщо інструменти штучного інтелекту доступні в одних центрах, а не в інших, це може бути джерелом нерівності.
три міні-чохла
Випадок 1 — порушення вбудованого тексту. Лікар завантажує цікаве ультразвукове зображення, очищає його заголовок і завантажує його в загальнодоступний інструмент ШІ. Але в кутку зображення є ім’я пацієнта та номер протоколу, викарбувані на пікселі; Незважаючи на те, що заголовок був чистим, він містив вбудований ідентифікатор публікації. Установа зустрічає повідомлення КВКК. Правильним способом було замаскувати вбудовану область і поділитися нею таким чином.
Випадок 2 — Розповсюдження без локальної перевірки. Центр регулярно впроваджує модель кісткового віку, навчену на закордонному населенні, ніколи не перевіряючи її у власній групі пацієнтів. Через кілька місяців було помічено, що модель систематично зміщується у своїх популяціях. Якби проводилася локальна перевірка, це було б видно з самого початку. Урок: навіть схвалення регуляторних органів не замінить місцеву перевірку.
Випадок 3 — Повідомити про анонімізацію. Рентгенолог хоче обговорити складний випадок зі своїм колегою за допомогою інструменту ШІ. Він переписує історію як «62-річна жінка, відома історія раку молочної залози» замість «Айше Їлмаз, протокол 2024-114523, рак молочної залози»; Надає спільний доступ до зображення з очищеним заголовком DICOM і маскованим вбудованим текстом. Відбувається клінічне обстеження, особи не виявлені. Належна анонімізація забезпечила безпечне використання ШІ.
Слабка підказка / Сильна підказка
Слабка підказка:
Ayşe Yılmaz, TC 123..., протокол 2024-114523, рак молочної залози, інтерпретувати це МРТ.
Ідентичність відкрито ділиться; Це порушення КВКК, треба було припинити до написання підказки.
Потужна підказка:
Ваша роль: помічник з контролю анонімізації. Видалити з наведеного нижче тексту своє ім’я, ідентифікаційний код, номер протоколу/обстеження, дату народження, контактну інформацію та інформацію про установу; замініть його на "[видалено]". Залиште лише клінічно необхідну анонімну інформацію (вікова група, стать, відповідний анамнез). Також нагадайте мені: якщо я збираюся поділитися зображенням, мені також потрібно очистити заголовок DICOM і текст, вбудований у зображення, і врахувати дані обличчя в зображеннях голови/мозку. Текст: [вставити текст]
Потужна підказка витягує ідентифікатор, нагадує вбудовані/заголовки та дані обличчя.
Шаблони підказок, які можна копіювати
ШАБЛОН КЕРУВАННЯ АНОНІМІЗАЦІЄЮ Ваша роль: помічник з анонімізації. Витяг з тексту ПІБ, номер ТРД, номер протоколу/обстеження, дата народження, контактна інформація та інформація про установу; Введіть "[видалено]". Залиште лише клінічно необхідну анонімну інформацію. Нагадайте мені, що якщо я збираюся поділитися зображенням, мені потрібно очистити дані заголовка + вставлення + обличчя. Текст: [написати]
ШАБЛОН ЗАПИТУ НА ПЕРЕВІРКУ МОДЕЛІ Ваша роль: ПОМІЧНИК. Я буду оцінювати модель ШІ. Сформулюйте запитання, які мені потрібно поставити: яка популяція/кількість випадків/метрики, сфера схвалення регулюючих органів, чи виконана локальна перевірка, ризик дрейфу розповсюдження, відстеження версій. Рішення в руках установи. Інформація про модель: [літо]
ETHICS/BIAS CHECK TEMPLATEI надасть вам контекст використання моделі ШІ. Оцініть упередженість алгоритму (яке може погано працювати в групах), згоду/прозорість пацієнта, підзвітність і справедливий доступ; Під кожним заголовком напишіть запитання, яке має поставити заклад. Контекст: [написати]
DATA FLOW PRIVACY TEMPLATEI надасть вам сценарій надсилання даних до інструменту ШІ. Створіть контрольний список із запитами, куди йдуть дані, чи зберігаються вони, чи використовуються в навчанні моделі, а також статус DPA/юридичної основи. Нагадайте нам про обов’язковість анонімізації для зовнішніх транспортних засобів. Сценарій: [написати]
Поширені помилки
- Просто очистіть заголовок і забудьте про вбудований текст. Зображення все ще несе ідентичність.
- Ігнорування даних обличчя. Людину можна розпізнати за тривимірними зображеннями голови/мозку.
- Заміна офіційного схвалення на місцеве підтвердження. Згода вказує на обсяг; Це не гарантує продуктивність ваших власних даних.
- Не питаючи про алгоритмічне упередження. Модель може погано працювати для деяких груп, посилюючи нерівність.
- Передача відповідальності ШІ. Підпис у лікаря-рентгенолога; Відповідальність за помилки лежить на людях.
Порада: перш ніж надсилати будь-які дані за межі установи, задайте одне запитання: «Якщо ці дані витік, чи можна було ідентифікувати пацієнта?» Якщо відповідь «так» або «не впевнений», дані ще не анонімні — не надсилайте їх.
Підсумовуючи
Радіологічні зображення та звіти є спеціальними персональними даними та вимагають найвищого рівня захисту в рамках KVKK/GDPR. Дані DICOM містять ідентифікаційні дані на двох рівнях — заголовку та тексті, вбудованому в зображення — і жодні дані не залишають підприємство без очищення, як і дані обличчя, якщо необхідно. Щоб довіряти моделі, оцінюються її валідація, рівень доказовості, дозвіл регулятора та місцева валідація, зокрема на вашому власному пристрої/популяції; Схвалення регуляторних органів не замінює місцеву перевірку. В етичному вимірі сумніваються упередженість алгоритму, згода пацієнта, прозорість, справедливий доступ і відповідальність. У всіх випадках підпис, відповідальність і остаточне рішення належить лікарю-радіологу.
Аплікаційне завдання
Створіть текстовий факт і сценарій обміну зображеннями. Зробіть текст анонімним за допомогою шаблону «Перевірка анонімізації» та етапів перевірки заголовка списку/вбудованого тексту/даних обличчя. Потім оцініть модель, яку ви використовуєте (або розглядаєте) за допомогою шаблону «Запит перевірки моделі»: популяція, область перевірки, локальний статус перевірки. Нарешті, за допомогою шаблону «Контроль етики/упередженості» запишіть, у яких групах ця модель може працювати погано, і питання прозорості/підзвітності.
контрольний список
- [ ] Я очистив поля ID у заголовку DICOM.
- [ ] Я замаскував/обрізав вигорілий текст на зображенні.
- [ ] Я оцінив ризик даних обличчя на зображеннях голови/мозку.
- [ ] Я анонімізував текст звіту/розповіді (ПІБ, ІП, протокол, дата народження).
- [ ] Я поставив під сумнів потік даних і DPA/юридичну основу для зовнішнього інструменту.
- [ ] Я перевірив локальну перевірку та область перевірки моделі.
- [ ] Я оцінив упередженість алгоритму, прозорість і підзвітність; У мене є підпис.