Прибуток:
- Можливість анонімізації лабораторних даних пацієнта в межах КВКК/конфіденційності та застосування безпечних інструментів і правил обробки даних
- Зрозумійте, чому під час клінічного використання моделей штучного інтелекту перевірка, показники ефективності та контроль упередженості є обов’язковими.
- Здатність брати на себе повну відповідальність, вплітаючи чотири етичні принципи та ланцюг відповідальності в кожне використання штучного інтелекту
Лабораторія є однією з найбільш інтенсивних точок системи охорони здоров’я. Кожен пацієнт, кожен тест, кожен результат — це частина даних, і більшість із них входять до сфери конфіденційних персональних даних, тобто даних про здоров’я. Штучний інтелект може принести велику користь, працюючи з цими даними, але при недбалому використанні той самий штучний інтелект може призвести до серйозних порушень конфіденційності, юридичної відповідальності та шкоди довірі пацієнтів. Крім того, мова йде не лише про конфіденційність: це професійне та етичне зобов’язання довести, що модель штучного інтелекту, яка використовується в клінічній практиці, справді надійна — тобто перевірка — і переконатися, що ця модель не є несправедливою щодо певних груп пацієнтів (упередженість).
У цьому розділі ви дізнаєтесь, як захистити лабораторні дані пацієнта в межах КВКК/конфіденційності; валідація, показники продуктивності та контроль упередженості клінічних моделей ШІ; і як вплести етичні принципи в кожне використання. Основний принцип: дані не потрапляють у транспортний засіб без анонімізації; жодна модель не бере участі в клінічних рішеннях, доки вона не буде перевірена на основі ваших власних даних; і остаточна відповідальність завжди лежить на експерті.
Конфіденційність: які дані, як їх захистити
Лабораторні дані пацієнта (результати, діагноз, номер протоколу, ідентифікаційні дані) захищені KVKK (Закон про захист персональних даних) у Туреччині, GDPR у Європі та вимагають додаткового захисту, оскільки дані про здоров’я мають «особливий характер». Три основні правила використання штучного інтелекту:
- Знеособити. Видаліть ім’я, ідентифікатор TR ID, номер протоколу/файлу, дату народження, контактну інформацію та інформацію про установу. достатньо «пацієнтка 68 років»; Не "Айше Їлмаз, 12.03.1957". Зверніть увагу, що такі комбінації, як рідкісна хвороба + невелике місце розташування, можуть опосередковано розкривати особу.
- Мінімальна політика даних. Поділіться мінімумом даних, необхідних для виконання завдання. Питання референтного діапазону не потребує повного файлу пацієнта.
- Безпечний вибір автомобіля. Вибирайте корпоративні інструменти, які мають угоду про обробку даних, і не використовуйте ваші дані під час навчання моделей. Завантаження файлу пацієнта в загальнодоступний інструмент є найпоширенішим і найсерйознішим порушенням.
Тип даних
ризик
правильна поведінка
П.І.Б., ІПН, номер протоколу
пряма ідентифікація
Видобути, анонімізувати
Дата народження, адреса
непряма ідентифікація
Завантажити до вікового діапазону, видалити адресу
Результати значень
дані про здоров'я
Діліться анонімно, мінімально
Зображення (мазок, патологія)
Дані про стан здоров'я + ідентифікатор
Зберігайте його в перевіреній клінічній системі; завантаження у відкритий автомобіль
Увага: "Я зашифрував це, тому я можу також надіслати ім'я" неправильно. Шифрування робить транспорт безпечним, але не виправдовує надсилання ідентифікаційних даних до інструменту ШІ. Ідентифікаційні дані витягуються.
Перевірка моделі: чому «опубліковано» недостатньо
Те, що модель ШІ (наприклад, класифікатор зображень або механізм інтерпретації) добре працює в одному місці, не означає, що вона добре працюватиме у вашій лабораторії. Модель могла бути навчена на іншій популяції, іншому пристрої, іншому протоколі фарбування; Його продуктивність може відрізнятися у ваших зразках. Це називається зрушенням розподілу. Таким чином, кожна модель, яка буде введена в клінічне використання, повинна бути перевірена на основі ваших власних даних, її продуктивність слід вимірювати та регулярно контролювати.
Ключові показники ефективності, які використовуються під час перевірки:
- Чутливість: швидкість, з якою модель точно фіксує тих, хто дійсно хворий/позитивний. Низька чутливість = пропущені справжні позитивні результати (помилкові негативні) = ризик пропуску критичних результатів.
- Специфіка: Правильна швидкість усунення справді здорових/негативних. Низька специфічність = багато помилкових тривог.
- Рівень хибнонегативних/хибнопозитивних результатів: у лабораторії хибнонегативний результат (відсутність критичного результату) зазвичай більш небезпечний, ніж хибнопозитивний; Цей баланс регулюється відповідно до цільового використання моделі.
Коли модель перевірена, її не забувають; З часом пристрій, реагент, популяція можуть змінюватися, а продуктивність може змінюватися. Тому необхідний постійний моніторинг і періодична переоцінка.
Упередженість: до кого модель несправедлива?
Модель дізнається про дисбаланс у даних навчання. Якщо модель зображення тренується здебільшого на прикладах конкретної групи пацієнтів, вона може мати більше помилок у недостатньо представленій групі. У лабораторному контексті це означає, що модель менш ефективна для певного віку, статі чи клінічної групи — і це питання справедливості/етики. При валідації необхідно перевіряти результативність не тільки в цілому, а й у підгрупах. Ігнорування упередженості означає мовчазне надання гірших послуг деяким пацієнтам.
Чотири етичні принципи та ланцюг відповідальності
Чотири основні принципи етики здоров’я також застосовуються до лабораторного ШІ:
- Благодіяння: Штучний інтелект слід використовувати на благо пацієнта; прискорення не повинно ставити під загрозу безпеку.
- Незловмисність: неперевірений результат, помилкове критичне значення, пропущений результат може призвести до шкоди; Це етичний обов’язок запобігати їм.
- Автономність: права пацієнта на його дані захищені; Конфіденційність і згода дотримуються.
- Справедливість: модель має забезпечувати однакову якість послуг для всіх груп пацієнтів; зміщення необхідно перевірити.
І, перш за все, існує ланцюжок відповідальності: штучний інтелект може давати результат, але експерт несе відповідальність за результат цього результату. «ШІ так сказав» не є виправданням; Підпис, рішення та відповідальність належать людині.
Слабка підказка / Сильна підказка
Слабка підказка:
Інтерпретуйте всі результати та діагноз Ayşe Yılmaz (TC 123..., протокол 2024-88) та напишіть звіт.
Цей запит безпосередньо містить ідентифікаційні дані (порушення КВКК), порушує принцип мінімуму даних і запитує діагностику. Це серйозне порушення конфіденційності та кордонів.
Потужна підказка:
Ваша роль: Помічник лаборанта з підготовки ЧЕРТЕЖІВ. Дані нижче є анонімними; не містить ідентифікаційної інформації. Працюйте лише з необхідною клінічною/аналітичною інформацією. Постановка діагнозу; Використовуйте «можливу» мову; Зверніться до лікаря. Хвора: жінка 68 років, відоме захворювання щитовидної залози. Анонімні результати (з довідкою): ТТГ 6,2 мМО/л (ref 0,4-4,0), вільний Т4 в межах норми. Завдання: написати простий план інструктажу для пацієнта; створити підказку про особу.
Сильна підказка є анонімною, працює з мінімальними даними, зберігає діагноз експерту та вказує ліміт.
три міні-чохла
Випадок 1 — Запобігання порушенню конфіденційності. Щоб інтерпретувати звіт пацієнта, технік спочатку витягує ім’я, ідентифікатор і номер протоколу з тексту за допомогою шаблону «Контроль анонімізації»; Залишається лише значення віку, статі та результату. Потім він працює в безпечному корпоративному інструменті. Дані не виходять за межі установи з ідентичністю. Порушення вдалося запобігти ще до початку робіт.
Випадок 2 — пастка неперевіреної моделі. Лабораторія починає використовувати модель осаду сечі, розроблену в іншому центрі, безпосередньо у своєму приладі; Це не перевіряє. Через деякий час було помічено, що модель часто пропускає певні кристали у своїх протоколах фарбування (зміщення розподілу). Накопичилися помилкові негативи. Урок: модель не впливає на прийняття клінічних рішень, доки вона не буде перевірена на основі ваших власних даних і не буде виміряно чутливість/специфічність.
Випадок 3 — упередження уловлювання. Під час аудиту ефективності, хоча загальна чутливість моделі виглядає високою, виявилося, що вона значно нижча в підгрупі літніх пацієнтів; У цій групі модель робить більше помилок. Лабораторія додає додаткову експертну оцінку цієї групи модельних виходів і зв'язується з виробником. Заняття: успішність перевіряється не тільки в цілому, а й у підгрупах; Цього вимагає принцип справедливості.
Шаблони підказок, які можна копіювати
ШАБЛОН КЕРУВАННЯ АНОНІМІЗАЦІЄЮ Витягніть ім’я, TR ID, номер протоколу/файлу, дату народження, адресу, телефон та інформацію про установу з тексту нижче; замінити на "[видалено]". Попереджати, якщо є непряма підказка ID (рідкісний діагноз + невелике розташування). Залиште лише необхідну клінічну/аналітичну інформацію. Текст: [текст].
ШАБЛОН ПЛАНУ ПЕРЕВІРКИ МОДЕЛІ Підготуйте проект плану перевірки для моделі штучного інтелекту, яку я буду використовувати в клінічній практиці: з якими власними даними я її тестуватиму, як виміряти чутливість/специфічність, як оцінити баланс хибно негативних/позитивних результатів, як контролювати показники підгрупи (вік/стать), як часто проводити повторну оцінку. я вирішу; Ви створюєте контрольний список.
BIAS CHECK TEMPLATEI оцінюють ефективність моделі. Перелічіть, у яких підгрупах (вік, стать, клінічна група, тип зразка) мені слід шукати ефективність окремо та які кроки я маю вжити, якщо виявлю значно низьку продуктивність в одній групі. Додайте застереження щодо справедливості/рівності.
ШАБЛОН ЕТИЧНОГО САМОАУДИТУ. Використання штучного інтелекту, яке я збираюся зробити, перевіряється відповідно до чотирьох етичних принципів: благодійність, нешкідливість, автономія (конфіденційність/згода), справедливість. Поставте питання про ризик для кожного полісу. Крім того, «хто відповідає за цей результат?» Попросіть мене відповісти на ваше запитання. Використання: [визначення].
Поширені помилки
- Надання ідентифікаційних даних транспортному засобу. Ім'я, номер TR ID і номер протоколу не передаються без анонімізації; шифрування цього не виправдовує.
- Забуття непрямої ідентичності. Такі комбінації, як рідкісний діагноз + невелике розташування, можуть виявити особу.
- Використання моделі без її перевірки. Модель, що працює в іншому місці, може дати іншу продуктивність ваших даних.
- Просто подивіться на продуктивність у цілому. Зміщення залишається прихованим, якщо аналіз підгруп не виконується.
- Покладання відповідальності на модель. «AI сказав» не є виправданням; Постанова та підпис належать експерту.
Порада: перед кожним використанням штучного інтелекту задайте два запитання разом: «Ці дані деідентифіковано?» і «Чи знаю я, як ця модель працює на моїй прибутковості?» Відповідь на перше захищає конфіденційність, відповідь на друге захищає безпеку.
Підсумовуючи
Лабораторні дані - дані про здоров'я спеціальної якості; При використанні штучного інтелекту обов’язковими є анонімізація, мінімальна політика даних і безпечний вибір інструментів. Моделі, які будуть введені в клінічне використання, повинні бути перевірені на основі ваших власних даних; слід виміряти чутливість, специфічність і хибнонегативний/позитивний баланс; Результативність також слід перевіряти в підгрупах, щоб перевірити наявність упередженості. Чотири етичні принципи — благодійність, нешкідливість, автономія, справедливість — вплетені в кожне використання, і над усіма ними стоїть ланцюжок відповідальності: хоча результат виходить із моделі, рішення та відповідальність лежить на експерті.
Аплікаційне завдання
Зробіть зразок тексту пацієнта анонімним за допомогою шаблону «Контроль анонімізації» та вкажіть, яку інформацію ви видалили. Створіть контрольний список перевірки для моделі AI, яку ви використовуєте (або розглядаєте використовувати) за допомогою шаблону «План перевірки моделі»; Включіть аналіз чутливості/специфічності та підгрупи. Нарешті, оцініть використання відповідно до чотирьох принципів за допомогою шаблону «Етичний самоперевірка».
контрольний список
- [ ] Я анонімізував дані; Я видалив прямі та непрямі ознаки особи.
- [ ] Я застосував політику мінімального обсягу даних; Я ділився лише необхідним.
- [ ] Я використовував захищений корпоративний інструмент для обробки даних.
- [ ] Я перевірив модель на власних даних; Я виміряв чутливість/специфічність.
- [ ] Я перевірив продуктивність у підгрупах і перевірив упередженість.
- [ ] Я дотримувався чотирьох етичних принципів і підтвердив, що відповідальність лежить на експерті.