Прибыль:
- Возможность анонимизировать лабораторные данные пациентов в рамках KVKK/конфиденциальности и применять безопасные инструменты и правила обработки данных.
- Поймите, почему проверка, показатели производительности и контроль предвзятости являются обязательными при клиническом использовании моделей искусственного интеллекта.
- Способность брать на себя максимальную ответственность, вплетая четыре этических принципа и цепочку ответственности в каждое использование искусственного интеллекта.
Лаборатория является одним из наиболее ресурсоемких точек системы здравоохранения. Каждый пациент, каждый тест, каждый результат — это часть данных, и большинство этих частей относятся к конфиденциальным личным данным, то есть к данным о здоровье. Искусственный интеллект может принести большую пользу, работая с этими данными, но при небрежном использовании тот же искусственный интеллект может привести к серьезным нарушениям конфиденциальности, юридической ответственности и ущербу доверию пациентов. Более того, речь идет не только о конфиденциальности: это профессиональное и этическое обязательство — доказать, что модель искусственного интеллекта, введенная в клиническое использование, действительно надежна — то есть валидация — и убедиться, что эта модель не является несправедливой по отношению к определенным группам пациентов (предвзятость).
В этом модуле вы узнаете, как защитить лабораторные данные пациентов в рамках KVKK/конфиденциальности; проверка, метрики производительности и контроль предвзятости клинических моделей ИИ; и как внедрить этические принципы в каждое использование. Основной принцип: данные не попадают в транспортное средство без анонимизации; ни одна модель не участвует в принятии клинических решений, пока она не будет проверена на ваших собственных данных; и конечная ответственность всегда лежит на эксперте.
Конфиденциальность: какие данные, как их защитить
Лабораторные данные пациентов (результаты, диагноз, номер протокола, личность) защищены KVKK (Законом о защите персональных данных) в Турции и GDPR в Европе и требуют дополнительной защиты, поскольку данные о здоровье имеют «особый характер». Три основных правила при использовании искусственного интеллекта:
- Анонимизировать. Удалите имя, TR ID, номер протокола/файла, дату рождения, контактную информацию и информацию об учреждении. Достаточно «68-летней пациентки»; Не «Айше Йылмаз, 12.03.1957». Обратите внимание, что такие комбинации, как редкое заболевание + небольшое местоположение, могут косвенно выявить личность.
- Минимальная политика данных. Поделитесь минимальными данными, необходимыми для задачи. Для вопроса о референтном диапазоне не требуется вся карта пациента.
- Безопасный выбор автомобиля. Выбирайте корпоративные инструменты, у которых есть соглашение об обработке данных и не используйте ваши данные при обучении модели. Загрузка необработанного файла пациента в общедоступный инструмент является наиболее распространенным и серьёзным нарушением.
Тип данных
риск
правильное поведение
Имя, TR ID, номер протокола
прямая идентификация
Извлечь, анонимизировать
Дата рождения, адрес
косвенная идентификация
Скачать до возрастного диапазона, удалить адрес
Результирующие значения
данные о здоровье
Делитесь анонимно, минимально
Изображение (мазок, патология)
Данные о состоянии здоровья + подсказка для удостоверения личности
Храните его в проверенной клинической системе; погрузка в открытый транспорт
Внимание: «Я зашифровал его, поэтому могу также отправить имя» неверно. Шифрование делает транспорт безопасным, но не оправдывает отправку идентификационных данных в инструмент искусственного интеллекта. Идентификационные данные извлекаются.
Проверка модели: почему «опубликовано» недостаточно
Тот факт, что модель ИИ (например, классификатор изображений или механизм интерпретации) хорошо работает в одном месте, не означает, что она будет хорошо работать в вашей лаборатории. Модель могла быть обучена на другой популяции, другом устройстве, другом протоколе окрашивания; Его производительность может отличаться в ваших образцах. Это называется сдвигом распределения. Поэтому каждая модель, предназначенная для клинического использования, должна быть проверена на собственных данных, ее производительность должна регулярно измеряться и контролироваться.
Ключевые показатели производительности, используемые при проверке:
- Чувствительность: Скорость, с которой модель точно фиксирует тех, кто действительно болен/позитивен. Низкая чувствительность = пропущенные истинные положительные результаты (ложноотрицательные результаты) = риск пропустить важные результаты.
- Специфичность: Правильная скорость устранения действительно здоровых/отрицательных. Низкая специфичность = много ложных тревог.
- Частота ложноотрицательных/ложноположительных результатов: в лаборатории ложноотрицательный результат (отсутствие критического результата) обычно более опасен, чем ложноположительный результат; Этот баланс корректируется в соответствии с предполагаемым использованием модели.
После того как модель проверена, о ней не забывают; Со временем устройство, реагент, популяция могут измениться, а производительность может измениться. Поэтому необходим постоянный мониторинг и периодическая переоценка.
Предвзятость: по отношению к кому модель несправедлива?
Модель узнает о дисбалансе в обучающих данных. Если модель изображения обучается в основном на примерах конкретной группы пациентов, она может допускать больше ошибок в недостаточно представленной группе. В лабораторном контексте это означает, что модель работает менее эффективно для определенного возраста, пола или клинической группы — и это проблема справедливости/этики. При валидации необходимо проверять работоспособность не только в целом, но и по подгруппам. Игнорирование предвзятости означает молчаливое предоставление худшего обслуживания некоторым пациентам.
Этические четыре принципа и цепочка ответственности
Четыре основных принципа этики здоровья также применимы к лабораторному ИИ:
- Благодеяние: искусственный интеллект следует использовать на благо пациента; ускорение не должно ставить под угрозу безопасность.
- Невредность: непроверенные выходные данные, ложное критическое значение, пропущенные результаты могут привести к вреду; Предотвратить их – это этический долг.
- Автономия: права пациента на его данные защищены; Конфиденциальность и согласие соблюдаются.
- Справедливость: Модель должна предоставлять услуги одинакового качества всем группам пациентов; предвзятость должна быть проверена.
И, прежде всего, существует цепочка ответственности: искусственный интеллект может производить результат, но эксперт несет ответственность за результат этого результата. «Так сказал ИИ» — не оправдание; Подпись, решение и ответственность принадлежат человеку.
Слабая подсказка / Сильная подсказка
Слабая подсказка:
Интерпретируйте все результаты и диагноз Айше Йылмаз (ТК 123..., протокол 2024-88) и напишите отчет.
Этот запрос напрямую содержит идентификационные данные (нарушение КВКК), нарушает принцип минимума данных и запрашивает диагноз. Это серьезное нарушение частной жизни и границ.
Мощная подсказка:
Ваша роль: Помощник специалиста лаборатории по подготовке ПРОЕКТА. Данные ниже являются анонимными; не содержит идентификационной информации. Работайте только с необходимой клинической/аналитической информацией. Постановка диагноза; Используйте «возможный» язык; Обратитесь к врачу. Пациент: 68-летняя женщина, известное заболевание щитовидной железы. Анонимные результаты (со ссылкой): ТТГ 6,2 мМЕ/л (референт 0,4-4,0), свободный Т4 в пределах нормы. Задача: написать пациенту простой конспект-конспект; создать ключ к идентификации.
Сильная подсказка анонимна, работает с минимальными данными, передает диагноз эксперту и указывает предел.
три мини-кейса
Случай 1 — Предотвращение нарушения конфиденциальности. Чтобы интерпретировать отчет пациента, технический специалист сначала извлекает имя, идентификатор и номер протокола из текста с помощью шаблона «Контроль анонимизации»; Остаются только значения возраста, пола и результата. Затем он запускается в безопасном корпоративном инструменте. Данные не выходят за пределы учреждения, имеющего идентификационную информацию. Нарушение удалось предотвратить еще до начала работ.
Случай 2 — ловушка непроверенной модели. Лаборатория начинает использовать модель осадка мочи, разработанную в другом центре, непосредственно на своем собственном приборе; Это не подтверждает. Через некоторое время замечено, что модель часто пропускает определенные кристаллы в протоколах окрашивания (сдвиг распределения). Ложноотрицательных результатов накопилось. Урок: модель не учитывается при принятии клинических решений до тех пор, пока она не будет проверена на ваших собственных данных и не измерена чувствительность/специфичность.
Случай 3. Уловить предвзятость. При проверке эффективности, хотя общая чувствительность модели кажется высокой, в подгруппе пожилых пациентов она оказывается значительно ниже; В этой группе модель допускает больше ошибок. Лаборатория дополняет эту группу результатов модели дополнительной экспертизой и связывается с производителем. Урок: успеваемость проверяется не только в целом, но и в подгруппах; Этого требует принцип справедливости.
Копируемые шаблоны подсказок
ШАБЛОН КОНТРОЛЯ АНОНИМИЗАЦИИИзвлеките имя, TR ID, номер протокола/файла, дату рождения, адрес, телефон и информацию об учреждении из текста ниже; заменить на «[удалено]». Предупредить, если есть косвенный признак идентификации (редкий диагноз + небольшое расположение). Оставьте только необходимую клиническую/аналитическую информацию. Текст: [текст].
ШАБЛОН ПЛАНА ВАЛИДАЦИИ МОДЕЛИПодготовьте проект плана проверки модели искусственного интеллекта, которую я введу в клиническое использование: на каких собственных данных я буду ее тестировать, как измерить чувствительность/специфичность, как оценить баланс ложноотрицательных/положительных результатов, как контролировать показатели подгруппы (возраст/пол), как часто проводить повторную оценку. Я решу; Вы составляете контрольный список.
ШАБЛОН ПРОВЕРКИ СМЕЩЕНИЯ оценивает производительность модели. Перечислите, в каких подгруппах (возраст, пол, клиническая группа, тип выборки) мне следует искать показатели отдельно и какие шаги мне следует предпринять, если я обнаружу значительно низкие показатели в одной группе. Добавьте предостережения о справедливости/равенстве.
ШАБЛОН ЭТИЧЕСКОГО САМОАУДИТА Использование ИИ, которое я собираюсь осуществить, проверяется в соответствии с четырьмя этическими принципами: благодеяние, непричинение вреда, автономия (конфиденциальность/согласие), справедливость. Задайте вопрос о рисках для каждого полиса. Кроме того, «кто несет ответственность за этот результат?» Попросите меня ответить на ваш вопрос. Использование: [определение].
Распространенные ошибки
- Выдача идентификационных данных на транспортное средство. Имя, идентификационный номер TR и номер протокола не передаются без анонимизации; шифрование не оправдывает этого.
- Забывание косвенной идентичности. Такие комбинации, как редкий диагноз + небольшое местоположение, могут выявить личность.
- Использование модели без ее проверки. Модель, работающая в другом месте, может дать другую производительность для ваших данных.
- Просто посмотрите на производительность в целом. Предвзятость остается скрытой, если не проводится анализ подгрупп.
- Возложение ответственности на модель. «ИИ сказал» — не оправдание; Решение и подпись принадлежат эксперту.
Совет: перед каждым использованием ИИ задавайте вместе два вопроса: «Обезличены ли эти данные?» и «Знаю ли я, как эта модель работает с моей доходностью?» Ответ на первый вопрос защищает конфиденциальность, ответ на второй — безопасность.
В итоге
Лабораторные данные – это данные о здоровье особого качества; Анонимизация, политика минимального использования данных и безопасный выбор инструментов являются обязательными при использовании искусственного интеллекта. Модели, предназначенные для клинического использования, должны быть проверены на ваших собственных данных; следует измерить чувствительность, специфичность и ложноотрицательный/положительный баланс; Производительность также следует проверять в подгруппах на предмет предвзятости. Четыре этических принципа — благо, ненанесение вреда, автономия, справедливость — вплетены в каждое использование, и над всеми ними стоит цепочка ответственности: хотя результат получается из модели, решения и ответственность лежат на эксперте.
Задача приложения
Анонимизируйте образец текста пациента с помощью шаблона «Контроль анонимизации» и укажите, какую информацию вы удалили. Создайте контрольный список проверки для модели ИИ, которую вы используете (или планируете использовать), с помощью шаблона «План проверки модели»; Включите анализ чувствительности/специфичности и подгрупп. Наконец, оцените использование по четырем принципам с помощью шаблона «Этический самоконтроль».
контрольный список
- [ ] Я анонимизировал данные; Я удалил прямые и косвенные признаки личности.
- [ ] Я применил минимальную политику данных; Я поделился только тем, что было необходимо.
- [ ] Я использовал безопасный, корпоративный и контрактный инструмент для обработки данных.
- [ ] Я проверил модель на собственных данных; Я измерил чувствительность/специфичность.
- [ ] Я проверял производительность в подгруппах и проверял на предвзятость.
- [ ] Я соблюдал четыре этических принципа и подтвердил, что ответственность лежит на эксперте.