Печалби:
- Възможност за анонимизиране на лабораторните данни на пациента в обхвата на KVKK/поверителност и прилагане на безопасни инструменти и правила за обработка на данни
- Разберете защо валидирането, показателите за ефективност и контролът на отклоненията са задължителни при клиничното използване на модели с изкуствен интелект.
- Способност за поемане на крайна отговорност чрез вплитане на четирите етични принципа и верига от отговорност във всяка употреба на изкуствен интелект
Лабораторията е една от най-интензивните точки на здравната система. Всеки пациент, всеки тест, всеки резултат е част от данните и повечето от тези части са в обхвата на чувствителни лични данни - тоест здравни данни. Изкуственият интелект може да генерира голяма стойност, като работи върху тези данни, но когато се използва небрежно, същият изкуствен интелект може да доведе до сериозни нарушения на поверителността, правна отговорност и увреждане на доверието на пациентите. Освен това не става въпрос само за поверителността: професионално и етично задължение е да се докаже, че даден модел на изкуствен интелект, пуснат в клинична употреба, е наистина надежден — тоест валидиране — и да се гарантира, че този модел не е несправедлив към определени групи пациенти (пристрастия).
В тази част ще научите как да защитавате лабораторните данни на пациента в обхвата на KVKK/конфиденциалност; валидиране, показатели за ефективност и контрол на отклоненията на клинични AI модели; и как да вплетем етични принципи във всяка употреба. Основен принцип: Данните не влизат в нито едно превозно средство, без да бъдат анонимизирани; нито един модел не участва в клинични решения, докато не бъде валидиран въз основа на вашите собствени данни; и крайната отговорност винаги е на експерта.
Поверителност: какви данни, как да ги защитим
Лабораторните данни на пациента (резултати, диагноза, номер на протокол, самоличност) са защитени съгласно KVKK (Закон за защита на личните данни) в Турция, GDPR в Европа и изискват допълнителна защита, тъй като здравните данни са от „специален характер“. Три основни правила при използване на изкуствен интелект:
- Анонимизиране. Премахнете име, TR ID, номер на протокол/файл, дата на раждане, информация за контакт и институция. „68-годишна пациентка“ е достатъчно; Не "Айше Йълмаз, 12.03.1957". Обърнете внимание, че комбинации като рядко заболяване + малко местоположение могат индиректно да разкрият самоличността.
- Политика за минимални данни. Споделете минималните данни, необходими за задачата. Въпросът за референтния диапазон не изисква цялото досие на пациента.
- Безопасен избор на превозно средство. Изберете корпоративни инструменти, които имат споразумение за обработка на данни и не използвайте вашите данни в обучението на модели. Качването на необработен файл на пациента в публичен инструмент е най-често срещаното и най-тежко нарушение.
Тип данни
риск
правилно поведение
Име, TR ID, номер на протокол
директна идентификация
Извличане, анонимизиране
Дата на раждане, адрес
непряка идентификация
Изтеглете до възрастова група, премахнете адреса
Резултатни стойности
здравни данни
Споделяйте анонимно, минимално
Изображение (намазка, патология)
Здравни данни + ID ключ
Съхранявайте го в валидираната клинична система; товарене в открит автомобил
Внимание: „Шифровах го, така че мога да изпратя и името“ е грешно. Шифроването прави транспорта сигурен, но не оправдава изпращането на данни за самоличност към AI инструмент. Данните за самоличност се извличат.
Валидиране на модела: защо „публикуван“ не е достатъчно
Само защото AI модел (напр. класификатор на изображения или машина за интерпретация) работи добре на едно място, не означава, че ще работи добре във вашата лаборатория. Моделът може да е бил обучен на друга популация, друго устройство, друг протокол за оцветяване; Неговото представяне може да се различава във вашите проби. Това се нарича изместване на разпределението. Следователно, всеки модел, който ще бъде пуснат в клинична употреба, трябва да бъде валидиран въз основа на вашите собствени данни, неговата ефективност трябва да се измерва и наблюдава редовно.
Ключови показатели за ефективност, използвани при валидирането:
- Чувствителност: Скоростта, с която моделът улавя точно тези, които са наистина болни/позитивни. Ниска чувствителност = пропуснати истински положителни резултати (фалшиви отрицателни) = риск от пропускане на критични констатации.
- Специфичност: Правилната скорост на елиминиране на наистина здрави/отрицателни. Ниска специфичност = много фалшиви аларми.
- Проценти на фалшиво отрицателни/фалшиво положителни резултати: В лабораторията фалшиво отрицателният резултат (липсва критична находка) обикновено е по-опасен от фалшиво положителния резултат; Този баланс се регулира според предназначението на модела.
След като моделът бъде валидиран, той не се забравя; С течение на времето устройството, реагентът, популацията може да се променят и производителността може да се промени. Следователно е необходимо непрекъснато наблюдение и периодична преоценка.
Пристрастие: към кого е несправедлив моделът?
Модел научава за дисбаланси в данните за обучение. Ако един образен модел се обучава предимно върху примери за конкретна група пациенти, той може да допусне повече грешки в по-слабо представената група. В лабораторен контекст това означава, че моделът се представя по-слабо за определена възраст, пол или клинична група - и това е въпрос на справедливост/етика. При валидирането е необходимо да се провери ефективността не само като цяло, но и в подгрупи. Пренебрегването на пристрастията означава тихо предоставяне на по-лошо обслужване на някои пациенти.
Етични четири принципа и верига от отговорност
Четирите основни принципа на здравната етика се прилагат и за лабораторния ИИ:
- Благодеяние: Изкуственият интелект трябва да се използва в полза на пациента; ускорението не трябва да компрометира безопасността.
- Безвредност: Непроверен изход, фалшива критична стойност, пропуснато намиране може да доведе до вреда; Предотвратяването им е етично задължение.
- Автономност: Правата на пациента върху неговите данни са защитени; Поверителността и съгласието се спазват.
- Справедливост: Моделът трябва да предоставя еднакво качествена услуга за всички групи пациенти; трябва да се провери отклонението.
И преди всичко има верига от отговорност: изкуственият интелект може да произведе резултат, но експертът е отговорен за резултата от този резултат. „ИИ каза така“ не е извинение; Подписът, решението и отговорността принадлежат на човека.
Слаба подкана / Силна подкана
Слаба подкана:
Интерпретирайте всички резултати и диагноза на Ayşe Yılmaz (TC 123..., протокол 2024-88) и напишете доклад.
Тази заявка съдържа директно данни за самоличност (нарушение на KVKK), нарушава принципа за минимални данни и изисква диагноза. Това е сериозно нарушение на неприкосновеността на личния живот и границите.
Мощна подкана:
Вашата роля: Помощник по подготовката на ПРОЕКТ на лабораторния специалист. Данните по-долу са анонимни; не съдържа идентификационна информация. Работете само с необходимата клинична/аналитична информация. Поставяне на диагноза; Използвайте „възможен“ език; Обърнете се към лекар. Пациент: 68-годишна жена, известно заболяване на щитовидната жлеза. Анонимни резултати (с справка): TSH 6.2 mIU/L (ref 0.4-4.0), свободен Т4 в нормални граници. Задача: напишете прост план на инструктаж на пациента; генерирайте улика за самоличност.
Силната подкана е анонимна, работи с минимални данни, запазва диагнозата на експерта и посочва лимита.
три мини калъфа
Случай 1 — Предотвратяване на нарушаване на поверителността. За да интерпретира доклад на пациент, техникът първо извлича името, идентификатора и номера на протокола от текста с шаблона „Контрол на анонимизирането“; Оставя само стойности за възраст, пол и резултат. След това работи в защитен, корпоративен инструмент. Данните не излизат извън институцията с идентичност. Нарушението е предотвратено преди започване на работа.
Случай 2 — Прихващане на невалидиран модел. Една лаборатория започва да използва модел на утайка от урина, разработен в друг център директно в собствения си инструмент; Не валидира. След известно време се забелязва, че моделът често пропуска определени кристали в своите протоколи за оцветяване (изместване на разпределението). Натрупани са фалшиви негативи. Поука: моделът не взема предвид вземането на клинични решения, докато не бъде валидиран върху вашите собствени данни и не бъде измерена чувствителността/специфичността.
Случай 3 — Пристрастие при улавяне. При одит на ефективността, въпреки че общата чувствителност на модела изглежда висока, се установява, че е значително по-ниска в подгрупа пациенти в напреднала възраст; Моделът прави повече грешки в тази група. Лабораторията добавя допълнителен експертен преглед към тази група изходи на модела и се свързва с производителя. Урок: представянето се проверява не само общо, но и в подгрупи; Принципът на справедливостта изисква това.
Копируеми шаблони за подкана
ШАБЛОН ЗА КОНТРОЛ ЗА АНОНИМИЗИРАНЕ Извлечете име, TR ID, номер на протокол/файл, дата на раждане, адрес, телефон и информация за институцията от текста по-долу; заменете с „[премахнато]“. Предупреждавайте, ако има индиректна улика за идентификация (рядка диагноза + малко местоположение). Оставете само необходимата клинична/аналитична информация. Текст: [текст].
ШАБЛОН НА ПЛАН ЗА ВАЛИДИРАНЕ НА МОДЕЛА Подгответе проект на план за валидиране на модел на изкуствен интелект, който ще пусна в клинична употреба: с какви собствени данни ще го тествам, как да измервам чувствителността/специфичността, как да оценявам баланса на фалшивите отрицателни/положителни резултати, как да контролирам представянето на подгрупа (възраст/пол), колко често да преоценявам. Аз ще реша; Изготвяте контролен списък.
BIAS CHECK TEMPLATEI оценява производителността на модел. Избройте в кои подгрупи (възраст, пол, клинична група, тип проба) трябва да търся представяне поотделно и какви стъпки трябва да предприема, ако установя значително лошо представяне в една група. Добавете предупреждения за справедливост/равенство.
ШАБЛОН ЗА ЕТИЧЕН САМОКОНТРОЛ Употребата на AI, която се каня да направя, се проверява според четири етични принципа: благотворителност, липса на вреда, автономност (поверителност/съгласие), справедливост. Задайте въпрос за риск за всяка политика. Също така, „кой е отговорен за този резултат?“ Помолете ме да отговоря на въпроса ви. Употреба: [дефиниция].
Често срещани грешки
- Предоставяне на идентификационни данни на автомобила. Името, TR ID номерът и номерът на протокола не се споделят без анонимизиране; криптирането не оправдава това.
- Забравяне на индиректната идентичност. Комбинации като рядка диагноза + малко местоположение могат да разкрият самоличността.
- Използване на модела без валидиране. Модел, работещ другаде, може да даде различна производителност на вашите данни.
- Просто погледнете представянето като цяло. Пристрастията остават скрити, ако не се извърши анализ на подгрупи.
- Прехвърляне на отговорността върху модела. „AI каза“ не е извинение; Решението и подписът са на вещото лице.
Съвет: Преди всяко използване на AI, задайте два въпроса заедно: „Тези данни деидентифицирани ли са?“ и „Знам ли как се представя този модел при моя добив?“ Отговорът на първия защитава поверителността, отговорът на втория защитава сигурността.
В обобщение
Лабораторните данни са здравни данни със специално качество; Анонимизирането, политиката за минимални данни и безопасен избор на инструменти са задължителни при използване на изкуствен интелект. Моделите, които ще бъдат пуснати в клинична употреба, трябва да бъдат валидирани въз основа на вашите собствени данни; трябва да се измерват чувствителността, специфичността и фалшиво отрицателният/положителният баланс; Изпълнението също трябва да се провери в подгрупи, за да се провери за отклонение. Четири етични принципа - благотворителност, невредност, автономност, справедливост - са вплетени във всяка употреба и над всички тях стои веригата на отговорност: въпреки че резултатът идва от модела, решението и отговорността са на експерта.
Задача за приложение
Анонимизирайте примерен текст на пациент с шаблона „Контрол на анонимизирането“ и избройте каква информация сте премахнали. Създайте контролен списък за проверка на AI модел, който използвате (или обмисляте да използвате) с шаблона „План за валидиране на модела“; Включете анализ на чувствителността/специфичността и подгрупата. И накрая, оценете употребата спрямо четирите принципа с шаблона „Етичен самоодит“.
контролен списък
- [] Анонимизирах данните; Премахнах преки и непреки улики за самоличност.
- [ ] Приложих политиката за минимални данни; Споделих само необходимото.
- [ ] Използвах защитен, корпоративен и договорен инструмент за обработка на данни.
- [ ] Утвърдих модела на собствени данни; Измерих чувствителност/специфичност.
- [ ] Проверих ефективността в подгрупите и проверих за пристрастия.
- [ ] Спазих четирите етични принципа и потвърдих, че отговорността е на експерта.