Добици:
- Могућност анонимизације лабораторијских података пацијената у оквиру КВКК/приватности и примене безбедних алата и правила обраде података
- Схватите зашто су валидација, метрика учинка и контрола пристрасности обавезни у клиничкој употреби модела вештачке интелигенције.
- Способност преузимања крајње одговорности уткањем четири етичка принципа и ланца одговорности у сваку употребу вештачке интелигенције
Лабораторија је једна од најинтензивнијих тачака здравственог система. Сваки пацијент, сваки тест, сваки резултат је део података, а већина ових делова је у оквиру осетљивих личних података — то јест, здравствених података. Вештачка интелигенција може да генерише велику вредност радећи на овим подацима, али када се непажљиво користи, иста вештачка интелигенција може довести до озбиљних повреда приватности, правне одговорности и оштећења поверења пацијената. Штавише, не ради се само о поверљивости: професионална и етичка обавеза је да се докаже да је модел вештачке интелигенције стављен у клиничку употребу заиста поуздан — то јест, валидација — и да се осигура да тај модел није неправедан према одређеним групама пацијената (пристрасност).
У овој јединици ћете научити како да заштитите лабораторијске податке пацијената у оквиру КВКК/поверљивости; валидација, метрика перформанси и контрола пристрасности клиничких АИ модела; и како уткати етичке принципе у сваку употребу. Основни принцип: Подаци не улазе ни у једно возило без анонимизације; ниједан модел не учествује у доношењу клиничких одлука док се не потврди на основу ваших података; а крајња одговорност увек лежи на стручњаку.
Приватност: који подаци, како их заштитити
Лабораторијски подаци о пацијентима (резултати, дијагноза, број протокола, идентитет) заштићени су према КВКК (Закон о заштити личних података) у Турској, ГДПР у Европи, и захтевају додатну заштиту пошто су здравствени подаци „посебне природе“. Три основна правила када се користи вештачка интелигенција:
- Анонимизирај. Уклоните име, ТР ИД, број протокола/фајла, датум рођења, контакт и информације о институцији. „Пацијенткиња од 68 година” је довољна; Није "Аисе Иıлмаз, 12.03.1957". Имајте на уму да комбинације као што су ретка болест + мала локација могу индиректно открити идентитет.
- Политика минималних података. Поделите минималне податке потребне за задатак. Питање референтног опсега не захтева цео досије пацијента.
- Безбедан избор возила. Изаберите корпоративне алате који имају уговор о обради података и не користе ваше податке у обуци модела. Отпремање необрађеног фајла пацијента на јавни алат је најчешћи и најтежи прекршај.
Тип података
ризик
исправно понашање
Име, ТР ИД, број протокола
директну идентификацију
Издвоји, анонимизирај
Датум рођења, адреса
индиректна идентификација
Преузмите у старосну групу, уклоните адресу
Вредности резултата
здравствени подаци
Делите анонимно, минимално
Слика (размаз, патологија)
Здравствени подаци + ИД траг
Држите га у валидираном клиничком систему; утовар у отворено возило
Пажња: „Шифровао сам га, па могу и да пошаљем име“ је погрешно. Шифровање чини транспорт безбедним, али не оправдава слање података о идентитету АИ алату. Подаци о идентитету се издвајају.
Валидација модела: зашто "објављено" није довољно
Само зато што АИ модел (нпр. класификатор слика или машина за интерпретацију) добро функционише на једном месту, не значи да ће добро функционисати у вашој лабораторији. Модел је можда био обучен на другој популацији, другом уређају, другом протоколу бојења; Његове перформансе се могу разликовати у вашим узорцима. Ово се зове померање дистрибуције. Стога, сваки модел који треба да се стави у клиничку употребу треба да буде валидиран на сопственим подацима, његов учинак треба да се мери и редовно прати.
Кључни показатељи учинка који се користе у валидацији:
- Осетљивост: Стопа којом модел тачно хвата оне који су заиста болесни/позитивни. Ниска осетљивост = пропуштени прави позитивни резултати (лажно негативни) = ризик од изостанка критичних налаза.
- Специфичност: Тачна стопа елиминације заиста здравих/негативних. Ниска специфичност = много лажних аларма.
- Стопе лажно негативних/лажно позитивних: У лабораторији, лажно негативан (недостаје критичан налаз) је генерално опаснији од лажно позитиван; Ова равнотежа је подешена према намераваној употреби модела.
Једном када је модел потврђен, он се не заборавља; Временом се уређај, реагенс, популација могу променити и перформансе се могу променити. Због тога је потребно континуирано праћење и периодична поновна процена.
Пристрасност: према коме је модел неправедан?
Модел учи о неравнотежама у подацима о обуци. Ако је модел слике обучен углавном на примерима одређене групе пацијената, може направити више грешака у недовољно заступљеној групи. У лабораторијском контексту, то значи да модел има лошије резултате за одређени узраст, пол или клиничку групу - а то је питање правичности/етике. Приликом валидације потребно је проверити перформансе не само у целини већ и у подгрупама. Игнорисање пристрасности значи прећутно пружање лошије услуге неким пацијентима.
Етичка четири принципа и ланац одговорности
Четири основна принципа здравствене етике такође се примењују на лабораторијску АИ:
- Добротворност: Вештачку интелигенцију треба користити за добробит пацијента; убрзање не би требало да угрози безбедност.
- Не-злонамерност: Непроверени излаз, лажна критична вредност, промашени налаз могу довести до штете; Етичка је обавеза спречити их.
- Аутономија: права пацијента на његове податке су заштићена; Поверљивост и сагласност се поштују.
- Правда: Модел треба да пружи једнак квалитет услуге свим групама пацијената; пристрасност се мора проверити.
И изнад свега, постоји ланац одговорности: вештачка интелигенција може да произведе резултат, али стручњак је одговоран за исход тог резултата. „АИ је тако рекао“ није изговор; Потпис, одлука и одговорност припадају људском бићу.
Слаби промпт / Јаки промпт
Слабо обавештење:
Протумачити све резултате и дијагнозу Аисе Иıлмаз (ТЦ 123..., протокол 2024-88) и написати извештај.
Овај захтев директно садржи податке о идентитету (кршење КВКК), крши принцип минималних података и захтева дијагнозу. То је озбиљно кршење приватности и граница.
Снажан упит:
Ваша улога: асистент за припрему ДРАФТ-а специјалисту лабораторије. Подаци у наставку су анонимни; не садржи идентификационе податке. Радите само са потребним клиничким/аналитичким информацијама. Постављање дијагнозе; Користите „могући“ језик; Обратите се лекару. Пацијент: 68-годишња жена, позната болест штитне жлезде. Анонимни резултати (са референцом): ТСХ 6,2 мИУ/Л (реф 0,4-4,0), слободни Т4 унутар нормалног опсега. Задатак: напишите једноставан преглед брифинга пацијенту; генерише траг идентитета.
Снажан упит је анониман, ради са минималним подацима, чува дијагнозу стручњаку и наводи границу.
три мини кофера
Случај 1 — Спречавање нарушавања приватности. Да би протумачио извештај пацијента, техничар прво издваја име, ИД и број протокола из текста помоћу шаблона „Контрола анонимизације“; Оставља само вредности узраста, пола и исхода. Затим ради у безбедном, корпоративном алату. Подаци не излазе ван институције са идентитетом. Прекршај је спречен пре почетка радова.
Случај 2 — Непотврђен модел замке. Лабораторија почиње да користи модел седимента урина развијен у другом центру директно у сопственом инструменту; Не потврђује. После неког времена примећује се да модел често пропушта одређене кристале у својим протоколима бојења (промена дистрибуције). Лажни негативи су се накупили. Поука: модел не узима у обзир клиничко одлучивање све док није потврђен на основу ваших података и док се не измери осетљивост/специфичност.
Случај 3 — Хватање пристрасности. У ревизији учинка, иако се чини да је укупна осетљивост модела висока, утврђено је да је значајно нижа у подгрупи старијих пацијената; Модел прави више грешака у овој групи. Лабораторија додаје додатни стручни преглед овој групи излаза модела и контактира произвођача. Лекција: перформансе се проверавају не само у целини, већ иу подгрупама; Начело правде то захтева.
Шаблони упита који се могу копирати
ШАБЛОНА ЗА КОНТРОЛУ АНОНИМИЗАЦИЈЕ Извуците име, ТР ИД, број протокола/фајла, датум рођења, адресу, телефон и информације о институцији из текста испод; замените са „[уклоњено]“. Упозорите ако постоји индиректни идентификациони траг (ретка дијагноза + мала локација). Оставите само неопходне клиничке/аналитичке информације. Текст: [текст].
ШАБЛОНА ПЛАНА ВАЛИДАЦИЈЕ МОДЕЛА Припремите нацрт плана валидације за модел вештачке интелигенције који ћу ставити у клиничку употребу: са којим сопственим подацима ћу га тестирати, како мерити осетљивост/специфичност, како проценити равнотежу лажно негативних/позитивних, како контролисати перформансе подгрупе (старост/пол), колико често поново евалуирати. ја ћу одлучити; Правите контролну листу.
БИАС ЦХЕЦК ТЕМПЛАТЕИ процењују перформансе модела. Наведите у којим подгрупама (старост, пол, клиничка група, тип узорка) треба да тражим учинак одвојено и које кораке треба да предузмем ако нађем значајно слаб учинак у једној групи. Додајте упозорење о правичности/једнакости.
ЕТИЧКИ ОБРАЗАЦ САМОПРОВЕРЕ Употреба вештачке интелигенције коју намеравам да направим се ревидира у складу са четири етичка принципа: доброчинство, незлонамерност, аутономија (приватност/пристанак), правичност. Поставите питање о ризику за сваку полису. Такође, „ко је одговоран за овај излаз?“ Замолите ме да одговорим на ваше питање. Употреба: [дефиниција].
Уобичајене грешке
- Давање идентификационих података возилу. Име, ТР ИД број и број протокола се не деле без анонимизације; енкрипција ово не оправдава.
- Заборављање индиректног идентитета. Комбинације као што су ретка дијагноза + мала локација могу открити идентитет.
- Коришћење модела без његове валидације. Модел који ради негде другде може дати различите перформансе на вашим подацима.
- Погледајте само перформансе уопште. Пристрасност остаје скривена ако се не изврши анализа подгрупа.
- Стављање одговорности на модел. „АИ је рекао“ није изговор; Решење и потпис припадају вештаку.
Савет: Пре сваке употребе АИ, поставите два питања заједно: „Да ли су ови подаци деидентификовани?“ и „Да ли знам какав је учинак овог модела при мом приносу?“ Одговор на први штити приватност, одговор на други штити сигурност.
Укратко
Лабораторијски подаци су здравствени подаци посебног квалитета; Анонимизација, минимална политика података и безбедан избор алата су обавезни када се користи вештачка интелигенција. Модели који се стављају у клиничку употребу морају бити валидирани на основу ваших података; треба мерити осетљивост, специфичност и лажно негативан/позитиван баланс; Учинак такође треба проверити у подгрупама да би се проверила пристрасност. Четири етичка принципа – доброчинство, незлонамерност, аутономија, правда – уткана су у сваку употребу, а изнад свих њих стоји ланац одговорности: иако резултат долази из модела, одлука и одговорност су на експерту.
Задатак апликације
Анонимизирајте узорак текста пацијента помоћу шаблона „Контрола анонимизације“ и наведите које сте информације уклонили. Креирајте контролну листу за АИ модел који користите (или размишљате о коришћењу) са шаблоном „План валидације модела“; Укључите анализу осетљивости/специфичности и подгрупе. На крају, процените употребу у односу на четири принципа помоћу шаблона „Етичка саморевизија“.
контролна листа
- [ ] Анонимизовао сам податке; Уклонио сам директне и индиректне трагове идентитета.
- [ ] Применио сам минималну политику података; Делио сам само оно што је било неопходно.
- [ ] Користио сам безбедну, корпоративну и уговорену алатку за обраду података.
- [ ] Проверио сам модел на сопственим подацима; Измерио сам осетљивост/специфичност.
- [ ] Проверио сам перформансе у подгрупама и проверио пристрасност.
- [ ] Поштовао сам четири етичка принципа и потврдио да је одговорност на стручњаку.