Добивки:
- Способност да се анонимизираат лабораториските податоци за пациентот во рамките на опсегот на KVKK/приватноста и да се применат безбедни алатки и правила за обработка на податоци
- Разберете зошто валидацијата, метриката на перформансите и контролата на пристрасност се задолжителни во клиничката употреба на моделите на вештачка интелигенција.
- Способност да се преземе крајна одговорност со вткајување на четирите етички принципи и синџирот на одговорност во секоја употреба на вештачката интелигенција
Лабораторијата е една од најинтензивните точки на здравствениот систем. Секој пациент, секој тест, секој резултат е дел од податоци, а повеќето од овие делови се во опсегот на чувствителни лични податоци - односно здравствени податоци. Вештачката интелигенција може да генерира голема вредност работејќи на овие податоци, но кога се користи безгрижно, истата вештачка интелигенција може да доведе до сериозни прекршувања на приватноста, законска одговорност и оштетување на довербата на пациентите. Згора на тоа, не се работи само за доверливост: професионална и етичка обврска е да се докаже дека моделот на вештачка интелигенција ставен во клиничка употреба е навистина сигурен - односно валидација - и да се осигураме дека тој модел не е неправеден кон одредени групи пациенти (пристрасност).
Во оваа единица, ќе научите како да ги заштитите лабораториските податоци за пациентот во рамките на опсегот на KVKK/доверливост; валидација, метрика на перформанси и контрола на пристрасност на клиничките модели на вештачка интелигенција; и како да се вткаат етичките принципи во секоја употреба. Основен принцип: Податоците не влегуваат во ниту едно возило без да бидат анонимизирани; ниту еден модел не учествува во клиничките одлуки додека не се потврди на вашите сопствени податоци; а крајната одговорност секогаш е кај експертот.
Приватност: кои податоци, како да ги заштитите
Лабораториските податоци на пациентот (резултати, дијагноза, број на протокол, идентитет) се заштитени според KVKK (Закон за заштита на лични податоци) во Турција, GDPR во Европа и бараат дополнителна заштита бидејќи здравствените податоци се од „посебна природа“. Три основни правила при користење на вештачка интелигенција:
- Анонимизирај. Отстрани име, TR ID, протокол/број на датотека, датум на раѓање, контакт и информации за институцијата. „68-годишна пациентка“ е доволна; Не „Ајше Јилмаз, 12.03.1957 година“. Забележете дека комбинациите како ретка болест + мала локација може индиректно да го откријат идентитетот.
- Политика за минимални податоци. Споделете ги минималните податоци потребни за задачата. Прашањето за референтен опсег не ја бара целата датотека на пациентот.
- Безбеден избор на возило. Изберете корпоративни алатки кои имаат договор за обработка на податоци и не ги користат вашите податоци за обука на модели. Поставувањето необработено досие на пациентот на јавна алатка е најчестата и најтешка повреда.
Тип на податоци
ризик
правилно однесување
Име, TR ID, број на протокол
директна идентификација
Извадете, анонимизирајте
Датум на раѓање, адреса
индиректна идентификација
Преземете до опсег на возраст, отстранете ја адресата
Вредности на резултатот
здравствени податоци
Споделете анонимно, минимално
Слика (размаска, патологија)
Здравствени податоци + поим за лична карта
Чувајте го во потврдениот клинички систем; товарење во отворено возило
Внимание: „Го шифрирав, па можам да го испратам и името“ не е во ред. Шифрирањето го прави транспортот безбеден, но не го оправдува испраќањето податоци за идентитетот до алатка за вештачка интелигенција. Се извлекуваат податоци за идентитетот.
Потврда на моделот: зошто „објавеното“ не е доволно
Само затоа што моделот со вештачка интелигенција (на пример, класификатор на слики или мотор за толкување) работи добро на едно место, не значи дека ќе работи добро во вашата лабораторија. Моделот можеби бил обучен на друга популација, друг уред, друг протокол за боење; Нејзините перформанси може да се разликуваат во вашите примероци. Ова се нарекува поместување на дистрибуцијата. Затоа, секој модел што треба да се стави во клиничка употреба треба да се потврди на вашите сопствени податоци, неговите перформанси треба да се мерат и редовно да се следат.
Клучни индикатори за изведба што се користат при валидацијата:
- Чувствителност: Стапката со која моделот точно ги доловува оние кои се навистина болни/позитивни. Ниска чувствителност = пропуштени вистински позитивни (лажни негативни) = ризик од пропуштање на критични наоди.
- Специфичност: Точната стапка на елиминација на вистински здрави/негативни. Ниска специфичност = многу лажни аларми.
- Лажно негативни/лажно позитивни стапки: Во лабораторија, лажно негативно (нема критичен наод) генерално е поопасен од лажно позитивен; Оваа рамнотежа е прилагодена според намената за употреба на моделот.
Штом моделот е потврден, тој не се заборава; Со текот на времето, уредот, реагенсот, популацијата може да се променат и перформансите може да се променат. Затоа, потребно е континуирано следење и периодично повторно оценување.
Пристрасност: кон кого е нефер моделот?
Моделот учи за нерамнотежа во податоците за обуката. Ако моделот на слика е обучен претежно на примери на одредена група пациенти, може да направи повеќе грешки во недоволно застапената група. Во лабораториски контекст, ова значи дека моделот функционира помалку добро за одредена возраст, пол или клиничка група - и ова е прашање на правичност/етика. При потврдување, неопходно е да се проверат перформансите не само општо, туку и во подгрупите. Игнорирањето на пристрасност значи тивко обезбедување полоша услуга на некои пациенти.
Етички четири принципи и синџир на одговорност
Четирите основни принципи на здравствената етика важат и за лабораториската вештачка интелигенција:
- Придобивка: Вештачката интелигенција треба да се користи за доброто на пациентот; забрзувањето не треба да ја загрозува безбедноста.
- Незлобност: непроверен излез, лажна критична вредност, пропуштено наоѓање може да доведе до штета; Етичка обврска е да ги спречиме.
- Автономија: правата на пациентот врз неговите податоци се заштитени; Доверливоста и согласноста се почитуваат.
- Правда: Моделот треба да обезбеди еднаква квалитетна услуга за сите групи на пациенти; пристрасноста мора да се провери.
И пред сè, постои синџир на одговорност: вештачката интелигенција може да произведе резултат, но експертот е одговорен за исходот од тој излез. „Ви го кажа тоа“ не е изговор; Потписот, одлуката и одговорноста му припаѓаат на човекот.
Слаб промпт / Силен промпт
Слаба навестување:
Толкувајте ги сите резултати и дијагноза на Ајше Јилмаз (TC 123..., протокол 2024-88) и напишете извештај.
Ова барање директно содржи податоци за идентитетот (прекршување на KVKK), го нарушува принципот на минимални податоци и бара дијагноза. Тоа е сериозно кршење на приватноста и границите.
Моќен потсетник:
Вашата улога: асистент за подготовка на DRAFT на специјалист за лабораторија. Податоците подолу се анонимни; не содржи информации за идентификација. Работете само со потребните клинички/аналитички информации. Поставување дијагноза; Користете „можен“ јазик; Упатете се на лекар. Пациент: 68-годишна жена, позната болест на тироидната жлезда. Анонимни резултати (со референца): TSH 6,2 mIU/L (реф 0,4-4,0), слободен Т4 во нормален опсег. Задача: напишете едноставен брифинг преглед на пациентот; генерира поим за идентитет.
Силниот промпт е анонимен, работи со минимални податоци, ја задржува дијагнозата до експертот и ја одредува границата.
три мини футроли
Случај 1 - Спречување на кршење на приватноста. За да се протолкува извештајот за пациентот, техничарот прво го извлекува името, личната карта и бројот на протоколот од текстот со шаблонот „Контрола на анонимизација“; Остава само возраст, пол и вредности на исходот. Потоа работи во безбедна, корпоративна алатка. Податоците не излегуваат надвор од институцијата со идентитет. Прекршокот бил спречен пред да започне со работа.
Случај 2 - Замка за невалиден модел. Лабораторија започнува да користи модел на седимент на урина развиен во друг центар директно во својот инструмент; Тоа не потврдува. По некое време, се забележува дека моделот често пропушта одредени кристали во своите протоколи за боење (дистрибуција). Се акумулираа лажни негативи. Поука: моделот не се вклучува во клиничкото одлучување додека не се потврди на вашите сопствени податоци и не се измери чувствителноста/специфичноста.
Случај 3 - Фаќање пристрасност. При ревизија на перформанси, иако севкупната чувствителност на моделот изгледа висока, се покажа дека е значително помала кај подгрупа постари пациенти; Моделот прави повеќе грешки во оваа група. Лабораторијата додава дополнителен експертски преглед на оваа група резултати од моделот и контактира со производителот. Лекција: перформансите се проверуваат не само во целина, туку и во подгрупи; Ова го бара принципот на правда.
Шаблони за копирање на брзините
ОБРАБОК ЗА КОНТРОЛА ЗА АНОНИМИЗАЦИЈАИзвадете име, TR ID, број на протокол/датотека, датум на раѓање, адреса, телефон и информации за институцијата од текстот подолу; замени со „[отстрането]“. Предупредете ако постои индиректен знак за идентификација (ретка дијагноза + мала локација). Оставете ги само потребните клинички/аналитички информации. Текст: [текст].
ОБРАБОК НА ПЛАН ЗА ВАЛИДАЦИЈА НА МОДЕЛИ Подгответе нацрт-план за валидација за модел на вештачка интелигенција што ќе го ставам во клиничка употреба: со кои сопствени податоци ќе го тестирам, како да се измери чувствителноста/специфичноста, како да се оцени балансот на лажни негативни/позитивни, како да се контролираат перформансите на подгрупата (возраст/пол), колку често да се реевалуира. јас ќе одлучам; Вие создавате листа за проверка.
ОБРАБОК ЗА ПРОВЕРКА НА ПРИСТАПУВАЊЕТО ги оценуваат перформансите на моделот. Наведете во кои подгрупи (возраст, пол, клиничка група, тип на примерок) треба да барам перформанси одделно и кои чекори треба да ги преземам ако најдам значително слаби перформанси во една група. Додадете предупредувања за правичност/еднаквост.
ОБРАБОК ЗА ЕТИЧКА САМОРЕВИЗИЈА Употребата на вештачката интелигенција што ќе ја направам е ревидирана според четири етички принципи: добротворност, незлобност, автономија (приватност/согласност), правичност. Поставете прашање за ризик за секоја политика. Исто така, „кој е одговорен за овој резултат? Побарајте да одговорам на вашето прашање. Употреба: [дефиниција].
Вообичаени грешки
- Давање податоци за идентификација на возилото. Името, TR ID и бројот на протоколот не се споделуваат без анонимизација; шифрирањето не го оправдува ова.
- Заборавајќи го индиректниот идентитет. Комбинациите како ретка дијагноза + мала локација може да го откријат идентитетот.
- Користење на моделот без да се потврди. Моделот што работи на друго место може да даде различни перформанси на вашите податоци.
- Погледнете ги перформансите воопшто. Пристрасноста останува скриена доколку не се изврши анализа на подгрупата.
- Ставајќи ја одговорноста на моделот. „Ви рече“ не е оправдување; Решението и потписот му припаѓаат на вештакот.
Совет: Пред секоја употреба на вештачка интелигенција, поставете две прашања заедно: „Дали овие податоци се деидентификувани?“ и „Дали знам како функционира овој модел со мојот принос? Одговорот на првото ја штити приватноста, одговорот на вториот ја штити безбедноста.
Сумирано
Лабораториските податоци се посебни квалитетни здравствени податоци; Анонимизацијата, политиката за минимални податоци и изборот на безбедна алатка се задолжителни кога се користи вештачка интелигенција. Моделите што треба да се стават во клиничка употреба мора да бидат потврдени на вашите сопствени податоци; треба да се измерат чувствителноста, специфичноста и лажно негативно/позитивно салдо; Перформансите треба да се проверат и во подгрупи за да се провери за пристрасност. Четири етички принципи - добротворност, нелојалност, автономија, правда - се вткаени во секоја употреба, а над сето нив стои синџирот на одговорност: иако резултатот доаѓа од моделот, одлуката и одговорноста се на експертот.
Задача за апликација
Анонимизирајте примерок од текст на пациентот со шаблонот „Контрола за анонимизација“ и наведете кои информации сте ги отстраниле. Креирајте листа за проверка за валидација за модел на вештачка интелигенција што го користите (или размислувате да го користите) со шаблонот „План за валидација на моделот“; Вклучете ја чувствителноста/специфичноста и анализата на подгрупата. Конечно, оценете ја употребата во однос на четирите принципи со шаблонот „Етичка саморевизија“.
листа за проверка
- [ ] Ги анонимизирав податоците; Ги отстранив директните и индиректните индиции за идентитетот.
- [ ] Ја применив политиката за минимални податоци; Споделив само она што беше потребно.
- [ ] Користев безбедна, корпоративна алатка и договорна алатка за обработка на податоци.
- [ ] Го потврдив моделот на мои податоци; Мерев чувствителност/специфичност.
- [ ] Ги проверив перформансите во подгрупите и проверив за пристрасност.
- [ ] Ги запазив четирите етички принципи и потврдив дека одговорноста е на експертот.