Dobički:
- Sposobnost anonimizacije laboratorijskih podatkov pacientov v okviru KVKK/zasebnost ter uporaba varnih orodij in pravil obdelave podatkov
- Razumeti, zakaj so validacija, meritve uspešnosti in nadzor pristranskosti obvezni pri klinični uporabi modelov umetne inteligence.
- Sposobnost prevzemanja končne odgovornosti z vpletanjem štirih etičnih načel in verige odgovornosti v vsako uporabo umetne inteligence
Laboratorij je ena podatkovno najbolj intenzivnih točk zdravstvenega sistema. Vsak bolnik, vsak test, vsak izvid je kos podatkov in večina teh del je v obsegu občutljivih osebnih podatkov – torej zdravstvenih podatkov. Umetna inteligenca lahko ustvari veliko vrednost z delom na teh podatkih, vendar lahko ob neprevidni uporabi ista umetna inteligenca povzroči resne kršitve zasebnosti, pravno odgovornost in škodo zaupanju bolnikov. Poleg tega ne gre le za zaupnost: strokovna in etična obveznost je dokazati, da je model umetne inteligence, dan v klinično uporabo, resnično zanesljiv – to je validacija – in zagotoviti, da ta model ni nepravičen do določenih skupin bolnikov (pristranskost).
V tej enoti se boste naučili varovati laboratorijske podatke pacientov v okviru KVKK/zaupnosti; validacija, meritve uspešnosti in nadzor pristranskosti kliničnih modelov umetne inteligence; in kako v vsako uporabo vtkati etična načela. Osnovno načelo: podatki ne vstopijo v nobeno vozilo, ne da bi bili anonimizirani; noben model ne sodeluje pri kliničnih odločitvah, dokler ni potrjen na podlagi vaših lastnih podatkov; in končna odgovornost je vedno na strokovnjaku.
Zasebnost: kateri podatki, kako jih zaščititi
Laboratorijski podatki pacienta (rezultati, diagnoza, številka protokola, identiteta) so zaščiteni v skladu s KVKK (Zakon o varstvu osebnih podatkov) v Turčiji, GDPR v Evropi, in zahtevajo dodatno zaščito, saj so zdravstveni podatki "posebne narave". Tri osnovna pravila pri uporabi umetne inteligence:
- Anonimiziraj. Odstranite ime, TR ID, številko protokola/datoteke, datum rojstva, kontakt in podatke o ustanovi. zadostuje »68-letna bolnica«; Ne "Ayşe Yılmaz, 12. 3. 1957". Upoštevajte, da lahko kombinacije, kot je redka bolezen + majhna lokacija, posredno razkrijejo identiteto.
- Politika minimalnih podatkov. Delite najmanj podatkov, potrebnih za nalogo. Vprašanje referenčnega območja ne zahteva celotne bolnikove datoteke.
- Varna izbira vozila. Izberite poslovna orodja, ki imajo pogodbo o obdelavi podatkov, in ne uporabljajte vaših podatkov pri usposabljanju modelov. Nalaganje neobdelane datoteke bolnika v javno orodje je najpogostejša in najhujša kršitev.
Vrsta podatkov
tveganje
pravilno vedenje
Ime, TR ID, številka protokola
neposredno identifikacijo
Ekstrahiraj, anonimiziraj
Datum rojstva, naslov
posredna identifikacija
Prenesi na starostno skupino, odstrani naslov
Vrednosti rezultatov
zdravstvene podatke
Delite minimalno anonimno
Slika (bris, patologija)
Zdravstveni podatki + ID namig
Hranite ga v potrjenem kliničnem sistemu; nakladanje v odprto vozilo
Pozor: »Šifriral sem, da lahko pošljem tudi ime« je napačno. Šifriranje naredi transport varen, vendar ne opravičuje pošiljanja podatkov o identiteti orodju AI. Podatki o identiteti so ekstrahirani.
Validacija modela: zakaj "objavljeno" ni dovolj
Samo zato, ker model AI (npr. klasifikator slik ali mehanizem za interpretacijo) dobro deluje na enem mestu, še ne pomeni, da bo dobro deloval v vašem laboratoriju. Model je bil morda uren na drugi populaciji, drugi napravi, drugem protokolu obarvanja; Njegovo delovanje se lahko razlikuje glede na vaše vzorce. To se imenuje distribucijski premik. Zato je treba vsak model, ki ga boste dali v klinično uporabo, validirati na lastnih podatkih, njegovo delovanje je treba meriti in redno spremljati.
Ključne meritve uspešnosti, uporabljene pri preverjanju:
- Občutljivost: Stopnja, pri kateri model natančno zajame tiste, ki so resnično bolni/pozitivni. Nizka občutljivost = zgrešeni pravi pozitivni rezultati (lažno negativni) = tveganje manjkajočih kritičnih ugotovitev.
- Specifičnost: Pravilna stopnja izločanja resnično zdravih/negativnih. Nizka specifičnost = veliko lažnih alarmov.
- Stopnje lažno negativnih/lažno pozitivnih rezultatov: V laboratoriju je lažno negativen (manjka kritična ugotovitev) na splošno bolj nevaren kot lažno pozitiven rezultat; To ravnotežje se prilagodi glede na predvideno uporabo modela.
Ko je model enkrat potrjen, ni več pozabljen; Sčasoma se lahko naprava, reagent, populacija spremenijo in zmogljivost se lahko spremeni. Zato je potrebno stalno spremljanje in občasno ponovno ocenjevanje.
Pristranskost: do koga je model nepravičen?
Model spozna neravnovesja v podatkih o usposabljanju. Če se slikovni model uri predvsem na primerih določene skupine bolnikov, lahko povzroči več napak v premalo zastopani skupini. V laboratorijskem kontekstu to pomeni, da model manj deluje za določeno starost, spol ali klinično skupino - in to je vprašanje pravičnosti/etike. Pri validaciji je treba preveriti uspešnost ne le na splošno, temveč tudi v podskupinah. Ignoriranje pristranskosti pomeni tiho zagotavljanje slabših storitev nekaterim bolnikom.
Štiri etična načela in veriga odgovornosti
Štiri osnovna načela zdravstvene etike veljajo tudi za laboratorijsko umetno inteligenco:
- Dobrodelnost: umetno inteligenco je treba uporabljati v dobro pacienta; pospeševanje ne sme ogroziti varnosti.
- Neškodljivost: Nepreverjen izhod, lažna kritična vrednost, zgrešena ugotovitev lahko povzročijo škodo; Etična obveznost je, da jih preprečimo.
- Avtonomija: Zaščitene so pacientove pravice do njegovih podatkov; Zaupnost in privolitev se spoštujeta.
- Pravičnost: Model naj zagotavlja enako kakovostno storitev za vse skupine bolnikov; pristranskost je treba preveriti.
Predvsem pa obstaja veriga odgovornosti: umetna inteligenca lahko ustvari rezultat, vendar je strokovnjak odgovoren za rezultat tega rezultata. "AI je tako rekel" ni izgovor; Podpis, odločitev in odgovornost pripadajo človeku.
Šibek poziv/močan poziv
Šibek poziv:
Interpretirajte vse rezultate in diagnozo Ayşe Yılmaz (TC 123..., protokol 2024-88) in napišite poročilo.
Ta zahteva neposredno vsebuje podatke o identiteti (kršitev KVKK), krši načelo minimalnih podatkov in zahteva diagnozo. Gre za resno kršitev zasebnosti in meja.
Močan poziv:
Vaša vloga: Pomočnik laboratorijskega specialista za pripravo OSNUTKA. Spodnji podatki so anonimni; ne vsebuje identifikacijskih podatkov. Delajte samo s potrebnimi kliničnimi/analitičnimi informacijami. Postavitev diagnoze; Uporabite "možen" jezik; Obrnite se na zdravnika. Bolnica: 68-letna ženska, znana bolezen ščitnice. Anonimni izvidi (z referenco): TSH 6,2 mIU/L (ref 0,4-4,0), prosti T4 v mejah normale. Naloga: pacientu napišite preprost oris navodil; ustvari namig o identiteti.
Močan poziv je anonimen, deluje z minimalnimi podatki, diagnozo zadrži strokovnjaku in določa mejo.
trije mini kovčki
Primer 1 – Preprečevanje kršitve zasebnosti. Za razlago pacientovega poročila tehnik najprej izvleče ime, ID in številko protokola iz besedila s predlogo »Anonymization Control«; Pusti le vrednosti starosti, spola in rezultatov. Nato deluje v varnem orodju podjetja. Podatki ne gredo izven ustanove z identiteto. Kršitev je bila preprečena pred začetkom del.
2. primer – nepreverjena past modela. Laboratorij začne uporabljati model urinskega sedimenta, razvit v drugem centru, neposredno v lastnem instrumentu; Ne potrjuje. Čez nekaj časa se opazi, da model pogosto zgreši določene kristale v svojih protokolih obarvanja (distribucijski premik). Nakopičili so se lažni negativi. Nauk: model ne vpliva na klinično odločanje, dokler ni potrjen na vaših lastnih podatkih in ni izmerjena občutljivost/specifičnost.
Primer 3 – Lovljenje pristranskosti. Pri reviziji uspešnosti je bilo ugotovljeno, da je splošna občutljivost modela v podskupini starejših bolnikov, čeprav se zdi visoka, bistveno nižja; V tej skupini model naredi več napak. Laboratorij tej skupini izhodov modela doda dodaten strokovni pregled in kontaktira proizvajalca. Lekcija: uspešnost se preverja ne samo v celoti, ampak tudi v podskupinah; To zahteva načelo pravičnosti.
Kopirane predloge pozivov
PREDLOGA ZA NADZOR ANONIMIZACIJE Iz spodnjega besedila izvlecite ime, TR ID, številko protokola/datoteke, datum rojstva, naslov, telefon in institucijo; nadomesti z "[odstranjeno]". Opozori, če obstaja posredni ID ID (redka diagnoza + majhna lokacija). Pustite le potrebne klinične/analitične informacije. Besedilo: [besedilo].
PREDLOGA NAČRTA ZA VALIDACIJO MODELA Pripravite osnutek načrta validacije za model umetne inteligence, ki ga bom dal v klinično uporabo: s kakšnimi lastnimi podatki ga bom testiral, kako izmeriti občutljivost/specifičnost, kako ovrednotiti ravnotežje lažno negativnih/pozitivnih rezultatov, kako nadzorovati uspešnost podskupine (starost/spol), kako pogosto ponovno oceniti. se bom odločil; Izdelate kontrolni seznam.
BIAS CHECK TEMPLATEI oceni delovanje modela. Naštejte, v katerih podskupinah (starost, spol, klinična skupina, vrsta vzorca) naj ločeno iščem uspešnost in katere korake moram sprejeti, če v eni skupini ugotovim izrazito slabo uspešnost. Dodajte opozorila glede pravičnosti/enakosti.
PREDLOGA ZA ETIČNO SAMOREVIZIJO Uporaba umetne inteligence, ki jo nameravam izvesti, je revidirana v skladu s štirimi etičnimi načeli: dobrodelnost, neškodljivost, avtonomija (zasebnost/privolitev), pravičnost. Za vsako politiko postavite vprašanje o tveganju. Tudi, "kdo je odgovoren za ta rezultat?" Prosite me, da odgovorim na vaše vprašanje. Uporaba: [definicija].
Pogoste napake
- Dajanje identifikacijskih podatkov vozilu. Ime, številka TR ID in številka protokola se ne delijo brez anonimizacije; šifriranje tega ne opravičuje.
- Pozabljamo na posredno identiteto. Kombinacije, kot je redka diagnoza + majhna lokacija, lahko razkrijejo identiteto.
- Uporaba modela brez njegove validacije. Model, ki se izvaja drugje, lahko zagotovi drugačno zmogljivost vaših podatkov.
- Poglejte samo uspešnost na splošno. Pristranskost ostane skrita, če analiza podskupin ni izvedena.
- Prelaganje odgovornosti na model. "AI je rekel" ni opravičilo; Sklep in podpis pripadata izvedencu.
Namig: Pred vsako uporabo umetne inteligence postavite dve vprašanji skupaj: »Ali so ti podatki deidentificirani?« in "Ali vem, kako se ta model obnese pri mojem donosu?" Odgovor na prvo ščiti zasebnost, odgovor na drugo varuje varnost.
Če povzamem
Laboratorijski podatki so zdravstveni podatki posebne kakovosti; Pri uporabi umetne inteligence so obvezni anonimizacija, politika minimalnih podatkov in varna izbira orodij. Modele, ki bodo dani v klinično uporabo, je treba validirati na podlagi vaših lastnih podatkov; izmeriti je treba občutljivost, specifičnost in lažno negativno/pozitivno ravnotežje; Učinkovitost je treba preveriti tudi v podskupinah, da se preveri pristranskost. Štiri etična načela – dobrohotnost, neškodljivost, avtonomija, pravičnost – so vtkana v vsako uporabo, nad vsemi pa stoji veriga odgovornosti: čeprav rezultati izhajajo iz modela, odločitev in odgovornost nosi strokovnjak.
Aplikacijska naloga
Anonimizirajte vzorčno besedilo bolnika s predlogo »Nadzor anonimizacije« in navedite, katere informacije ste odstranili. Ustvarite potrditveni kontrolni seznam za model umetne inteligence, ki ga uporabljate (ali razmišljate o uporabi), s predlogo »Model Validation Plan«; Vključite analizo občutljivosti/specifičnosti in podskupin. Nazadnje ocenite uporabo glede na štiri načela s predlogo »Etična samorevizija«.
kontrolni seznam
- [ ] Podatke sem anonimiziral; Odstranil sem neposredne in posredne namige identitete.
- [ ] Uporabil sem politiko minimalnih podatkov; Delil sem samo tisto, kar je bilo nujno.
- [ ] Uporabil sem varno, korporativno in pogodbeno orodje za obdelavo podatkov.
- [ ] Model sem potrdil na lastnih podatkih; Izmeril sem občutljivost/specifičnost.
- [ ] Preveril sem uspešnost v podskupinah in preveril pristranskost.
- [ ] Upošteval sem štiri etična načela in potrdil, da odgovornost nosi strokovnjak.