Kasu:
- Võimalus anonüümseks muuta patsientide laboriandmed KVKK/privaatsuse piires ning rakendada ohutuid tööriistu ja andmetöötlusreegleid
- Saate aru, miks valideerimine, jõudlusmõõdikud ja eelarvamuste kontrollimine on tehisintellekti mudelite kliinilisel kasutamisel kohustuslikud.
- Võimalus võtta lõplikku vastutust, põimides tehisintellekti igasse kasutusse neli eetilist põhimõtet ja vastutusahelat
Laboratoorium on tervishoiusüsteemi üks andmemahukamaid punkte. Iga patsient, iga test, iga tulemus on andmekild ja enamik neist on tundlike isikuandmete – st terviseandmete – alla. Tehisintellekt võib nende andmetega töötades luua suurt väärtust, kuid hooletul kasutamisel võib sama tehisintellekt kaasa tuua tõsiseid privaatsuse rikkumisi, juriidilist vastutust ja kahju patsiendi usaldusele. Veelgi enam, see ei puuduta ainult konfidentsiaalsust: see on professionaalne ja eetiline kohustus tõestada, et kliinilisse kasutusse võetud tehisintellekti mudel on tõeliselt usaldusväärne – see tähendab valideerimine – ja veenduda, et see mudel ei oleks teatud patsiendirühmade suhtes ebaõiglane (erapoolik).
Selles üksuses saate teada, kuidas kaitsta patsientide laboriandmeid KVKK/konfidentsiaalsuse piires; kliiniliste tehisintellekti mudelite valideerimine, jõudlusnäitajad ja kallutamise kontroll; ja kuidas põimida igasse kasutusse eetilisi põhimõtteid. Põhiprintsiip: andmed ei sisene ühtegi sõidukisse ilma anonüümseks muutmata; ükski mudel ei osale kliinilistes otsustes enne, kui see on teie enda andmetel kinnitatud; ja lõplik vastutus lasub alati eksperdil.
Privaatsus: millised andmed, kuidas neid kaitsta
Patsiendi laboratoorsed andmed (tulemused, diagnoos, protokolli number, identiteet) on kaitstud KVKK (isikuandmete kaitse seaduse) alusel Türkiye, GDPR Euroopas ja vajavad täiendavat kaitset, kuna terviseandmed on "erilise iseloomuga". Kolm põhireeglit tehisintellekti kasutamisel:
- Anonüümseks muutmine. Eemaldage nimi, TR ID, protokolli/toimiku number, sünniaeg, kontaktandmed ja asutuse andmed. "68-aastane naispatsient" on piisav; Mitte "Ayşe Yılmaz, 12.03.1957". Pange tähele, et sellised kombinatsioonid nagu haruldane haigus + väike asukoht võivad kaudselt paljastada identiteedi.
- Minimaalne andmepoliitika. Jagage ülesande jaoks vajalikke minimaalseid andmeid. Võrdlusvahemiku küsimus ei nõua kogu patsiendi faili.
- Ohutu sõiduki valik. Valige ettevõtte tööriistad, millel on andmetöötlusleping ja mis ei kasuta teie andmeid mudelikoolituses. Patsiendi töötlemata faili üleslaadimine avalikku tööriista on kõige levinum ja raskeim rikkumine.
Andmetüüp
risk
õige käitumine
Nimi, TR ID, protokolli number
otsene tuvastamine
Väljavõte, anonüümseks muutmine
Sünniaeg, aadress
kaudne tuvastamine
Laadige alla vanusevahemikku, eemaldage aadress
Tulemuste väärtused
terviseandmed
Jaga anonüümselt, minimaalselt
Pilt (määrdumine, patoloogia)
Terviseandmed + ID vihje
Hoidke seda valideeritud kliinilises süsteemis; laadimine avatud sõidukisse
Tähelepanu: "Ma krüptisin selle, nii et saan ka nime saata" on vale. Krüpteerimine muudab transpordi turvaliseks, kuid ei õigusta identiteediandmete saatmist tehisintellekti tööriistale. Isikuandmed ekstraheeritakse.
Mudeli valideerimine: miks "avaldatud" ei piisa
See, et tehisintellekti mudel (nt kujutiste klassifikaator või tõlgendusmootor) töötab ühes kohas hästi, ei tähenda, et see teie laboris hästi toimiks. Mudel võib olla koolitatud mõne teise populatsiooni, teise seadme või mõne muu värvimisprotokolliga; Selle jõudlus võib teie proovides erineda. Seda nimetatakse jaotusnihkeks. Seetõttu tuleks iga kliinilisse kasutusse võetavat mudelit teie enda andmetel valideerida, selle toimivust regulaarselt mõõta ja jälgida.
Valideerimisel kasutatud peamised toimivusmõõdikud:
- Tundlikkus: kiirus, millega mudel tabab täpselt need, kes on tõeliselt haiged/positiivsed. Madal tundlikkus = tõesed positiivsed tulemused (valenegatiivsed) = kriitiliste leidude puudumise oht.
- Spetsiifilisus: tõeliselt tervete/negatiivsete eliminatsiooni õige kiirus. Madal spetsiifilisus = palju valehäireid.
- Valenegatiivsete/valepositiivsete määr: Laboris on valenegatiivne (kriitiline leid puudub) üldiselt ohtlikum kui valepositiivne; Seda tasakaalu kohandatakse vastavalt mudeli kasutusotstarbele.
Kui mudel on valideeritud, ei unustata seda; Aja jooksul võivad seade, reaktiiv, populatsioon muutuda ja jõudlus muutuda. Seetõttu on vajalik pidev jälgimine ja perioodiline ümberhindamine.
Eelarvamus: kelle suhtes on modell ebaõiglane?
Mudel õpib tundma treeningandmete tasakaalustamatust. Kui pildimudelit õpetatakse peamiselt konkreetse patsiendirühma näidete põhjal, võib see alaesindatud rühmas teha rohkem vigu. Laboratoorses kontekstis tähendab see, et mudel toimib teatud vanuse, soo või kliinilise rühma puhul halvemini – ja see on võrdsuse/eetika probleem. Valideerimisel on vaja kontrollida jõudlust mitte ainult üldiselt, vaid ka alarühmade kaupa. Eelarvamuste eiramine tähendab mõnele patsiendile vaikselt halvema teenuse osutamist.
Eetilised neli põhimõtet ja vastutusahel
Neli terviseeetika põhiprintsiipi kehtivad ka labori tehisintellekti puhul:
- Kasu: tehisintellekti tuleks kasutada patsiendi hüvanguks; kiirendamine ei tohiks ohustada ohutust.
- Mitte pahatahtlik: kontrollimata väljund, võlts kriitiline väärtus, vastamata leidmine võib põhjustada kahju; Nende ennetamine on eetiline kohustus.
- Autonoomia: patsiendi õigused oma andmetele on kaitstud; Austatakse konfidentsiaalsust ja nõusolekut.
- Õiglus: mudel peaks pakkuma võrdse kvaliteediga teenust kõigile patsiendirühmadele; eelarvamusi tuleb kontrollida.
Ja ennekõike on olemas vastutusahel: tehisintellekt võib anda väljundi, kuid ekspert vastutab selle väljundi eest. "AI ütles nii" ei ole vabandus; Allkiri, otsus ja vastutus kuuluvad inimesele.
Nõrk viip / Tugev viip
Nõrk viip:
Tõlgendage kõiki Ayşe Yılmazi (TC 123..., protokoll 2024-88) tulemusi ja diagnoosi ning kirjutage aruanne.
See päring sisaldab otseselt isikuandmeid (KVKK rikkumine), rikub andmete miinimumpõhimõtet ja nõuab diagnoosi. See on tõsine privaatsuse ja piiride rikkumine.
Võimas viip:
Sinu roll: EELNÕU koostamise assistent laborispetsialistile. Allolevad andmed on anonüümsed; ei sisalda identifitseerimisandmeid. Töötage ainult nõutava kliinilise/analüütilise teabega. Diagnoosi panemine; Kasutage "võimalikku" keelt; Pöörduge arsti poole. Patsient: 68-aastane naine, teadaolev kilpnäärmehaigus. Anonüümsed tulemused (viitega): TSH 6,2 mIU/L (ref 0,4-4,0), vaba T4 normi piires. Ülesanne: kirjutage patsiendile lihtne ülevaade; luua identiteedi vihje.
Tugev viip on anonüümne, töötab minimaalsete andmetega, jätab diagnoosi eksperdile ja määrab piirangu.
kolm minikarpi
Juhtum 1 – privaatsuse rikkumise vältimine. Patsiendi aruande tõlgendamiseks eraldab tehnik esmalt tekstist nime, ID ja protokolli numbri malliga "Anonüümsuse kontroll"; See jätab ainult vanuse, soo ja tulemuse väärtused. Seejärel töötab see turvalises ettevõttetööriistas. Andmed ei lähe identiteediga asutusest väljapoole. Rikkumine suudeti enne töö alustamist ära hoida.
Juhtum 2 – kinnitamata mudellõks. Laboratoorium hakkab kasutama teises keskuses otse oma seadmes välja töötatud uriini settemudelit; See ei kinnita. Mõne aja pärast on märgata, et mudel jätab oma värvimisprotokollides sageli teatud kristallid vahele (jaotuse nihe). Valenegatiive on kogunenud. Õppetund: mudel ei võta kliinilisi otsuseid arvesse enne, kui see on teie enda andmete põhjal kinnitatud ja tundlikkus/spetsiifilisus mõõdetud.
3. juhtum – eelarvamuste tabamine. Kuigi tulemusauditi puhul näib mudeli üldine tundlikkus kõrge, leiti, et see on eakate patsientide alarühmas oluliselt madalam; Selles rühmas teeb mudel rohkem vigu. Laboratoorium lisab sellele mudeliväljundite rühmale täiendava eksperthinnangu ja võtab ühendust tootjaga. Õppetund: tulemuslikkust kontrollitakse mitte ainult üldiselt, vaid ka alarühmades; Seda nõuab õigluse põhimõte.
Kopeeritavad viipade mallid
ANONÜMISEERIMISE JUHTMAAL Väljavõte allolevast tekstist nimi, TR ID, protokolli/toimiku number, sünniaeg, aadress, telefoninumber ja asutuse teave; asendada "[eemaldatud]". Hoiatage, kui on kaudne ID vihje (harv diagnoos + väike asukoht). Jätke ainult vajalik kliiniline/analüütiline teave. Tekst: [tekst].
MUDELI VALIDATSIOONI PLAANI MALL Koostan kliinilisse kasutusse võetava tehisintellekti mudeli valideerimisplaani kavand: milliste oma andmetega ma seda testin, kuidas mõõta tundlikkust/spetsiifilisust, kuidas hinnata valenegatiivsete/positiivsete vahekorda, kuidas kontrollida alagrupi (vanuse/soo) jõudlust, kui sageli uuesti hinnata. ma otsustan; Koostate kontrollnimekirja.
BIAS CHECK TEMPLATEI hinnata mudeli toimivust. Loetlege, millistes alarühmades (vanus, sugu, kliiniline rühm, valimi tüüp) peaksin sooritust eraldi otsima ja milliseid samme peaksin tegema, kui avastan ühes rühmas oluliselt kehva soorituse. Lisage õigluse/võrdsuse hoiatused.
EETILINE ENESEKOHTAMISMAALD AI kasutamist, mida kavatsen kasutada, kontrollitakse nelja eetilise põhimõtte kohaselt: kasu, mitte-paha, autonoomia (privaatsus/nõusolek), õiglus. Esitage iga poliitika kohta riskiküsimus. Samuti "kes vastutab selle väljundi eest?" Paluge mul oma küsimusele vastata. Kasutamine: [definitsioon].
Levinud vead
- Identifitseerimisandmete andmine sõidukile. Nime, TR ID numbrit ja protokolli numbrit ei jagata ilma anonüümsuseta; krüpteerimine seda ei õigusta.
- Kaudse identiteedi unustamine. Sellised kombinatsioonid nagu haruldane diagnoos + väike asukoht võivad paljastada identiteedi.
- Mudeli kasutamine ilma seda kinnitamata. Mujal töötav mudel võib anda teie andmetele erineva jõudluse.
- Vaadake lihtsalt jõudlust üldiselt. Kui alarühma analüüsi ei tehta, jääb eelarvamus peidetuks.
- Vastutuse panemine mudelile. "AI ütles" ei ole vabandus; Otsus ja allkiri kuuluvad eksperdile.
Näpunäide. Enne iga AI kasutamist küsige koos kaks küsimust: "Kas need andmed on tuvastatud?" ja "Kas ma tean, kuidas see mudel minu saagikuse juures toimib?" Vastus esimesele kaitseb privaatsust, vastus teisele kaitseb turvalisust.
Kokkuvõttes
Laboratoorsed andmed on erikvaliteediga terviseandmed; Tehisintellekti kasutamisel on kohustuslik anonüümseks muutmine, minimaalse andmepoliitika ja ohutu tööriistade valik. Kliiniliselt kasutatavad mudelid peavad olema valideeritud teie enda andmetel; tuleks mõõta tundlikkust, spetsiifilisust ja valenegatiivset/positiivset tasakaalu; Toimivust tuleks kontrollida ka alarühmades, et kontrollida eelarvamusi. Igasse kasutusse on põimitud neli eetilist põhimõtet – heatahtlikkus, mittepahatahtlikkus, autonoomia, õiglus – ja nende kõigi kohal seisab vastutusahel: kuigi väljund tuleneb mudelist, langeb otsus ja vastutus eksperdil.
Rakenduse ülesanne
Muutke näidispatsiendi tekst anonüümseks malliga "Anonüümseks muutmise kontroll" ja loetlege, millise teabe eemaldasite. Looge kasutatavale (või kaalutavale) tehisintellekti mudelile valideerimise kontroll-loend malliga „Model Validation Plan”; Kaasake tundlikkuse/spetsiifilisuse ja alarühma analüüs. Lõpuks hinnake kasutamist nelja põhimõttega „Eetilise enesekontrolli” malli abil.
kontrollnimekiri
- [ ] Muutsin andmed anonüümseks; Eemaldasin otsesed ja kaudsed identiteedi vihjed.
- [ ] Rakendasin andmete miinimumpoliitikat; Jagasin ainult seda, mis oli vajalik.
- [ ] Kasutasin turvalist, ettevõtte ja andmetöötluse lepingulist tööriista.
- [ ] Valideerisin mudeli enda andmetel; Mõõtsin tundlikkust/spetsiifilisust.
- [ ] Kontrollisin jõudlust alarühmades ja eelarvamusi.
- [ ] Jälgisin nelja eetilist põhimõtet ja kinnitasin, et vastutus lasub eksperdil.