Fitimet:
- Aftësia për të anonimizuar të dhënat laboratorike të pacientit brenda fushës së KVKK/privatësisë dhe për të aplikuar mjete të sigurta dhe rregulla për përpunimin e të dhënave
- Kuptoni pse vërtetimi, matjet e performancës dhe kontrolli i paragjykimeve janë të detyrueshme në përdorimin klinik të modeleve të inteligjencës artificiale.
- Aftësia për të marrë përgjegjësinë përfundimtare duke ndërthurur katër parimet etike dhe zinxhirin e përgjegjësisë në çdo përdorim të inteligjencës artificiale
Laboratori është një nga pikat më intensive të të dhënave të sistemit të kujdesit shëndetësor. Çdo pacient, çdo test, çdo rezultat është një pjesë e të dhënave, dhe shumica e këtyre pjesëve janë brenda fushës së të dhënave personale sensitive – domethënë të dhënave shëndetësore. Inteligjenca artificiale mund të gjenerojë vlera të mëdha duke punuar në këto të dhëna, por kur përdoret pa kujdes, e njëjta inteligjencë artificiale mund të çojë në shkelje të rënda të privatësisë, përgjegjësi ligjore dhe dëmtim të besimit të pacientit. Për më tepër, nuk ka të bëjë vetëm me konfidencialitetin: është një detyrim profesional dhe etik të provosh se një model i inteligjencës artificiale i vënë në përdorim klinik është me të vërtetë i besueshëm - domethënë vërtetimi - dhe të sigurohesh që ai model të mos jetë i padrejtë ndaj grupeve të caktuara të pacientëve (paragjykim).
Në këtë njësi, ju do të mësoni se si të mbroni të dhënat laboratorike të pacientit brenda fushës së KVKK/konfidencialitetit; vlefshmëria, matjet e performancës dhe kontrolli i paragjykimeve të modeleve klinike të AI; dhe si të thuhen parimet etike në çdo përdorim. Parimi bazë: Të dhënat nuk hyjnë në asnjë automjet pa u anonimizuar; asnjë model nuk merr pjesë në vendimet klinike derisa të jetë vërtetuar në të dhënat tuaja; dhe përgjegjësia përfundimtare i takon gjithmonë ekspertit.
Privatësia: cilat të dhëna, si t'i mbroni ato
Të dhënat laboratorike të pacientit (rezultatet, diagnoza, numri i protokollit, identiteti) mbrohen sipas KVKK (Ligji për Mbrojtjen e të Dhënave Personale) në Turqi, GDPR në Evropë dhe kërkojnë mbrojtje shtesë pasi të dhënat shëndetësore janë të "natyrës së veçantë". Tre rregulla bazë kur përdorni inteligjencën artificiale:
- Anonimizo. Hiq emrin, ID-në TR, numrin e protokollit/skedarit, datën e lindjes, kontaktin dhe informacionin e institucionit. Mjafton “paciente femër 68-vjeçare”; Jo “Ayşe Yılmaz, 12.03.1957”. Vini re se kombinime të tilla si sëmundje e rrallë + vendndodhje e vogël mund të zbulojnë indirekt identitetin.
- Politika minimale e të dhënave. Ndani të dhënat minimale të kërkuara për detyrën. Një pyetje e diapazonit të referencës nuk kërkon të gjithë dosjen e pacientit.
- Zgjedhja e sigurt e automjetit. Zgjidhni mjetet e korporatës që kanë një marrëveshje për përpunimin e të dhënave dhe nuk i përdorin të dhënat tuaja në trajnimin e modeleve. Ngarkimi i një skedari të papërpunuar të pacientit në një mjet publik është shkelja më e zakonshme dhe më e rëndë.
Lloji i të dhënave
rreziku
sjellje korrekte
Emri, TR ID, numri i protokollit
identifikimi i drejtpërdrejtë
Nxjerr, anonimizo
Data e lindjes, adresa
identifikimi indirekt
Shkarkoni sipas grupmoshës, hiqni adresën
Vlerat e rezultateve
të dhënat shëndetësore
Ndani në mënyrë anonime, minimale
Imazhi (njollosje, patologji)
Të dhënat shëndetësore + të dhëna të identitetit
Mbajeni atë në sistemin klinik të vlefshëm; ngarkimi në mjet të hapur
Kujdes: "E kam koduar, kështu që mund të dërgoj edhe emrin" është gabim. Kriptimi e bën transportin të sigurt, por nuk justifikon dërgimin e të dhënave të identitetit në një mjet AI. Të dhënat e identitetit nxirren.
Vërtetimi i modelit: pse "i publikuar" nuk mjafton
Vetëm për shkak se një model i AI (p.sh. një klasifikues imazhi ose një motor interpretimi) funksionon mirë në një vend, nuk do të thotë se do të funksionojë mirë në laboratorin tuaj. Modeli mund të jetë trajnuar në një popullatë tjetër, një pajisje tjetër, një protokoll tjetër ngjyrosjeje; Performanca e tij mund të ndryshojë në mostrat tuaja. Kjo quhet zhvendosje e shpërndarjes. Prandaj, çdo model që do të vihet në përdorim klinik duhet të vërtetohet në të dhënat tuaja, performanca e tij duhet të matet dhe monitorohet rregullisht.
Metrikat kryesore të performancës të përdorura në vërtetim:
- Ndjeshmëria: Shkalla me të cilën modeli kap me saktësi ata që janë vërtet të sëmurë/pozitiv. Ndjeshmëri e ulët = humbura pozitive të vërteta (negative të rreme) = rrezik për të humbur gjetjet kritike.
- Specifikimi: Shkalla e saktë e eliminimit të atyre vërtet të shëndetshme/negative. Specifikimi i ulët = shumë alarme false.
- Normat false negative/false pozitive: Në laborator, një negativ i rremë (i mungon një gjetje kritike) është përgjithësisht më i rrezikshëm sesa një pozitiv i rremë; Ky bilanc rregullohet sipas qëllimit të përdorimit të modelit.
Pasi të vërtetohet modeli, ai nuk harrohet; Me kalimin e kohës, pajisja, reagenti, popullsia mund të ndryshojnë dhe performanca mund të ndryshojë. Prandaj, kërkohet monitorim i vazhdueshëm dhe rivlerësim periodik.
Paragjykimi: ndaj kujt është modelja e padrejtë?
Një model mëson për pabarazitë në të dhënat e trajnimit. Nëse një model imazhi është trajnuar kryesisht në shembuj të një grupi të caktuar pacientësh, ai mund të bëjë më shumë gabime në grupin e nënpërfaqësuar. Në një kontekst laboratorik, kjo do të thotë se modeli funksionon më pak mirë për një moshë, gjini ose grup klinik të caktuar - dhe kjo është një çështje barazie/etike. Gjatë vërtetimit, është e nevojshme të kontrolloni performancën jo vetëm në përgjithësi, por edhe në nëngrupe. Të injorosh paragjykimet do të thotë t'u ofrosh në heshtje shërbime më të këqija disa pacientëve.
Katër parimet etike dhe zinxhiri i përgjegjësisë
Katër parimet bazë të etikës shëndetësore vlejnë edhe për AI laboratorike:
- Përfitimi: Inteligjenca artificiale duhet të përdoret për të mirën e pacientit; përshpejtimi nuk duhet të rrezikojë sigurinë.
- Jo keqbërje: Prodhimi i paverifikuar, vlera kritike e rreme, gjetja e humbur mund të çojë në dëm; Parandalimi i tyre është një detyrim etik.
- Autonomia: Të drejtat e pacientit mbi të dhënat e tij mbrohen; Konfidencialiteti dhe pëlqimi respektohen.
- Drejtësia: Modeli duhet të ofrojë shërbim cilësor të barabartë për të gjitha grupet e pacientëve; paragjykimi duhet të kontrollohet.
Dhe mbi të gjitha, ekziston një zinxhir përgjegjësie: inteligjenca artificiale mund të prodhojë një rezultat, por eksperti është përgjegjës për rezultatin e atij rezultati. "UA tha kështu" nuk është një justifikim; Nënshkrimi, vendimi dhe përgjegjësia i takojnë qenies njerëzore.
Prompt i dobët / Prompt i fortë
Njoftim i dobët:
Interpretoni të gjitha rezultatet dhe diagnozën e Ayşe Yılmaz (TC 123..., protokolli 2024-88) dhe shkruani një raport.
Kjo kërkesë përmban drejtpërdrejt të dhëna identiteti (shkelje KVKK), shkel parimin e të dhënave minimale dhe kërkon një diagnozë. Është një shkelje e rëndë e privatësisë dhe kufijve.
Njoftim i fuqishëm:
Roli juaj: Asistent i përgatitjes së DRAFT-it tek specialisti i laboratorit. Të dhënat e mëposhtme janë anonime; nuk përmban informacion identifikimi. Punoni vetëm me informacionin klinik/analitik të kërkuar. Bërja e një diagnoze; Përdorni gjuhën "e mundshme"; Referojuni mjekut. Pacienti: Grua 68-vjeçare, sëmundje e njohur e tiroides. Rezultate anonime (me referencë): TSH 6.2 mIU/L (ref 0.4-4.0), T4 i lirë brenda intervalit normal. Detyrë: shkruani një përmbledhje të thjeshtë për pacientin; gjenerojnë një të dhënë identiteti.
Prompti i fortë është anonim, punon me të dhëna minimale, e mban diagnozën tek eksperti dhe specifikon kufirin.
tre mini kuti
Rasti 1 - Parandalimi i shkeljes së privatësisë. Për të interpretuar një raport të pacientit, një teknik fillimisht nxjerr emrin, ID-në dhe numrin e protokollit nga teksti me shabllonin "Kontrolli i anonimizimit"; Ajo lë vetëm moshën, gjininë dhe vlerat e rezultatit. Pastaj funksionon në një mjet të sigurt, të korporatës. Të dhënat nuk dalin jashtë institucionit me identitet. Shkelja u parandalua para fillimit të punës.
Rasti 2 — Kurthi i modelit të pavlefshëm. Një laborator fillon të përdorë një model të sedimentit të urinës të zhvilluar në një qendër tjetër direkt në instrumentin e tij; Nuk vërtetohet. Pas një kohe, vihet re se modelit shpesh i mungojnë disa kristale në protokollet e tij të ngjyrosjes (ndërrimi i shpërndarjes). Janë grumbulluar negativë të rremë. Mësimi: modeli nuk merr pjesë në vendimmarrjen klinike derisa të jetë vërtetuar në të dhënat tuaja dhe të jetë matur ndjeshmëria/specifiteti.
Rasti 3 - Kapja e njëanshmërisë. Në një auditim të performancës, edhe pse ndjeshmëria e përgjithshme e një modeli duket e lartë, është gjetur të jetë dukshëm më e ulët në një nëngrup pacientësh të moshuar; Modeli bën më shumë gabime në këtë grup. Laboratori shton rishikim shtesë të ekspertëve në këtë grup të rezultateve të modelit dhe kontakton prodhuesin. Mësimi: performanca kontrollohet jo vetëm në përgjithësi, por edhe në nëngrupe; Parimi i drejtësisë e kërkon këtë.
Modele të shpejtë të kopjueshëm
TABLETI I KONTROLLIT TË ANONIMIZIMITEkstraktoni emrin, ID TR, numrin e protokollit/skedarit, datën e lindjes, adresën, telefonin dhe informacionin e institucionit nga teksti më poshtë; zëvendësohet me "[e hequr]". Paralajmëroni nëse ka një të dhënë indirekte ID (diagnozë e rrallë + vendndodhje e vogël). Lini vetëm informacionin e nevojshëm klinik/analitik. Teksti: [tekst].
MODELI I PLANIT TË VLERËSIMIT TË MODELIT Përgatitni një draft plan vërtetimi për një model të inteligjencës artificiale që do ta vë në përdorim klinik: me çfarë të dhënash do ta testoj, si të matet ndjeshmëria/specifiteti, si të vlerësohet balanca e negativeve/pozitiveve të rreme, si të kontrollohet performanca e nëngrupeve (moshë/gjini), sa shpesh të rivlerësohet. Unë do të vendos; Ju krijoni një listë kontrolli.
TEMPLATET E KONTROLLIT TË BIAS-it vlerësojnë performancën e një modeli. Listoni në cilat nëngrupe (mosha, gjinia, grupi klinik, lloji i kampionit) duhet të kërkoj veçmas për performancën dhe çfarë hapash duhet të ndërmarr nëse gjej performancë dukshëm të dobët në një grup. Shto paralajmërime për drejtësinë/barazinë.
MOLDON ETIK TË VETË AUDITIMIT Përdorimi i AI që do të bëj auditohet sipas katër parimeve etike: dobia, jo keqbërja, autonomia (privatësia/pëlqimi), drejtësia. Bëni një pyetje rreziku për secilën politikë. Gjithashtu, "kush është përgjegjës për këtë rezultat?" Më kërkoni t'i përgjigjem pyetjes suaj. Përdorimi: [përkufizim].
Gabimet e zakonshme
- Dhënia e të dhënave të identifikimit të automjetit. Emri, numri TR ID dhe numri i protokollit nuk ndahen pa anonimizim; kriptimi nuk e justifikon këtë.
- Duke harruar identitetin indirekt. Kombinime të tilla si diagnoza e rrallë + vendndodhja e vogël mund të zbulojnë identitetin.
- Përdorimi i modelit pa e vërtetuar atë. Një model që funksionon diku tjetër mund të japë performancë të ndryshme në të dhënat tuaja.
- Vetëm shikoni performancën në përgjithësi. Paragjykimi mbetet i fshehur nëse nuk kryhet analiza e nëngrupit.
- Duke vënë përgjegjësinë mbi modelin. "AI tha" nuk është justifikim; Vendimi dhe nënshkrimi i përkasin ekspertit.
Këshillë: Para çdo përdorimi të AI, bëni dy pyetje së bashku: "A janë çidentifikuar këto të dhëna?" dhe "A e di se si funksionon ky model me rendimentin tim?" Përgjigja për të parën mbron privatësinë, përgjigja për të dytën mbron sigurinë.
Në përmbledhje
Të dhënat laboratorike janë të dhëna shëndetësore të cilësisë së veçantë; Anonimizimi, politika minimale e të dhënave dhe zgjedhja e mjeteve të sigurta janë të detyrueshme kur përdorni inteligjencën artificiale. Modelet që do të vihen në përdorim klinik duhet të vërtetohen sipas të dhënave tuaja; duhet të matet ndjeshmëria, specifika dhe bilanci i rremë negativ/pozitiv; Performanca gjithashtu duhet të kontrollohet në nëngrupe për të kontrolluar paragjykimet. Katër parime etike – dobia, jo keqbërja, autonomia, drejtësia – janë të thurura në çdo përdorim, dhe mbi të gjitha qëndron zinxhiri i përgjegjësisë: megjithëse rezultati vjen nga modeli, vendimi dhe përgjegjësia i takon ekspertit.
Detyra e aplikimit
Anonimizoni një mostër të tekstit të pacientit me shabllonin "Kontrolli i anonimizimit" dhe renditni se çfarë informacioni keni hequr. Krijoni një listë verifikimi për një model të AI që po përdorni (ose po mendoni ta përdorni) me shabllonin “Model Validation Plan”; Përfshini analizën e ndjeshmërisë/specifitetit dhe nëngrupit. Së fundi, vlerësoni një përdorim kundrejt katër parimeve me shabllonin "Vetë-Auditimi Etik".
listë kontrolli
- [ ] I anonimizova të dhënat; I hoqa të dhëna të drejtpërdrejta dhe të tërthorta të identitetit.
- [ ] Kam aplikuar politikën minimale të të dhënave; Unë ndava vetëm atë që ishte e nevojshme.
- [ ] Kam përdorur një mjet të sigurt, të korporatës dhe të kontraktuar për përpunimin e të dhënave.
- [ ] Kam vërtetuar modelin në të dhënat e mia; Kam matur ndjeshmërinë/specifitetin.
- [ ] Kontrollova performancën në nëngrupe dhe kontrollova për paragjykime.
- [ ] Unë respektova katër parimet etike dhe konfirmova se përgjegjësia është e ekspertit.