Pelnas:
- Galimybė anonimizuoti pacientų laboratorinius duomenis pagal KVKK / privatumą ir taikyti saugias priemones bei duomenų apdorojimo taisykles
- Supraskite, kodėl patvirtinimas, našumo metrika ir šališkumo kontrolė yra privalomi klinikiniam dirbtinio intelekto modelių naudojimui.
- Gebėjimas prisiimti galutinę atsakomybę, įtraukiant keturis etikos principus ir atsakomybės grandinę į kiekvieną dirbtinio intelekto naudojimą
Laboratorija yra vienas iš daugiausia duomenų reikalaujančių sveikatos priežiūros sistemos taškų. Kiekvienas pacientas, kiekvienas tyrimas, kiekvienas rezultatas yra duomenų dalis, ir dauguma šių dalių yra jautrių asmens duomenų, ty sveikatos duomenų, apimtyje. Dirbtinis intelektas gali sukurti didelę vertę dirbdamas su šiais duomenimis, tačiau neatsargiai naudojamas tas pats dirbtinis intelektas gali sukelti rimtų privatumo pažeidimų, teisinės atsakomybės ir žalos pacientų pasitikėjimui. Be to, kalbama ne tik apie konfidencialumą: tai profesinė ir etinė pareiga įrodyti, kad dirbtinio intelekto modelis, pritaikytas klinikiniam naudojimui, yra tikrai patikimas – tai yra patvirtinimas – ir įsitikinti, kad šis modelis nėra nesąžiningas tam tikrų pacientų grupių atžvilgiu (šališkumas).
Šiame skyriuje sužinosite, kaip apsaugoti pacientų laboratorinius duomenis KVKK/konfidencialumo ribose; klinikinių AI modelių patvirtinimas, našumo metrika ir šališkumo kontrolė; ir kaip į kiekvieną naudojimą įtraukti etikos principus. Pagrindinis principas: Duomenys nepatenka į jokią transporto priemonę be anonimiškumo; joks modelis nedalyvauja priimant klinikinius sprendimus, kol nėra patvirtintas jūsų pačių duomenimis; o galutinė atsakomybė visada tenka ekspertui.
Privatumas: kokie duomenys, kaip juos apsaugoti
Pacientų laboratoriniai duomenys (rezultatai, diagnozė, protokolo numeris, tapatybė) yra saugomi pagal KVKK (asmens duomenų apsaugos įstatymą) Turkijoje, GDPR Europoje ir reikalauja papildomos apsaugos, nes sveikatos duomenys yra „ypatingo pobūdžio“. Trys pagrindinės dirbtinio intelekto naudojimo taisyklės:
- Anonimizuoti. Pašalinkite vardą, pavardę, TR ID, protokolo / bylos numerį, gimimo datą, kontaktinę ir įstaigos informaciją. pakanka „68 metų pacientė“; Ne „Ayşe Yılmaz, 1957 03 12“. Atminkite, kad tokie deriniai kaip reta liga + maža vieta gali netiesiogiai atskleisti tapatybę.
- Minimali duomenų politika. Bendrinkite minimalius duomenis, reikalingus užduočiai atlikti. Atskaitos diapazono klausimui pateikti nereikia visos paciento bylos.
- Saugus transporto priemonės pasirinkimas. Pasirinkite įmonės įrankius, kurie turi duomenų apdorojimo sutartį ir nenaudoja jūsų duomenų modelių mokymuose. Neapdorotos paciento bylos įkėlimas į viešąjį įrankį yra labiausiai paplitęs ir sunkiausias pažeidimas.
Duomenų tipas
rizika
teisingas elgesys
Pavadinimas, TR ID, protokolo numeris
tiesioginis identifikavimas
Išskleisti, anonimizuoti
Gimimo data, adresas
netiesioginis identifikavimas
Atsisiųskite iki amžiaus grupės, pašalinkite adresą
Rezultatų reikšmės
sveikatos duomenis
Dalinkitės anonimiškai, minimaliai
Vaizdas (tepinėlis, patologija)
Sveikatos duomenys + ID raktas
Laikykite jį patvirtintoje klinikinėje sistemoje; pakrovimas į atvirą transporto priemonę
Dėmesio: „Užšifravau, todėl galiu atsiųsti ir vardą“ yra neteisinga. Šifravimas užtikrina transportavimą saugų, bet nepateisina tapatybės duomenų siuntimo į AI įrankį. Ištraukiami tapatybės duomenys.
Modelio patvirtinimas: kodėl neužtenka „paskelbto“.
Vien todėl, kad dirbtinio intelekto modelis (pvz., vaizdų klasifikatorius arba interpretavimo variklis) gerai veikia vienoje vietoje, dar nereiškia, kad jis gerai veiks jūsų laboratorijoje. Modelis galėjo būti apmokytas naudoti kitą populiaciją, kitą įrenginį, kitą dažymo protokolą; Jūsų pavyzdžiuose jo veikimas gali skirtis. Tai vadinama paskirstymo poslinkiu. Todėl kiekvienas klinikiniam naudojimui skirtas modelis turi būti patvirtintas pagal jūsų duomenis, jo veikimas turi būti reguliariai matuojamas ir stebimas.
Pagrindinės našumo metrikos, naudojamos tikrinant:
- Jautrumas: greitis, kuriuo modelis tiksliai fiksuoja tuos, kurie tikrai serga / teigiami. Mažas jautrumas = praleisti tikri teigiami rezultatai (klaidingi neigiami) = rizika, kad kritinės išvados nebus.
- Specifiškumas: teisingas tikrai sveikų / neigiamų pašalinimo greitis. Mažas specifiškumas = daug klaidingų aliarmų.
- Klaidingai neigiami / klaidingai teigiami rodikliai: Laboratorijoje klaidingas neigiamas rezultatas (neatsižvelgiant į kritinę išvadą) paprastai yra pavojingesnis nei klaidingas teigiamas rezultatas; Šis balansas koreguojamas pagal numatytą modelio naudojimą.
Kai modelis yra patvirtintas, jis nėra pamirštas; Laikui bėgant prietaisas, reagentas, populiacija gali keistis ir našumas gali pasikeisti. Todėl būtina nuolatinė stebėsena ir periodinis pakartotinis vertinimas.
Šališkumas: kam modelis nesąžiningas?
Modelis sužino apie mokymo duomenų disbalansą. Jei vaizdo modelis mokomas daugiausia pagal tam tikros pacientų grupės pavyzdžius, tai gali padaryti daugiau klaidų nepakankamai atstovaujamoje grupėje. Laboratorijos kontekste tai reiškia, kad modelis yra prastesnis tam tikram amžiui, lyčiai ar klinikinei grupei – ir tai yra teisingumo / etikos problema. Tvirtinant būtina patikrinti našumą ne tik bendrai, bet ir pogrupiuose. Nepaisyti šališkumo reiškia tyliai teikti blogesnes paslaugas kai kuriems pacientams.
Keturi etiniai principai ir atsakomybės grandinė
Keturi pagrindiniai sveikatos etikos principai taip pat taikomi laboratoriniam AI:
- Nauda: dirbtinis intelektas turi būti naudojamas paciento labui; pagreitis neturėtų pakenkti saugai.
- Nepiktybiškumas: nepatikrinta produkcija, klaidinga kritinė vertė, praleistas radinys gali pakenkti; Jiems užkirsti kelią yra etinė pareiga.
- Savarankiškumas: saugomos paciento teisės į jo duomenis; Gerbiamas konfidencialumas ir sutikimas.
- Teisingumas: modelis turėtų teikti vienodos kokybės paslaugas visoms pacientų grupėms; šališkumas turi būti patikrintas.
Ir visų pirma, yra atsakomybės grandinė: dirbtinis intelektas gali duoti rezultatą, tačiau ekspertas yra atsakingas už to rezultato rezultatą. „AI taip pasakė“ nėra pasiteisinimas; Parašas, sprendimas ir atsakomybė priklauso žmogui.
Silpnas raginimas / Stiprus raginimas
Silpnas raginimas:
Išaiškinkite visus Ayşe Yılmaz (TC 123..., protokolas 2024-88) rezultatus ir diagnozę bei parašykite ataskaitą.
Šiame prašyme yra tiesiogiai nurodyti tapatybės duomenys (KVKK pažeidimas), pažeidžiamas minimalių duomenų principas ir prašoma diagnozės. Tai rimtas privatumo ir sienų pažeidimas.
Galingas raginimas:
Jūsų vaidmuo: JURAŠTO ruošimo laboratorijos specialisto asistentas. Žemiau pateikti duomenys yra anoniminiai; nėra identifikavimo informacijos. Dirbkite tik su reikalinga klinikine/analitine informacija. Diagnozės nustatymas; Naudokite „galimą“ kalbą; Kreiptis į gydytoją. Pacientė: 68 metų moteris, žinoma skydliaukės liga. Anoniminiai rezultatai (su nuoroda): TSH 6,2 mIU/L (nuoroda 0,4-4,0), laisvas T4 normos ribose. Užduotis: parašykite paprastą instruktažą pacientui; sukurti tapatybės užuominą.
Stiprus raginimas yra anoniminis, veikia su minimaliais duomenimis, diagnozę palieka ekspertui ir nurodo ribą.
trys mini dėklai
1 atvejis – privatumo pažeidimo prevencija. Norėdami interpretuoti paciento ataskaitą, technikas pirmiausia iš teksto ištraukia vardą, ID ir protokolo numerį naudodamas šabloną „Anonimizacijos valdymas“; Tai palieka tik amžiaus, lyties ir rezultatų vertes. Tada jis veikia saugiame įmonės įrankyje. Duomenys nepatenka už institucijos ribų su tapatybe. Pažeidimui buvo užkirstas kelias prieš pradedant darbą.
2 atvejis – nepatvirtinto modelio gaudyklė. Laboratorija pradeda naudoti šlapimo nuosėdų modelį, sukurtą kitame centre tiesiai savo prietaise; Tai nepatvirtina. Po kurio laiko pastebima, kad modelis dažnai praleidžia tam tikrus kristalus dažymo protokoluose (paskirstymo poslinkis). Susikaupė klaidingi negatyvai. Pamoka: modelis neįtraukiamas į klinikinių sprendimų priėmimą, kol jis nepatvirtintas jūsų pačių duomenimis ir neišmatuotas jautrumas / specifiškumas.
3 atvejis – šališkumo gaudymas. Atliekant veiklos auditą, nors bendras modelio jautrumas atrodo didelis, nustatyta, kad vyresnio amžiaus pacientų pogrupyje jis yra žymiai mažesnis; Šioje grupėje modelis daro daugiau klaidų. Laboratorija prideda papildomą ekspertų apžvalgą šiai modelio išėjimų grupei ir susisiekia su gamintoju. Pamoka: veiklos rezultatai tikrinami ne tik bendrai, bet ir pogrupiuose; To reikalauja teisingumo principas.
Kopijuojami raginimo šablonai
ANONIMIZAVIMO VALDYMO ŠABLONIS Iš toliau pateikto teksto ištraukite pavadinimą, TR ID, protokolo / bylos numerį, gimimo datą, adresą, telefono numerį ir informaciją apie įstaigą; pakeisti į "[pašalinta]". Įspėkite, jei yra netiesioginio ID užuomina (reta diagnozė + maža vieta). Palikite tik būtiną klinikinę/analitinę informaciją. Tekstas: [tekstas].
MODELIO PATVIRTINIMO PLANO ŠABLONAS Parengti patvirtinimo plano projektą dirbtinio intelekto modeliui, kurį pritaikysiu klinikiniam naudojimui: su kokiais savo duomenimis jį išbandysiu, kaip išmatuoti jautrumą/specifiškumą, kaip įvertinti klaidingų neigiamų/teigiamų rezultatų balansą, kaip kontroliuoti pogrupio (amžiaus/lyties) veiklą, kaip dažnai vertinti iš naujo. Aš nuspręsiu; Jūs sudarote kontrolinį sąrašą.
BIAS CHECK ŠABLONAI įvertinti modelio veikimą. Išvardykite, kuriuose pogrupiuose (amžius, lytis, klinikinė grupė, imties tipas) turėčiau ieškoti veiklos rezultatų atskirai ir kokių veiksmų turėčiau imtis, jei vienoje grupėje randu labai prastus rezultatus. Pridėkite sąžiningumo / lygybės įspėjimų.
ETINIS SAVIAUDITO ŠABLONAS AI, kurį ruošiuosi naudoti, yra tikrinamas pagal keturis etikos principus: geranoriškumas, nepiktybiškumas, savarankiškumas (privatumas / sutikimas), sąžiningumas. Užduokite rizikos klausimą dėl kiekvienos politikos. Be to, „kas atsakingas už šią produkciją? Paprašykite manęs atsakyti į jūsų klausimą. Naudojimas: [apibrėžimas].
Dažnos klaidos
- Transporto priemonės identifikavimo duomenų suteikimas. Vardas, pavardė, TR ID numeris ir protokolo numeris nėra bendrinami be anonimiškumo; šifravimas to nepateisina.
- Pamiršus netiesioginę tapatybę. Tokie deriniai kaip reta diagnozė + maža vieta gali atskleisti tapatybę.
- Modelio naudojimas jo nepatvirtinus. Kitur veikiantis modelis gali skirtis jūsų duomenų našumui.
- Tiesiog pažvelkite į pasirodymą apskritai. Šališkumas lieka paslėptas, jei neatliekama pogrupio analizė.
- Atsakomybės sukėlimas modeliui. „AI pasakė“ nėra pasiteisinimas; Sprendimas ir parašas priklauso ekspertui.
Patarimas: prieš kiekvieną kartą naudodamiesi dirbtiniu intelektu kartu užduokite du klausimus: „Ar šie duomenys neidentifikuoti? ir „Ar aš žinau, kaip šis modelis veikia mano derlingumo sąlygomis? Atsakymas į pirmąjį saugo privatumą, atsakymas į antrąjį – saugumą.
Apibendrinant
Laboratoriniai duomenys yra ypatingos kokybės sveikatos duomenys; Naudojant dirbtinį intelektą privalomas anonimiškumas, minimali duomenų politika ir saugus įrankių pasirinkimas. Klinikiniam naudojimui skirti modeliai turi būti patvirtinti jūsų pačių duomenimis; turėtų būti išmatuotas jautrumas, specifiškumas ir klaidingai neigiamas / teigiamas balansas; Našumas taip pat turėtų būti tikrinamas pogrupiuose, siekiant patikrinti, ar nėra šališkumo. Keturi etiniai principai – geranoriškumas, nepiktybiškumas, savarankiškumas, teisingumas – yra įausti į kiekvieną naudojimą, o virš jų visų stovi atsakomybės grandinė: nors rezultatas gaunamas iš modelio, sprendimas ir atsakomybė tenka ekspertui.
Taikymo užduotis
Anoniminkite paciento teksto pavyzdį naudodami šabloną „Anonimizacijos valdymas“ ir nurodykite, kokią informaciją pašalinote. Sukurkite AI modelio, kurį naudojate (arba ketinate naudoti), patvirtinimo kontrolinį sąrašą naudodami šabloną „Model Validation Plan“; Įtraukite jautrumo / specifiškumo ir pogrupio analizę. Galiausiai įvertinkite naudojimą pagal keturis principus naudodami „Etinės savikontrolės“ šabloną.
kontrolinis sąrašas
- [ ] anonimizuojau duomenis; Pašalinau tiesioginius ir netiesioginius tapatybės ženklus.
- [ ] Pritaikiau minimalių duomenų politiką; Dalinausi tik tuo, kas būtina.
- [ ] Naudojau saugų, įmonės ir duomenų apdorojimo sutartyje numatytą įrankį.
- [ ] Patvirtinau modelį savo duomenimis; Matavau jautrumą/specifiškumą.
- [ ] Patikrinau našumą pogrupiuose ir patikrinau, ar nėra šališkumo.
- [ ] Aš laikiausi keturių etikos principų ir patvirtinau, kad atsakomybė tenka ekspertui.