Ieguvumi:
- Iespēja anonimizēt pacientu laboratorijas datus KVKK/privātuma ietvaros un piemērot drošus rīkus un datu apstrādes noteikumus
- Izprotiet, kāpēc mākslīgā intelekta modeļu klīniskajā izmantošanā ir obligāta validācija, veiktspējas rādītāji un novirzes kontrole.
- Spēja uzņemties galīgo atbildību, iekļaujot četrus ētikas principus un atbildības ķēdi katrā mākslīgā intelekta lietošanā
Laboratorija ir viens no datu ietilpīgākajiem veselības aprūpes sistēmas punktiem. Katrs pacients, katrs tests, katrs rezultāts ir datu gabals, un lielākā daļa no tiem ir sensitīvu personas datu, tas ir, veselības datu, darbības jomā. Mākslīgais intelekts var radīt lielu vērtību, strādājot pie šiem datiem, taču, ja to izmanto nevērīgi, tas pats mākslīgais intelekts var izraisīt nopietnus privātuma pārkāpumus, juridisku atbildību un kaitējumu pacientu uzticībai. Turklāt runa nav tikai par konfidencialitāti: tas ir profesionāls un ētisks pienākums pierādīt, ka mākslīgā intelekta modelis, kas nodots klīniskai lietošanai, ir patiesi uzticams, tas ir, apstiprināšana, un pārliecināties, ka šis modelis nav negodīgs pret noteiktām pacientu grupām (neobjektivitāte).
Šajā nodaļā jūs uzzināsiet, kā aizsargāt pacientu laboratorijas datus KVKK/konfidencialitātes ietvaros; klīnisko AI modeļu validācija, veiktspējas rādītāji un novirzes kontrole; un kā katrā lietojumā iepīt ētikas principus. Pamatprincips: dati netiek ievadīti nevienā transportlīdzeklī, ja tie nav anonimizēti; neviens modelis nepiedalās klīnisko lēmumu pieņemšanā, kamēr tas nav apstiprināts ar jūsu pašu datiem; un galvenā atbildība vienmēr gulstas uz ekspertu.
Privātums: kādi dati, kā tos aizsargāt
Pacientu laboratorijas dati (rezultāti, diagnoze, protokola numurs, identitāte) ir aizsargāti saskaņā ar KVKK (Personas datu aizsardzības likums) Turkijā, GDPR Eiropā, un tiem ir nepieciešama papildu aizsardzība, jo veselības datiem ir "īpašs raksturs". Trīs pamatnoteikumi mākslīgā intelekta izmantošanai:
- Anonimizēt. Noņemiet vārdu, uzvārdu, TR ID, protokola/faila numuru, dzimšanas datumu, kontaktinformāciju un iestādes informāciju. "68 gadus veca sieviete paciente" ir pietiekama; Nevis "Ayşe Yılmaz, 12.03.1957". Ņemiet vērā, ka tādas kombinācijas kā reta slimība + neliela atrašanās vieta var netieši atklāt identitāti.
- Minimālā datu politika. Kopīgojiet minimālos datus, kas nepieciešami uzdevumam. Atsauces diapazona jautājumam nav nepieciešama visa pacienta lieta.
- Droša transportlīdzekļa izvēle. Izvēlieties korporatīvos rīkus, kuriem ir datu apstrādes līgums un neizmantojiet jūsu datus modeļu apmācībā. Neapstrādāta pacienta faila augšupielāde publiskā rīkā ir visizplatītākais un smagākais pārkāpums.
Datu tips
risku
pareiza uzvedība
Nosaukums, TR ID, protokola numurs
tieša identifikācija
Izvilkt, anonimizēt
Dzimšanas datums, adrese
netiešā identifikācija
Lejupielādēt vecuma diapazonā, noņemt adresi
Rezultātu vērtības
veselības dati
Dalieties anonīmi, minimāli
Attēls (uztriepe, patoloģija)
Veselības dati + ID pavediens
Saglabājiet to apstiprinātajā klīniskajā sistēmā; iekraušana atvērtā transportlīdzeklī
Uzmanību: "Es to šifrēju, lai varu nosūtīt arī vārdu" ir nepareizi. Šifrēšana padara transportēšanu drošu, bet neattaisno identitātes datu nosūtīšanu uz AI rīku. Identitātes dati tiek iegūti.
Modeļa validācija: kāpēc ar “publicētu” nepietiek
Tas, ka mākslīgā intelekta modelis (piemēram, attēlu klasifikators vai interpretācijas dzinējs) darbojas labi vienuviet, nenozīmē, ka tas labi darbosies arī jūsu laboratorijā. Modelis var būt apmācīts citai populācijai, citai ierīcei, citam krāsošanas protokolam; Tā veiktspēja jūsu paraugos var atšķirties. To sauc par sadales maiņu. Tāpēc katrs modelis, kas tiks nodots klīniskai lietošanai, ir jāvalidē uz jūsu datiem, tā veiktspēja ir regulāri jāmēra un jāuzrauga.
Galvenie veiktspējas rādītāji, kas izmantoti validācijā:
- Jutīgums: ātrums, ar kādu modelis precīzi uztver tos, kuri patiešām ir slimi/pozitīvi. Zems jutīgums = izlaisti patiesie pozitīvie rezultāti (viltus negatīvi) = risks, ka netiks izlaisti kritiski konstatējumi.
- Specifiskums: Pareizs patiesi veselīgu/negatīvu izvadīšanas ātrums. Zema specifika = daudz viltus trauksmju.
- Viltus negatīvs/viltus pozitīvs rādītājs: laboratorijā viltus negatīvs (trūkst kritiskas atrades) parasti ir bīstamāka nekā viltus pozitīva; Šis atlikums tiek pielāgots atbilstoši modeļa paredzētajam lietojumam.
Kad modelis ir apstiprināts, tas netiek aizmirsts; Laika gaitā ierīce, reaģents, populācija var mainīties un veiktspēja var mainīties. Tāpēc ir nepieciešama pastāvīga uzraudzība un periodiska atkārtota novērtēšana.
Neobjektivitāte: pret kuru modelis ir negodīgs?
Modelis uzzina par apmācību datu nelīdzsvarotību. Ja attēla modelis ir apmācīts galvenokārt konkrētas pacientu grupas piemēros, tas var radīt vairāk kļūdu nepietiekami pārstāvētajā grupā. Laboratorijas kontekstā tas nozīmē, ka modelis darbojas mazāk labi noteiktā vecuma, dzimuma vai klīniskās grupas gadījumā, un tas ir taisnīguma/ētikas jautājums. Veicot validāciju, ir jāpārbauda veiktspēja ne tikai kopumā, bet arī apakšgrupās. Neobjektivitātes ignorēšana nozīmē klusi sniegt sliktākus pakalpojumus dažiem pacientiem.
Ētiskie četri principi un atbildības ķēde
Četri veselības ētikas pamatprincipi attiecas arī uz laboratorijas AI:
- Ieguvums: mākslīgais intelekts jāizmanto pacienta labā; paātrinājums nedrīkst apdraudēt drošību.
- Ne-ļaunprātība: nepārbaudīta izvade, nepareiza kritiskā vērtība, nokavēts atradums var nodarīt kaitējumu; Tas ir ētisks pienākums tos novērst.
- Autonomija: pacienta tiesības uz saviem datiem ir aizsargātas; Tiek ievērota konfidencialitāte un piekrišana.
- Taisnīgums: modelim jānodrošina vienādas kvalitātes pakalpojums visām pacientu grupām; neobjektivitāte ir jāpārbauda.
Un galvenais ir atbildības ķēde: mākslīgais intelekts var radīt rezultātu, bet eksperts ir atbildīgs par šīs produkcijas iznākumu. “AI teica tā” nav attaisnojums; Paraksts, lēmums un atbildība pieder cilvēkam.
Vāja uzvedne / spēcīga uzvedne
Vāja uzvedne:
Interpretējiet visus Ayşe Yılmaz (TC 123..., protokols 2024-88) rezultātus un diagnozi un uzrakstiet ziņojumu.
Šis pieprasījums tieši satur identitātes datus (KVKK pārkāpums), pārkāpj minimālo datu principu un pieprasa diagnozi. Tas ir nopietns privātuma un robežu pārkāpums.
Spēcīga uzvedne:
Jūsu loma: PROJEKTA sagatavošanas palīgs laboratorijas speciālistam. Tālāk norādītie dati ir anonīmi; nesatur identifikācijas informāciju. Strādājiet tikai ar nepieciešamo klīnisko/analītisko informāciju. Diagnozes noteikšana; Izmantojiet “iespējamo” valodu; Vērsties pie ārsta. Paciente: 68 gadus veca sieviete, zināma vairogdziedzera slimība. Anonīmi rezultāti (ar atsauci): TSH 6,2 mIU/L (ref 0,4-4,0), brīvais T4 normas robežās. Uzdevums: uzrakstīt pacientam vienkāršu instruktāžas izklāstu; radīt identitātes pavedienu.
Spēcīgā uzvedne ir anonīma, darbojas ar minimālu datu daudzumu, nodod diagnozi ekspertam un norāda ierobežojumu.
trīs mini futrāļi
1. gadījums — privātuma pārkāpuma novēršana. Lai interpretētu pacienta ziņojumu, tehniķis vispirms no teksta izvelk vārdu, ID un protokola numuru, izmantojot veidni "Anonimizācijas kontrole"; Tas atstāj tikai vecuma, dzimuma un iznākuma vērtības. Pēc tam tas darbojas drošā korporatīvajā rīkā. Dati ar identitāti neiziet ārpus iestādes. Pārkāpums novērsts pirms darba sākšanas.
2. gadījums — nevalidēta modeļa slazds. Laboratorija sāk izmantot urīna nogulumu modeli, kas izstrādāts citā centrā tieši savā instrumentā; Tas neapstiprina. Pēc kāda laika tiek pamanīts, ka modelis savos krāsošanas protokolos bieži izlaiž dažus kristālus (izplatības maiņa). Ir sakrājušies viltus negatīvi. Nodarbība: modelis netiek ņemts vērā klīnisko lēmumu pieņemšanā, kamēr tas nav apstiprināts, pamatojoties uz jūsu datiem un nav izmērīts jutīgums/specifiskums.
3. gadījums — aizspriedumu uztveršana. Veiktspējas auditā, lai gan modeļa vispārējā jutība šķiet augsta, vecāka gadagājuma pacientu apakšgrupā tā ir ievērojami zemāka; Modelis rada vairāk kļūdu šajā grupā. Laboratorija šai modeļa izvadu grupai pievieno papildu ekspertu pārskatu un sazinās ar ražotāju. Nodarbība: sniegums tiek pārbaudīts ne tikai kopumā, bet arī apakšgrupās; Taisnīguma princips to prasa.
Kopējamas uzvedņu veidnes
ANONIMIZĀCIJAS VADĪBAS VEIDNE No tālāk esošā teksta izņemiet nosaukumu, TR ID, protokola/faila numuru, dzimšanas datumu, adresi, tālruņa numuru un iestādes informāciju; aizstāt ar "[noņemts]". Brīdiniet, ja ir netieša ID norāde (reta diagnoze + maza atrašanās vieta). Atstājiet tikai nepieciešamo klīnisko/analītisko informāciju. Teksts: [teksts].
MODEĻA VALIDĀCIJAS PLĀNA VEIDNE Sagatavot mākslīgā intelekta modeļa validācijas plāna projektu, ko likšu klīniski izmantot: ar kādiem pašu datiem es to pārbaudīšu, kā izmērīt jutīgumu/specifiskumu, kā novērtēt viltus negatīvo/pozitīvo līdzsvaru, kā kontrolēt apakšgrupu (vecuma/dzimuma) veiktspēju, cik bieži veikt atkārtotu novērtēšanu. es izlemšu; Jūs izveidojat kontrolsarakstu.
BIAS CHECK TEMPLATEI novērtē modeļa veiktspēju. Uzskaitiet, kurās apakšgrupās (vecums, dzimums, klīniskā grupa, izlases veids) atsevišķi jāmeklē sniegums un kādi pasākumi jāveic, ja vienā grupā konstatēju ievērojami sliktu sniegumu. Pievienojiet brīdinājumus par taisnīgumu/vienlīdzību.
ĒTISKĀS PAŠPĀRBAUDES VEIDNE AI izmantošana, ko es gatavojos veikt, tiek pārbaudīta saskaņā ar četriem ētikas principiem: labvēlība, neļaunība, autonomija (privātums/piekrišana), godīgums. Uzdodiet riska jautājumu par katru politiku. Arī "kas ir atbildīgs par šo rezultātu?" Lūdziet man atbildēt uz jūsu jautājumu. Lietošana: [definīcija].
Biežas kļūdas
- Identifikācijas datu sniegšana transportlīdzeklim. Vārds, TR ID numurs un protokola numurs netiek koplietots bez anonimizācijas; šifrēšana to neattaisno.
- Aizmirstot netiešo identitāti. Tādas kombinācijas kā reta diagnoze + neliela atrašanās vieta var atklāt identitāti.
- Modeļa izmantošana bez apstiprināšanas. Modelis, kas darbojas citur, var nodrošināt atšķirīgu jūsu datu veiktspēju.
- Paskatieties uz sniegumu kopumā. Ja apakšgrupu analīze netiek veikta, novirze paliek paslēpta.
- Atbildības uzlikšana modelim. “AI teica” nav attaisnojums; Lēmums un paraksts pieder ekspertam.
Padoms. Pirms katras mākslīgā intelekta lietošanas reizes uzdodiet divus jautājumus: "Vai šie dati nav identificēti?" un "Vai es zinu, kā šis modelis darbojas ar manu ražu?" Atbilde uz pirmo aizsargā privātumu, atbilde uz otro aizsargā drošību.
Rezumējot
Laboratorijas dati ir īpašas kvalitātes veselības dati; Izmantojot mākslīgo intelektu, obligāta ir anonimizācija, minimālā datu politika un droša rīku izvēle. Klīniskajai lietošanai paredzētie modeļi ir jāapstiprina, pamatojoties uz jūsu datiem; jāmēra jutība, specifiskums un kļūdaini negatīvs/pozitīvs līdzsvars; Veiktspēja ir jāpārbauda arī apakšgrupās, lai pārbaudītu novirzes. Četri ētikas principi — labvēlība, nevainojamība, autonomija, taisnīgums — ir ieausti katrā lietojumā, un pāri tiem visiem stāv atbildības ķēde: lai gan rezultāts nāk no modeļa, lēmums un atbildība gulstas uz ekspertu.
Lietojumprogrammas uzdevums
Anonimizējiet pacienta teksta paraugu, izmantojot veidni "Anonimizācijas kontrole", un uzskaitiet, kādu informāciju esat noņēmis. Izveidojiet validācijas kontrolsarakstu AI modelim, kuru izmantojat (vai apsverat to izmantot), izmantojot veidni “Modeļa validācijas plāns”; Iekļaujiet jutīguma/specifiskuma un apakšgrupu analīzi. Visbeidzot, novērtējiet lietošanu atbilstoši četriem principiem, izmantojot veidni “Ētiskā pašpārbaude”.
kontrolsaraksts
- [ ] Es anonimizēju datus; Es noņēmu tiešās un netiešās identitātes norādes.
- [ ] Es piemēroju minimālo datu politiku; Es dalījos tikai ar to, kas bija nepieciešams.
- [ ] Es izmantoju drošu, korporatīvo un datu apstrādes līgumu.
- [ ] Es apstiprināju modeli, pamatojoties uz saviem datiem; Es izmērīju jutību / specifiku.
- [ ] Es pārbaudīju veiktspēju apakšgrupās un pārbaudīju neobjektivitāti.
- [ ] Es ievēroju četrus ētikas principus un apstiprināju, ka atbildība gulstas uz ekspertu.