Privatnost podataka, regulativa, etika i upravljanje od kraja do kraja

Dobici:

• Razumijevanje da su zdravstveni podaci podaci posebne kvalitete te pravila anonimizacije, pohrane i dijeljenja u okviru KVKK/zakonodavstva
• Sposobnost izrade nacrta etičkih načela (poštenost, transparentnost, odgovornost) i politike korporativnog upravljanja u korištenju umjetne inteligencije
• Biti u stanju uspostaviti okvir upravljanja u kojem rezultat umjetne inteligencije ne zamjenjuje upravljačke i kliničke odluke, a odgovornost i konačno odobrenje uvijek ostaju na čovjeku.

Tijekom ovog modula koristili smo AI kao akcelerator u svakom operativnom području, od termina do kreveta, od predviđanja do prihoda, od kvalitete do inventara. Ali postoji krov nad svim tim moćnim upotrebama: privatnost podataka, usklađenost s propisima i etika. Bez ovog okvira, svaki posao koji ubrzate također je povećani rizik. Ova posljednja jedinica okuplja raspršena pravila u jedinstveni okvir upravljanja. Upravljanje je sustav upravljanja koji definira tko što može raditi u ustanovi i prema kojim pravilima, te kako funkcioniraju odgovornost i kontrola. Postavimo glavno načelo još jednom, najjasnije: učinak umjetne inteligencije ne zamjenjuje menadžerske i kliničke odluke; Odgovornost i konačno odobrenje uvijek leže na čovjeku.

Zašto su zdravstveni podaci privatni?

Zdravstveni podaci nisu obični podaci. U Turskoj, KVKK (Zakon o zaštiti osobnih podataka) zdravstvene podatke smatra "osobnim podacima posebne prirode"; To znači najvišu razinu zaštite. Njegov europski ekvivalent je GDPR. Ako se otkrije pacijentova dijagnoza, liječenje, broj protokola, dogodit će se nepovratna šteta: stigma, diskriminacija, gubitak povjerenja. Dakle, postoji nekoliko osnovnih pravila. Anonimizacija je uklanjanje svih informacija koje identificiraju osobu (ime, ID, protokol, kombinacija rijetke dijagnoze + dobi + lokacije) iz podataka. Minimizacija podataka je rad s najmanjom količinom podataka koji će obaviti posao. Ograničenje svrhe znači korištenje podataka samo u svrhu za koju su prikupljeni. Ograničenje zadržavanja nije zadržavanje podataka dulje nego što je potrebno.

Lijepljenje podataka o pacijentu u javni alat umjetne inteligencije je slanje podataka vanjskom poslužitelju i ozbiljno je kršenje. Ispravan pristup: anonimizirajte podatke, ako je moguće odaberite alate s korporativnim ugovorima i ugovorima o obradi podataka (koji ne koriste vaše podatke za obuku modela) i imajte pisanu politiku o tome koji podaci mogu ići u koji alat. Upamtite: kada se mali komadići spoje, osoba se može redefinirati; Dok je "68-godišnja žena" sigurna, "68-godišnja žena, iz sela X, s rijetkom bolešću Y" više nije anonimna.

Etika i upravljanje od kraja do kraja

Dobro upravljanje umjetnom inteligencijom temelji se na tri etička načela. Pošteno je da umjetna inteligencija sustavno ne dovodi u nepovoljniji položaj skupinu pacijenata (stariji, s niskim primanjima, ruralni); Primjer za to je nekorištenje rezultata nepojavljivanja za isključenje. Transparentnost znači biti u mogućnosti objasniti na čemu se odluka temelji; Poželjan je prijedlog s vidljivim obrazloženjem, a ne prijedlog "crne kutije". Odgovornost znači imati odgovornu osobu koja stoji iza svake odluke; "AI je tako rekao" nije obrana.

Ono što ove principe provodi u djelo je politika upravljanja. Dobra politika definira: koji podaci mogu ići u koje vozilo (klasifikacija podataka); pravila anonimizacije; ljudske točke odobrenja za svaki posao (tko što potpisuje); odgovornost i revizijski trag (tko je učinio što kada — evidencija traga); i etičkih načela. Ova politika kombinira sve izjave o "ljudi odlučuju" koje smo vidjeli tijekom modula u jedan institucionalni okvir.

Pažnja: Rečenica "AI predložio, ja implementirao" nije prijenos odgovornosti. Pravno i etički, odgovornost ostaje na osobi koja prihvati i provede prijedlog. Upravljanje upravo tu odgovornost čini vidljivom i sljedljivom.

tri mini kućišta

Slučaj 1 — Rizik od ponovne identifikacije. Jedna jedinica podijelila je "anonimni" sažetak slučaja: "Jedini pacijent s presađenim srcem u našem gradu, 34-godišnji muškarac, otpušten prošli mjesec." U ovoj rečenici nije bilo imenice, ali kombinacija je jedinstveno opisivala tu osobu. Službenik za kvalitetu se tome usprotivio; Kombinacija rijetkih značajki razbija anonimnost. Sažetak je ponovno napisan uklanjanjem opisnih detalja i generalizacijom.

Slučaj 2 — Vrijednost zapisa traga. U bolnici se pokazalo da je broj u izvješću uprave izrađenom pomoću umjetne inteligencije pogrešan i upravi su poslane netočne informacije. Tijekom revizije pitanje "odakle ovaj broj, tko ga je potvrdio?" je upitan. Budući da politika upravljanja organizacije nalaže zapis "izvor + verifikator + datum" za svaki izlaz umjetne inteligencije, odmah je bilo vidljivo da se pogreška dogodila tamo gdje je korak provjere preskočen. Snimanje tragova korišteno je za korekciju procesa, a ne za potragu za kriminalcima.

Slučaj 3 — Politika sprječava krizu. Novi zaposlenik spremao se učitati svoju otpusnu listu u javni alat za umjetnu inteligenciju. Jasna politika ustanove navodi da "datoteke koje sadrže identifikaciju pacijenata ne ulaze u otvoreni alat, prvo se anonimiziraju i koristi se samo odobreni institucionalni alat." Zaposlenik je zapamtio politiku, anonimizirao podatke i upotrijebio odobreni alat. Pisano upravljanje spriječilo je individualnu pogrešku kao institucionalni refleks.

Četiri predloška za kopiranje

1) Nacrt politike klasifikacije podataka:

Vaša uloga: pomoćnik referenta za informacijsku sigurnost/kvalitetu zdravstvene ustanove. Nacrtajte klasifikacijsku tablicu "Koji podaci mogu ući u AI" za našu ustanovu: crveno (nikada: ID pacijenta, ID, protokol), žuto (anonimizirano), zeleno (besplatno: javno, neosobno). Napišite primjere i pravila za svaki razred. Navedite da je ovo nacrt i da ga pravni odjel/odjel za usklađenost treba odobriti.

2) Kontrolni popis anonimizacije:

Pripremite popis za provjeru anonimizacije koji ću pokrenuti prije davanja bilo kakvih podataka AI-ju: je li izlaz ime/TC/protokol, identificira li kombinacija rijetke značajke (dob+lokacija+rijetka dijagnoza) osobu, ima li nepotrebnog prostora, je li to alat odobren od strane tvrtke. Svaka stavka neka bude označena da/ne.

3) Mapa točaka ljudskog odobrenja:

Napravite tablicu "tko odobrava" za sljedeća područja upotrebe umjetne inteligencije (izvješće, predviđanje potražnje, prioritet kreveta, šifru za naplatu, raspored smjena): razinu rizika i obvezno ovlaštenje za ljudsko odobrenje za svako područje. Naglasite potrebu za dvostrukim kliničkim i administrativnim odobrenjem u područjima visokog rizika.

4) Predložak snimanja traga AI izlaza:

Napišite predložak dnevnika tragova koji ćete ispuniti za svaki izlaz umjetne inteligencije: datum, korišteni alat, klasa unesenih podataka (anonimno), sažetak rezultata, osoba koja je potvrdila, upravitelj koji je odobrio, odluka. Navedite da je ovo za reviziju i odgovornost.

Slab upit / Jak upit

Slab upit:

Dajte podatke naših pacijenata AI-u i dajte ih analizirati.

Anonimizacija, sigurnost vozila, bez potvrde i bez snimanja tragova; Rizik od izravnog kršenja KVKK.

Snažan upit:

Nacrtajte politiku upravljanja umjetnom inteligencijom za našu organizaciju: (1) klasifikacija podataka (crveno/žuto/zeleno), (2) pravila anonimizacije, (3) ljudske točke odobrenja za svaki slučaj upotrebe, (4) evidencija i revizija, (5) načela pravednosti/transparentnosti/odgovornosti. Navedite da je ovo nacrt i da je potrebno pravno/usklađeno odobrenje.

Element upravljanja

Što pruža

primjer

Klasifikacija podataka

Određuje što može ući

ID = nikad

Anonimizacija

Štiti osobu

Iskače ime/rijetka kombinacija

točke ljudskog odobravanja

Definira odgovornost

Dvostruka provjera visokog rizika

evidencija

Mogućnost revizije

Izvor + verifikator + datum

Etička načela

Pošteno, transparentno, odgovorno

Korištenje rezultata za isključenje

Uobičajene greške

• Dijeljenje podataka koji se mogu identificirati misleći da su "anonimni". Rijetka kombinacija osobina odaje osobu.
• Korištenje neodobrenog alata. Podaci idu na vanjski poslužitelj.
• Prebacivanje odgovornosti na AI. "AI je rekao" nije pravna obrana.
• Ne vođenje evidencije. Kada postoji pogreška, ne možete prikazati izvor i potvrdu.
• Pisanje politike, a ne implementacija. Pravilo na papiru ne štiti osim ako nije refleks.

Savjet: okrunite svoju politiku upravljanja popisom "zlatnih pravila" koja stanu na jednu stranicu i dovoljno su jednostavna da ih svatko može zapamtiti: ne unosite ID, anonimizirajte, koristite odobreno vozilo, potvrdite, ljudski potpis. Dugu politiku nitko ne čita; Svi se sjećaju pravila pet.

Ukratko

Operativna moć umjetne inteligencije sigurna je samo pod čvrstim okvirom privatnosti, zakonodavstva i etike. Zdravstveni podaci su podaci posebne kvalitete; Anonimizacija, minimizacija podataka i odobreni alat su bitni. Dobro upravljanje; Kombinira klasifikaciju podataka, anonimizaciju, točke ljudskog odobrenja, bilježenje tragova i etička načela (poštenost, transparentnost, odgovornost) u jednom okviru. To je bit ovog modula u jednoj rečenici: AI ubrzava, čovjek odlučuje i snosi odgovornost. Neprovjereni izlaz AI-a jednako je riskantan kao i nepotpisana odluka uprave.

Zadatak aplikacije

Pripremite nacrt politike upravljanja na jednoj stranici za svoju organizaciju koristeći predloške "AI output trail record" i "data classification". Uključite popis "zlatnog pravila" od najmanje pet stavki. Zatim odaberite područje korištenja koje ste naučili tijekom modula (na primjer, prioritet kreveta ili kod za naplatu) i u 5 stavki napišite koje korake odobrenja i provjere zahtijevaju ova pravila u tom području.

popis za provjeru

• [ ] Jesu li zdravstveni podaci klasificirani kao posebni i jesam li primijenio pravila anonimizacije?
• [ ] Jesam li provjerio rizik od ponovne identifikacije s kombinacijom rijetkih značajki?
• [ ] Jesam li definirao točku ljudskog odobrenja za svaki slučaj upotrebe?
• [ ] Vodim li evidenciju (izvor/verifikator/datum) za rezultate umjetne inteligencije?
• [ ] Jesam li u polici napisao da je odgovornost i konačno odobrenje uvijek na osobi?

Modul ispit

1. Upravitelj bolnice izravno provodi preporuku o dodjeli kreveta koju je generirala umjetna inteligencija bez ikakve kliničke evaluacije. Koja je temeljna pogreška u ovom pristupu?

• A) Pretvaranje izlaza umjetne inteligencije u odluku bez podvrgavanja kliničkoj prikladnosti i administrativnoj provjeri; Ignoriranje da je odgovornost na ljudima ✔
• B) Strogo je zabranjeno korištenje umjetne inteligencije u upravljanju krevetom
• C) Umjetna inteligencija uvijek pokazuje broj kreveta veći nego što stvarno jest
• D) Prijedlog nije prikazan u tablici

Opis: Umjetna inteligencija proizvodi statističke preporuke; Međutim, raspodjela kreveta i prioritet otpusta ovise o kliničkom stanju pacijenta, a konačna odluka pripada odobrenju liječnika/medicinske sestre i odgovornog voditelja. Nepotvrđeni izlaz je kao nepotpisana odluka.

2. Što je od sljedećeg najprikladniji pristup prilikom unosa podataka o pacijentu u javno dostupan alat umjetne inteligencije?

• A) Zalijepite ime pacijenta i broj protokola radi brzine
• B) Uklonite identifikacijske podatke i anonimizirajte podatke te, ako je moguće, upotrijebite korporativni, ugovoreni alat ✔
• C) Sakrijte samo ime pacijenta i ostavite TR ID broj
• D) Dovoljno je dobiti usmeno dopuštenje od pacijenta prije dijeljenja podataka.

Pojašnjenje: Podaci o zdravstvenom stanju su posebni osobni podaci. Informacije o identitetu kao što su ime, TR ID, broj protokola treba ukloniti, podatke treba anonimizirati i, ako je moguće, dati prednost ugovorenim alatima za obradu korporativnih podataka.

3. Koja je najprikladnija upotreba ocjene rizika koju proizvodi umjetna inteligencija u predviđanju nepojavljivanja?

• A) Odbijanje zakazivanja termina za visokorizične pacijente
• B) Zanemarite rezultat i primijenite isti postupak na sve pacijente
• C) Planiranje poštenih intervencija za očuvanje pristupa kao što su žurba s podsjetnicima i prebukiranje ✔
• D) Trajno stavljanje visokorizičnih pacijenata na crnu listu

Objašnjenje: Ocjena rizika je procjena vjerojatnosti; Trebalo bi se koristiti za usmjeravanje poštenih intervencija kao što su gustoća podsjetnika, prebukiranje i olakšavanje pristupa, a ne odbijanje pacijenata. Prava pristupa pacijenata moraju biti zaštićena.

4. Koji je glavni razlog za rad s intervalima pouzdanosti i scenarijima umjesto jednog broja koji daje umjetna inteligencija u predviđanju potražnje?

• A) Predstavljanje intervala čini izvješće duljim
• B) Zato što umjetna inteligencija ne može proizvesti pojedinačne brojeve
• C) Zato što interval pouzdanosti uvijek precizno daje pravu vrijednost
• D) Budući da prognoza uključuje neizvjesnost, potrebno je napraviti fleksibilno planiranje prema scenarijima i upravljati rizicima ✔

Objašnjenje: Prognoza se temelji na povijesnim podacima i uključuje neizvjesnost. Planiranje prema rasponu, a ne prema jednoj točki, omogućuje vam da budete spremni za scenarije niske/visoke potražnje i fleksibilno upravljate kapacitetom.

5. Koji je najkritičniji rizik kada AI predlaže kodove naplate u ciklusu prihoda?

• A) Umjetna inteligencija izmišlja nevažeći ili netočni kod, tečno ga sugerira i bez provjere upisuje u račun ✔
• B) Umjetna inteligencija vrlo sporo proizvodi kodove
• C) SGK uvijek automatski prihvaća prijedlog koda
• D) Kodovi se mogu izraditi samo na engleskom jeziku

Objašnjenje: Umjetna inteligencija može tečno predložiti šifru koja zapravo ne postoji ili je netočna (halucinacija). Kodiranje i naplata su regulirani; Svaki kod mora biti verificiran od strane ovlaštenog stručnjaka s valjanim popisima transakcija i pravilima povrata.

6. Na nadzornoj ploči pokazatelja kvalitete, AI tumači iznenadni pad pokazatelja kao 'poboljšanje'. Što bi upravitelj trebao učiniti?

• A) Predstavljanje komentara izravno upravnom odboru
• B) Istražite je li do promjene možda došlo zbog kvalitete podataka, promjene definicije ili ciljanog odstupanja i provjerite uzročnost ✔
• C) Uklonite indikator s nadzorne ploče
• D) Vjerovati umjetnoj inteligenciji i ne vršiti nikakve provjere

Objašnjenje: Promjena u indikatoru može biti uzrokovana problemom kvalitete podataka, promjenom definicije ili igranjem. Na administratoru je da provjeri uzročnost i izvor podataka komentara.

7. Koja je najčešća pogreška pri analizi zadovoljstva pacijenata besplatnim tekstualnim povratnim informacijama s umjetnom inteligencijom?

• A) Razdvajanje tekstova na teme
• B) Anonimiziranje povratnih informacija
• C) Generaliziranje automatske oznake emocija i uzorka na sve pacijente bez njihove validacije ✔
• D) Prioritet pritužbi

Objašnjenje: Automatsko označavanje emocija može uvesti ironiju, negaciju i pogrešno protumačen kontekst; Osim toga, samo mišljenja autora nose pristranost uzorkovanja. Generalizacije se ne smiju raditi bez provjere rezultata uzorkovanjem i očitavanjem.

8. Koja je glavna svrha ABC analize u upravljanju zalihama?

• A) Slaganje svih predmeta abecednim redom
• B) Računajući samo lijekove koji sadrže vitamin A
• C) Uništavanje proizvoda kojima je istekao rok trajanja
• D) Klasificiranje stavki zaliha prema razini vrijednosti/kritičnosti i usmjeravanje prioriteta kontrole na najkritičnije stavke ✔

Objašnjenje: ABC analiza klasificira stavke zaliha u smislu vrijednosti/kritičnosti kao A (visoka), B (srednja), C (niska); stoga je pozornost menadžmenta i učestalost kontrole usmjerena na najkritičnije stavke.

9. Što znači koncept 'uskog grla' u poboljšanju procesa?

• A) Korak s najužim kapacitetom i ograničenjem brzine cijelog toka ✔
• B) Najbrži korak u procesu
• C) Jedinica u kojoj radi najviše osoblja
• D) Faza u kojoj su pacijenti najzadovoljniji

Opis: Usko grlo je korak najužeg kapaciteta koji određuje brzinu cijelog procesa. Napori za poboljšanje trebali bi se prvo usredotočiti na usko grlo; poboljšanje negdje drugdje ne ubrzava ukupni tok.

10. Što voditelj treba provjeriti prije primjene rasporeda koji proizvodi umjetna inteligencija u planiranju smjena?

• A) Je li grafikon tiskan u boji ili ne
• B) Usklađenost sa zakonima o radu, razdobljima odmora, kliničkom stručnošću i pravnim pravilima ✔
• C) Koliko je sekundi potrebno umjetnoj inteligenciji da proizvede grafikon?
• D) Da li raspored daje prednost osoblju na najvišem položaju

Opis: Grafikon; Mora poštivati ​​pravila radnog prava (maksimalno radno vrijeme, odmor), prava zaposlenika, kliničku osposobljenost i pravednost. AI može proizvesti nacrt koji krši ova pravila; Konačno odobrenje daje upravitelj.

11. Što od navedenog izražava ispravnu granicu korištenja umjetne inteligencije u upravljanju zdravstvom?

• A) Umjetna inteligencija može automatski donositi sve upravljačke odluke
• B) Umjetna inteligencija se može koristiti samo za pisanje teksta, ne i za numeričku analizu
• C) Umjetna inteligencija je pomoćnik i alat za podršku odlučivanju; Odgovornost i konačno odobrenje kritičnih odluka leži na ljudima ✔
• D) Umjetna inteligencija može finalizirati odluke o otplati bez ljudskog odobrenja

Opis: Pomoćnik za umjetnu inteligenciju, generator nacrta i alat za podršku odlučivanju. Odgovornost i konačno odobrenje odluka koje utječu na raspodjelu resursa, kliničko određivanje prioriteta i sigurnost pacijenata uvijek je na nadležnom specijalistu i odgovornom voditelju.

12. Zašto samo smanjenje pokazatelja prosječne duljine boravka (LOS) nije dovoljan dokaz 'uspjeha'?

• A) Budući da se trajanje boravka nikada ne može izmjeriti
• B) Budući da duljinu boravka može izračunati samo umjetna inteligencija
• C) Budući da duljina boravka uopće nije relevantna za naknadu.
• D) Ako smanjenje dolazi s povećanjem prijevremenog otpuštanja i ponovnog prijema, sigurnost pacijenata može biti narušena i treba ga tumačiti zajedno s relevantnim pokazateljima ✔

Objašnjenje: Smanjeno vrijeme boravka može ukazivati ​​na dobru iskorištenost resursa; Međutim, ako dolazi s povećanjem prijevremenog otpuštanja i ponovnog prijema, sigurnost pacijenata može biti narušena. Pokazatelj treba tumačiti zajedno s drugim povezanim pokazateljima.

13. Kakav je status predviđanja potražnje na temelju povijesnih podataka u slučaju iznenadnog poremećaja kao što je epidemija ili katastrofa?

• A) Predviđanje prestaje biti vodilja; Stručna procjena i praćenje u stvarnom vremenu vode ✔
• B) Predviđanje temeljeno na povijesnim podacima postaje najpouzdanije u ovakvim situacijama
• C) Prognoza se automatski ispravlja, nije potrebna nikakva intervencija
• D) U tim slučajevima planiranje treba potpuno prestati

Opis: AI predviđanje temelji se na prošlim obrascima. U strukturnim lomovima kao što su epidemije, katastrofe ili zakonodavne promjene, podaci iz prošlosti prestaju biti smjernice; stručna prosudba i praćenje u stvarnom vremenu preuzimaju vodstvo.

14. Što bi od sljedećeg trebalo uključiti u korporativnu politiku upravljanja umjetnom inteligencijom?

• A) Samo koja marka alata za umjetnu inteligenciju će se kupiti?
• B) Klasifikacija podataka, anonimizacija, točke ljudskog odobrenja, zapis o odgovornosti/reviziji i etička načela ✔
• C) Pravilo da samo menadžeri mogu koristiti umjetnu inteligenciju
• D) Članak koji dopušta umjetnoj inteligenciji da sama donosi sve odluke

Opis: Dobro upravljanje; Definira koji podaci mogu ići u koji alat, pravila anonimizacije, točke ljudskog odobrenja, odgovornost i evidenciju revizije, etička načela (poštenost, transparentnost, odgovornost).