Dobički:
- Razumevanje, da so zdravstveni podatki podatki posebne kakovosti ter pravila anonimizacije, shranjevanja in deljenja v okviru KVKK/zakonodaje
- Sposobnost oblikovanja etičnih načel (pravičnost, transparentnost, odgovornost) in politike korporativnega upravljanja pri uporabi umetne inteligence
- Biti sposoben vzpostaviti okvir upravljanja, v katerem rezultati umetne inteligence ne nadomestijo vodstvenih in kliničnih odločitev, odgovornost in končna odobritev pa vedno ostaneta na človeku.
V tem modulu smo umetno inteligenco uporabljali kot pospeševalnik na vseh operativnih področjih, od naročanja do postelj, od napovedi do prihodkov, od kakovosti do inventarja. Toda nad vsemi temi močnimi uporabami obstaja streha: zasebnost podatkov, skladnost s predpisi in etika. Brez tega okvira je vsako podjetje, ki ga pospešite, tudi povečano tveganje. Ta zadnja enota združuje razpršena pravila v en sam okvir upravljanja. Upravljanje je sistem upravljanja, ki določa, kdo lahko kaj počne v instituciji in po kakšnih pravilih ter kako delujeta odgovornost in nadzor. Še enkrat najbolj jasno povejmo glavno načelo: rezultati umetne inteligence ne nadomeščajo vodstvenih in kliničnih odločitev; Odgovornost in končna odobritev sta vedno na človeku.
Zakaj so zdravstveni podatki zasebni?
Zdravstveni podatki niso običajni podatki. V Turčiji KVKK (Zakon o varstvu osebnih podatkov) obravnava zdravstvene podatke kot "osebne podatke posebne narave"; To pomeni najvišjo stopnjo zaščite. Njen evropski ekvivalent je GDPR. Če se razkrije bolnikova diagnoza, zdravljenje, številka protokola, bo nastala nepopravljiva škoda: stigma, diskriminacija, izguba zaupanja. Obstaja torej nekaj osnovnih pravil. Anonimizacija pomeni odstranitev vseh informacij, ki identificirajo osebo (ime, ID, protokol, kombinacija redke diagnoze + starost + lokacija) iz podatkov. Minimizacija podatkov deluje z najmanjšo količino podatkov, ki bo opravila svoje delo. Omejitev namena pomeni uporabo podatkov samo za namen, za katerega so bili zbrani. Omejitev hrambe je, da se podatki ne hranijo dlje, kot je potrebno.
Lepljenje podatkov o bolnikih v javno orodje AI pomeni pošiljanje podatkov na zunanji strežnik in je resna kršitev. Pravi pristop: anonimizirajte podatke, po možnosti izberite orodja s podjetniškimi pogodbami in pogodbami za obdelavo podatkov (ki ne uporabljajo vaših podatkov za usposabljanje modelov) in imejte pisno politiko o tem, kateri podatki se lahko prenesejo v katero orodje. Ne pozabite: ko se drobni koščki združijo, je človeka mogoče redefinirati; Medtem ko je »68-letna ženska« na varnem, »68-letna ženska, iz vasi X, z redko boleznijo Y« ni več anonimna.
Etika in upravljanje od konca do konca
Dobro upravljanje AI temelji na treh etičnih načelih. Pošteno je, da umetna inteligenca ne postavlja sistematično v slabši položaj skupine bolnikov (starejši, ljudje z nizkimi dohodki, podeželje); Primer tega je bila neuporaba ocene neudeležbe za izključitev. Transparentnost pomeni biti sposoben pojasniti, na čem temelji odločitev; Zaželen je predlog z vidno utemeljitvijo, ne predlog "črne skrinjice". Odgovornost pomeni, da za vsako odločitvijo stoji odgovorna oseba; "Umetna inteligenca je tako rekla" ni obramba.
Tisto, kar udejanja ta načela, je politika upravljanja. Dober pravilnik določa: kateri podatki gredo lahko v katero vozilo (razvrstitev podatkov); pravila anonimizacije; človeške odobritvene točke za vsako delo (kdo kaj podpiše); odgovornost in revizijska sled (kdo je naredil kaj in kdaj — evidenca sledi); in etična načela. Ta politika združuje vse izjave o »ljudje odločajo«, ki smo jih videli skozi modul, v enoten institucionalni okvir.
Pozor: stavek "AI je predlagal, jaz sem izvedel" ni prenos odgovornosti. Pravno in etično ostaja odgovornost tistega, ki predlog sprejme in izvede. Ravnanje naredi vidno in sledljivo prav to odgovornost.
trije mini kovčki
Primer 1 – Tveganje ponovne identifikacije. Ena enota je delila "anonimni" povzetek primera: "Edini bolnik s presajenim srcem v našem mestu, 34-letni moški, je bil odpuščen prejšnji mesec." V tem stavku ni bilo samostalnika, vendar je kombinacija edinstveno opisala to osebo. Referent za kakovost je temu nasprotoval; Kombinacija redkih lastnosti prekine anonimnost. Povzetek je bil prepisan z odstranitvijo opisnih podrobnosti in posploševanjem.
Primer 2 – Vrednost zapisa sledi. V bolnišnici se je številka v vodstvenem poročilu, izdelanem z AI, izkazala za napačno in vodstvu so bile poslane napačne informacije. Med revizijo je vprašanje "od kod ta številka, kdo jo je potrdil?" je bil vprašan. Ker politika upravljanja organizacije zahteva zapis "vir + preveritelj + datum" za vsak izhod umetne inteligence, je bilo takoj očitno, da je do napake prišlo tam, kjer je bil korak preverjanja preskočen. Snemanje sledi je bilo uporabljeno za popravljanje postopka, ne za iskanje kriminalcev.
Primer 3 – Politika preprečuje krizo. Nov zaposleni je nameraval naložiti svoj odpustni seznam v javno orodje AI. Jasna politika ustanove je navedla, da "nobena datoteka, ki vsebuje identifikacijo pacienta, ne vstopi v odprto orodje, najprej se anonimizira in uporablja se samo odobreno institucionalno orodje." Zaposleni si je zapomnil pravilnik, anonimiziral podatke in uporabil odobreno orodje. Zapisano vladanje je preprečilo individualno napako kot institucionalni refleks.
Štiri predloge za kopiranje
1) Osnutek politike razvrščanja podatkov:
Vaša vloga: pomočnik referenta za informacijsko varnost/kakovost zdravstvenega zavoda. Osnutek klasifikacijske tabele »Kateri podatki lahko vstopajo v AI« za našo institucijo: rdeča (nikoli: ID pacienta, ID, protokol), rumena (anonimizirana), zelena (prosto: javno, neosebno). Napišite primere in pravila za vsak razred. Navedite, da je to osnutek in da ga mora pravni oddelek/oddelek za skladnost odobriti.
2) Kontrolni seznam za anonimizacijo:
Pripravite kontrolni seznam za anonimizacijo, ki ga bom zagnal, preden bom posredoval kakršne koli podatke AI: ali je izhod ime/TC/protokol, ali kombinacija redkih lastnosti (starost+lokacija+redka diagnoza) identificira osebo, ali je kakšen nepotreben prostor, ali je orodje odobreno s strani podjetja. Vsaka postavka naj bo označena z da/ne.
3) Zemljevid točk odobritve ljudi:
Naredite tabelo »kdo odobri« za naslednja področja uporabe umetne inteligence (poročilo, napoved povpraševanja, prioriteta postelje, koda za obračun, urnik izmene): raven tveganja in obvezno pooblastilo za človeško odobritev za vsako področje. Poudarite potrebo po dvojni klinični in administrativni odobritvi na območjih z visokim tveganjem.
4) Predloga za snemanje izhodne sledi AI:
Napišite predlogo dnevnika sledi, ki jo boste izpolnili za vsak izhod AI: datum, uporabljeno orodje, razred vnesenih podatkov (anonimno), povzetek izhoda, oseba, ki je preverila, vodja, ki je odobril, odločitev. Navedite, da je to za revizijo in odgovornost.
Šibek poziv/močan poziv
Šibek poziv:
Dajte podatke o naših pacientih AI in jih dajte v analizo.
Anonimizacija, varnost vozila, brez potrditve in brez beleženja sledi; Nevarnost neposredne kršitve KVKK.
Močan poziv:
Pripravite politiko upravljanja umetne inteligence za našo organizacijo: (1) klasifikacija podatkov (rdeča/rumena/zelena), (2) pravila anonimizacije, (3) točke odobritve ljudi za vsak primer uporabe, (4) beleženje sledi in revizija, (5) načela pravičnosti/preglednosti/odgovornosti. Navedite, da je to osnutek in zahteva pravno/skladno odobritev.
Element upravljanja
Kaj zagotavlja
primer
Klasifikacija podatkov
Določa, kaj lahko vstopi
ID = nikoli
Anonimizacija
Ščiti osebo
Pojavi se ime/redka kombinacija
točke človeške odobritve
Določa odgovornost
Dvojno preverjanje z visokim tveganjem
rekord
Preverljivost
Vir + overitelj + datum
Etična načela
Pošteno, transparentno, odgovorno
Uporaba ocene za izključitev
Pogoste napake
- Deljenje podatkov, ki omogočajo identifikacijo, misleč, da so "anonimni". Redka kombinacija lastnosti odda osebo.
- Uporaba neodobrenega orodja. Podatki gredo na zunanji strežnik.
- Prelaganje odgovornosti na AI. "AI je rekel" ni pravna obramba.
- Ne vodenje evidence. Ko pride do napake, ne morete prikazati vira in preverjanja.
- Pisati pravilnik in ga ne izvajati. Pravilo na papirju ne ščiti, razen če je refleks.
Namig: okronajte svojo politiko upravljanja s seznamom »zlatih pravil«, ki se prilegajo eni sami strani in so dovolj preprosta, da si jih lahko vsak zapomni: ne vnašajte ID-ja, anonimizirajte, uporabite odobreno vozilo, preverite, človeški podpis. Nihče ne bere dolgega pravilnika; Vsi se spomnijo pravila petih.
Če povzamem
Operativna moč umetne inteligence je varna samo v robustnem okviru zasebnosti, zakonodaje in etike. Zdravstveni podatki so posebni podatki o kakovosti; Bistveni so anonimizacija, minimizacija podatkov in odobreno orodje. Dobro upravljanje; Združuje klasifikacijo podatkov, anonimizacijo, točke človeške odobritve, beleženje sledi in etična načela (pravičnost, preglednost, odgovornost) v enem samem okviru. To je bistvo tega modula v enem stavku: AI pospeši, človek se odloči in nosi odgovornost. Nepreverjen rezultat AI je enako tvegan kot nepodpisana odločitev vodstva.
Aplikacijska naloga
Pripravite enostranski osnutek politike upravljanja za svojo organizacijo z uporabo predlog »zapis izhodne sledi AI« in »razvrstitev podatkov«. Vključite seznam "zlatih pravil" z vsaj petimi elementi. Nato izberite področje uporabe, ki ste se ga naučili v modulu (na primer prednost postelje ali koda za obračun) in v 5 postavk vpišite, katere korake odobritve in preverjanja zahteva ta pravilnik na tem področju.
kontrolni seznam
- [ ] Ali so zdravstveni podatki razvrščeni kot posebni in ali sem uporabil pravila anonimizacije?
- [ ] Ali sem preveril tveganje ponovne identifikacije z redko kombinacijo funkcij?
- [ ] Ali sem določil točko človeške odobritve za vsak primer uporabe?
- [ ] Ali vodim evidenco (vir/verifikator/datum) za rezultate umetne inteligence?
- [ ] Ali sem v pravilniku napisal, da je odgovornost in končna odobritev vedno na strani osebe?
Modulni izpit
1. Vodja bolnišnice neposredno izvaja priporočila za dodelitev postelj, ki jih ustvari umetna inteligenca, brez kakršne koli klinične ocene. Kaj je temeljna napaka v tem pristopu?
- A) Pretvarjanje izhodnih podatkov umetne inteligence v odločitev brez podvrženosti klinični ustreznosti in administrativnemu preverjanju; Ignoriranje, da je odgovornost na ljudeh ✔
- B) Uporaba umetne inteligence pri upravljanju postelje je strogo prepovedana
- C) Umetna inteligenca vedno pokaže število postelj več, kot dejansko je
- D) Predlog ni prikazan v tabeli
Opis: Umetna inteligenca izdela statistično priporočilo; Razporeditev postelj in prioriteta odpusta pa sta odvisna od bolnikovega kliničnega stanja, končna odločitev pa je v odobritvi zdravnika/medicinske sestre in odgovornega vodje. Nepreverjen izpis je kot nepodpisana odločitev.
2. Kaj od naštetega je najprimernejši pristop pri vnosu podatkov o pacientu v javno dostopno orodje umetne inteligence?
- A) Prilepite ime pacienta in številko protokola zaradi hitrosti
- B) Odstranite identifikacijske podatke in anonimizirajte podatke ter, če je mogoče, uporabite pogodbeno orodje podjetja ✔
- C) Skrijte samo ime bolnika in pustite številko TR ID
- D) Zadostuje, da od pacienta pridobite ustno dovoljenje, preden delite podatke.
Pojasnilo: Zdravstveni podatki so posebni osebni podatki. Podatke o identiteti, kot so ime, TR ID, številka protokola, je treba odstraniti, podatke anonimizirati in, če je mogoče, dati prednost pogodbenim orodjem za obdelavo podatkov podjetja.
3. Kakšna je najprimernejša uporaba ocene tveganja, ki jo ustvari umetna inteligenca, pri napovedovanju neprihoda?
- A) Zavrnitev naročanja za bolnike z visokim tveganjem
- B) Ignorirajte rezultat in uporabite enak postopek za vse bolnike
- C) Načrtovanje poštenih posegov, ki ohranjajo dostop, kot sta hitenje opominov in preveliko število rezervacij ✔
- D) Trajna črna lista bolnikov z visokim tveganjem
Pojasnilo: ocena tveganja je ocena verjetnosti; Uporabljati ga je treba za usmerjanje pravičnih posegov, kot so gostota opomnikov, preveliko število rezervacij in olajšanje dostopa, ne pa zavrnitev pacientov. Pravice dostopa pacientov morajo biti zaščitene.
4. Kaj je glavni razlog za delo z intervali zaupanja in scenariji namesto ene same številke, ki jo poda umetna inteligenca pri napovedovanju povpraševanja?
- A) Predstavitev intervala naredi poročilo daljše
- B) Ker umetna inteligenca ne more proizvesti posameznih številk
- C) Ker interval zaupanja vedno natančno poda pravo vrednost
- D) Ker napoved vključuje negotovost, je potrebno fleksibilno načrtovanje glede na scenarije in obvladovanje tveganj ✔
Pojasnilo: Napoved temelji na zgodovinskih podatkih in vključuje negotovost. Načrtovanje v skladu z obsegom namesto ene same točke vam omogoča, da ste pripravljeni na scenarije nizkega/visokega povpraševanja in prilagodljivo upravljanje zmogljivosti.
5. Kaj je najbolj kritično tveganje, ko imate AI, ki predlaga kode za zaračunavanje v prihodkovnem ciklu?
- A) Umetna inteligenca sestavi neveljavno ali nepravilno kodo, jo tekoče predlaga in brez preverjanja vnese na račun ✔
- B) Umetna inteligenca proizvaja kode zelo počasi
- C) SGK vedno samodejno sprejme predlog kode
- D) Kode so lahko izdelane samo v angleščini
Pojasnilo: Umetna inteligenca lahko tekoče predlaga kodo, ki dejansko ne obstaja ali je napačna (halucinacija). Kodiranje in obračun sta urejena; Vsako kodo mora preveriti pooblaščeni strokovnjak z veljavnimi seznami transakcij in pravili za vračila.
6. Umetna inteligenca na nadzorni plošči indikatorjev kakovosti interpretira nenaden padec indikatorja kot "izboljšanje". Kaj naj naredi upravnik?
- A) Predložitev komentarja neposredno upravnemu odboru
- B) Raziščite, ali je sprememba lahko posledica kakovosti podatkov, spremembe definicije ali ciljnega odstopanja in preverite vzročnost ✔
- C) Odstranite indikator z armaturne plošče
- D) Zaupati umetni inteligenci in ne izvajati nobenih preverjanj
Pojasnilo: spremembo indikatorja lahko povzroči težava s kakovostjo podatkov, sprememba definicije ali igranje. Administrator mora preveriti vzročnost in vir podatkov komentarja.
7. Katera je najpogostejša napaka pri analizi zadovoljstva pacientov brezplačnih besedilnih povratnih informacij z umetno inteligenco?
- A) Ločevanje besedil na teme
- B) Anonimiziranje povratnih informacij
- C) Posploševanje samodejne oznake čustev in vzorca na vse paciente brez validacije ✔
- D) Prednostno razvrščanje pritožb
Pojasnilo: Samodejno označevanje čustev lahko povzroči ironijo, zanikanje in napačno branje konteksta; Poleg tega samo mnenja avtorjev vsebujejo pristranskost vzorčenja. Ne smemo posploševati brez preverjanja rezultatov z vzorčenjem in branjem.
8. Kaj je glavni namen ABC analize pri upravljanju zalog?
- A) Razporedite vse predmete po abecednem vrstnem redu
- B) Štetje samo zdravil, ki vsebujejo vitamin A
- C) Uničenje izdelkov s pretečenim rokom uporabe
- D) Razvrščanje postavk zaloge glede na vrednost/stopnjo kritičnosti in usmerjanje prioritete nadzora na najbolj kritične postavke ✔
Pojasnilo: Analiza ABC razvršča postavke zalog glede na vrednost/kritičnost kot A (visoka), B (srednja), C (nizka); zato je pozornost vodstva in pogostost nadzora osredotočena na najbolj kritične postavke.
9. Kaj pomeni koncept „ozkega grla“ pri izboljšanju procesov?
- A) Stopnica z najožjo zmogljivostjo in omejitvijo hitrosti celotnega toka ✔
- B) Najhitrejši korak v procesu
- C) Enota, kjer dela največ osebja
- D) Stopnja, v kateri so pacienti najbolj zadovoljni
Opis: Ozko grlo je korak z najožjo zmogljivostjo, ki določa hitrost celotnega procesa. Prizadevanja za izboljšave bi se morala najprej osredotočiti na ozko grlo; izboljšanje drugje ne pospeši celotnega toka.
10. Kaj mora vodja preveriti, preden uporabi urnik, ki ga izdela umetna inteligenca, pri načrtovanju izmene?
- A) Ali je grafikon natisnjen v barvah ali ne
- B) Skladnost z delovno zakonodajo, časi počitka, klinična usposobljenost in pravosodni predpisi ✔
- C) Koliko sekund potrebuje umetna inteligenca, da izdela grafikon?
- D) Ali je urnik naklonjen najvišjemu osebju
Opis: Chart; Upoštevati mora pravila delovnega prava (najdaljši delovni čas, počitek), pravice zaposlenih, klinično usposobljenost in pravičnost. AI lahko ustvari osnutek, ki krši ta pravila; Končno odobritev ima upravitelj.
11. Kaj od naštetega izraža pravilno mejo uporabe umetne inteligence pri vodenju zdravstva?
- A) Umetna inteligenca lahko vse vodstvene odločitve sprejema samodejno
- B) Umetna inteligenca se lahko uporablja le pri pisanju besedila, ne pa tudi pri numerični analizi
- C) Umetna inteligenca je pomočnik in orodje za podporo odločanju; Odgovornost in končna odobritev kritičnih odločitev je v rokah ljudi ✔
- D) Umetna inteligenca lahko dokončno sprejme odločitve o odplačevanju brez človeške odobritve
Opis: Pomočnik za umetno inteligenco, generator osnutkov in orodje za podporo odločanju. Odgovornost in končna odobritev odločitev, ki vplivajo na dodeljevanje sredstev, klinično prioriteto in varnost pacientov, sta vedno v rokah pristojnega specialista in odgovornega vodje.
12. Zakaj samo zmanjšanje kazalnika povprečne dolžine bivanja (LOS) ni zadosten dokaz „uspeha“?
- A) Ker trajanja bivanja ni mogoče nikoli izmeriti
- B) Ker lahko dolžino bivanja izračuna le umetna inteligenca
- C) Ker dolžina bivanja sploh ni pomembna za povračilo stroškov.
- D) Če pride do zmanjšanja s povečanjem zgodnjega odpusta in ponovnega sprejema, je varnost pacientov lahko okrnjena in ga je treba razlagati skupaj z ustreznimi indikatorji ✔
Pojasnilo: Zmanjšan čas zadrževanja lahko kaže na dobro izkoriščenost virov; Vendar pa je varnost pacientov lahko ogrožena, če pride do povečanja zgodnjega odpusta in ponovnega sprejema. Kazalnik je treba razlagati skupaj z drugimi povezanimi kazalniki.
13. Kakšno je stanje napovedi povpraševanja na podlagi preteklih podatkov v primeru nenadne motnje, kot je epidemija ali katastrofa?
- A) Napovedovanje preneha biti vodilo; Strokovna presoja in spremljanje v realnem času imata vodilno vlogo ✔
- B) Napoved, ki temelji na zgodovinskih podatkih, postane najbolj zanesljiva v teh situacijah
- C) Napoved se samodejno popravi, posredovanje ni potrebno
- D) V teh primerih je treba načrtovanje popolnoma ustaviti
Opis: Napovedovanje AI temelji na preteklih vzorcih. Pri strukturnih prelomih, kot so epidemije, katastrofe ali zakonodajne spremembe, pretekli podatki niso več vodilo; strokovna presoja in spremljanje v realnem času prevzameta vodilno vlogo.
14. Kaj od naslednjega bi moralo biti vključeno v politiko upravljanja umetne inteligence podjetja?
- A) Le katera znamka orodja za umetno inteligenco bo kupljena?
- B) Klasifikacija podatkov, anonimizacija, točke odobritve ljudi, zapis o odgovornosti/reviziji in etična načela ✔
- C) Pravilo, da lahko umetno inteligenco uporabljajo le menedžerji
- D) Člen, ki omogoča umetni inteligenci, da vse odločitve sprejema sama
Opis: Dobro upravljanje; Določa, kateri podatki lahko gredo v katero orodje, pravila anonimizacije, točke človeške odobritve, odgovornost in revizijske zapise, etična načela (pravičnost, preglednost, odgovornost).