Hagnaður:
- Skilningur á því að heilsufarsgögn eru sérstök gæðagögn og reglur um nafnleynd, geymslu og samnýtingu innan gildissviðs KVKK/laga.
- Hæfni til að semja siðferðisreglur (sanngirni, gagnsæi, ábyrgð) og stjórnarstefnu fyrirtækja í notkun gervigreindar
- Að geta komið á stjórnunarramma þar sem framleiðsla gervigreindar kemur ekki í stað stjórnunarlegra og klínískra ákvarðana og ábyrgð og endanlegt samþykki er alltaf hjá manninum.
Í gegnum þessa einingu notuðum við gervigreind sem hraðal á hverju rekstrarsviði, frá stefnumótum til rúma, frá spá til tekna, frá gæðum til birgða. En það er þak yfir alla þessa öflugu notkun: gagnavernd, reglufylgni og siðferði. Án þessa ramma er hvert fyrirtæki sem þú flýtir fyrir einnig aukin áhætta. Þessi síðasta eining sameinar hinar dreifðu reglur í einn stjórnunarramma. Stjórnarhættir eru stjórnunarkerfið sem skilgreinir hverjir mega gera hvað í stofnun og samkvæmt hvaða reglum og hvernig ábyrgð og eftirlit virkar. Við skulum setja meginregluna enn og aftur, skýrast: AI framleiðsla kemur ekki í stað stjórnunarlegra og klínískra ákvarðana; Ábyrgð og endanlegt samþykki er alltaf hjá manneskjunni.
Af hverju eru heilsufarsgögn einkamál?
Heilbrigðisgögn eru ekki venjuleg gögn. Í Türkiye lítur KVKK (Persónuverndarlög) á heilsufarsupplýsingar sem „persónuupplýsingar af sérstökum toga“; Þetta þýðir hæsta verndarstig. Evrópsk jafngildi þess er GDPR. Ef greining sjúklings, meðferð, siðareglurnúmer kemur í ljós mun óafturkræfur skaði eiga sér stað: fordómar, mismunun, tap á trausti. Svo það eru nokkrar grundvallarreglur. Nafnleynd er að fjarlægja allar upplýsingar sem auðkenna viðkomandi (nafn, auðkenni, siðareglur, sjaldgæf greining + aldur + staðsetningarsamsetning) úr gögnunum. Gagnalágmörkun er að vinna með minnsta magn af gögnum sem mun gera verkið. Takmörkun á tilgangi þýðir að nota gögn eingöngu í þeim tilgangi sem þeim var safnað í. Varðveislutakmarkið er ekki að geyma gögn lengur en nauðsynlegt er.
Að líma sjúklingagögn í opinbert gervigreindarverkfæri er að senda gögnin á ytri netþjón og er alvarlegt brot. Rétt nálgun: nafnlaus gögnin, ef mögulegt er veldu verkfæri með fyrirtækja- og gagnavinnslusamningum (sem nota ekki gögnin þín fyrir líkanaþjálfun) og hafðu skriflega stefnu um hvaða gögn mega fara inn í hvaða tól. Mundu: þegar litlir hlutir koma saman er hægt að endurskilgreina mann; Þó "68 ára kona" sé örugg, er "68 ára kona, frá þorpi X, með sjaldgæfan sjúkdóm Y" ekki lengur nafnlaus.
Siðfræði og end-to-end stjórnarhættir
Góð stjórnun gervigreindar byggir á þremur siðferðilegum meginreglum. Sanngirni er sú að gervigreind er ekki kerfisbundið óhagræði fyrir sjúklingahóp (aldrað fólk, lágtekjufólk, dreifbýli); Að nota ekki skorið sem ekki kom fram fyrir útilokun var dæmi um þetta. Gagnsæi þýðir að geta útskýrt á hverju ákvörðunin byggist; Tillaga með sýnilegum rökstuðningi er ákjósanleg, ekki "svartur kassi" uppástunga. Ábyrgð þýðir að hafa ábyrgan mann á bak við hverja ákvörðun; „Gjágreinin sagði það“ er ekki vörn.
Það sem setur þessar meginreglur í framkvæmd er stjórnunarstefna. Góð stefna skilgreinir: hvaða gögn geta farið inn í hvaða farartæki (gagnaflokkun); nafnleyndarreglur; mannleg samþykki fyrir hvert starf (hver skrifar undir hvað); ábyrgð og endurskoðunarslóð (hver gerði hvað hvenær - slóðskrá); og siðareglur. Þessi stefna sameinar allar „fólk ákveður“ yfirlýsingar sem við sáum í gegnum eininguna í einn stofnanaramma.
Athygli: Setningin „AI lagði til, ég útfærði“ er ekki tilfærsla á ábyrgð. Lagalega og siðferðilega er ábyrgðin áfram hjá þeim sem samþykkir og framkvæmir tillöguna. Stjórnarhættir gera einmitt þessa ábyrgð sýnilega og rekjanlega.
þrjú smámál
Tilfelli 1 — Hætta á endurauðkenningu. Ein eining deildi „nafnlausri“ samantekt: „Eini hjartaígræðslusjúklingurinn í borginni okkar, 34 ára karlmaður, útskrifaður í síðasta mánuði. Það var ekkert nafnorð í þessari setningu, en samsetningin lýsti viðkomandi einstaklingi einstaklega. Þessu mótmælti gæðafulltrúinn; Sambland af sjaldgæfum eiginleikum brýtur nafnleynd. Samantektin var endurskrifuð með því að fjarlægja lýsandi upplýsingar og alhæfa.
Mál 2 — Verðmæti rekjaskrár. Á sjúkrahúsi reyndist númer í stjórnendaskýrslu sem gerð var með gervigreind vera röng og rangar upplýsingar voru sendar stjórnendum. Við úttektina var spurningin "hvað kom þessi tala, hver staðfesti það?" var spurt. Þar sem stjórnunarstefna stofnunarinnar kveður á um „uppruna + sannprófanda + dagsetningu“ fyrir hverja gervigreindarframleiðslu, var strax ljóst að villa átti sér stað þar sem sannprófunarskrefinu var sleppt. Sporupptaka var notuð til að leiðrétta ferlið, ekki til að leita að glæpamönnum.
Mál 3 — Stefna kemur í veg fyrir kreppu. Nýr starfsmaður ætlaði að hlaða upp útskriftarlista sínum í opinbert gervigreindarverkfæri. Í skýrri stefnu stofnunarinnar kom fram að „engar skrár sem innihalda sjúklingaauðkenni fara inn í opna tólið, þær eru fyrst nafnlausar og aðeins er notað hið samþykkta stofnunarverkfæri.“ Starfsmaðurinn mundi eftir stefnunni, nafnleyndi gögnin og notaði samþykkta tólið. Skrifleg stjórnsýsla kom í veg fyrir einstaklingsmistök sem stofnanaviðbragð.
Fjögur afritanleg sniðmát
1) Drög að gagnaflokkunarstefnu:
Þitt hlutverk: aðstoðarmaður upplýsingaöryggis/gæðafulltrúa heilbrigðisstofnunar. Gerðu drög að "Hvaða gögn geta farið inn í gervigreind" flokkunartöflu fyrir stofnunina okkar: Rauður (aldrei: auðkenni sjúklings, auðkenni, siðareglur), Gulur (nafnlaus), Grænn (ókeypis: opinbert, ópersónulegt). Skrifaðu dæmi og reglur fyrir hvern bekk. Taktu fram að þetta séu drög og lögfræði-/regluvarðardeildin þurfi að samþykkja þau.
2) Gátlisti fyrir nafnleynd:
Undirbúa nafnlausan gátlista sem ég mun keyra áður en ég gef gögn til gervigreindar: er nafn/TC/samskiptareglur framleiðsla, auðkennir sjaldgæfa eiginleikasamsetningin (aldur+staðsetning+sjaldgæf greining) manneskjuna, er eitthvað óþarft pláss, er það fyrirtækissamþykkt verkfæri. Láta hvert atriði vera merkt já/nei.
3) Kort af samþykki manna:
Búðu til "hver samþykkir" töflu fyrir eftirfarandi gervigreind notkunarsvæði (skýrsla, eftirspurnarspá, forgangur rúms, innheimtukóði, vaktaáætlun): áhættustig og lögboðið mannlegt samþykki fyrir hvert svæði. Leggðu áherslu á þörfina fyrir klínískt+stjórnsýslulegt tvöfalt samþykki á áhættusvæðum.
4) AI framleiðsla rekja upptökusniðmát:
Skrifaðu sniðmát fyrir slóðaskrá til að fylla út fyrir hverja gervigreindarúttak: dagsetningu, tól sem notað er, flokkur gagna sem sleginn er inn (nafnlaus), samantekt á framleiðslu, einstaklingur sem staðfesti, stjórnandi sem samþykkti, ákvörðun. Taktu fram að þetta sé til endurskoðunar og ábyrgðar.
Veik kvaðning / Sterk kvaðning
Veik kvaðning:
Gefðu gögn sjúklinga okkar til gervigreindar og láttu greina þau.
Nafnleynd, öryggi ökutækja, engin staðfesting og engin rekjaskráning; Hætta á beinu KVKK-broti.
Öflug tilvitnun:
Gerðu drög að stjórnun gervigreindarstefnu fyrir fyrirtæki okkar: (1) gagnaflokkun (rautt/gult/grænt), (2) nafnleyndarreglur, (3) mannlegt samþykki fyrir hvert notkunartilvik, (4) slóðskráning og endurskoðun, (5) sanngirni/gagnsæi/ábyrgðarreglur. Taktu fram að þetta séu drög og krefjist laga-/fylgnisamþykkis.
Stjórnunarþáttur
Hvað veitir
dæmi
Gagnaflokkun
Ákveður hvað kemst inn
ID = aldrei
Nafnleynd
Verndar manneskjuna
Nafn/sjaldgæf samsetning birtist
mannleg samþykki stig
Skilgreinir ábyrgð
Tvískoðun í mikilli áhættu
afrekaskrá
Endurskoðunarhæfni
Heimild + sannprófandi + dagsetning
Siðferðisreglur
Sanngjarnt, gagnsætt, ábyrgt
Notar stig fyrir útilokun
Algeng mistök
- Að deila auðþekkjanlegum gögnum og halda að þau séu „nafnlaus“. Sjaldgæf samsetning eiginleika gefur manni frá sér.
- Að nota ósamþykkt verkfæri. Gögnin fara til netþjóns utan vefs.
- Að setja ábyrgðina á gervigreind. „AI sagði“ er ekki lagaleg vörn.
- Að halda ekki afrekaskrám. Þegar það er villa geturðu ekki sýnt uppruna og staðfestingu.
- Að skrifa stefnuna en ekki framkvæma hana. Reglan á pappír verndar ekki nema um viðbragð sé að ræða.
Ábending: Krýndu stjórnunarstefnu þína með lista yfir „gylltar reglur“ sem passa á einni síðu og eru nógu einfaldar fyrir hvern sem er að leggja á minnið: ekki slá inn auðkenni, nafngreina, nota samþykkt farartæki, staðfesta, mannleg undirskrift. Enginn les langa stefnuna; Allir muna regluna um fimm.
Í stuttu máli
Rekstrarkraftur gervigreindar er aðeins öruggur undir öflugum ramma friðhelgi einkalífs, löggjafar og siðferðis. Heilbrigðisgögn eru sérstök gæðagögn; Nafnlausn, gagnalágmörkun og samþykkt tól eru nauðsynleg. Góðir stjórnarhættir; Það sameinar gagnaflokkun, nafnleynd, mannlegt samþykki, skráningu raka og siðferðisreglur (sanngirni, gagnsæi, ábyrgð) í einum ramma. Það er kjarni þessarar einingar í einni setningu: gervigreind hraðar, maðurinn ákveður og ber ábyrgð. Óstaðfest gervigreind framleiðsla er jafn áhættusöm og óundirrituð stjórnunarákvörðun.
Umsóknarverkefni
Útbúið einnar síðu drög að stjórnunarstefnu fyrir fyrirtæki þitt með því að nota „AI framleiðsla slóðskrár“ og „gagnaflokkun“ sniðmát. Láttu "gullna reglu" lista yfir að minnsta kosti fimm atriði. Veldu síðan notkunarsvæði sem þú lærðir í gegnum eininguna (til dæmis forgang rúms eða reikningskóða) og skrifaðu í 5 atriði hvaða samþykkis- og staðfestingarskref þessi stefna krefst á því sviði.
gátlisti
- [ ] Eru heilsufarsgögn flokkuð sem sérstök og hef ég beitt nafnleyndarreglunum?
- [ ] Hef ég athugað hættuna á endurauðkenningu með sjaldgæfum eiginleikum?
- [ ] Hef ég skilgreint mannlegt samþykki fyrir hvert notkunartilvik?
- [ ] Á ég að halda afrekaskrá (heimild/staðreynda/dagsetning) fyrir gervigreind úttak?
- [ ] Hef ég skrifað í stefnuna að ábyrgð og endanlegt samþykki sé alltaf hjá viðkomandi?
Einingapróf
1. Sjúkrahússtjóri útfærir beint ráðleggingar um rúmaúthlutun sem gervigreind hefur skapað án klínísks mats. Hver eru grundvallarmistökin í þessari nálgun?
- A) Breyta gervigreindarframleiðslunni í ákvörðun án þess að sæta klínískt hæfi og stjórnsýslusannprófun; Hunsa að ábyrgðin sé hjá fólki ✔
- B) Það er stranglega bannað að nota gervigreind við rúmstjórnun
- C) Gervigreind sýnir alltaf fjölda rúma meira en raun ber vitni
- D) Tillagan er ekki sett fram í töflu
Lýsing: Gervigreind gefur tölfræðilega tilmæli; Hins vegar fer rúmaúthlutun og útskriftarforgangur eftir klínísku ástandi sjúklings og endanleg ákvörðun heyrir undir samþykki læknis/hjúkrunarfræðings og ábyrgðarstjóra. Óstaðfest úttak er eins og óundirrituð ákvörðun.
2. Hver af eftirfarandi er heppilegasta aðferðin þegar sjúklingagögn eru færð inn í gervigreindartæki sem er aðgengilegt almenningi?
- A) Límdu nafn sjúklings og siðareglur númer eins og það er fyrir hraða
- B) Fjarlægðu auðkennisupplýsingar og nafnleyndu gögnin og, ef mögulegt er, notaðu fyrirtækisverkfæri ✔
- C) Fela aðeins nafn sjúklings og skilja eftir TR kennitölu
- D) Það er nóg að fá munnlegt leyfi frá sjúklingi áður en gögnum er deilt.
Skýring: Heilsuupplýsingar eru sérstakar persónuupplýsingar. Auðkennisupplýsingar eins og nafn, TR auðkenni, samskiptanúmer ættu að vera fjarlægð, gögn ættu að vera nafnlaus og ef mögulegt er ætti að velja verkfæri fyrir gagnavinnslu fyrirtækja.
3. Hver er heppilegasta notkunin á áhættustiginu sem gervigreind gefur til að spá fyrir um neitun?
- A) Neita að panta tíma fyrir áhættusjúklinga
- B) Hunsa stigið og beita sömu aðferð fyrir alla sjúklinga
- C) Skipuleggja sanngjarnar, aðgengisverndandi inngrip eins og áminningarflýti og ofbókun ✔
- D) Varanlega svartan lista yfir áhættusjúklinga
Skýring: Áhættustig er líkindamat; Það ætti að nota til að leiðbeina sanngjörnum inngripum eins og þéttleika áminninga, ofbókun og auðvelda aðgang, ekki höfnun sjúklinga. Vernda þarf aðgangsrétt sjúklinga.
4. Hver er helsta ástæðan fyrir því að vinna með öryggisbil og sviðsmyndir í stað einni tölu sem gervigreind gefur í eftirspurnarspá?
- A) Með því að setja fram bil verður skýrslan lengri
- B) Vegna þess að gervigreind getur ekki framleitt stakar tölur
- C) Vegna þess að öryggisbilið gefur alltaf hið sanna gildi nákvæmlega
- D) Þar sem spáin felur í sér óvissu er nauðsynlegt að gera sveigjanlega áætlanagerð í samræmi við sviðsmyndir og stýra áhættu ✔
Skýring: Spáin byggir á sögulegum gögnum og felur í sér óvissu. Skipulagning í samræmi við svið frekar en einn punkt gerir þér kleift að vera tilbúinn fyrir aðstæður með litla/mikla eftirspurn og stjórna afkastagetu á sveigjanlegan hátt.
5. Hver er mikilvægasta áhættan þegar gervigreind stingur upp á innheimtukóðum í tekjulotunni?
- A) Gervigreind býr til ógildan eða rangan kóða, stingur upp á honum reiprennandi og setur hann inn á reikninginn án staðfestingar ✔
- B) Gervigreind framleiðir kóða mjög hægt
- C) Kóðauppástungan er alltaf sjálfkrafa samþykkt af SGK
- D) Kóða er aðeins hægt að framleiða á ensku
Skýring: Gervigreind getur reiprennandi gefið til kynna kóða sem er í raun ekki til eða er rangur (ofskynjanir). Kóðun og innheimtu er stjórnað; Hver kóða verður að vera staðfestur af viðurkenndum sérfræðingi með gilda færslulista og endurgreiðslureglur.
6. Á mælaborði gæðavísis túlkar gervigreind skyndilega lækkun á vísi sem „framför“. Hvað á framkvæmdastjórinn að gera?
- A) Koma umsögninni beint til stjórnar
- B) Kanna hvort breytingin kunni að stafa af gagnagæðum, skilgreiningarbreytingu eða markmiðsfráviki og sannreyna orsakasamhengi ✔
- C) Fjarlægðu vísirinn af mælaborðinu
- D) Treysta gervigreind og gera engar athuganir
Skýring: Breytingin á vísinum getur stafað af gæðavandamálum, skilgreiningu eða leikjaspilun. Það er undir stjórnanda komið að sannreyna orsakasamhengi og gagnauppsprettu athugasemdarinnar.
7. Hver eru algengustu mistökin við greiningu á ánægju sjúklinga með ókeypis textaviðbrögðum með gervigreind?
- A) Aðgreina texta í þemu
- B) Nafnlaus endurgjöf
- C) Alhæfa sjálfvirka tilfinningamerkið og sýnishornið á alla sjúklinga án þess að staðfesta þau ✔
- D) Forgangsraða kvörtunum
Skýring: Sjálfvirk tilfinningamerking getur innleitt kaldhæðni, afneitun og rangt lesið samhengi; Að auki bera aðeins skoðanir höfunda úrtakshlutdrægni. Ekki ætti að alhæfa án þess að sannreyna niðurstöður með sýnatöku og lestri.
8. Hver er megintilgangur ABC greiningar í birgðastjórnun?
- A) Raða öllum hlutum í stafrófsröð
- B) Aðeins eru talin lyf sem innihalda A-vítamín
- C) Að eyða útrunnum vörum
- D) Flokkun á birgðahlutum eftir verðmæti/gagnrýnisstigi og beina forgangi eftirlits að mikilvægustu hlutunum ✔
Skýring: ABC greining flokkar birgðahluti með tilliti til virðis/gagnrýni sem A (hátt), B (miðlungs), C (lágt); þannig er athygli stjórnenda og eftirlitstíðni lögð áhersla á mikilvægustu atriðin.
9. Hvað þýðir hugtakið „flöskuháls“ í umbótum á ferli?
- A) Þrepið með þrengstu afkastagetu og takmarkandi hraða á öllu flæðinu ✔
- B) Hraðasta skref ferlisins
- C) Einingin þar sem mest starfsfólk starfar
- D) Stigið þar sem sjúklingar eru ánægðastir
Lýsing: Flöskuhálsinn er þrepið með þrengstu afkastagetu sem ákvarðar hraðann á öllu ferlinu. Umbótaátakið ætti fyrst og fremst að einbeita sér að flöskuhálsinum; endurbætur annars staðar flýta ekki fyrir heildarflæði.
10. Hvað ætti stjórnandinn að athuga áður en hann beitir áætluninni sem framleidd er af gervigreind við skipulagningu vakta?
- A) Hvort taflan er prentuð í lit eða ekki
- B) Fylgni við vinnulöggjöf, hvíldartíma, klíníska hæfni og réttarreglur ✔
- C) Hversu margar sekúndur tekur gervigreind að búa til töfluna?
- D) Hvort áætlunin styður æðstu starfsmennina
Lýsing: Myndrit; Það verður að uppfylla reglur vinnuréttar (hámarksvinnutími, hvíld), réttindi starfsmanna, klíníska hæfni og réttlæti. AI getur framleitt drög sem brýtur í bága við þessar reglur; Endanlegt samþykki liggur hjá framkvæmdastjóra.
11. Hvað af eftirfarandi lýsir réttu takmörkunum á notkun gervigreindar í heilbrigðisstjórnun?
- A) Gervigreind getur tekið allar stjórnunarákvarðanir sjálfkrafa
- B) Gervigreind er aðeins hægt að nota við ritun texta, ekki í tölulegri greiningu
- C) Gervigreind er aðstoðar- og ákvarðanastuðningstæki; Ábyrgð og endanlegt samþykki mikilvægra ákvarðana liggur hjá mönnum ✔
- D) Gervigreind getur gengið frá endurgreiðsluákvörðunum án samþykkis manna
Lýsing: Gervigreindaraðstoðarmaður, drögframleiðandi og ákvarðanastuðningstæki. Ábyrgð og endanleg samþykki ákvarðana sem hafa áhrif á úthlutun fjármagns, klíníska forgangsröðun og öryggi sjúklinga hvílir alltaf á þar til bærum sérfræðingi og ábyrgðarmanni.
12. Hvers vegna er lækkun á meðaldvalartíma (LOS) mælikvarði einn og sér ekki nægjanleg sönnun fyrir „árangri“?
- A) Þar sem lengd dvalar er aldrei hægt að mæla
- B) Þar sem dvalarlengd er aðeins hægt að reikna út með gervigreind
- C) Þar sem dvalartími skiptir alls ekki máli varðandi endurgreiðslu.
- D) Ef lækkunin kemur með aukningu á snemmbúnum útskrift og endurinnlögn getur öryggi sjúklinga verið skert og ætti að túlka það ásamt viðeigandi vísum ✔
Skýring: styttri dvalartími getur bent til góðrar auðlindanýtingar; Hins vegar, ef það kemur með aukningu á snemmbúnum útskrift og endurinnlögn, getur öryggi sjúklinga verið skert. Túlka skal vísirinn ásamt öðrum tengdum vísbendingum.
13. Hver er staða eftirspurnarspár byggðar á sögulegum gögnum ef skyndileg röskun verður eins og faraldur eða hamfarir?
- A) Spá hættir að vera leiðbeinandi; Sérfræðingar og rauntímavöktun taka forystuna ✔
- B) Spá byggð á sögulegum gögnum verður áreiðanlegaust við þessar aðstæður
- C) Spáin leiðréttir sig sjálfkrafa, engin inngrip þarf
- D) Í þessum tilvikum ætti að stöðva skipulagningu algjörlega
Lýsing: Gervigreindarspá er byggð á fyrri mynstrum. Í kerfisbrotum eins og farsóttum, hamförum eða lagabreytingum hætta fyrri gögn að vera leiðbeinandi; sérfræðidómur og rauntímavöktun taka forystuna.
14. Hvað af eftirfarandi ætti að vera innifalið í stjórnun gervigreindarstefnu fyrirtækja?
- A) Aðeins hvaða tegund gervigreindartækja verður keypt?
- B) Gagnaflokkun, nafnleynd, mannleg samþykki, ábyrgð/úttektarskrá og siðareglur ✔
- C) Reglan um að einungis stjórnendur megi nota gervigreind
- D) Grein sem gerir gervigreind kleift að taka allar ákvarðanir ein
Lýsing: Heilsusamlegir stjórnarhættir; Það skilgreinir hvaða gögn geta farið inn í hvaða tól, nafnleyndarreglur, mannleg samþykki, ábyrgð og endurskoðunarskrár, siðferðisreglur (sanngirni, gagnsæi, ábyrgð).