Hagnaður:
- Hæfni til að nafngreina rannsóknarstofugögn sjúklinga innan gildissviðs KVKK/næði og beita öruggum tækjum og gagnavinnslureglum
- Skilja hvers vegna löggilding, frammistöðumælingar og hlutdrægni eftirlit eru nauðsynleg í klínískri notkun gervigreindarlíkana.
- Hæfni til að axla endanlega ábyrgð með því að flétta fjórar siðferðisreglur og ábyrgðarkeðju inn í hverja notkun gervigreindar
Rannsóknarstofa er einn gagnafrekasti staður heilbrigðiskerfisins. Sérhver sjúklingur, sérhver próf, sérhver niðurstaða er gögn og flestir þessara hluta eru innan umfangs viðkvæmra persónuupplýsinga - það er heilsufarsupplýsinga. Gervigreind getur skapað mikil verðmæti með því að vinna úr þessum gögnum, en þegar þau eru notuð óvarlega getur sama gervigreind leitt til alvarlegra brota á friðhelgi einkalífs, lagalegrar ábyrgðar og skaðaðs trausts sjúklinga. Þar að auki snýst þetta ekki bara um trúnað: það er fagleg og siðferðileg skylda að sanna að gervigreindarlíkan sem tekið er í klíníska notkun sé sannarlega áreiðanlegt - það er að segja sannprófun - og að tryggja að það líkan sé ekki ósanngjarnt gagnvart ákveðnum sjúklingahópum (hlutdrægni).
Í þessari einingu munt þú læra hvernig á að vernda gögn á rannsóknarstofu sjúklinga innan gildissviðs KVKK/trúnaðar; löggilding, frammistöðumælingar og hlutdrægni stjórna klínískum gervigreindarlíkönum; og hvernig á að flétta siðferðilegum meginreglum inn í hverja notkun. Grundvallarregla: Gögn fara ekki inn í nein ökutæki án þess að vera nafnlaus; ekkert líkan tekur þátt í klínískum ákvörðunum fyrr en það hefur verið staðfest á þínum eigin gögnum; og endanleg ábyrgð er alltaf hjá sérfræðingnum.
Persónuvernd: hvaða gögn, hvernig á að vernda þau
Rannsóknarstofugögn sjúklinga (niðurstöður, greining, samskiptanúmer, auðkenni) eru vernduð samkvæmt KVKK (Personal Data Protection Law) í Türkiye, GDPR í Evrópu, og krefjast viðbótarverndar þar sem heilsufarsgögn eru „sérstaks eðlis“. Þrjár grundvallarreglur þegar gervigreind er notuð:
- Nafnlaus. Fjarlægðu nafn, TR ID, siðareglur/skráarnúmer, fæðingardag, tengiliða- og stofnunarupplýsingar. „68 ára kvenkyns sjúklingur“ er nóg; Ekki "Ayşe Yılmaz, 12.03.1957". Athugaðu að samsetningar eins og sjaldgæfur sjúkdómur + lítill staðsetning geta óbeint leitt í ljós deili.
- Lágmarksgagnastefnu. Deildu lágmarksgögnum sem krafist er fyrir verkefnið. Tilvísunarsviðsspurning þarf ekki alla sjúklingaskrána.
- Öruggt ökutækisval. Veldu fyrirtækisverkfæri sem eru með gagnavinnslusamning og ekki nota gögnin þín í líkanaþjálfun. Að hlaða upp óunnin sjúklingaskrá í opinbert tól er algengasta og alvarlegasta brotið.
Gagnategund
áhættu
rétta hegðun
Nafn, TR ID, samskiptanúmer
bein auðkenning
Dragðu út, nafnlaus
Fæðingardagur, heimilisfang
óbein auðkenning
Hladdu niður á aldursbil, fjarlægðu heimilisfang
Niðurstöðugildi
heilsufarsgögn
Deildu nafnlaust, í lágmarki
Mynd (strok, meinafræði)
Heilbrigðisgögn + auðkennisvísbending
Geymdu það í fullgiltu klínísku kerfi; hleðslu í opið ökutæki
Athugið: „Ég dulkóðaði það, svo ég geti líka sent nafnið“ er rangt. Dulkóðun gerir flutninginn öruggan en réttlætir ekki sendingu auðkennisgagna í gervigreindartæki. Auðkennisgögn eru dregin út.
Líkan sannprófun: hvers vegna "birt" er ekki nóg
Þó að gervigreind líkan (t.d. myndflokkari eða túlkunarvél) virki vel á einum stað þýðir það ekki að það muni virka vel í rannsóknarstofunni þinni. Líkanið gæti hafa verið þjálfað á öðrum hópi, öðru tæki, annarri litunaraðferð; Frammistaða þess gæti verið mismunandi í sýnunum þínum. Þetta er kallað dreifingarbreyting. Þess vegna ætti að staðfesta hvert líkan sem á að nota í klínískri notkun á þínum eigin gögnum, árangur þess ætti að vera mældur og fylgjast reglulega með.
Lykilframmistöðumælingar sem notaðar eru við staðfestingu:
- Næmi: Hraðinn sem líkanið fangar nákvæmlega þá sem eru sannarlega veikir/jákvæðir. Lítið næmi = sleppt af sannri jákvæðni (falsk neikvæð) = hætta á að missa af mikilvægum niðurstöðum.
- Sérhæfni: Rétt brotthvarfshraði af raunverulegum heilbrigðum/neikvæðum. Lítil sértækni = margar falskar viðvaranir.
- Hlutfall falskt neikvætt/falskt jákvætt: Á rannsóknarstofu er rangt neikvætt (vantar mikilvæga niðurstöðu) yfirleitt hættulegra en rangt jákvætt; Þetta jafnvægi er stillt í samræmi við fyrirhugaða notkun líkansins.
Þegar líkanið hefur verið staðfest, gleymist það ekki; Með tímanum getur tæki, hvarfefni, íbúafjöldi breyst og afköst geta breyst. Þess vegna þarf stöðugt eftirlit og reglubundið endurmat.
Hlutdrægni: hver er fyrirmyndin ósanngjarn gagnvart?
Líkan lærir um ójafnvægi í þjálfunargögnum. Ef myndlíkan er þjálfað að mestu leyti á dæmum um tiltekinn sjúklingahóp, getur það gert fleiri villur í vanfulltrúa hópnum. Í rannsóknarstofu samhengi þýðir þetta að líkanið skilar sér verr fyrir tiltekinn aldur, kyn eða klínískan hóp - og þetta er jafnréttis-/siðferðismál. Við staðfestingu er nauðsynlegt að athuga frammistöðu ekki aðeins almennt heldur einnig í undirhópum. Að hunsa hlutdrægni þýðir að veita sumum sjúklingum verri þjónustu í hljóði.
Fjórar siðferðisreglur og ábyrgðarkeðja
Fjórar grundvallarreglur heilsusiðfræði eiga einnig við um gervigreind á rannsóknarstofu:
- Gagnsemi: Gervigreind ætti að nota í þágu sjúklingsins; hröðun ætti ekki að skerða öryggi.
- Non-maleficence: Óstaðfest framleiðsla, óviðeigandi gagnrýnigildi, misskilin uppgötvun getur leitt til skaða; Það er siðferðileg skylda að koma í veg fyrir þá.
- Sjálfræði: Réttur sjúklings yfir gögnum sínum er verndaður; Trúnaður og samþykki er virt.
- Réttlæti: Líkanið á að veita öllum sjúklingahópum jafna gæðaþjónustu; hlutdrægni verður að athuga.
Og umfram allt, það er keðja ábyrgðar: gervigreind getur framleitt framleiðslu, en sérfræðingurinn ber ábyrgð á útkomu þeirrar framleiðslu. „Sjágreinin sagði það“ er ekki afsökun; Undirskrift, ákvörðun og ábyrgð tilheyrir manneskjunni.
Veik kvaðning / Sterk kvaðning
Veik kvaðning:
Túlkaðu allar niðurstöður og greiningu Ayşe Yılmaz (TC 123..., siðareglur 2024-88) og skrifaðu skýrslu.
Þessi beiðni inniheldur beint auðkennisgögn (KVKK-brot), brýtur í bága við lágmarksgagnaregluna og biður um greiningu. Það er alvarlegt brot á friðhelgi einkalífs og landamærum.
Öflug tilvitnun:
Hlutverk þitt: DRÖG undirbúningsaðstoðarmaður rannsóknarstofusérfræðings. Gögnin hér að neðan eru nafnlaus; inniheldur ekki auðkennisupplýsingar. Vinnið aðeins með þær klínísku/greiningu upplýsingar sem krafist er. Gera greiningu; Notaðu „mögulegt“ tungumál; Vísa til læknis. Sjúklingur: 68 ára kona, þekktur skjaldkirtilssjúkdómur. Nafnlausar niðurstöður (með tilvísun): TSH 6,2 mIU/L (tilvísun 0,4-4,0), frítt T4 innan eðlilegra marka. Verkefni: skrifaðu einfalda samantekt til sjúklingsins; búa til vísbendingu um auðkenni.
Sterk hvetja er nafnlaus, vinnur með lágmarksgögnum, heldur greiningunni fyrir sérfræðingnum og tilgreinir mörkin.
þrjú smámál
Mál 1 - Koma í veg fyrir brot á friðhelgi einkalífsins. Til að túlka sjúklingaskýrslu, dregur tæknimaður fyrst nafnið, auðkennið og samskiptanúmerið úr textanum með „Nafnleysingastýringu“ sniðmátinu; Það skilur aðeins eftir aldur, kyn og útkomugildi. Síðan keyrir það í öruggu fyrirtækistæki. Gögn fara ekki út fyrir stofnunina með auðkenni. Komið var í veg fyrir brotið áður en vinna hófst.
Tilfelli 2 — Ófullgilt líkangildra. Rannsóknarstofa byrjar að nota þvagsetlíkan sem þróað var á annarri stöð beint í eigin tæki; Það staðfestir ekki. Eftir smá stund er tekið eftir því að líkanið saknar oft ákveðinna kristalla í litunarreglum sínum (dreifingarbreyting). Falskar neikvæðar hafa safnast upp. Lærdómur: líkanið tekur ekki þátt í klínískri ákvarðanatöku fyrr en það hefur verið staðfest á þínum eigin gögnum og næmi/sérhæfni hefur verið mælt.
Mál 3 - Smitandi hlutdrægni. Í stjórnsýsluúttekt, þótt heildarnæmni líkans virðist vera hátt, kemur í ljós að það er marktækt lægra í undirhópi aldraðra sjúklinga; Líkanið gerir fleiri villur í þessum hópi. Rannsóknarstofan bætir við viðbótarskoðun sérfræðinga við þennan hóp af gerðum líkana og hefur samband við framleiðandann. Lexía: árangur er athugaður ekki aðeins í heild heldur einnig í undirhópum; Réttlætisreglan krefst þess.
Afritanleg hvetja sniðmát
ANONOMIZING CONTROL SAMPLATE Dragðu út nafn, TR auðkenni, siðareglur/skráarnúmer, fæðingardag, heimilisfang, síma og upplýsingar um stofnun úr textanum hér að neðan; komi "[fjarlægt]". Viðvörun ef það er óbein auðkennisvísbending (sjaldgæf greining + lítill staðsetning). Skildu aðeins eftir nauðsynlegar klínískar/greiningar upplýsingar. Texti: [texti].
MAÐMÁT TIL LÍTANLEITARÁÆTLUNAR Útbúa drög að staðfestingaráætlun fyrir gervigreindarlíkan sem ég mun nota í klíníska notkun: með hvaða eigin gögnum mun ég prófa þau, hvernig á að mæla næmi/sérhæfni, hvernig á að meta jafnvægi rangra neikvæðra/jákvæðra, hvernig á að stjórna frammistöðu undirhóps (aldurs/kyns), hversu oft á að endurmeta. Ég mun ákveða; Þú býrð til gátlista.
BIAS CHECK TEMPLATEI metur frammistöðu líkans. Listaðu í hvaða undirhópa (aldur, kyn, klínískur hópur, úrtakstegund) ég ætti að leita að frammistöðu sérstaklega og hvaða skref ég ætti að taka ef ég finn verulega slæma frammistöðu í einum hópi. Bættu við fyrirvörum um sanngirni/jafnrétti.
SIÐFRÆÐILEG SJÁLFREISNUN Sniðmát Gervigreindarnotkunin sem ég er að fara að gera er endurskoðuð samkvæmt fjórum siðferðilegum meginreglum: velvild, ekki illmennska, sjálfræði (næði/samþykki), sanngirni. Spyrðu áhættuspurningar fyrir hverja stefnu. Einnig, "hver ber ábyrgð á þessari framleiðslu?" Biddu mig um að svara spurningu þinni. Notkun: [skilgreining].
Algeng mistök
- Að gefa ökutæki auðkennisgögn. Nafni, TR kennitölu og samskiptanúmeri er ekki deilt án nafnleyndar; dulkóðun réttlætir þetta ekki.
- Að gleyma óbeinni sjálfsmynd. Samsetningar eins og sjaldgæf greining + lítill staðsetning geta leitt í ljós deili.
- Að nota líkanið án þess að staðfesta það. Líkan sem keyrir annars staðar getur gefið mismunandi frammistöðu á gögnunum þínum.
- Horfðu bara á frammistöðuna almennt. Hlutdrægni er enn falin ef undirhópagreining er ekki framkvæmd.
- Að setja ábyrgðina á fyrirmyndina. "AI sagði" er engin afsökun; Ákvörðunin og undirskriftin tilheyra sérfræðingnum.
Ábending: Fyrir hverja notkun gervigreindar skaltu spyrja tveggja spurninga saman: "Eru þessi gögn afgreind?" og "Veit ég hvernig þetta líkan stendur sig miðað við ávöxtun mína?" Svarið við því fyrsta verndar friðhelgi einkalífsins, svarið við því síðara verndar öryggið.
Í stuttu máli
Rannsóknarstofugögn eru sérstök gæða heilsufarsgögn; Nafnleynd, lágmarksgagnastefna og öruggt val á tólum er skylda þegar gervigreind er notuð. Líkön sem á að taka í klíníska notkun verða að vera staðfest á eigin gögnum; Mæla skal næmi, sértækni og falskt neikvætt/jákvætt jafnvægi; Einnig ætti að athuga frammistöðu í undirhópum til að athuga hvort hlutdrægni sé. Fjórar siðferðilegar meginreglur – velvild, ekki illmennska, sjálfræði, réttlæti – eru fléttaðar inn í hverja notkun, og yfir þeim öllum stendur keðja ábyrgðarinnar: þó útkoman komi frá líkaninu, þá er ákvörðunin og ábyrgðin hjá sérfræðingnum.
Umsóknarverkefni
Nafnleyfðu sýnishorn af texta sjúklings með "Nafnleysing Control" sniðmátinu og skráðu hvaða upplýsingar þú fjarlægðir. Búðu til staðfestingargátlista fyrir gervigreind líkan sem þú ert að nota (eða íhugar að nota) með „Model Validation Plan“ sniðmátinu; Taka með næmi/sérhæfni og undirhópagreiningu. Að lokum, metið notkun gegn meginreglunum fjórum með sniðmátinu „Siðferðileg sjálfsendurskoðun“.
gátlisti
- [ ] Ég gerði gögnin nafnlaus; Ég fjarlægði beinar og óbeinar vísbendingar um auðkenni.
- [ ] Ég beitti lágmarksgagnastefnunni; Ég deildi bara því sem var nauðsynlegt.
- [ ] Ég notaði öruggt verkfæri fyrir fyrirtæki og gagnavinnslu.
- [ ] Ég staðfesti líkanið á eigin gögnum; Ég mældi næmi/sérhæfni.
- [ ] Ég athugaði frammistöðu í undirhópum og athugaði með hlutdrægni.
- [ ] Ég fylgdi siðferðisreglunum fjórum og staðfesti að ábyrgðin sé hjá sérfræðingnum.