Nyereség:
- Lehetőség a betegek laboratóriumi adatainak anonimizálására a KVKK/privacy keretein belül, valamint biztonságos eszközök és adatfeldolgozási szabályok alkalmazására
- Értse meg, miért kötelező az érvényesítés, a teljesítménymérők és az elfogultság ellenőrzése a mesterséges intelligencia modellek klinikai használatában.
- Képesség a végső felelősség vállalására azáltal, hogy a négy etikai alapelvet és a felelősségi láncot beleszövi a mesterséges intelligencia minden használatába
A laboratórium az egészségügyi rendszer egyik leginkább adatigényes pontja. Minden beteg, minden vizsgálat, minden eredmény egy adat, és ezek többsége az érzékeny személyes adatok – azaz egészségügyi adatok – körébe tartozik. A mesterséges intelligencia nagy értéket generálhat ezen adatok feldolgozásával, de gondatlan használat esetén ugyanaz a mesterséges intelligencia súlyos személyiségi jogsértésekhez, jogi felelősséghez és a betegek bizalmának károsodásához vezethet. Sőt, nemcsak a titoktartásról van szó: szakmai és etikai kötelesség annak bizonyítása, hogy a klinikai használatba vett mesterséges intelligencia-modell valóban megbízható – vagyis validálás –, és megbizonyosodni arról, hogy a modell nem méltánytalan bizonyos betegcsoportokkal szemben (elfogultság).
Ebben az egységben megtudhatja, hogyan védheti meg a betegek laboratóriumi adatait a KVKK/bizalmasság keretein belül; a klinikai AI-modellek validálása, teljesítménymutatói és torzítás-ellenőrzése; és hogyan szőjük be az etikai elveket az egyes felhasználásokba. Alapelv: Az adatok anonimizálás nélkül nem jutnak be semmilyen járműbe; egyetlen modell sem vesz részt a klinikai döntésekben mindaddig, amíg saját adatain nem validálták; és a végső felelősség mindig a szakértőt terheli.
Adatvédelem: milyen adatok, hogyan védjük meg
A betegek laboratóriumi adatai (eredmények, diagnózis, protokollszám, személyazonosság) a KVKK (személyes adatok védelméről szóló törvény) értelmében védettek Türkiye-ben, a GDPR Európában, és további védelmet igényelnek, mivel az egészségügyi adatok "speciális jellegűek". A mesterséges intelligencia használatának három alapvető szabálya:
- Anonimizálás. Távolítsa el a nevet, a TR-azonosítót, a protokoll-/fájlszámot, a születési dátumot, a kapcsolattartási és intézményi adatokat. "68 éves nőbeteg" elegendő; Nem "Ayşe Yılmaz, 1957.03.12". Vegye figyelembe, hogy az olyan kombinációk, mint a ritka betegség + kis hely, közvetetten felfedhetik az azonosságot.
- Minimális adatkezelési szabályzat. Ossza meg a feladathoz szükséges minimális adatokat. A referenciatartomány kérdéséhez nincs szükség a teljes betegfájlra.
- Biztonságos járműválasztás. Válasszon olyan vállalati eszközöket, amelyeknek adatfeldolgozási szerződésük van, és ne használja fel adatait modellképzésben. A nyers betegfájl nyilvános eszközbe való feltöltése a leggyakoribb és legsúlyosabb szabálysértés.
Adattípus
kockázatot
helyes viselkedés
Név, TR azonosító, protokollszám
közvetlen azonosítás
Kivonat, anonimizálás
Születési idő, cím
közvetett azonosítás
Letöltés korosztályhoz, cím eltávolítása
Eredmény értékek
egészségügyi adatok
Oszd meg névtelenül, minimálisan
Kép (kenet, patológia)
Egészségügyi adatok + azonosító nyom
Tartsa a validált klinikai rendszerben; berakodás nyitott járműbe
Figyelem: "Titkosítottam, így a nevet is el tudom küldeni" téves. A titkosítás biztonságossá teszi a szállítást, de nem indokolja az azonosító adatok küldését egy mesterséges intelligencia eszköznek. Az azonosító adatok kinyerésre kerülnek.
Modellellenőrzés: miért nem elég a „közzététel”.
Csak azért, mert egy mesterséges intelligencia modell (pl. képosztályozó vagy értelmező motor) jól működik egy helyen, még nem jelenti azt, hogy jól fog működni a laborban. Lehet, hogy a modellt egy másik populációra, egy másik eszközre, egy másik festési protokollra képezték ki; A teljesítménye eltérhet az Ön mintáiban. Ezt nevezik elosztási eltolódásnak. Ezért minden klinikai felhasználásra kerülő modellt saját adatain kell validálni, teljesítményét rendszeresen mérni és monitorozni kell.
Az érvényesítés során használt kulcsfontosságú teljesítménymutatók:
- Érzékenység: Az a sebesség, amellyel a modell pontosan megragadja azokat, akik valóban betegek/pozitívak. Alacsony érzékenység = hiányzó valódi pozitív (álnegatív) = a kritikus eredmények hiányának kockázata.
- Specifikusság: A valóban egészségesek/negatívak eliminációjának megfelelő üteme. Alacsony specifitás = sok téves riasztás.
- Álnegatív/álpozitív arány: A laboratóriumban az álnegatív (a kritikus lelet hiánya) általában veszélyesebb, mint a hamis pozitív; Ezt az egyenleget a modell rendeltetésszerű használatához igazítják.
A modell érvényesítése után nem merül feledésbe; Idővel az eszköz, a reagens, a populáció megváltozhat, és a teljesítmény megváltozhat. Ezért folyamatos ellenőrzésre és időszakos újraértékelésre van szükség.
Elfogultság: kivel szemben igazságtalan a modell?
A modell megismeri a képzési adatok egyensúlyhiányát. Ha egy képmodellt többnyire egy adott betegcsoport példáira tanítanak, akkor több hibát véthet az alulreprezentált csoportban. Laboratóriumi kontextusban ez azt jelenti, hogy a modell kevésbé teljesít jól egy adott életkorban, nemben vagy klinikai csoportban – és ez méltányossági/etikai probléma. Az érvényesítés során nem csak általánosságban, hanem alcsoportokban is ellenőrizni kell a teljesítményt. Az elfogultság figyelmen kívül hagyása azt jelenti, hogy néhány betegnek csendben rosszabb szolgáltatást nyújtanak.
Az etikai négy alapelv és a felelősségi lánc
Az egészségetika négy alapelve a laboratóriumi MI-re is érvényes:
- Jótékony hatás: A mesterséges intelligenciát a páciens javára kell használni; a gyorsítás nem veszélyeztetheti a biztonságot.
- Nem rosszindulat: Ellenőrizetlen kimenet, hamis kritikus érték, elmulasztott keresés károsodáshoz vezethet; Ezek megelőzése etikai kötelesség.
- Autonómia: A beteg adataival kapcsolatos jogai védettek; A titoktartást és a beleegyezést tiszteletben tartják.
- Igazságszolgáltatás: A modellnek egyenlő minőségű szolgáltatást kell nyújtania minden betegcsoport számára; az elfogultságot ellenőrizni kell.
És mindenekelőtt van egy felelősségi lánc: a mesterséges intelligencia termelhet eredményt, de a szakértő felelős a kimenet eredményéért. „Az AI mondta” nem mentség; Az aláírás, a döntés és a felelősség az emberé.
Gyenge felszólítás / Erős felszólítás
Gyenge felszólítás:
Értelmezze az Ayşe Yılmaz (TC 123..., 2024-88 protokoll) összes eredményét és diagnózisát, és írjon jelentést.
Ez a kérelem közvetlenül személyazonossági adatokat tartalmaz (KVKK-sértés), sérti a minimális adatszolgáltatás elvét, és diagnózist kér. Ez a magánélet és a határok súlyos megsértése.
Erőteljes felszólítás:
Az Ön szerepköre: TERVEZETkészítő asszisztens a laboratóriumi szakemberhez. Az alábbi adatok névtelenek; nem tartalmaz azonosító információkat. Csak a szükséges klinikai/analitikai információkkal dolgozzon. A diagnózis felállítása; Használja a „lehetséges” nyelvet; Forduljon orvoshoz. Beteg: 68 éves nő, ismert pajzsmirigybetegség. Névtelen eredmények (hivatkozással): TSH 6,2 mIU/L (ref 0,4-4,0), szabad T4 normál tartományon belül. Feladat: írjon egyszerű eligazítási vázlatot a betegnek; azonosítási nyomot generálni.
Az erős prompt névtelen, minimális adatmennyiséggel működik, a diagnózist a szakértőnek tartja, és meghatározza a határértéket.
három mini tok
1. eset – A magánélet megsértésének megelőzése. A betegjelentés értelmezéséhez a technikus először kivonja a nevet, az azonosítót és a protokollszámot a szövegből az „Anonimizálás vezérlése” sablonnal; Csak a kor, a nem és az eredmény értékek maradnak meg. Ezután biztonságos, vállalati eszközben fut. Az adatok nem kerülnek ki az intézményen kívülre személyazonossággal. A szabálysértést a munka megkezdése előtt megakadályozták.
2. eset – Nem érvényesített modellcsapda. Egy laboratórium egy másik központban közvetlenül a saját műszerében kifejlesztett vizelet üledék modellt kezd használni; Nem érvényesíti. Egy idő után észrevehető, hogy a modell gyakran kihagy bizonyos kristályokat festési protokolljaiból (eloszlási eltolás). Hamis negatívumok halmozódtak fel. Tanulság: a modell mindaddig nem vesz részt a klinikai döntéshozatalban, amíg saját adatain nem validálták, és meg nem mérték az érzékenységet/specificitást.
3. eset – Elfogultság elfogása. Egy teljesítmény-ellenőrzés során, bár egy modell általános érzékenysége magasnak tűnik, az idős betegek egy alcsoportjában szignifikánsan alacsonyabbnak tűnik; A modell több hibát követ el ebben a csoportban. A laboratórium további szakértői értékelést ad a modellkimenetek ezen csoportjához, és kapcsolatba lép a gyártóval. Tanulság: a teljesítményt nemcsak összességében, hanem alcsoportokban is ellenőrizzük; Az igazságosság elve ezt követeli meg.
Másolható prompt sablonok
ANONIMIZÁLÁS ELLENŐRZÉSI SABLON Az alábbi szövegből vegye ki a nevet, a TR azonosítót, a protokoll-/fájlszámot, a születési dátumot, a címet, a telefonszámot és az intézmény adatait; cserélje ki a következőre: „[eltávolítva]”. Figyelmeztetés, ha van közvetett azonosító nyom (ritka diagnózis + kis hely). Csak a szükséges klinikai/analitikai információkat hagyja meg. Szöveg: [szöveg].
MODELL-VALIDÁCIÓS TERV SABLON Készítsen validációs terv tervezetet egy mesterséges intelligencia modellhez, amelyet klinikai felhasználásra fogok helyezni: milyen saját adatokkal tesztelem, hogyan mérhetem az érzékenységet/specifitást, hogyan lehet értékelni a hamis negatívok/pozitívok egyensúlyát, hogyan lehet ellenőrizni az alcsoport (életkor/nem) teljesítményét, milyen gyakran kell újraértékelni. én döntök; Készíts egy ellenőrző listát.
BIAS CHECK TEMPLATEI értékeli a modell teljesítményét. Sorolja fel, hogy mely alcsoportokban (életkor, nem, klinikai csoport, mintatípus) érdemes külön keresnem a teljesítményt, és milyen lépéseket kell megtennem, ha egy csoportban jelentősen gyenge teljesítményt tapasztalok. Adjon hozzá méltányossági/egyenlőségi figyelmeztetéseket.
ETIKAI ÖNELLENŐRZÉSI SABLON Az AI-felhasználást, amelyet alkalmazni készülök, négy etikai alapelv szerint ellenőrzik: jótékonyság, nem rosszindulat, autonómia (adatvédelmi hozzájárulás/beleegyezés), méltányosság. Tegyen fel egy kockázati kérdést minden egyes irányelvhez. Továbbá: „Ki a felelős ezért a kimenetért?” Kérd meg, hogy válaszoljak a kérdésedre. Használat: [definíció].
Gyakori hibák
- Azonosító adatok megadása a járműnek. A név, a TR azonosító szám és a protokollszám nem kerül megosztásra anonimizálás nélkül; a titkosítás ezt nem indokolja.
- A közvetett identitás elfelejtése. Az olyan kombinációk, mint a ritka diagnózis + kis hely, felfedhetik az azonosságot.
- A modell használata érvényesítés nélkül. Egy máshol futó modell eltérő teljesítményt nyújthat az adatokon.
- Nézzük csak általánosságban a teljesítményt. A torzítás rejtve marad, ha nem hajtják végre az alcsoport elemzést.
- A felelősséget a modellre hárítani. „Az AI azt mondta” nem mentség; A határozat és az aláírás a szakértőé.
Tipp: Minden mesterséges intelligencia használata előtt tegyünk fel két kérdést: „Ez az adat azonosítatlan?” és „Tudom, hogy ez a modell hogyan teljesít az én hozamom mellett?” Az elsőre adott válasz védi a magánéletet, a másodikra adott válasz a biztonságot védi.
Összefoglalva
A laboratóriumi adatok különleges minőségű egészségügyi adatok; A mesterséges intelligencia használatakor kötelező az anonimizálás, a minimális adatkezelési szabályzat és a biztonságos eszközválasztás. A klinikai felhasználásra kerülő modelleket az Ön adatai alapján kell validálni; mérni kell az érzékenységet, a specificitást és a hamis negatív/pozitív egyensúlyt; A teljesítményt alcsoportokban is ellenőrizni kell az elfogultság ellenőrzése érdekében. Négy etikai alapelv – jótékonyság, nem rosszindulat, autonómia, igazságosság – minden használatba beleszőtt, és mindegyik felett áll a felelősség láncolata: bár a kimenet a modellből származik, a döntés és a felelősség a szakértőé.
Pályázati feladat
Anonimizáljon egy minta betegszöveget az „Anonimizálási vezérlő” sablonnal, és sorolja fel, milyen információkat távolított el. Hozzon létre egy érvényesítési ellenőrzőlistát az Ön által használt (vagy fontolóra vett) AI-modellhez a „Modell Validation Plan” sablonnal; Tartalmazza az érzékenységet/specifitást és az alcsoport elemzést. Végül értékelje a felhasználást a négy alapelv alapján az „Etikai önellenőrzés” sablonnal.
ellenőrző lista
- [ ] anonimizáltam az adatokat; Eltávolítottam a közvetlen és közvetett azonosságra utaló nyomokat.
- [ ] A minimális adatkezelési szabályzatot alkalmaztam; Csak azt osztottam meg, ami szükséges volt.
- [ ] Biztonságos, vállalati és adatfeldolgozási szerződéses eszközt használtam.
- [ ] A modellt saját adataim alapján validáltam; Érzékenységet/specifitást mértem.
- [ ] Ellenőriztem a teljesítményt az alcsoportokban, és ellenőriztem a torzítást.
- [ ] Betartottam a négy etikai alapelvet, és megerősítettem, hogy a felelősség a szakértőt terheli.