Dobički:
- Sposobnost združevanja delov slike, signala, podatkov in regulacije v en odgovoren potek dela z biomedicinsko umetno inteligenco
- Sposobnost uporabe revidiranja s človekom v zanki, sledljivosti in načel spremljanja po distribuciji
- Sposobnost ohranjanja meje na vsaki stopnji, kjer umetna inteligenca ne nadomesti odobritve zdravnikov in inženirjev
Modulni izpit
1. Kaj od naslednjega je osnovno načelo, ki določa tveganje za izhod umetne inteligence v biomedicinskem inženirstvu?
- A) Tveganje rezultata je enako škodi, ki bi jo povzročil bolniku, če bi bil nepravilen; ustrezno validacijske lestvice ✔
- B) Izhod AI je na splošno varen, ker je napisan tekoče in tehnično
- C) Validacija ni potrebna, če je uporabljen najnovejši model
- D) Če se rezultat nanaša na priročnik, dodatna preverjanja niso potrebna
Pojasnilo: Tveganje izhoda je enako škodi za bolnika, če je izhod nepravilen. Medtem ko manjša napaka v povzetku literature predstavlja majhno tveganje, napaka pri vnosu zaznavanja slike ali klinične odločitve neposredno ogroža varnost pacienta; Zato je intenzivnost preverjanja odvisna od potencialne škode in vsaka odločitev, ki vključuje varnost pacientov, je odvisna od odobritve zdravnika.
2. Kakšna je pravilna vloga modela odkrivanja, podprtega z umetno inteligenco, pri klinični uporabi v radiologiji?
- A) Samodejno odobri poročilo radiologa in odpravi delovno obremenitev
- B) Zapiranje primerov nizke prioritete brez obiska radiologa
- C) Če je verjetnost modela velika, postavite diagnozo brez dodatnega pregleda
- D) Biti podporno orodje, ki opozarja na izvid in mu daje prednost, vendar odgovornost za diagnozo ostaja pri radiologu ✔
Opis: slikovna umetna inteligenca je orodje za podporo odločanju: privablja, daje prednost, meri in označuje; vendar diagnostično odgovornost nosi radiolog. Izhod modela ni nadomestek za odločitev radiologa, je le vhod. Rezultat se uporablja v povezavi z neodvisno klinično oceno, saj so vedno možni lažno pozitivni in lažno negativni rezultati.
3. Kaj je najpogostejša težava pri prenosu delovanja modela AI iz enega laboratorija v drugega v digitalni patologiji?
- A) Model deluje zelo hitro
- B) Datoteke diapozitivov so premajhne
- C) Premik domene zaradi razlik pri barvanju in skeniranju ✔
- D) Patologi sploh ne želijo uporabiti modela
Opis: Protokol obarvanja, znamka skenerja in debelina odsekov se razlikujejo od laboratorija do laboratorija; Če se je model naučil na podlagi slikovne statistike enega laboratorija, se bo njegova zmogljivost v drugem laboratoriju zmanjšala. Ta pojav imenujemo premik domene in je najpogostejši vzrok za okvaro pri digitalni patologiji; Zato sta zunanja validacija in normalizacija barv kritični.
4. Kakšen bi moral biti inženirjev prvi potrditveni refleks, ko klasifikacijski model EKG označi 'atrijsko fibrilacijo'?
- A) Zapis nalepke neposredno v bolnikovo kartoteko kot diagnozo
- B) Preverite neobdelani signal, artefakte in fiziološko verjetnost ter prepustite odločitev zdravniku ✔
- C) Če je ocena zaupanja modela visoka, ni potrebe po nobeni drugi kontroli.
- D) Usmerjanje bolnika v zdravljenje z zdravili
Pojasnilo: Izhod je treba najprej preizkusiti glede fiziološke verodostojnosti in kakovosti signala: zamik osnovne črte, mišični artefakt ali sprostitev elektrode v posnetku lahko posnemajo ritem. Napačno je zaupati oznaki brez pogleda na neobdelani signal in intervale R-R; Končna diagnoza ritma je v rokah zdravnika. Model proizvede predhodni signal, ne sprejme odločitve.
5. Katera je ključna značilnost obdelave signalov EEG z umetno inteligenco, ki še posebej oteži preverjanje?
- A) Nizko razmerje med signalom in šumom ter visoka artefakt/variabilnost ✔
- B) EEG signal je zelo visoke amplitude in brez šuma
- C) Snemanje EEG samo z enega kanala
- D) EEG podatki niso nikoli digitalni
Pojasnilo: EEG je signal z zelo nizko amplitudo (razpon mikrovoltov) in ga zlahka kontaminirajo artefakti, kot so mežikanje oči, gibanje mišic, elektrodni in omrežni šum; Poleg tega so razlike med posamezniki in posnetki velike. Zaradi tega nizkega razmerja med signalom in šumom so izhodi modela krhki in zahtevajo validacijo strokovnega nevrofiziologa.
6. Katera je najpomembnejša omejitev pri delu s podatki o srčnem utripu iz potrošniške nosljive naprave?
- A) Baterija naprave se hitro izprazni
- B) Shranjevanje podatkov v oblaku
- C) Naprava pogosto nima medicinskega potrdila in signal je dovzeten za artefakte/pristranskost ✔
- D) Naprava je predraga
Razkritje: večina potrošniških nosljivih naprav ni certificiranih kot medicinske naprave; Na signal PPG (fotopletizmografija) vpliva artefakt gibanja, dejavniki, kot so temen ten kože in tetovaže, pa lahko zmanjšajo natančnost. Ti podatki so dragoceni za nagnjenost/zavedanje, vendar sta za diagnostično odločitev potrebni potrjena klinična meritev in zdravniška ocena.
7. Kaj pomeni 'časovno uhajanje' pri gradnji napovednega modela s podatki elektronskega zdravstvenega zapisa (EHR)?
- A) Šifrirano shranjevanje podatkov
- B) Uhajanje prihodnjih informacij v funkcije, ki v času predvidevanja še ne obstajajo ✔
- C) Podatki so prestari
- D) Prepočasi treniranje modela
Pojasnilo: začasno uhajanje je interferenca funkcij usposabljanja z informacijami, ki v času napovedovanja (prihodnost) še niso na voljo; na primer z uporabo odpustne diagnoze za napovedovanje tveganja ob sprejemu. To vodi do visoke zmogljivosti v laboratoriju, vendar do padca pri resnični klinični uporabi in je ena najbolj zahrbtnih napak kliničnih podatkovnih modelov.
8. Kaj od naslednjega postane obvezno, če je programska oprema sama opisana kot „programska oprema za medicinske pripomočke“ (SaMD)?
- A) Dovolj je samo hitro delo
- B) Ne zahteva nobene dokumentacije
- C) Potreben je le lep vmesnik
- D) Nadzor načrtovanja, obvladovanje tveganja, preverjanje/validacija in skladnost s predpisi postanejo obvezni ✔
Opis: SaMD (Programska oprema kot medicinska naprava) je programska oprema, ki deluje za namene diagnosticiranja, zdravljenja ali spremljanja in ni odvisna od nobene strojne opreme. V tem primeru so obvezni nadzor načrtovanja, obvladovanje tveganja (ISO 14971), preverjanje/validacija in skladnost s predpisi; Programske opreme ni mogoče obravnavati kot "le programsko opremo", ker njena napaka neposredno vpliva na varnost pacientov.
9. Kaj je najbolj kritično tveganje, ko od AI zahtevate klavzulo MDR (Direktiva o medicinskih pripomočkih) ali standardno številko?
- A) Model ustvari lažne reference člankov/standardov in jih varno predstavi ✔
- B) Model daje prekratek odgovor
- C) Model odgovori v angleščini
- D) Model se odziva prepočasi
Pojasnilo: Jezikovni modeli lahko zanesljivo proizvedejo neobstoječe številke elementov, nepravilne standardne različice in izmišljene reference (halucinacije). Pri skladnosti s predpisi vodi napačna referenca snovi do resne neskladnosti; zato je treba vsako pripisovanje preveriti neodvisno od uradnega besedila, umetno inteligenco je treba uporabiti samo za navigacijo/pisanje.
10. V katero kategorijo spadajo zdravstveni podatki v okviru KVKK in kaj to pomeni?
- A) Navadni osebni podatki; se lahko prosto obdeluje
- B) Ni osebni podatek; ni nobene omejitve
- C) Posebne kategorije osebnih podatkov; Obdelano s strožjimi pogoji in zaščito ✔
- D) Samo poslovna skrivnost; ni potrebna zasebnost
Pojasnilo: Zdravstveni podatki se v KVKK štejejo za 'posebne osebne podatke'; Obdelava je praviloma odvisna od izrecne privolitve ali izjem, ki jih določa zakon, in zahteva strožje zaščitne ukrepe. Zato podatkov o pacientih ni mogoče vnesti v nenadzorovana orodja; Pogodbe o anonimizaciji, omejitvi dostopa in obdelavi podatkov so obvezne.
11. Kaj pomeni 'kalibracija' v kliničnem modelu AI in zakaj je pomembna?
- A) Kako hitro teče model
- B) Koliko parametrov ima model?
- C) Barva vmesnika modela
- D) Združljivost verjetnosti, ki jih daje model, z dejanskimi frekvencami dogodkov ✔
Pojasnilo: Umerjanje je prilagajanje verjetnosti, ki jih poda model, dejanskim frekvencam: dogodek bi se moral dejansko zgoditi pri približno 20 % bolnikov, za katere piše '20 % tveganje'. Ker se odločitve v kliniki sprejemajo na podlagi verjetnostnih pragov, bo slabo kalibriran model vodil do nepravilnih odločitev o pragu, tudi če je pravilno razvrščen; zato je treba preveriti kalibracijo in razlikovanje (AUC).
12. Zakaj je treba 'delovanje podskupin' posebej preverjati v modelih slike, signala ali kliničnih podatkov?
- A) Samo popolna natančnost je vedno dovolj
- B) Ker podskupine vplivajo na hitrost modela
- C) Generična metrika lahko skrije nezadostno učinkovitost in pristranskost v določenih skupinah bolnikov ✔
- D) Analiza podskupin je potrebna samo za trženje
Pojasnilo: Čeprav je model v povprečju morda videti dobro, se lahko v določenih podskupinah (starost, spol, ton kože, vrsta naprave, bolnišnica) obnese bistveno slabše; Splošna metrika skrije to neenakost. V zdravstvu to povzroča sistematično škodo v nekaterih skupinah bolnikov; Zato je treba zaradi pravičnosti uspešnost razdeliti v podskupine in poročati.
13. Kateri je najboljši pristop proti tveganju „ponovne identifikacije“ pri delu s podatki o bolnikih?
- A) Samo brisanje imena zadostuje v vseh okoliščinah.
- B) Posplošite posredne in neposredne identifikatorje ter omejite dostop ✔
- C) Če podatki pripadajo majhnemu številu ljudi, previdnostni ukrepi niso potrebni
- D) Samo spreminjanje imena datoteke namesto šifriranja
Opis: Tudi izbrisane podatke je mogoče ponovno identificirati z redkimi kombinacijami diagnoze, datuma rojstva, poštne številke in datuma. Torej ni dovolj samo ekstrahirati neposredne identifikatorje; Tehnike, kot so premik datuma, posploševanje, k-anonimnost in nadzor dostopa, je treba uporabljati skupaj, očistiti pa je treba tudi občutljivo prosto besedilo.
14. Kaj je glavni razlog za ohranjanje celovitega nadzora 'človeka v zanki' v delovnem toku biomedicinske umetne inteligence?
- A) Človeški nadzor ustvarja samo počasnost in ga je treba odstraniti
- B) Če je ocena zaupanja modela visoka, človeška validacija ni potrebna
- C) Ni nobenega praktičnega razloga razen zakonske obveznosti
- D) AI je podvržen pristranskosti in napakam; Odločitve o varnosti pacientov in odgovornost morajo ostati v rokah usposobljenega specialista ✔
Opis: Umetna inteligenca generira, daje prednost in osnutke hipotez; vendar so lahko vzorci, ki jih pridobi iz podatkov, nepopolni, pristranski ali zunaj konteksta. Nujno je, da odločitve glede varnosti pacientov ostanejo v odobritvi pooblaščenega zdravnika in inženirja, tako za odkrivanje napak kot za ohranjanje odgovornosti na pravem mestu; AI ne nadomesti te odobritve na nobeni stopnji.