Dobici:
- Sposobnost kombiniranja slike, signala, podataka i regulacijskih dijelova u jedan odgovoran biomedicinski AI tijek rada
- Sposobnost primjene ljudskih načela revizije, sljedivosti i nadzora nakon distribucije
- Sposobnost održavanja granice u svakoj fazi gdje umjetna inteligencija ne zamjenjuje odobrenje liječnika i inženjera
Modul ispit
1. Što je od sljedećeg osnovno načelo koje određuje rizik izlaza umjetne inteligencije u biomedicinskom inženjerstvu?
- A) Rizik rezultata jednak je šteti koju bi uzrokovao pacijentu da je neispravan; ljestvice validacije prema tome ✔
- B) AI izlaz općenito je siguran jer je napisan tečno i tehnički
- C) Validacija je nepotrebna kada se koristi najnoviji model
- D) Ako se rezultat odnosi na priručnik, nisu potrebne dodatne provjere
Objašnjenje: Rizik izlaza jednak je šteti za pacijenta ako je taj rezultat netočan. Dok je manja pogreška u sažetku literature nizak rizik, pogreška pri unosu detekcije slike ili kliničke odluke izravno prijeti sigurnosti pacijenta; Stoga se intenzitet provjere mjeri potencijalnom štetnošću, a svaka odluka koja uključuje sigurnost pacijenata ovisi o odobrenju liječnika.
2. Koja je ispravna uloga modela detekcije podržanog umjetnom inteligencijom u kliničkoj uporabi u radiologiji?
- A) Automatski odobriti radiologovo izvješće i eliminirati radno opterećenje
- B) Zatvaranje slučajeva niskog prioriteta bez posjeta radiologu
- C) Ako je vjerojatnost modela visoka, postaviti dijagnozu bez dodatnog pregleda
- D) Biti alat podrške koji skreće pozornost na nalaz i daje mu prioritet, ali odgovornost za dijagnozu ostaje na radiologu ✔
Opis: Image AI je alat za podršku odlučivanju: privlači, određuje prioritete, mjeri i označava; međutim, dijagnostička odgovornost ostaje na radiologu. Izlaz modela nije zamjena za odluku radiologa, to je samo ulaz. Izlaz se koristi zajedno s neovisnom kliničkom procjenom jer su uvijek mogući lažno pozitivni i lažno negativni rezultati.
3. Koji je najčešći problem kod prijenosa performansi AI modela iz jednog laboratorija u drugi u digitalnoj patologiji?
- A) Model radi vrlo brzo
- B) Datoteke slajdova su premale
- C) Pomak domene uzrokovan razlikama u bojenju i skeniranju ✔
- D) Patolozi uopće ne žele koristiti model
Opis: Protokol bojenja, marka skenera i debljina presjeka razlikuju se od laboratorija do laboratorija; Ako je model naučio na temelju statistike slike jednog laboratorija, njegova će se izvedba smanjiti u drugom laboratoriju. Taj se fenomen naziva pomak domene i najčešći je uzrok neuspjeha u digitalnoj patologiji; Zato su vanjska provjera valjanosti i normalizacija boja kritične.
4. Koji bi trebao biti inženjerov prvi refleks potvrde kada EKG klasifikacijski model označi 'fibrilaciju atrija'?
- A) Upisivanje oznake izravno u kartoteku pacijenta kao dijagnoze
- B) Provjerite neobrađeni signal, artefakte i fiziološku vjerodostojnost i prepustite odluku liječniku ✔
- C) Ako je rezultat pouzdanosti modela visok, nema potrebe za nikakvom drugom kontrolom.
- D) Usmjeravanje bolesnika na liječenje lijekovima
Objašnjenje: izlaz se najprije treba testirati na fiziološku vjerodostojnost i kvalitetu signala: pomak osnovne linije, artefakt mišića ili opuštanje elektrode u snimci mogu oponašati ritam. Pogrešno je vjerovati oznaci bez gledanja sirovog signala i R-R intervala; Konačna dijagnoza ritma pripada liječniku. Model proizvodi preliminarni signal, ne donosi odluku.
5. Koja je ključna značajka AI obrade EEG signala koja provjeru posebno otežava?
- A) Nizak omjer signala i šuma i visok artefakt/varijabilnost ✔
- B) EEG signal je vrlo visoke amplitude i bešuman
- C) Snimanje EEG-a samo s jednog kanala
- D) EEG podaci nikada nisu digitalni
Objašnjenje: EEG je signal vrlo niske amplitude (raspon mikrovolta) i lako se kontaminira artefaktima kao što su treptanje očiju, pokreti mišića, šum elektroda i mreže; Osim toga, varijabilnost između pojedinaca i snimaka je velika. Ovaj nizak omjer signala i šuma uzrokuje da su rezultati modela krhki i zahtijeva provjeru stručne neurofiziologije.
6. Koje je najvažnije ograničenje pri radu s podacima o otkucajima srca s potrošačkog nosivog uređaja?
- A) Baterija uređaja se brzo prazni
- B) Pohranjivanje podataka u oblak
- C) Uređaj često nije medicinski certificiran i signal je osjetljiv na artefakte/bias ✔
- D) Uređaj je preskup
Otkrivanje: većina potrošačkih nosivih uređaja nije certificirana kao medicinski uređaj; Na PPG (fotopletizmografski) signal utječe artefakt kretanja, a čimbenici kao što su tamna koža i tetovaže mogu smanjiti točnost. Ovi su podaci vrijedni za sklonost/svijest, ali za dijagnostičku odluku potrebni su potvrđena klinička mjerenja i liječnička procjena.
7. Što znači 'vremensko curenje' kada se gradi prediktivni model s podacima elektroničkog zdravstvenog zapisa (EHR)?
- A) Šifrirana pohrana podataka
- B) Curenje budućih informacija u značajke koje još ne postoje u trenutku predviđanja ✔
- C) Podaci su prestari
- D) Presporo treniranje modela
Objašnjenje: Vremensko curenje je interferencija značajki obuke s informacijama koje još nisu dostupne u trenutku predviđanja (budućnost); na primjer, korištenje otpustne dijagnoze za predviđanje rizika pri prijemu. To dovodi do visokih performansi u laboratoriju, ali loših performansi u stvarnoj kliničkoj uporabi i jedan je od najpodmuklijih nedostataka kliničkih modela podataka.
8. Što od sljedećeg postaje obvezno kada se sam softver opisuje kao 'softver medicinskih uređaja' (SaMD)?
- A) Dovoljno je samo raditi brzo
- B) Ne zahtijeva nikakvu dokumentaciju
- C) Potrebno je samo lijepo sučelje
- D) Kontrola dizajna, upravljanje rizikom, verifikacija/potvrda i usklađenost s propisima postaju obvezni ✔
Opis: SaMD (softver kao medicinski uređaj) je softver koji radi u svrhu dijagnoze, liječenja ili praćenja i ne ovisi o hardveru. U ovom su slučaju obvezne kontrole dizajna, upravljanje rizikom (ISO 14971), provjera/potvrda i usklađenost s propisima; Softver se ne može tretirati kao 'samo softver' jer njegov kvar izravno utječe na sigurnost pacijenata.
9. Koji je najkritičniji rizik kada od AI-ja tražite MDR (Direktiva o medicinskim uređajima) klauzulu ili standardni broj?
- A) Model proizvodi lažne članke/standardne reference i predstavlja ih na siguran način ✔
- B) Model daje prekratak odgovor
- C) Model odgovara na engleskom
- D) Model presporo reagira
Objašnjenje: Jezični modeli mogu pouzdano proizvesti nepostojeće brojeve stavki, netočne standardne verzije i izmišljene reference (halucinacije). U regulatornoj usklađenosti, netočna referenca tvari dovodi do ozbiljnog kvara u usklađenosti; tako da svako pripisivanje treba provjeriti neovisno o službenom tekstu, AI treba koristiti samo za navigaciju/sastavljanje.
10. U koju kategoriju spadaju zdravstveni podaci u okviru KVKK i što to znači?
- A) Obični osobni podaci; mogu se slobodno obrađivati
- B) Nije osobni podatak; nema ograničenja
- C) Posebne kategorije osobnih podataka; Obrađeno uz strože uvjete i zaštite ✔
- D) Samo poslovna tajna; nije potrebna privatnost
Pojašnjenje: Podaci o zdravstvenom stanju smatraju se 'posebnim osobnim podacima' u KVKK; Obrada u pravilu ovisi o izričitoj privoli ili iznimkama propisanim zakonom i zahtijeva strože mjere zaštite. Stoga se podaci o pacijentu ne mogu unositi u nekontrolirane alate; Obavezni su ugovori o anonimizaciji, ograničenju pristupa i obradi podataka.
11. Što 'kalibracija' znači u kliničkom AI modelu i zašto je važna?
- A) Koliko brzo model radi
- B) Koliko parametara ima model?
- C) Boja sučelja modela
- D) Kompatibilnost vjerojatnosti koje daje model sa stvarnim učestalostima događaja ✔
Objašnjenje: Kalibracija je prilagođavanje vjerojatnosti koje daje model stvarnim učestalostima: događaj bi se zapravo trebao dogoditi u oko 20% pacijenata za koje piše '20% rizika'. Budući da se odluke u klinici donose na temelju pragova vjerojatnosti, loše kalibriran model dovest će do netočnih odluka o pragu čak i ako je ispravno rangiran; stoga se mora provjeriti kalibracija kao i diskriminacija (AUC).
12. Zašto bi se 'učinkovitost podskupine' trebala zasebno provjeravati u modelima slike, signala ili kliničkih podataka?
- A) Uvijek je dovoljna samo potpuna točnost
- B) Zato što podskupine utječu na brzinu modela
- C) Generička metrika može sakriti loš učinak i pristranost u određenim skupinama pacijenata ✔
- D) Analiza podskupina potrebna je samo za marketing
Objašnjenje: Iako model može izgledati dobro u prosjeku, može biti znatno lošiji u određenim podskupinama (dob, spol, boja kože, vrsta uređaja, bolnica); Opća metrika skriva ovu nejednakost. U zdravstvu to dovodi do sustavne štete u nekim skupinama pacijenata; Stoga bi učinak trebalo podijeliti u podskupine i prijaviti radi pravednosti.
13. Koji je najbolji pristup protiv rizika od 'ponovne identifikacije' pri radu s podacima o pacijentima?
- A) Samo brisanje imena je dovoljno u svim okolnostima.
- B) Generalizirajte neizravne identifikatore kao i izravne identifikatore i ograničite pristup ✔
- C) Ako podaci pripadaju malom broju ljudi, nisu potrebne nikakve mjere opreza
- D) Samo mijenjanje naziva datoteke umjesto enkripcije
Opis: Čak se i izbrisani podaci mogu ponovno identificirati rijetkim kombinacijama dijagnoze, datuma rođenja, poštanskog broja i datuma. Dakle, nije dovoljno samo izdvojiti izravne identifikatore; Tehnike kao što su pomicanje datuma, generalizacija, k-anonimnost i kontrola pristupa trebaju se primjenjivati zajedno, a osjetljivi slobodni tekst također treba očistiti.
14. Koji je glavni razlog za održavanje end-to-end kontrole 'čovjeka u petlji' u tijeku rada biomedicinske umjetne inteligencije?
- A) Ljudska kontrola samo stvara sporost i treba je ukloniti
- B) Ako je rezultat pouzdanosti modela visok, ljudska validacija nije potrebna
- C) Nema praktičnog razloga osim zakonske obveze
- D) AI je podložan pristranosti i pogrešci; Odluke o sigurnosti pacijenata i odgovornost trebaju ostati na kvalificiranom stručnjaku ✔
Opis: Umjetna inteligencija stvara, postavlja prioritete i izrađuje hipoteze; ali obrasci koje uči iz podataka mogu biti nepotpuni, pristrani ili izvan konteksta. Imperativ je da odluke koje se tiču sigurnosti pacijenata ostanu uz odobrenje ovlaštenog liječnika i inženjera, kako da se uhvate pogreške i da se odgovornost zadrži na pravom mjestu; AI ne zamjenjuje ovo odobrenje ni u jednoj fazi.