Dobici:
- Sposobnost kombinovanja slike, signala, podataka i regulacionih delova u jedan odgovoran biomedicinski AI radni tok
- Sposobnost primjene principa revizije "ljudi u petlji", sljedivosti i praćenja nakon distribucije
- Sposobnost održavanja granice u svakoj fazi u kojoj umjetna inteligencija ne zamjenjuje odobrenje liječnika i inženjera
Modul Exam
1. Koji je od sljedećeg osnovni princip koji određuje rizik od AI izlaza u biomedicinskom inženjerstvu?
- A) Rizik izlaza jednak je šteti koju bi nanio pacijentu da je netačan; skale validacije u skladu s tim ✔
- B) AI izlaz je općenito siguran jer je napisan tečno i tehnički
- C) Validacija nije potrebna kada se koristi najnoviji model
- D) Ako se rezultat odnosi na priručnik, nisu potrebne dodatne provjere
Objašnjenje: Rizik od izlaza jednak je šteti za pacijenta ako je taj izlaz netačan. Dok je manja greška u sažetku literature mali rizik, greška u unosu detekcije slike ili kliničke odluke direktno ugrožava sigurnost pacijenata; Stoga se intenzitet verifikacije povećava s potencijalnom štetom, a svaka odluka koja uključuje sigurnost pacijenata ovisi o odobrenju liječnika.
2. Koja je prava uloga modela detekcije podržanog umjetnom inteligencijom u kliničkoj upotrebi u radiologiji?
- A) Automatski odobriti izvještaj radiologa i eliminirati opterećenje
- B) Zatvaranje slučajeva niskog prioriteta bez posete radiologu
- C) Ako je vjerovatnoća modela velika, postaviti dijagnozu bez dodatnog pregleda
- D) Biti pomoćno sredstvo koje skreće pažnju na nalaz i daje mu prioritet, ali odgovornost za dijagnozu ostaje na radiologu ✔
Opis: Image AI je alat za podršku odlučivanju: privlači, postavlja prioritete, mjeri i označava; međutim, dijagnostička odgovornost ostaje na radiologu. Izlaz modela nije zamjena za odluku radiologa, on je samo ulaz. Izlaz se koristi u kombinaciji s nezavisnom kliničkom evaluacijom jer su lažno pozitivni i lažno negativni uvijek mogući.
3. Koji je najčešći problem prilikom prenosa performansi AI modela iz jedne laboratorije u drugu u digitalnoj patologiji?
- A) Model radi vrlo brzo
- B) Datoteke slajdova su premale
- C) Pomak domene uzrokovan razlikama u bojanju i skeniranju ✔
- D) Patolozi uopšte ne žele da koriste model
Opis: Protokol bojenja, marka skenera i debljina preseka variraju od laboratorije do laboratorije; Ako je model naučio na osnovu statistike slike jedne laboratorije, njegove performanse će se smanjiti u drugoj laboratoriji. Ovaj fenomen se naziva pomak domene i najčešći je uzrok neuspjeha u digitalnoj patologiji; Zbog toga su vanjska validacija i normalizacija boje kritični.
4. Koji bi trebao biti inženjerov prvi refleks potvrde kada model EKG klasifikacije označi 'atrijalnu fibrilaciju'?
- A) Upisivanje naljepnice direktno u dosije pacijenta kao dijagnoze
- B) Provjerite sirovi signal, artefakte i fiziološku vjerodostojnost i prepustite odluku liječniku ✔
- C) Ako je rezultat pouzdanosti modela visok, nema potrebe za bilo kakvom drugom kontrolom.
- D) Usmjeravanje pacijenta na liječenje lijekovima
Objašnjenje: Izlaz treba prvo testirati na fiziološku vjerodostojnost i kvalitet signala: pomjeranje osnovne linije, artefakt mišića ili opuštanje elektroda u snimku mogu oponašati ritam. Pogrešno je vjerovati etiketi bez gledanja sirovog signala i R-R intervala; Konačna dijagnoza ritma pripada ljekaru. Model proizvodi preliminarni signal, on ne donosi odluku.
5. Koja je ključna karakteristika AI obrade EEG signala koja posebno otežava verifikaciju?
- A) Nizak odnos signal-šum i velika artefakt/varijabilnost ✔
- B) EEG signal je vrlo velike amplitude i bešuman
- C) Snimanje EEG-a samo sa jednog kanala
- D) EEG podaci nikada nisu digitalni
Objašnjenje: EEG je signal vrlo niske amplitude (opseg mikrovolta) i lako se kontaminira artefaktima kao što su treptanje oka, pokreti mišića, šum elektroda i mreže; Osim toga, varijabilnost između pojedinaca i snimaka je velika. Ovaj nizak omjer signal-šum uzrokuje da su rezultati modela krhki i zahtijeva provjeru stručnjaka neurofiziologa.
6. Koja je najvažnija granica kada se radi sa podacima o pulsu sa uređaja koji se može nositi?
- A) Baterija uređaja se brzo isprazni
- B) Čuvanje podataka u oblaku
- C) Uređaj često nije medicinski certificiran i signal je podložan artefaktima/pristranostima ✔
- D) Uređaj je preskup
Otkrivanje: Većina potrošača nosivih uređaja nije certificirana kao medicinski uređaji; Na signal PPG (fotopletizmografija) utječe artefakt pokreta, a faktori kao što su tamni ton kože i tetovaže mogu smanjiti preciznost. Ovi podaci su vrijedni za sklonost/svijest, ali validirana klinička mjerenja i procjena liječnika su potrebni za dijagnostičku odluku.
7. Šta znači 'vremensko curenje' kada se gradi prediktivni model sa podacima elektronskog zdravstvenog kartona (EHR)?
- A) Šifrovano skladištenje podataka
- B) Curenje budućih informacija u karakteristike koje još ne postoje u vrijeme predviđanja ✔
- C) Podaci su prestari
- D) Presporo treniranje modela
Objašnjenje: Vremensko curenje je ometanje funkcija obuke s informacijama koje još nisu dostupne u vrijeme predviđanja (budućnost); na primjer, korištenje otpustne dijagnoze za predviđanje rizika pri prijemu. Ovo dovodi do visokih performansi u laboratoriji, ali do pada performansi u stvarnoj kliničkoj upotrebi i jedna je od najpodmuklijih mana modela kliničkih podataka.
8. Šta od sljedećeg postaje obavezno kada se sam softver opisuje kao 'softver za medicinske uređaje' (SaMD)?
- A) Dovoljan je samo brz rad
- B) Ne zahtijeva nikakvu dokumentaciju
- C) Potreban je samo lijep interfejs
- D) Kontrola dizajna, upravljanje rizikom, verifikacija/validacija i usklađenost sa propisima postaju obavezni ✔
Opis: SaMD (Softver kao medicinski uređaj) je softver koji radi u svrhu dijagnoze, liječenja ili praćenja i ne ovisi o bilo kakvom hardveru. U ovom slučaju, kontrole dizajna, upravljanje rizikom (ISO 14971), verifikacija/validacija i usklađenost sa propisima su obavezni; Softver se ne može tretirati kao 'samo softver' jer njegov kvar direktno utiče na sigurnost pacijenata.
9. Koji je najkritičniji rizik kada od AI zatražite MDR (Direktiva o medicinskim uređajima) klauzulu ili standardni broj?
- A) Model proizvodi lažne artikle/standardne reference i predstavlja ih na siguran način ✔
- B) Model daje prekratak odgovor
- C) Model odgovara na engleskom
- D) Model reaguje presporo
Objašnjenje: Jezički modeli mogu pouzdano proizvesti nepostojeće brojeve stavki, netačne standardne verzije i izmišljene reference (halucinacije). U usklađenosti sa propisima, netačna referenca supstance dovodi do ozbiljnog neusklađenosti; tako da svaka atribucija treba da bude verifikovana nezavisno od zvaničnog teksta, AI treba koristiti samo za navigaciju/nacrt.
10. U koju kategoriju spadaju zdravstveni podaci u okviru KVKK i šta to znači?
- A) Obični lični podaci; mogu se slobodno obrađivati
- B) To nisu lični podaci; nema ograničenja
- C) Posebne kategorije ličnih podataka; Obrađeno uz strožije uslove i zaštitu ✔
- D) samo poslovna tajna; nije potrebna privatnost
Objašnjenje: Zdravstveni podaci se smatraju 'posebnim ličnim podacima' u KVKK; Obrada po pravilu zavisi od izričitog pristanka ili izuzetaka propisanih zakonom i zahteva strože mere zaštite. Stoga se podaci o pacijentima ne mogu unositi u nekontrolisane alate; Ugovori o anonimizaciji, ograničenju pristupa i obradi podataka su obavezni.
11. Šta znači 'kalibracija' u kliničkom AI modelu i zašto je važna?
- A) Koliko brzo model radi
- B) Koliko parametara ima model?
- C) Boja interfejsa modela
- D) Kompatibilnost vjerovatnoća datih modelom sa stvarnim učestalostima događaja ✔
Objašnjenje: Kalibracija je prilagođavanje vjerovatnoća koje je model dao stvarnim frekvencijama: događaj bi se zapravo trebao dogoditi kod oko 20% pacijenata za koje piše '20% rizika'. Budući da se odluke u klinici donose na osnovu pragova vjerovatnoće, loše kalibrirani model će dovesti do pogrešnih odluka o pragu čak i ako je ispravno rangiran; stoga, kalibracija kao i diskriminacija (AUC) moraju biti verifikovani.
12. Zašto bi 'performanse podgrupe' trebalo zasebno provjeravati u modelima slike, signala ili kliničkih podataka?
- A) Samo potpuna preciznost je uvijek dovoljna
- B) Zato što podgrupe utiču na brzinu modela
- C) Generička metrika može sakriti slabe performanse i pristrasnost u određenim grupama pacijenata ✔
- D) Analiza podgrupa je neophodna samo za marketing
Objašnjenje: Iako model u prosjeku može izgledati dobro, može biti znatno lošiji u određenim podgrupama (dob, spol, ton kože, tip uređaja, bolnica); Opća metrika skriva ovu nejednakost. U zdravstvu, to dovodi do sistematske štete u nekim grupama pacijenata; Stoga, učinak treba podijeliti u podgrupe i izvijestiti radi pravednosti.
13. Koji je najbolji pristup protiv rizika od 'ponovne identifikacije' pri radu sa podacima o pacijentima?
- A) Samo brisanje imena je dovoljno u svim okolnostima.
- B) Generalizirajte indirektne identifikatore kao i direktne identifikatore i ograničite pristup ✔
- C) Ako podaci pripadaju malom broju ljudi, nisu potrebne mjere opreza
- D) Samo promijenite naziv datoteke umjesto šifriranja
Opis: Čak se i podaci izbrisani iz imena mogu ponovo identificirati rijetkim kombinacijama dijagnoze, datuma rođenja, poštanskog broja i datuma. Dakle, nije dovoljno samo izdvojiti direktne identifikatore; Tehnike kao što su pomicanje datuma, generalizacija, k-anonimnost i kontrola pristupa treba primijeniti zajedno, a osjetljivi slobodni tekst također treba očistiti.
14. Koji je primarni razlog za održavanje sveobuhvatne kontrole 'ljudi-u-petlji' u biomedicinskom AI toku rada?
- A) Ljudska kontrola samo stvara sporost i treba je ukloniti
- B) Ako je rezultat pouzdanosti modela visok, ljudska validacija nije potrebna
- C) Ne postoji nikakav praktični razlog osim pravne obaveze
- D) AI je podložan pristrasnosti i greškama; Odluke o sigurnosti pacijenata i odgovornost trebaju ostati na kvalifikovanom specijalistu ✔
Opis: Vještačka inteligencija generiše, postavlja prioritete i sastavlja hipoteze; ali obrasci koje uči iz podataka mogu biti nepotpuni, pristrani ili izvan konteksta. Imperativ je da odluke koje se tiču sigurnosti pacijenata ostaju uz odobrenje ovlaštenog ljekara i inženjera, kako bi se otkrile greške i kako bi se odgovornost zadržala na pravom mjestu; AI ne zamjenjuje ovo odobrenje ni u jednoj fazi.