zisky:
- Schopnosť kombinovať časti obrazu, signálu, údajov a regulácie do jedného zodpovedného pracovného postupu biomedicínskej AI
- Schopnosť aplikovať princípy auditu, sledovateľnosti a monitorovania po distribúcii
- Schopnosť udržať hranicu v každej fáze, kde umelá inteligencia nenahrádza súhlas lekárov a inžinierov
Modulová skúška
1. Ktorý z nasledujúcich je základný princíp, ktorý určuje riziko výstupu AI v biomedicínskom inžinierstve?
- A) Riziko výstupu sa rovná škode, ktorú by spôsobil pacientovi, ak by bol nesprávny; podľa toho ✔
- B) Výstup AI je vo všeobecnosti bezpečný, pretože je napísaný plynule a technicky
- C) Overenie nie je potrebné, ak sa používa najaktuálnejší model
- D) Ak sa výstup odvoláva na príručku, nie sú potrebné žiadne ďalšie kontroly
Vysvetlenie: Riziko výstupu sa rovná poškodeniu pacienta, ak je výstup nesprávny. Zatiaľ čo malá chyba v súhrne literatúry predstavuje nízke riziko, chyba pri zadávaní detekcie obrazu alebo klinického rozhodnutia priamo ohrozuje bezpečnosť pacienta; Intenzita overovania sa preto mení s potenciálnym poškodením a každé rozhodnutie týkajúce sa bezpečnosti pacienta závisí od súhlasu lekára.
2. Aká je správna úloha detekčného modelu podporovaného AI v klinickom použití v rádiológii?
- A) Automaticky schváliť správu rádiológa a odstrániť pracovnú záťaž
- B) Uzavretie prípadov s nízkou prioritou bez návštevy rádiológa
- C) Ak je pravdepodobnosť modelu vysoká, vykonajte diagnózu bez ďalšieho vyšetrenia
- D) Byť podporným nástrojom, ktorý upozorňuje na nález a uprednostňuje ho, ale zodpovednosť za diagnostiku zostáva na rádiológovi ✔
Popis: Image AI je nástroj na podporu rozhodovania: priťahuje, uprednostňuje, meria a označuje; avšak diagnostická zodpovednosť zostáva na rádiológovi. Výstup modelu nie je náhradou za rozhodnutie rádiológa, je len vstupom. Výstup sa používa v spojení s nezávislým klinickým hodnotením, pretože falošne pozitívne a falošne negatívne výsledky sú vždy možné.
3. Aký je najčastejší problém pri prenose výkonu modelu AI z jedného laboratória do druhého v digitálnej patológii?
- A) Model funguje veľmi rýchlo
- B) Súbory snímok sú príliš malé
- C) Posun domény spôsobený rozdielmi vo farbení a skenovaní ✔
- D) Patológovia model vôbec nechcú použiť
Popis: Protokol farbenia, značka skenera a hrúbka rezu sa líšia od laboratória k laboratóriu; Ak sa model naučil na základe obrazových štatistík jedného laboratória, jeho výkon sa v inom laboratóriu zníži. Tento jav sa nazýva posun domény a je najčastejšou príčinou zlyhania digitálnej patológie; Preto je externá validácia a normalizácia farieb kritická.
4. Aký by mal byť inžinierov prvý potvrdzovací reflex, keď klasifikačný model EKG označí „fibriláciu predsiení“?
- A) Zápis štítku priamo do súboru pacienta ako diagnózy
- B) Skontrolujte nespracovaný signál, artefakty a fyziologickú vierohodnosť a nechajte rozhodnutie na lekárovi ✔
- C) Ak je skóre spoľahlivosti modelu vysoké, nie je potrebná žiadna iná kontrola.
- D) Nasmerovanie pacienta na medikamentóznu liečbu
Vysvetlenie: Výstup by sa mal najskôr otestovať na fyziologickú vierohodnosť a kvalitu signálu: drift základnej línie, svalový artefakt alebo relaxácia elektródy v zázname môžu napodobňovať rytmus. Je nesprávne dôverovať štítku bez toho, aby ste sa pozreli na nespracovaný signál a intervaly R-R; Konečná diagnóza rytmu patrí lekárovi. Model vydáva predbežný signál, nerozhoduje sa.
5. Aká je kľúčová vlastnosť spracovania EEG signálov AI, ktorá obzvlášť sťažuje overenie?
- A) Nízky pomer signálu k šumu a vysoký artefakt/variabilita ✔
- B) Signál EEG má veľmi vysokú amplitúdu a je bezšumový
- C) Záznam EEG len z jedného kanálu
- D) Údaje EEG nie sú nikdy digitálne
Vysvetlenie: EEG je signál s veľmi nízkou amplitúdou (rozsah mikrovoltov) a je ľahko kontaminovaný artefaktmi, ako je žmurkanie očí, pohyb svalov, šum elektródy a siete; Okrem toho je variabilita medzi jednotlivcami a nahrávkami vysoká. Tento nízky pomer signálu k šumu spôsobuje, že výstupy modelu sú krehké a vyžaduje si expertné overenie neurofyziológom.
6. Aký je najdôležitejší limit pri práci s údajmi o tepovej frekvencii zo spotrebiteľského nositeľného zariadenia?
- A) Batéria zariadenia sa rýchlo vybije
- B) Ukladanie dát v cloude
- C) Zariadenie často nie je medicínsky certifikované a signál je náchylný na artefakty/skreslenie ✔
- D) Zariadenie je príliš drahé
Zverejnenie: Väčšina spotrebiteľských nositeľných zariadení nie je certifikovaná ako zdravotnícke pomôcky; Signál PPG (fotopletyzmografia) je ovplyvnený pohybovým artefaktom a faktory ako tmavý odtieň pokožky a tetovanie môžu znížiť presnosť. Tieto údaje sú cenné pre náchylnosť/uvedomenie, ale pre diagnostické rozhodnutie sú potrebné validované klinické merania a hodnotenie lekárom.
7. Čo znamená „dočasný únik“ pri vytváraní prediktívneho modelu s údajmi z elektronických zdravotných záznamov (EHR)?
- A) Šifrované ukladanie údajov
- B) Únik budúcich informácií do funkcií, ktoré v čase predpovede ešte neexistujú ✔
- C) Údaje sú príliš staré
- D) Tréning modelu príliš pomaly
Vysvetlenie: Dočasný únik je interferencia tréningových funkcií s informáciami, ktoré ešte nie sú dostupné v čase predpovede (budúcnosti); napríklad pomocou diagnózy prepustenia na predpovedanie rizika pri prijatí. To vedie k vysokému výkonu v laboratóriu, ale v skutočnom klinickom použití k neúspechu a je to jeden z najzákernejších nedostatkov modelov klinických údajov.
8. Ktorá z nasledujúcich možností je povinná, keď je samotný softvér označený ako „softvér zdravotníckych pomôcok“ (SaMD)?
- A) Stačí pracovať rýchlo
- B) Nevyžaduje žiadnu dokumentáciu
- C) Vyžaduje sa iba krásne rozhranie
- D) Kontrola návrhu, riadenie rizík, overovanie/validácia a súlad s predpismi sa stávajú povinnými ✔
Popis: SaMD (Software as a Medical Device) je softvér, ktorý slúži na diagnostiku, liečbu alebo monitorovanie a nezávisí od žiadneho hardvéru. V tomto prípade sú kontroly návrhu, riadenie rizík (ISO 14971), overovanie/validácia a súlad s predpismi povinné; Softvér nemožno považovať za „len softvér“, pretože jeho zlyhanie priamo ovplyvňuje bezpečnosť pacienta.
9. Aké je najkritickejšie riziko, keď požiadate AI o doložku MDR (Medical Device Directive) alebo štandardné číslo?
- A) Model vytvára falošný článok/štandardné referencie a prezentuje ich bezpečne ✔
- B) Model dáva odpoveď príliš krátko
- C) Modelka odpovedá v angličtine
- D) Model reaguje príliš pomaly
Vysvetlenie: Jazykové modely môžu s istotou produkovať neexistujúce čísla položiek, nesprávne štandardné verzie a vymyslené odkazy (halucinácie). Pri dodržiavaní predpisov vedie nesprávny odkaz na látku k vážnemu zlyhaniu pri dodržiavaní predpisov; takže každé priradenie by sa malo overiť nezávisle od oficiálneho textu, AI by sa mala používať iba na navigáciu/návrh.
10. Do akej kategórie patria zdravotné údaje v rámci KVKK a čo to znamená?
- A) Bežné osobné údaje; možno voľne spracovať
- B) nejde o osobné údaje; neexistuje žiadne obmedzenie
- C) osobitné kategórie osobných údajov; Spracované za prísnejších podmienok a ochrany ✔
- D) len obchodné tajomstvo; nevyžaduje sa žiadne súkromie
Vysvetlenie: Zdravotné údaje sa v KVKK považujú za „osobitné osobné údaje“; Spracovanie spravidla závisí od výslovného súhlasu alebo výnimiek stanovených zákonom a vyžaduje si prísnejšie ochranné opatrenia. Údaje o pacientoch preto nemožno zadávať do nekontrolovaných nástrojov; Anonymizácia, obmedzenie prístupu a zmluvy o spracovaní údajov sú povinné.
11. Čo znamená „kalibrácia“ v klinickom modeli AI a prečo je dôležitá?
- A) Ako rýchlo model beží
- B) Koľko parametrov má model?
- C) Farba rozhrania modelu
- D) Kompatibilita pravdepodobností daných modelom so skutočnými frekvenciami udalostí ✔
Vysvetlenie: Kalibrácia je prispôsobenie pravdepodobností daným modelom skutočným frekvenciám: udalosť by sa mala skutočne vyskytnúť u približne 20 % pacientov, u ktorých sa uvádza „20 % riziko“. Keďže rozhodnutia na klinike sa robia na základe prahových hodnôt pravdepodobnosti, zle kalibrovaný model povedie k nesprávnym rozhodnutiam o prahových hodnotách, aj keď sa zoradí správne; preto je potrebné overiť kalibráciu aj diskrimináciu (AUC).
12. Prečo by sa mal „výkon podskupiny“ samostatne kontrolovať v modeloch obrazu, signálu alebo klinických údajov?
- A) Vždy stačí úplná presnosť
- B) Pretože podskupiny ovplyvňujú rýchlosť modelu
- C) Všeobecná metrika môže skrývať nedostatočný výkon a zaujatosť v konkrétnych skupinách pacientov ✔
- D) Analýza podskupín je potrebná len pre marketing
Vysvetlenie: Aj keď model môže v priemere vyzerať dobre, v určitých podskupinách (vek, pohlavie, tón pleti, typ zariadenia, nemocnica) môže fungovať výrazne horšie; Všeobecná metrika túto nerovnosť skrýva. V zdravotníctve to vedie k systematickému poškodzovaniu niektorých skupín pacientov; Výkonnosť by sa preto mala rozdeliť do podskupín a vykázať z dôvodu spravodlivosti.
13. Aký je najlepší prístup proti riziku „opätovnej identifikácie“ pri práci s údajmi o pacientoch?
- A) Za každých okolností stačí vymazať meno.
- B) Zovšeobecniť nepriame identifikátory, ako aj priame identifikátory a obmedziť prístup ✔
- C) Ak údaje patria malému počtu ľudí, nie sú potrebné žiadne preventívne opatrenia
- D) Stačí zmeniť názov súboru namiesto šifrovania
Popis: Dokonca aj vymazané údaje môžu byť znovu identifikované pomocou zriedkavých kombinácií diagnózy, dátumu narodenia, PSČ a dátumu. Nestačí teda len extrahovať priame identifikátory; Techniky ako posun dátumu, zovšeobecňovanie, k-anonymita a kontrola prístupu by sa mali používať spoločne a mal by sa vyčistiť aj citlivý voľný text.
14. Aký je hlavný dôvod zachovania komplexnej kontroly „človek v slučke“ v pracovnom toku biomedicínskej AI?
- A) Ľudská kontrola vytvára len pomalosť a mala by sa odstrániť
- B) Ak je skóre spoľahlivosti modelu vysoké, ľudská validácia nie je potrebná
- C) Neexistuje žiadny praktický dôvod okrem zákonnej povinnosti
- D) AI podlieha zaujatosti a omylu; Rozhodnutia o bezpečnosti pacienta a zodpovednosť by mali zostať na kvalifikovanom špecialistovi ✔
Popis: Umelá inteligencia generuje, uprednostňuje a navrhuje hypotézy; ale vzory, ktoré sa z údajov dozvie, môžu byť neúplné, zaujaté alebo vytrhnuté z kontextu. Je nevyhnutné, aby rozhodnutia týkajúce sa bezpečnosti pacienta zostali so súhlasom oprávneného lekára a inžiniera, aby sa zachytili chyby a aby sa zodpovednosť zachovala na správnom mieste; AI nenahrádza toto schválenie v žiadnej fáze.