Zyski:
- Możliwość łączenia elementów obrazu, sygnału, danych i regulacji w jeden odpowiedzialny proces biomedycznej sztucznej inteligencji
- Umiejętność stosowania zasad audytu typu „człowiek w pętli”, identyfikowalności i monitorowania po dystrybucji
- Możliwość utrzymania limitu na każdym etapie, gdzie sztuczna inteligencja nie zastąpi zgody lekarzy i inżynierów
Egzamin modułowy
1. Która z poniższych zasad jest podstawową zasadą określającą ryzyko powstania sztucznej inteligencji w inżynierii biomedycznej?
- A) Ryzyko wyniku jest równe szkodzie, jaką wyrządziłoby pacjentowi, gdyby było nieprawidłowe; walidacja jest odpowiednio skalowana ✔
- B) Wyniki AI są ogólnie bezpieczne, ponieważ są napisane płynnie i technicznie
- C) Walidacja nie jest konieczna, jeśli używany jest najbardziej aktualny model
- D) Jeżeli dane wyjściowe odnoszą się do instrukcji, nie są wymagane żadne dodatkowe kontrole
Wyjaśnienie: Ryzyko wyniku jest równe szkodzie pacjenta, jeśli wynik jest nieprawidłowy. Chociaż drobny błąd w podsumowaniu literatury wiąże się z niskim ryzykiem, błąd podczas wykrywania obrazu lub decyzji klinicznej bezpośrednio zagraża bezpieczeństwu pacjenta; Dlatego intensywność weryfikacji wiąże się z potencjalną szkodliwością, a każda decyzja dotycząca bezpieczeństwa pacjenta zależy od zgody lekarza.
2. Jaka jest właściwa rola modelu detekcji wspieranego przez sztuczną inteligencję w zastosowaniu klinicznym w radiologii?
- A) Automatycznie zatwierdź raport radiologa i wyeliminuj obciążenie pracą
- B) Zamykanie przypadków o niskim priorytecie bez wizyty u radiologa
- C) Jeżeli prawdopodobieństwo modelu jest duże, postawić diagnozę bez dodatkowych badań
- D) Bycie narzędziem wsparcia, które zwraca uwagę na wynik i nadaje mu priorytet, ale odpowiedzialność za diagnozę pozostaje po stronie radiologa ✔
Opis: Image AI to narzędzie wspomagające podejmowanie decyzji: przyciąga, ustala priorytety, mierzy i flaguje; jednakże odpowiedzialność diagnostyczna pozostaje po stronie radiologa. Dane wyjściowe modelu nie zastępują decyzji radiologa, są jedynie danymi wejściowymi. Wyniki wykorzystuje się w połączeniu z niezależną oceną kliniczną, ponieważ zawsze możliwe są wyniki fałszywie dodatnie i fałszywie ujemne.
3. Jaki jest najczęstszy problem podczas przenoszenia wydajności modelu AI z jednego laboratorium do drugiego w patologii cyfrowej?
- A) Model działa bardzo szybko
- B) Pliki slajdów są za małe
- C) Przesunięcie domeny spowodowane różnicami w barwieniu i skanowaniu ✔
- D) Patolodzy w ogóle nie chcą używać tego modelu
Opis: Protokół barwienia, marka skanera i grubość skrawków różnią się w zależności od laboratorium; Jeśli model nauczył się na podstawie statystyk obrazu z jednego laboratorium, jego wydajność spadnie w innym laboratorium. Zjawisko to nazywa się przesunięciem domeny i jest najczęstszą przyczyną niepowodzeń w patologii cyfrowej; Dlatego tak ważna jest zewnętrzna weryfikacja i normalizacja kolorów.
4. Jaki powinien być pierwszy odruch potwierdzający inżyniera, gdy model klasyfikacji EKG określa mianem „migotania przedsionków”?
- A) Wpisanie etykiety bezpośrednio do akt pacjenta w ramach diagnozy
- B) Sprawdź surowy sygnał, artefakty i wiarygodność fizjologiczną i pozostaw decyzję lekarzowi ✔
- C) Jeżeli poziom ufności modelu jest wysoki, nie ma potrzeby stosowania żadnej innej kontroli.
- D) Kierowanie pacjenta na leczenie farmakologiczne
Wyjaśnienie: Sygnał wyjściowy należy najpierw sprawdzić pod kątem wiarygodności fizjologicznej i jakości sygnału: przesunięcie linii bazowej, artefakt mięśniowy lub rozluźnienie elektrod w nagraniu mogą imitować rytm. Błędem jest ufać etykiecie bez sprawdzenia surowego sygnału i odstępów R-R; Ostateczna diagnoza rytmu należy do lekarza. Model daje wstępny sygnał, nie podejmuje decyzji.
5. Jaka jest kluczowa cecha przetwarzania sygnałów EEG przez sztuczną inteligencję, która szczególnie utrudnia weryfikację?
- A) Niski stosunek sygnału do szumu i wysoki poziom artefaktów/zmienności ✔
- B) Sygnał EEG ma bardzo dużą amplitudę i jest bezszumowy
- C) Rejestracja EEG tylko z jednego kanału
- D) Dane EEG nigdy nie są cyfrowe
Objaśnienie: EEG jest sygnałem o bardzo niskiej amplitudzie (zakres mikrowoltów) i łatwo ulega zanieczyszczeniu artefaktami, takimi jak mruganie oczami, ruchy mięśni, szum elektrod i sieci; Ponadto zmienność między osobami i nagraniami jest duża. Ten niski stosunek sygnału do szumu powoduje, że dane wyjściowe modelu są delikatne i wymagają weryfikacji przez eksperta neurofizjologa.
6. Jakie jest najważniejsze ograniczenie podczas pracy z danymi dotyczącymi tętna z konsumenckiego urządzenia do noszenia?
- A) Bateria urządzenia szybko się rozładowuje
- B) Przechowywanie danych w chmurze
- C) Urządzenie często nie posiada certyfikatu medycznego, a sygnał jest podatny na artefakty/zakłócenia ✔
- D) Urządzenie jest zbyt drogie
Ujawnienie: Większość konsumenckich urządzeń do noszenia nie ma certyfikatu wyrobów medycznych; Na sygnał PPG (fotopletyzmografii) wpływają artefakty ruchowe, a czynniki takie jak ciemny karnacja i tatuaże mogą zmniejszać dokładność. Dane te są cenne dla skłonności/świadomości, ale do podjęcia decyzji diagnostycznej wymagane są potwierdzone pomiary kliniczne i ocena lekarza.
7. Co oznacza „przeciek czasowy” przy budowaniu modelu predykcyjnego na podstawie danych z elektronicznej karty zdrowia (EHR)?
- A) Szyfrowane przechowywanie danych
- B) Wyciek przyszłych informacji do cech, które jeszcze nie istnieją w momencie prognozowania ✔
- C) Dane są za stare
- D) Zbyt wolne trenowanie modelu
Wyjaśnienie: Wyciek czasowy to interferencja cech uczących z informacjami, które nie są jeszcze dostępne w momencie prognozowania (przyszłość); na przykład wykorzystanie diagnozy wypisu do przewidywania ryzyka przy przyjęciu. Prowadzi to do wysokiej wydajności w laboratorium, ale pogarszającej się w rzeczywistym zastosowaniu klinicznym i jest jedną z najbardziej podstępnych wad modeli danych klinicznych.
8. Które z poniższych elementów staje się obowiązkowe, gdy samo oprogramowanie jest określane jako „oprogramowanie urządzenia medycznego” (SaMD)?
- A) Wystarczy działać szybko
- B) Nie wymaga żadnej dokumentacji
- C) Wymagany jest tylko piękny interfejs
- D) Kontrola projektu, zarządzanie ryzykiem, weryfikacja/walidacja i zgodność z przepisami stają się obowiązkowe ✔
Opis: SaMD (Oprogramowanie jako urządzenie medyczne) to oprogramowanie, które działa w celach diagnostycznych, leczniczych lub monitorujących i nie jest zależne od żadnego sprzętu. W tym przypadku obowiązkowe są kontrole projektu, zarządzanie ryzykiem (ISO 14971), weryfikacja/walidacja i zgodność z przepisami; Oprogramowanie nie może być traktowane jako „tylko oprogramowanie”, ponieważ jego awaria bezpośrednio wpływa na bezpieczeństwo pacjenta.
9. Jakie jest najbardziej krytyczne ryzyko, gdy zwracasz się do sztucznej inteligencji o klauzulę MDR (dyrektywę dotyczącą wyrobów medycznych) lub numer standardu?
- A) Modelka produkuje fałszywe odniesienia do artykułów/norm i bezpiecznie je prezentuje ✔
- B) Model podaje odpowiedź zbyt krótką
- C) Modelka odpowiada w języku angielskim
- D) Model reaguje zbyt wolno
Wyjaśnienie: Modele językowe mogą z pewnością generować nieistniejące numery pozycji, nieprawidłowe wersje standardowe i zmyślone odniesienia (halucynacje). W przypadku zgodności z przepisami nieprawidłowe odniesienie do substancji prowadzi do poważnego naruszenia zgodności; dlatego każde przypisanie powinno być weryfikowane niezależnie od oficjalnego tekstu, AI powinna być używana wyłącznie do nawigacji/kreślenia.
10. Do jakiej kategorii należą dane dotyczące zdrowia w ramach KVKK i co to oznacza?
- A) Zwykłe dane osobowe; można dowolnie przetwarzać
- B) To nie są dane osobowe; nie ma żadnych ograniczeń
- C) Szczególne kategorie danych osobowych; Przetwarzane z zachowaniem bardziej rygorystycznych warunków i zabezpieczeń ✔
- D) Tylko tajemnica handlowa; nie wymaga prywatności
Wyjaśnienie: Dane dotyczące zdrowia są w KVKK uważane za „specjalne dane osobowe”; Co do zasady przetwarzanie opiera się na wyraźnej zgodzie lub wyjątkach przewidzianych przez prawo i wymaga surowszych środków ochrony. Dlatego też dane pacjenta nie mogą być wprowadzane do niekontrolowanych narzędzi; Anonimizacja, ograniczenia dostępu i umowy dotyczące przetwarzania danych są obowiązkowe.
11. Co oznacza „kalibracja” w modelu klinicznym AI i dlaczego jest ona ważna?
- A) Jak szybko porusza się model
- B) Ile parametrów ma model?
- C) Kolor interfejsu modelu
- D) Zgodność prawdopodobieństw podanych w modelu z rzeczywistymi częstotliwościami zdarzeń ✔
Wyjaśnienie: Kalibracja polega na dopasowaniu prawdopodobieństw podanych przez model do rzeczywistych częstotliwości: zdarzenie powinno faktycznie wystąpić u około 20% pacjentów, dla których określono „ryzyko 20%. Ponieważ decyzje w klinice podejmowane są w oparciu o progi prawdopodobieństwa, źle skalibrowany model będzie prowadził do błędnych decyzji dotyczących progów, nawet jeśli będzie prawidłowo sklasyfikowany; dlatego należy zweryfikować kalibrację i dyskryminację (AUC).
12. Dlaczego należy oddzielnie sprawdzać „wydajność podgrupy” w modelach obrazu, sygnału lub danych klinicznych?
- A) Zawsze wystarczy całkowita dokładność
- B) Ponieważ podgrupy wpływają na prędkość modelu
- C) Wskaźnik ogólny może ukryć słabe wyniki i stronniczość w określonych grupach pacjentów ✔
- D) Analiza podgrup jest konieczna jedynie w celach marketingowych
Wyjaśnienie: chociaż model może wyglądać przeciętnie dobrze, w niektórych podgrupach (wiek, płeć, odcień skóry, typ urządzenia, szpital) może wypadać znacznie gorzej; Ogólna metryka ukrywa tę nierówność. W opiece zdrowotnej prowadzi to do systematycznych szkód w niektórych grupach pacjentów; Dlatego też wyniki należy podzielić na podgrupy i przedstawić w sposób rzetelny.
13. Jakie jest najlepsze podejście do zapobiegania ryzyku „ponownej identyfikacji” podczas pracy z danymi pacjenta?
- A) Samo usunięcie nazwy wystarczy w każdych okolicznościach.
- B) Uogólniaj identyfikatory pośrednie i bezpośrednie oraz ograniczaj dostęp ✔
- C) Jeżeli dane należą do niewielkiej liczby osób, nie są wymagane żadne środki ostrożności
- D) Po prostu zmiana nazwy pliku zamiast szyfrowania
Opis: Nawet dane usunięte po nazwisku można ponownie zidentyfikować na podstawie rzadkich kombinacji diagnozy, daty urodzenia, kodu pocztowego i daty. Zatem nie wystarczy po prostu wyodrębnić bezpośrednie identyfikatory; Techniki takie jak przesuwanie daty, uogólnianie, k-anonimowość i kontrola dostępu należy stosować łącznie, a także należy oczyścić wrażliwy tekst.
14. Jaki jest główny powód utrzymywania kompleksowej kontroli typu „człowiek w pętli” w przepływie pracy w zakresie biomedycznej sztucznej inteligencji?
- A) Kontrola ludzka powoduje jedynie spowolnienie i powinna zostać usunięta
- B) Jeśli poziom pewności modelu jest wysoki, weryfikacja przez człowieka nie jest konieczna
- C) Nie ma żadnego praktycznego powodu innego niż obowiązek prawny
- D) sztuczna inteligencja podlega stronniczości i błędom; Decyzje i odpowiedzialność dotyczące bezpieczeństwa pacjenta powinny należeć do wykwalifikowanego specjalisty ✔
Opis: Sztuczna inteligencja generuje, ustala priorytety i formułuje hipotezy; ale wzorce, których uczy się na podstawie danych, mogą być niekompletne, stronnicze lub wyrwane z kontekstu. Konieczne jest, aby decyzje dotyczące bezpieczeństwa pacjenta pozostawały za zgodą uprawnionego lekarza i inżyniera, zarówno w celu wykrycia błędów, jak i utrzymania odpowiedzialności we właściwym miejscu; AI na żadnym etapie nie zastępuje tej zgody.