Gevinster:
- Evne til at kombinere billed-, signal-, data- og reguleringsstykker i en enkelt ansvarlig biomedicinsk AI-workflow
- Evne til at anvende human-in-the-loop auditering, sporbarhed og post-distribution overvågningsprincipper
- Evne til at opretholde grænsen på alle stadier, hvor kunstig intelligens ikke erstatter lægers og ingeniørers godkendelse
Modul eksamen
1. Hvilket af følgende er det grundlæggende princip, der bestemmer risikoen for et AI-output i biomedicinsk teknik?
- A) Risikoen for output er lig med den skade, det ville forårsage for patienten, hvis det var forkert; valideringsskalaer i overensstemmelse hermed ✔
- B) AI-output er generelt sikkert, fordi det er skrevet flydende og teknisk
- C) Validering er unødvendig, når den mest aktuelle model anvendes
- D) Hvis outputtet refererer til en manual, kræves ingen yderligere kontrol
Forklaring: Risikoen for et output er lig med skaden for patienten, hvis det output er forkert. Mens en mindre fejl i et litteraturresumé er lav risiko, truer en fejl ved indtastning af en billeddetektering eller klinisk beslutning direkte patientsikkerheden; Derfor skalerer verifikationsintensiteten med potentiel skade, og enhver beslutning, der involverer patientsikkerhed, er afhængig af lægegodkendelse.
2. Hvilken rolle spiller en AI-understøttet detektionsmodel i klinisk brug i radiologi?
- A) Godkend automatisk radiologens rapport og eliminer arbejdsbyrden
- B) Afslutning af lavprioriterede sager uden at gå til radiolog
- C) Hvis modelsandsynligheden er høj, stilles en diagnose uden yderligere undersøgelse
- D) At være et støtteværktøj, der gør opmærksom på fundet og prioriterer det, men ansvaret for diagnosen forbliver hos radiologen ✔
Beskrivelse: Image AI er et beslutningsstøtteværktøj: tiltrækker, prioriterer, måler og markerer; dog forbliver det diagnostiske ansvar hos radiologen. Modeloutputtet er ikke en erstatning for radiologens beslutning, det er kun et input. Outputtet bruges i forbindelse med uafhængig klinisk evaluering, da falske positive og falske negative altid er mulige.
3. Hvad er det mest almindelige problem, når en AI-models ydeevne overføres fra et laboratorium til et andet inden for digital patologi?
- A) Modellen fungerer meget hurtigt
- B) Diasfilerne er for små
- C) Domæneskift forårsaget af farve- og scanningsforskelle ✔
- D) Patologer ønsker slet ikke at bruge modellen
Beskrivelse: Farvningsprotokol, scannermærke og snittykkelse varierer fra laboratorium til laboratorium; Hvis modellen har lært baseret på billedstatistikken fra et laboratorium, vil dens ydeevne falde i et andet laboratorium. Dette fænomen kaldes domæneskift og er den mest almindelige årsag til fejl i digital patologi; Det er derfor, ekstern validering og farvenormalisering er kritisk.
4. Hvad skal være ingeniørens første bekræftelsesrefleks, når en EKG-klassificeringsmodel mærker 'atrieflimren'?
- A) Skrivning af etiketten direkte i patientjournalen som diagnose
- B) Tjek råsignalet, artefakter og fysiologisk plausibilitet og overlad beslutningen til lægen ✔
- C) Hvis modellens konfidensscore er høj, er der ikke behov for anden kontrol.
- D) Henvisning af patienten til lægemiddelbehandling
Forklaring: Outputtet bør først testes for fysiologisk plausibilitet og signalkvalitet: baseline-drift, muskelartefakter eller elektrodeafslapning i optagelsen kan efterligne rytmen. Det er forkert at stole på etiketten uden at se på råsignalet og R-R-intervaller; Den endelige rytmediagnose tilhører lægen. Modellen producerer et foreløbigt signal, den tager ikke en beslutning.
5. Hvad er nøgleegenskaben ved AI-behandling af EEG-signaler, der gør verifikation særligt vanskelig?
- A) Lavt signal-til-støj-forhold og høj artefakt/variabilitet ✔
- B) EEG-signalet er meget høj amplitude og støjfrit
- C) Optagelse af EEG fra kun én kanal
- D) EEG-data er aldrig digitale
Forklaring: EEG er et signal med meget lav amplitude (mikrovoltområde) og er let forurenet af artefakter såsom øjenblink, muskelbevægelser, elektrode- og netværksstøj; Derudover er variationen mellem individer og optagelser høj. Dette lave signal-til-støj-forhold gør, at modeloutput er skrøbelige og nødvendiggør validering af ekspert neurofysiolog.
6. Hvad er den vigtigste grænse, når man arbejder med pulsdata fra en forbrugerbærbar enhed?
- A) Enhedens batteri løber hurtigt tør
- B) Lagring af data i skyen
- C) Enheden er ofte ikke medicinsk certificeret, og signalet er modtageligt for artefakter/bias ✔
- D) Enheden er for dyr
Offentliggørelse: De fleste bærbare enheder til forbrugere er ikke certificeret som medicinsk udstyr; PPG-signalet (fotoplethysmografi) påvirkes af bevægelsesartefakter, og faktorer som mørk hudfarve og tatoveringer kan reducere nøjagtigheden. Disse data er værdifulde for tilbøjelighed/bevidsthed, men valideret klinisk måling og lægeevaluering er påkrævet for diagnostisk beslutning.
7. Hvad betyder 'temporel lækage', når man bygger en prædiktiv model med data om elektroniske patientjournaler (EPJ)?
- A) Krypteret lagring af data
- B) Lækage af fremtidig information til funktioner, der endnu ikke eksisterer på forudsigelsestidspunktet ✔
- C) Dataene er for gamle
- D) Træning af modellen for langsomt
Forklaring: Temporal lækage er interferens mellem træningsfunktioner og information, der endnu ikke er tilgængelig på forudsigelsestidspunktet (fremtid); for eksempel ved at bruge udskrivningsdiagnose til at forudsige risiko ved indlæggelse. Dette fører til høj ydeevne i laboratoriet, men nedbrudt ydeevne ved reel klinisk brug og er en af de mest lumske mangler ved kliniske datamodeller.
8. Hvilket af følgende bliver obligatoriske, når en software i sig selv beskrives som 'medicinsk enhedssoftware' (SaMD)?
- A) Bare at arbejde hurtigt er nok
- B) Kræver ingen dokumentation
- C) Kun en smuk grænseflade er påkrævet
- D) Designkontrol, risikostyring, verifikation/validering og lovoverholdelse bliver obligatoriske ✔
Beskrivelse: SaMD (Software as a Medical Device) er software, der fungerer til diagnosticering, behandling eller overvågningsformål og er ikke afhængig af nogen hardware. I dette tilfælde er designkontrol, risikostyring (ISO 14971), verifikation/validering og lovoverholdelse obligatoriske; Softwaren kan ikke behandles som 'bare software', fordi dens fejl direkte påvirker patientsikkerheden.
9. Hvad er den mest kritiske risiko, når du beder AI om en MDR-klausul (Medical Device Directive) eller et standardnummer?
- A) Modellen producerer falske artikel-/standardreferencer og præsenterer dem sikkert ✔
- B) Modellen giver svaret for kort
- C) Modellen svarer på engelsk
- D) Modellen reagerer for langsomt
Forklaring: Sprogmodeller kan med sikkerhed producere ikke-eksisterende varenumre, forkerte standardversioner og opdigtede referencer (hallucination). Ved lovoverholdelse fører en forkert stofreference til alvorlig overholdelsessvigt; så hver tilskrivning skal verificeres uafhængigt af den officielle tekst, AI bør kun bruges til navigation/udkast.
10. Hvilken kategori falder sundhedsdata ind under KVKK, og hvad betyder det?
- A) Almindelige personoplysninger; kan behandles frit
- B) Det er ikke personlige data; der er ingen begrænsning
- C) Særlige kategorier af personoplysninger; Behandlet med strengere betingelser og beskyttelse ✔
- D) Kun forretningshemmeligheder; intet privatliv påkrævet
Forklaring: Sundhedsdata betragtes som 'særlige persondata' i KVKK; Behandlingen afhænger som udgangspunkt af udtrykkeligt samtykke eller undtagelser fastsat ved lov og kræver strengere beskyttelsesforanstaltninger. Derfor kan patientdata ikke indtastes i ukontrollerede værktøjer; Anonymisering, adgangsbegrænsning og databehandleraftaler er obligatoriske.
11. Hvad betyder 'kalibrering' i en klinisk AI-model, og hvorfor er det vigtigt?
- A) Hvor hurtigt modellen kører
- B) Hvor mange parametre har modellen?
- C) Interfacefarve på modellen
- D) Kompatibilitet af sandsynligheder givet af modellen med de faktiske hændelsesfrekvenser ✔
Forklaring: Kalibrering er tilpasningen af de sandsynligheder, som modellen giver til de faktiske frekvenser: Hændelsen skulle faktisk forekomme hos omkring 20 % af patienterne, for hvem der står '20% risiko'. Da beslutninger i klinikken træffes ud fra sandsynlighedstærskler, vil en dårligt kalibreret model føre til forkerte tærskelbeslutninger, selvom den rangerer korrekt; derfor skal kalibrering såvel som diskrimination (AUC) verificeres.
12. Hvorfor skal 'undergruppeydelse' kontrolleres særskilt i billed-, signal- eller kliniske datamodeller?
- A) Bare total nøjagtighed er altid nok
- B) Fordi undergrupper påvirker modelhastigheden
- C) Generisk metrik kan skjule underpræstation og skævhed i specifikke patientgrupper ✔
- D) Undergruppeanalyse er kun nødvendig for markedsføring
Forklaring: Selvom en model i gennemsnit kan se godt ud, kan den præstere betydeligt dårligere i visse undergrupper (alder, køn, hudfarve, enhedstype, hospital); Den generelle metrik skjuler denne ulighed. I sundhedsvæsenet fører dette til systematiske skader i nogle patientgrupper; Derfor bør præstationer opdeles i undergrupper og rapporteres for retfærdighed.
13. Hvad er den bedste tilgang mod risikoen for 'genidentifikation' ved arbejde med patientdata?
- A) Blot at slette navnet er under alle omstændigheder tilstrækkeligt.
- B) Generaliser indirekte identifikatorer såvel som direkte identifikatorer og begræns adgangen ✔
- C) Hvis dataene tilhører et lille antal personer, kræves ingen forholdsregler
- D) Bare at ændre filnavnet i stedet for kryptering
Beskrivelse: Selv navnslettede data kan genidentificeres med sjældne kombinationer af diagnose, fødselsdato, postnummer og dato. Så det er ikke nok kun at udtrække direkte identifikatorer; Teknikker som datoskift, generalisering, k-anonymitet og adgangskontrol bør anvendes sammen, og følsom fritekst bør også renses.
14. Hvad er den primære årsag til at opretholde ende-til-ende 'menneske-i-løkken'-kontrol i den biomedicinske AI-arbejdsgang?
- A) Menneskelig kontrol skaber kun langsomhed og bør fjernes
- B) Hvis modellens konfidensscore er høj, er menneskelig validering unødvendig
- C) Der er ingen anden praktisk grund end juridisk forpligtelse
- D) AI er underlagt bias og fejl; Patientsikkerhedsbeslutninger og -ansvar bør forblive hos den kvalificerede specialist ✔
Beskrivelse: Kunstig intelligens genererer, prioriterer og udarbejder hypoteser; men de mønstre, den lærer fra dataene, kan være ufuldstændige, forudindtaget eller ude af kontekst. Det er bydende nødvendigt, at beslutninger vedrørende patientsikkerhed forbliver med godkendelse af den autoriserede læge og ingeniør, både for at fange fejl og for at holde ansvaret på det rigtige sted; AI erstatter ikke denne godkendelse på noget tidspunkt.