Guadagni:
- Capacità di combinare immagini, segnali, dati e elementi di regolazione in un unico flusso di lavoro di intelligenza artificiale biomedica responsabile
- Capacità di applicare i principi di auditing human-in-the-loop, tracciabilità e monitoraggio post-distribuzione
- Capacità di mantenere in ogni fase il limite in cui l’intelligenza artificiale non sostituisce l’approvazione di medici e ingegneri
Esame del modulo
1. Quale dei seguenti è il principio di base che determina il rischio di un output dell'IA nell'ingegneria biomedica?
- A) Il rischio dell'output è pari al danno che causerebbe al paziente se fosse errato; la convalida si ridimensiona di conseguenza ✔
- B) L'output dell'intelligenza artificiale è generalmente sicuro perché è scritto in modo fluido e tecnico
- C) La convalida non è necessaria quando viene utilizzato il modello più recente
- D) Se l'output si riferisce ad un manuale non sono necessarie ulteriori verifiche
Spiegazione: il rischio di un output equivale al danno per il paziente se tale output non è corretto. Mentre un errore minore in un riassunto della letteratura è a basso rischio, un errore nel rilevamento di un’immagine o in una decisione clinica minaccia direttamente la sicurezza del paziente; Pertanto, l’intensità della verifica è proporzionale al danno potenziale e ogni decisione che coinvolge la sicurezza del paziente dipende dall’approvazione del medico.
2. Qual è il ruolo corretto di un modello di rilevamento supportato dall'intelligenza artificiale nell'uso clinico in radiologia?
- A) Approva automaticamente il referto del radiologo ed elimina il carico di lavoro
- B) Chiudere casi a bassa priorità senza consultare un radiologo
- C) Se la probabilità del modello è alta, fare una diagnosi senza ulteriori esami
- D) Essere uno strumento di supporto che attira l'attenzione sul reperto e gli dà priorità, ma la responsabilità della diagnosi resta del radiologo ✔
Descrizione: Image AI è uno strumento di supporto alle decisioni: attrae, dà priorità, misura e segnala; tuttavia, la responsabilità diagnostica rimane del radiologo. L'output del modello non sostituisce la decisione del radiologo, è solo un input. L'output viene utilizzato insieme a una valutazione clinica indipendente poiché sono sempre possibili falsi positivi e falsi negativi.
3. Qual è il problema più comune quando si trasferiscono le prestazioni di un modello di intelligenza artificiale da un laboratorio a un altro in patologia digitale?
- R) Il modello funziona molto velocemente
- B) I file di diapositive sono troppo piccoli
- C) Spostamento del dominio causato da differenze di colorazione e scansione ✔
- D) I patologi non vogliono affatto utilizzare il modello
Descrizione: Il protocollo di colorazione, la marca dello scanner e lo spessore della sezione variano da laboratorio a laboratorio; Se il modello ha appreso in base alle statistiche delle immagini di un laboratorio, le sue prestazioni diminuiranno in un altro laboratorio. Questo fenomeno è chiamato domain shift ed è la causa più comune di fallimento nella patologia digitale; Ecco perché la validazione esterna e la normalizzazione del colore sono fondamentali.
4. Quale dovrebbe essere il primo riflesso di conferma dell'ingegnere quando un modello di classificazione ECG etichetta la "fibrillazione atriale"?
- A) Scrivere l'etichetta direttamente nella cartella del paziente come diagnosi
- B) Controllare il segnale grezzo, gli artefatti e la plausibilità fisiologica e lasciare la decisione al medico ✔
- C) Se il punteggio di confidenza del modello è elevato, non è necessario alcun altro controllo.
- D) Indirizzare il paziente al trattamento farmacologico
Spiegazione: L'uscita deve essere prima testata per verificarne la plausibilità fisiologica e la qualità del segnale: la deriva della linea di base, l'artefatto muscolare o il rilassamento degli elettrodi nella registrazione possono imitare il ritmo. È sbagliato fidarsi dell'etichetta senza guardare al segnale grezzo e agli intervalli R-R; La diagnosi definitiva del ritmo spetta al medico. Il modello produce un segnale preliminare, non prende una decisione.
5. Qual è la caratteristica chiave dell'elaborazione AI dei segnali EEG che rende la verifica particolarmente difficile?
- A) Basso rapporto segnale/rumore ed elevato artefatto/variabilità ✔
- B) Il segnale EEG è di ampiezza molto elevata e privo di rumore
- C) Registrazione EEG da un solo canale
- D) I dati EEG non sono mai digitali
Spiegazione: l'EEG è un segnale di ampiezza molto bassa (intervallo microvolt) ed è facilmente contaminato da artefatti come ammiccamento degli occhi, movimento muscolare, rumore degli elettrodi e della rete; Inoltre, la variabilità tra individui e registrazioni è elevata. Questo basso rapporto segnale-rumore rende fragili gli output del modello e richiede la validazione di un neurofisiologo esperto.
6. Qual è il limite più importante quando si lavora con i dati sulla frequenza cardiaca provenienti da un dispositivo indossabile di consumo?
- R) La batteria del dispositivo si scarica rapidamente
- B) Archiviazione dei dati nel cloud
- C) Il dispositivo spesso non è certificato dal punto di vista medico e il segnale è suscettibile di artefatti/bias ✔
- D) Il dispositivo è troppo costoso
Informativa: la maggior parte dei dispositivi indossabili di consumo non sono certificati come dispositivi medici; Il segnale PPG (fotopletismografia) è influenzato da artefatti da movimento e fattori come la carnagione scura e i tatuaggi possono ridurre la precisione. Questi dati sono preziosi per la propensione/consapevolezza, ma per la decisione diagnostica sono necessarie misurazioni cliniche validate e valutazione medica.
7. Cosa significa "perdita temporale" quando si costruisce un modello predittivo con i dati della cartella clinica elettronica (EHR)?
- A) Archiviazione crittografata dei dati
- B) Perdita di informazioni future in caratteristiche che non esistono ancora al momento della previsione ✔
- C) I dati sono troppo vecchi
- D) Addestrare il modello troppo lentamente
Spiegazione: la perdita temporale è l'interferenza delle caratteristiche dell'allenamento con informazioni che non sono ancora disponibili al momento della previsione (futuro); ad esempio, utilizzando la diagnosi di dimissione per prevedere il rischio al momento del ricovero. Ciò porta a prestazioni elevate in laboratorio ma a prestazioni crollanti nell’uso clinico reale ed è uno dei difetti più insidiosi dei modelli di dati clinici.
8. Quale dei seguenti diventa obbligatorio quando un software stesso viene descritto come "software per dispositivi medici" (SaMD)?
- R) È sufficiente lavorare velocemente
- B) Non richiede alcuna documentazione
- C) È richiesta solo una bella interfaccia
- D) Il controllo della progettazione, la gestione del rischio, la verifica/validazione e la conformità normativa diventano obbligatori ✔
Descrizione: SaMD (Software as a Medical Device) è un software che funziona a scopo di diagnosi, trattamento o monitoraggio e non dipende da alcun hardware. In questo caso sono obbligatori i controlli di progettazione, la gestione del rischio (ISO 14971), la verifica/validazione e la conformità normativa; Il software non può essere trattato come “semplicemente software” perché il suo fallimento incide direttamente sulla sicurezza del paziente.
9. Qual è il rischio più critico quando si chiede ad AI una clausola MDR (Direttiva sui dispositivi medici) o un numero standard?
- A) Il modello produce articoli/riferimenti standard falsi e li presenta in modo sicuro ✔
- B) Il modello dà una risposta troppo breve
- C) La modella risponde in inglese
- D) Il modello risponde troppo lentamente
Spiegazione: i modelli linguistici possono produrre con sicurezza numeri di articolo inesistenti, versioni standard errate e riferimenti inventati (allucinazioni). Nella conformità normativa, un riferimento errato alla sostanza porta a un grave mancato rispetto della conformità; quindi ogni attribuzione dovrebbe essere verificata indipendentemente dal testo ufficiale, l'IA dovrebbe essere utilizzata solo per la navigazione/redazione.
10. In quale categoria rientrano i dati sanitari nell'ambito di applicazione della KVKK e cosa significa?
- A) Dati personali ordinari; possono essere trattati liberamente
- B) Non si tratta di dati personali; non c'è alcuna restrizione
- C) Categorie particolari di dati personali; Elaborato con condizioni e protezioni più rigorose ✔
- D) Solo segreto commerciale; nessuna privacy richiesta
Spiegazione: i dati sanitari sono considerati "dati personali speciali" nella KVKK; Di norma, il trattamento dipende dal consenso esplicito o dalle eccezioni previste dalla legge e richiede misure di protezione più rigorose. Pertanto i dati dei pazienti non possono essere inseriti in strumenti non controllati; L'anonimizzazione, la limitazione dell'accesso e gli accordi sul trattamento dei dati sono obbligatori.
11. Cosa significa "calibrazione" in un modello di IA clinica e perché è importante?
- A) Quanto velocemente corre il modello
- B) Quanti parametri ha il modello?
- C) Colore dell'interfaccia del modello
- D) Compatibilità delle probabilità fornite dal modello con le effettive frequenze degli eventi ✔
Spiegazione: la calibrazione è l'adattamento delle probabilità fornite dal modello alle frequenze effettive: l'evento dovrebbe effettivamente verificarsi in circa il 20% dei pazienti per i quali è indicato "20% di rischio". Poiché le decisioni in clinica vengono prese in base a soglie di probabilità, un modello scarsamente calibrato porterà a decisioni errate sulla soglia anche se si classifica correttamente; pertanto è necessario verificare la calibrazione e la discriminazione (AUC).
12. Perché le "prestazioni dei sottogruppi" dovrebbero essere controllate separatamente nei modelli di immagini, segnali o dati clinici?
- R) La precisione totale è sempre sufficiente
- B) Perché i sottogruppi influenzano la velocità del modello
- C) La metrica generica può nascondere sottoperformance e distorsioni in specifici gruppi di pazienti ✔
- D) L'analisi dei sottogruppi è necessaria solo per il marketing
Spiegazione: sebbene un modello possa avere un bell'aspetto in media, potrebbe avere prestazioni significativamente peggiori in alcuni sottogruppi (età, sesso, carnagione, tipo di dispositivo, ospedale); La metrica generale nasconde questa disuguaglianza. Nel settore sanitario, ciò porta a danni sistematici in alcuni gruppi di pazienti; Pertanto, la performance dovrebbe essere divisa in sottogruppi e riportata per equità.
13. Qual è l'approccio migliore contro il rischio di "reidentificazione" quando si lavora con i dati dei pazienti?
- R) In ogni caso è sufficiente la semplice cancellazione del nome.
- B) Generalizzare gli identificatori indiretti così come gli identificatori diretti e limitare l'accesso ✔
- C) Se i dati appartengono ad un numero ristretto di persone non sono necessarie precauzioni
- D) Basta cambiare il nome del file invece della crittografia
Descrizione: anche i dati cancellati dal nome possono essere identificati nuovamente con rare combinazioni di diagnosi, data di nascita, codice postale e data. Quindi non è sufficiente estrarre semplicemente gli identificatori diretti; Tecniche come lo spostamento della data, la generalizzazione, il k-anonimato e il controllo degli accessi dovrebbero essere applicate insieme e anche il testo libero sensibile dovrebbe essere ripulito.
14. Qual è la ragione principale per mantenere il controllo end-to-end "human-in-the-loop" nel flusso di lavoro dell'IA biomedica?
- R) Il controllo umano crea solo lentezza e va eliminato
- B) Se il punteggio di confidenza del modello è elevato, la validazione umana non è necessaria
- C) Non esiste alcuna ragione pratica oltre all'obbligo legale
- D) L’intelligenza artificiale è soggetta a pregiudizi ed errori; Le decisioni e la responsabilità relative alla sicurezza del paziente dovrebbero restare dello specialista qualificato ✔
Descrizione: L'intelligenza artificiale genera, dà priorità ed elabora ipotesi; ma i modelli che apprende dai dati potrebbero essere incompleti, distorti o fuori contesto. È fondamentale che le decisioni riguardanti la sicurezza del paziente rimangano sotto l'approvazione del medico e dell'ingegnere autorizzato, sia per individuare gli errori che per mantenere la responsabilità al posto giusto; L'intelligenza artificiale non sostituisce questa approvazione in nessuna fase.