Intégration de bout en bout, limites et exécution responsable — Intelligence artificielle en génie biomédical

Gains :

Capacité à combiner des éléments d’image, de signal, de données et de régulation en un seul flux de travail d’IA biomédicale responsable
Capacité à appliquer les principes d’audit humain, de traçabilité et de surveillance post-distribution
Capacité à maintenir la limite à chaque étape où l'intelligence artificielle ne remplace pas l'approbation des médecins et des ingénieurs

Examen de module

1. Lequel des principes suivants est le principe de base qui détermine le risque d’une production d’IA en génie biomédical ?

A) Le risque de la sortie est égal au préjudice qu'elle causerait au patient si elle était incorrecte ; la validation évolue en conséquence ✔
B) La sortie de l'IA est généralement sûre car elle est écrite de manière fluide et technique.
C) La validation n'est pas nécessaire lorsque le modèle le plus récent est utilisé
D) Si la sortie fait référence à un manuel, aucune vérification supplémentaire n'est requise

Explication : Le risque d'une sortie est égal au préjudice causé au patient si cette sortie est incorrecte. Même si une erreur mineure dans un résumé de la littérature présente un faible risque, une erreur lors de la détection d'une image ou d'une décision clinique menace directement la sécurité du patient ; Par conséquent, l’intensité de la vérification dépend du préjudice potentiel, et chaque décision concernant la sécurité des patients dépend de l’approbation du médecin.

2. Quel est le rôle approprié d’un modèle de détection basé sur l’IA dans une utilisation clinique en radiologie ?

A) Approuver automatiquement le rapport du radiologue et éliminer la charge de travail
B) Clôture des dossiers de faible priorité sans consulter un radiologue
C) Si la probabilité du modèle est élevée, poser un diagnostic sans examen complémentaire
D) Être un outil d'accompagnement qui attire l'attention sur le constat et le hiérarchise, mais la responsabilité du diagnostic reste celle du radiologue ✔

Description : Image AI est un outil d'aide à la décision : attire, priorise, mesure et signale ; cependant, la responsabilité du diagnostic incombe au radiologue. Le résultat du modèle ne remplace pas la décision du radiologue, il s'agit simplement d'un intrant. Le résultat est utilisé conjointement avec une évaluation clinique indépendante, car des faux positifs et des faux négatifs sont toujours possibles.

3. Quel est le problème le plus courant lors du portage des performances d’un modèle d’IA d’un laboratoire à un autre en pathologie numérique ?

A) Le modèle fonctionne très vite
B) Les fichiers de diapositives sont trop petits
C) Changement de domaine causé par les différences de teinture et de numérisation ✔
D) Les pathologistes ne veulent pas du tout utiliser le modèle

La description : Le protocole de coloration, la marque du scanner et l'épaisseur des coupes varient d'un laboratoire à l'autre ; Si le modèle a appris sur la base des statistiques d'images d'un laboratoire, ses performances diminueront dans un autre laboratoire. Ce phénomène est appelé changement de domaine et constitue la cause d’échec la plus fréquente en pathologie numérique ; C'est pourquoi la validation externe et la normalisation des couleurs sont essentielles.

4. Quel devrait être le premier réflexe de confirmation de l'ingénieur lorsqu'un modèle de classification ECG qualifie de « fibrillation auriculaire » ?

A) Inscription de l'étiquette directement dans le dossier patient en guise de diagnostic
B) Vérifier le signal brut, les artefacts et la plausibilité physiologique et laisser la décision au médecin ✔
C) Si le score de confiance du modèle est élevé, aucun autre contrôle n'est nécessaire.
D) Orienter le patient vers un traitement médicamenteux

Explication : La sortie doit d'abord être testée pour la plausibilité physiologique et la qualité du signal : une dérive de la ligne de base, un artefact musculaire ou une relaxation des électrodes dans l'enregistrement peuvent imiter le rythme. Il est faux de faire confiance à l’étiquette sans examiner le signal brut et les intervalles R-R ; Le diagnostic final du rythme appartient au médecin. Le modèle produit un signal préliminaire, il ne prend pas de décision.

5. Quelle est la caractéristique clé du traitement IA des signaux EEG qui rend la vérification particulièrement difficile ?

A) Faible rapport signal/bruit et artefact/variabilité élevé ✔
B) Le signal EEG est de très haute amplitude et sans bruit
C) Enregistrement EEG à partir d'un seul canal
D) Les données EEG ne sont jamais numériques

Explication : L'EEG est un signal de très faible amplitude (plage du microvolt) et est facilement contaminé par des artefacts tels que le clignement des yeux, les mouvements musculaires, le bruit des électrodes et du réseau ; De plus, la variabilité entre les individus et les enregistrements est élevée. Ce faible rapport signal/bruit rend les résultats du modèle fragiles et nécessite une validation par un neurophysiologiste expert.

6. Quelle est la limite la plus importante lorsque l’on travaille avec des données de fréquence cardiaque provenant d’un appareil portable grand public ?

A) La batterie de l'appareil s'épuise rapidement
B) Stockage des données dans le cloud
C) L'appareil n'est souvent pas certifié médicalement et le signal est susceptible d'être artefact/biais ✔
D) L'appareil est trop cher

Divulgation : La plupart des appareils portables grand public ne sont pas certifiés comme dispositifs médicaux ; Le signal PPG (photopléthysmographie) est affecté par les artefacts de mouvement et des facteurs tels que le teint foncé et les tatouages peuvent réduire la précision. Ces données sont précieuses pour la propension/conscience, mais des mesures cliniques validées et une évaluation médicale sont nécessaires pour la décision diagnostique.

7. Que signifie « fuite temporelle » lors de la création d'un modèle prédictif à partir des données des dossiers de santé électroniques (DSE) ?

A) Stockage crypté des données
B) Fuite d'informations futures vers des fonctionnalités qui n'existent pas encore au moment de la prédiction ✔
C) Les données sont trop anciennes
D) Entraîner le modèle trop lentement

Explication : la fuite temporelle est l'interférence des fonctionnalités d'entraînement avec des informations qui ne sont pas encore disponibles au moment de la prédiction (futur) ; par exemple, utiliser le diagnostic de sortie pour prédire le risque à l’admission. Cela conduit à des performances élevées en laboratoire, mais à des performances écrasantes en utilisation clinique réelle et constitue l’un des défauts les plus insidieux des modèles de données cliniques.

8. Lequel des éléments suivants devient obligatoire lorsqu'un logiciel lui-même est décrit comme un « logiciel pour dispositif médical » (SaMD) ?

A) Il suffit de travailler vite
B) Ne nécessite aucune documentation
C) Seule une belle interface est requise
D) Le contrôle de conception, la gestion des risques, la vérification/validation et la conformité réglementaire deviennent obligatoires ✔

Description : SaMD (Software as a Medical Device) est un logiciel qui fonctionne à des fins de diagnostic, de traitement ou de surveillance et ne dépend d'aucun matériel. Dans ce cas, les contrôles de conception, la gestion des risques (ISO 14971), la vérification/validation et la conformité réglementaire sont obligatoires ; Le logiciel ne peut pas être traité comme un « simple logiciel » car sa défaillance affecte directement la sécurité des patients.

9. Quel est le risque le plus critique lorsque vous demandez à AI une clause MDR (Medical Device Directive) ou un numéro standard ?

A) Le modèle produit de fausses références d'articles/standards et les présente en toute sécurité ✔
B) Le modèle donne la réponse trop courte
C) Le modèle répond en anglais
D) Le modèle répond trop lentement

Explication : les modèles de langage peuvent produire en toute confiance des numéros d'articles inexistants, des versions standard incorrectes et des références inventées (hallucination). En matière de conformité réglementaire, une référence incorrecte à une substance entraîne de graves manquements à la conformité ; Ainsi, chaque attribution doit être vérifiée indépendamment du texte officiel, l'IA doit être utilisée uniquement pour la navigation/rédaction.

10. Dans quelle catégorie les données de santé entrent-elles dans le champ d'application du KVKK et qu'est-ce que cela signifie ?

A) Données personnelles ordinaires ; peut être traité librement
B) Il ne s'agit pas de données personnelles ; il n'y a aucune restriction
C) Catégories particulières de données personnelles ; Traité avec des conditions et des protections plus strictes ✔
D) Secret commercial uniquement ; aucune confidentialité requise

Explication : Les données de santé sont considérées comme des « données personnelles spéciales » dans le KVKK ; En règle générale, le traitement dépend d'un consentement explicite ou d'exceptions prévues par la loi et nécessite des mesures de protection plus strictes. Par conséquent, les données des patients ne peuvent pas être saisies dans des outils non contrôlés ; L'anonymisation, la restriction d'accès et les accords de traitement des données sont obligatoires.

11. Que signifie « étalonnage » dans un modèle d'IA clinique et pourquoi est-ce important ?

A) À quelle vitesse le modèle s'exécute
B) Combien de paramètres le modèle possède-t-il ?
C) Couleur de l'interface du modèle
D) Compatibilité des probabilités données par le modèle avec les fréquences réelles des événements ✔

Explication : Le calibrage est l'ajustement des probabilités données par le modèle aux fréquences réelles : l'événement devrait effectivement survenir chez environ 20 % des patients pour lesquels il est indiqué « 20 % de risque ». Étant donné que les décisions cliniques sont prises sur la base de seuils de probabilité, un modèle mal calibré entraînera des décisions de seuil incorrectes même s'il est correctement classé ; par conséquent, l'étalonnage ainsi que la discrimination (AUC) doivent être vérifiés.

12. Pourquoi les « performances des sous-groupes » devraient-elles être vérifiées séparément dans les modèles d'images, de signaux ou de données cliniques ?

A) Une précision totale suffit toujours
B) Parce que les sous-groupes affectent la vitesse du modèle
C) Les mesures génériques peuvent masquer des sous-performances et des biais dans des groupes de patients spécifiques ✔
D) L'analyse des sous-groupes n'est nécessaire que pour le marketing

Explication : Même si un modèle peut sembler bon en moyenne, ses performances peuvent être nettement moins bonnes dans certains sous-groupes (âge, sexe, teint, type d'appareil, hôpital) ; La métrique générale cache cette inégalité. Dans le domaine des soins de santé, cela entraîne des préjudices systématiques chez certains groupes de patients ; Par conséquent, les performances doivent être divisées en sous-groupes et déclarées par souci d’équité.

13. Quelle est la meilleure approche contre le risque de « ré-identification » lorsque l'on travaille avec des données de patients ?

A) La simple suppression du nom suffit en toutes circonstances.
B) Généraliser les identifiants indirects ainsi que les identifiants directs et restreindre l'accès ✔
C) Si les données appartiennent à un petit nombre de personnes, aucune précaution n'est requise
D) Changer simplement le nom du fichier au lieu du cryptage

Description : Même les données dont le nom a été supprimé peuvent être réidentifiées avec de rares combinaisons de diagnostic, de date de naissance, de code postal et de date. Il ne suffit donc pas d’extraire des identifiants directs ; Des techniques telles que le décalage de date, la généralisation, le k-anonymat et le contrôle d'accès doivent être appliquées ensemble, et le texte libre sensible doit également être nettoyé.

14. Quelle est la principale raison du maintien d'un contrôle « humain dans la boucle » de bout en bout dans le flux de travail de l'IA biomédicale ?

A) Le contrôle humain ne crée que de la lenteur et doit être supprimé
B) Si le score de confiance du modèle est élevé, la validation humaine n'est pas nécessaire
C) Il n’y a aucune raison pratique autre que l’obligation légale
D) L’IA est sujette aux biais et aux erreurs ; Les décisions et la responsabilité en matière de sécurité des patients doivent incomber au spécialiste qualifié ✔

Description : L'intelligence artificielle génère, priorise et rédige des hypothèses ; mais les modèles qu’il apprend à partir des données peuvent être incomplets, biaisés ou hors contexte. Il est impératif que les décisions concernant la sécurité des patients restent avec l'approbation du médecin et de l'ingénieur autorisés, à la fois pour détecter les erreurs et pour maintenir la responsabilité au bon endroit ; L’IA ne remplace à aucun moment cette approbation.