Flux de travail de bout en bout, gouvernance et utilisation responsable — L'intelligence artificielle en travail social

Gains :

Capacité à intégrer systématiquement l'IA à chaque étape, depuis l'application jusqu'à la clôture, avec six portes de vérification humaine
Capacité à établir un cadre de gouvernance d'entreprise avec une liste d'outils approuvés, une politique en matière de données, des rôles, un enregistrement, une formation et un examen continu
Capacité à intégrer les principes de responsabilité humaine, de vérification, de confidentialité/KVKK, de respect des preuves, de contrôle des préjugés et d'orientation client dans le flux de travail

Tout au long de ce module, nous avons expliqué comment utiliser l'intelligence artificielle et où l'arrêter dans différentes tâches du travail social : documentation, évaluation, prise en charge des risques, référence, plan, rapport, communication, conception de programme. Dans cette dernière unité, nous rassemblerons les éléments : où l'IA se situera de bout en bout, de la candidature à la clôture d'un dossier, quelle porte de vérification humaine s'arrête à chaque étape, et nous établirons le cadre de gouvernance nécessaire pour que cela soit durable dans une organisation. L’objectif est de transformer les conseils épars en une discipline de travail cohérente et reproductible.

Principe intégrateur dès le départ : l'IA est un accélérateur à chaque étape du flux de travail, et non un décideur à aucune étape. Il y a une porte humaine à chaque étape, et vous ne pouvez pas passer à la suivante sans passer par une porte. Cette structure en couches empêche une seule hallucination, un parti pris ou une erreur de confidentialité de s'infiltrer dans une décision qui affecte la vie d'un client.

Flux de bout en bout et six portes humaines

Considérons un cas à travers ses étapes typiques et plaçons une porte de vérification à chaque étape :

1. Demande / premier contact — Porte : Confidentialité. Lorsque les premières informations arrivent, l’IA est utilisée pour la préparation des entretiens (guide, grille de questions). Porte : aucune donnée réelle du client n'entre dans l'outil ouvert ; Demandez la classe, faites correspondre le véhicule.

2. Évaluation — Gate : Jugement clinique. L’IA organise les notes selon des dimensions biopsychosociales et rappelle les points forts et les points faibles. Porte : Le diagnostic et l'évaluation appartiennent au spécialiste ; L’IA n’évalue pas.

3. Risque — Porte : Autorité et équipe. L'IA rappelle les facteurs de risque/de protection et crée un squelette de plan de sécurité. Porte : La décision en matière de risque est prise uniquement par un expert, une équipe, une supervision et une procédure juridique ; L’IA ne produit pas de scores/décisions.

4. Planification et accompagnement — Porte : Validation et client. L'IA met les objectifs dans SMART, génère des idées de ressources et des brouillons de lettres. Porte : Le client fixe les objectifs ; Le service/adresse/état est vérifié à partir de la source officielle.

5. Rapport et communication — Porte : Preuves et responsabilité. L'IA structure le rapport, simplifie et traduit le texte. Porte : Chaque cas dépend de preuves, l'opinion appartient à l'expert, la perte d'informations critiques et les biais sont vérifiés, la signature est en personne.

6. Fermeture et remise — Portail : Précision. YZ résume le dossier par ordre chronologique. Porte : Le résumé est basé uniquement sur le dossier ; Les résultats et les apprentissages sont vérifiés par l'expert.

Astuce : Utilisez une seule question pour mémoriser les portes : « Dans cette étape, l'IA prend-elle une décision ou réalise-t-elle un croquis ? Si la réponse est « décision », arrêtez – cette étape appartient à l’humain. Si la réponse est « brouillon », continuez, mais ne passez pas à l’étape suivante sans vérifier le résultat.

Gouvernance d’entreprise : la discipline individuelle ne suffit pas

Les bonnes habitudes d’un expert sont précieuses mais fragiles ; L’utilisation sûre et cohérente de l’IA dans une organisation nécessite un cadre de gouvernance. Les éléments clés de ce cadre sont :

Liste des véhicules homologués. Il est écrit et clair quel outil sera utilisé pour quelle tâche et quelles données peuvent être saisies dans quel outil. "Chacun devrait utiliser l'outil de son choix" est une faille de sécurité.
Politique de classification des données. Il est défini quelles données seront traitées dans l'outil ouvert et lesquelles seront traitées uniquement dans le système sécurisé.
Rôle et autorité. Il est clair qui peut faire quoi et quelle décision dépend de quelle autorité (en particulier les décisions relatives aux risques).
Journal et piste d'audit. Où et comment l’IA est utilisée peut être surveillée ; Quand il y a un problème, on peut le regarder en arrière.
Éducation et sensibilisation. Chaque employé connaît les principes de ce module ; Le nouveau venu est formé.
Révision constante. Outils, risques et changement de législation ; Le cadre est mis à jour régulièrement. Une fois rédigée et oubliée, la politique devient obsolète.

trois mini-cases

Cas 1 — Les portes ont détecté un bug au début de la chaîne. Dans un cas, AI a ajouté une observation que le client n’avait pas mentionnée lors de la phase d’évaluation. À la porte du « jugement clinique », l'expert l'a détecté et l'a supprimé. S'il n'avait pas été arrêté, cette observation fabriquée de toutes pièces aurait pu s'infiltrer dans le plan, de là dans le rapport, et de là dans une décision de justice. L'authentification en couches a arrêté l'erreur au plus tôt.

Cas 2 — La gouvernance a empêché une violation. Une organisation fonctionnait sans liste d’outils ni politique en matière de données approuvées ; Chacun utilisait son propre véhicule. Un audit a révélé que plusieurs employés saisissaient de véritables données clients dans des outils ouverts. L'organisation a établi un cadre de gouvernance : outils homologués, classification des données, formation et enregistrement. Dans la période suivante, le nombre de violations est tombé à zéro. Leçon : la bonne volonté individuelle ne suffit pas sans structure institutionnelle.

Cas 3 — Bilan continu tenu à jour. La politique d'une organisation en matière d'IA, rédigée il y a un an, était obsolète face à un nouveau type d'outil et à une législation actualisée. L'examen annuel en a pris conscience ; La politique a été mise à jour, la formation a été renouvelée. Le cadre est resté un document vivant et non un ornement d’étagère.

Quatre modèles copiables

1) Liste de contrôle pour la vérification du flux de cas :

Votre rôle : superviseur. Je reçois une liste de contrôle de validation pour l'étape suivante du cas : que peut rédiger l'IA à cette étape, quelle décision est nécessairement humaine, quelles vérifications de confidentialité et de préjugés doivent être effectuées, que dois-je vérifier avant de passer à l'étape suivante ? Étape : [demande / évaluation / risque / plan / rapport / clôture]

2) Correspondance confirmée du véhicule :

Pour chacune des listes de tâches ci-dessous, précisez le type d'outil d'IA pouvant être utilisé (outil ouvert / système d'entreprise sécurisé uniquement / Aucune IA disponible) et la justification. Marquez chaque tâche contenant des données client comme « système sécurisé uniquement ». Tâches : [lister les tâches]

3) Projet de politique d’entreprise en matière d’IA :

Votre rôle : rédacteur de la politique d'entreprise. Rédiger une politique d’utilisation responsable de l’IA pour une agence de services sociaux ; Couvrez les sujets suivants : objectif, outils approuvés, classification des données, rôles et autorisations, confidentialité/KVKK, limite de décision de risque, enregistrement et audit, formation, calendrier d'examen. Mettre en place le cadre général ; L'institution remplira ses propres coordonnées.

4) Autorégulation (examen personnel de l'utilisation) :

Créez une liste d'auto-vérification de 10 questions pour que j'examine mon utilisation de l'IA en tant que travailleur social : confidentialité, vérification, préjugés, fidélité des preuves, limites de décision et centrage sur le client. Répondons à chaque question par « oui/non ».

Invite faible/Invite forte

Invite faible :

Je vous raconte toute cette affaire ; Vous vous occupez de tout, de la candidature au rapport, je le signerai simplement à la fin.

Il s’agit d’externaliser l’ensemble du processus – y compris la confidentialité, le jugement clinique, le jugement des risques et le respect des preuves – vers un logiciel. La signature unique à la fin nous aveugle sur toutes les erreurs, fabrications et préjugés intermédiaires.

Invite puissante :

Votre rôle : un rédacteur qui m'aide à chaque étape. Je procéderai au dossier étape par étape (évaluation, plan, rapport...). A chaque étape : travailler uniquement avec des données anonymes/sécurisées, réaliser un brouillon, me laisser décider, ne pas ajouter ce qui n'est pas dans la note, et rappeler ce que je dois vérifier avant de passer à l'étape suivante. Commençons par cette étape : [étape]

La différence : garder la porte à chaque pas et positionner l'IA comme un assistant pas à pas permet de préserver la sécurité et la responsabilité humaine tout en maintenant la vitesse.

Résumé de la responsabilité de Stage-gate

Scène

Apport de l'IA

porte humaine

contrôle critique

Demande

Préparation à l'entretien

confidentialité

Classe de données

Évaluation

Modification de la taille

jugement clinique

Pas de diagnostic, pas de fabrication

Risque

Rappel des facteurs

Autorité + équipe

Pas de score/décision

Plan/orientation

brouillon + idée

Validation + client

Confirmation de la source, priorité client

Rapport/contact

Structure + simplification

Preuve + responsabilité

Avis d'expert, contrôle des biais

Clôture

Résumé chronologique

précision

basé sur des enregistrements

Erreurs courantes

Confier l’ensemble du processus à AI et signer une seule signature à la fin. Les erreurs intermédiaires ne sont pas visibles ; Il devrait y avoir des portes à chaque étape.
Passer une porte sans la vérifier. La fabrication d’une étape est héritée de la suivante ; Chaque sortie est validée.
Laisser la gouvernance à la discipline individuelle. Sans cadre institutionnel, les bonnes habitudes sont fragiles.
Écrivez la politique une fois et oubliez-la. Changement d’outils et de législation ; Un examen constant est nécessaire.
Ne pas tenir de registres. Sans piste d’audit, un problème ne peut pas être examiné en arrière et ne peut pas être tenu pour responsable.

En résumé

En travail social, l’IA est un catalyseur à chaque étape, un décideur à aucune étape, de la demande à la clôture d’un dossier. Placer six portes humaines (confidentialité, jugement clinique, autorité/équipe, validation/client, preuves/responsabilité, intégrité) dans le flux de bout en bout ; Ne passez pas d'une porte à l'autre sans passer par là. Rendre cela durable nécessite une gouvernance d'entreprise : liste d'outils approuvés, politique en matière de données, rôles, enregistrement, formation et examen continu. Les six principes directeurs du module (responsabilité humaine, vérification, confidentialité/PDPA, engagement envers les preuves, contrôle des préjugés et orientation client) doivent être intégrés dans chaque flux de travail.

Tâche de candidature

Tracer mentalement un cas fictif de la demande à la clôture ; Produisez une liste de contrôle pour chaque étape avec un modèle de « porte de vérification du flux de cas ». Classez ensuite les tâches dans ce cas comme véhicule ouvert / système sécurisé / pas d'IA avec le modèle « correspondance de véhicule validée ». Enfin, évaluez-vous en créant une liste de 10 questions pour votre propre utilisation de l'IA avec le modèle « auto-audit ».

liste de contrôle

[ ] J'ai identifié six portes humaines dans le flux de bout en bout.
[ ] A chaque étape, « décision ou projet ? » J'ai appliqué la question.
[ ] J'ai fait correspondre les tâches au bon type de véhicule (ouvert/coffre-fort/aucun).
[ ] Je connais les composantes de la gouvernance d'entreprise (outil, données, rôle, enregistrement, formation, révision).
[ ] J'ai mis en œuvre les six principes porteurs du module dans mon propre flux de travail.

Examen de module

1. Lequel des énoncés suivants constitue le positionnement le plus précis pour l’intelligence artificielle dans le travail social ?

A) L'intelligence artificielle peut décider du niveau de risque d'un client et de la décision d'intervention sans l'approbation humaine
B) L'IA est un outil de synthèse, d'organisation, de simplification et de rédaction ; La responsabilité du jugement clinique, du risque et de la décision finale incombe à l'expert ✔
C) L'intelligence artificielle n'est utile que pour traduire des textes et n'a rien à voir avec d'autres tâches de travail social
D) Puisque l’intelligence artificielle est toujours plus impartiale que les humains, l’évaluation devrait lui être laissée.

Description : Intelligence artificielle ; C'est un assistant qui organise les notes, résume le dossier, simplifie le texte et réalise des brouillons. La responsabilité du jugement clinique, de l'évaluation des risques, de l'opinion professionnelle et de la décision finale incombe au professionnel compétent ; Une sortie non vérifiée pourrait conduire à une mauvaise évaluation d’un client, à une évasion des risques ou à une fuite de données sensibles.

2. Quelle est l’instruction la plus correcte pour convertir les notes brutes d’un entretien en dossier par l’intelligence artificielle ?

A) Demander à l'intelligence artificielle de combler les parties manquantes de manière raisonnable afin qu'elle ait l'air professionnelle.
B) Permettre à l'IA d'ajouter des observations supplémentaires pour enrichir l'enregistrement
C) Demander à l'étudiant d'utiliser uniquement les informations réellement incluses dans la note, de marquer les éléments manquants comme « à clarifier » et de ne rien ajouter ✔
D) Le mettre directement dans le fichier sans le comparer avec la note tant que la sortie est fluide

Explication : La tendance la plus dangereuse de l'IA est de fabriquer des observations, des chiffres ou des citations qui ne figurent pas dans la note pour donner l'impression que le dossier est « complet ». L'approche correcte consiste à dire « utilisez simplement ce qu'il y a dans la note, marquez ceux qui manquent, n'ajoutez rien ». Les lacunes ne sont pas comblées, elles sont marquées pour clarification.

3. Pourquoi la distinction entre « fait » et « interprétation » est-elle importante dans un dossier ?

A) Un fait est une observation/déclaration concrète, tandis qu'une interprétation est une inférence professionnelle qui nécessite un fondement ; Les deux doivent être séparés et le commentaire doit être tagué ✔
B) La distinction est inutile ; le fait et le commentaire peuvent être écrits de la même manière dans le dossier
C) Seule l’interprétation compte ; C'est possible même si les faits ne sont pas enregistrés
D) Puisque l’intelligence artificielle fait parfaitement cette distinction, aucun contrôle humain n’est nécessaire.

Explication : « Il a pleuré trois fois pendant l'entretien » est un fait ; « Il était déprimé » est un commentaire qui ne peut être écrit sans fondement clinique. Le dossier met le fait en avant et inclut une interprétation uniquement avec un étiquetage et une justification clairs. L’IA peut mélanger les deux couramment ; C'est le devoir de chacun de faire la distinction et d'éviter un langage stigmatisant.

4. Quel rôle l’IA devrait-elle jouer pour déterminer si un enfant est en sécurité à la maison ou déterminer le niveau de risque d’un cas ?

A) L'intelligence artificielle peut lire le cas, déterminer le niveau de risque et prendre la décision de sécurité
B) L'étiquette « faible risque » donnée par l'intelligence artificielle peut l'emporter sur l'observation contraire de l'expert
C) L'intelligence artificielle rappelle uniquement les facteurs et organise les notes ; Le niveau de risque et la décision en matière de sécurité appartiennent à l'expert, à l'équipe, à la supervision et au processus juridique ✔
D) L’intelligence artificielle est plus fiable que les humains dans la prise de décision en matière de risques, car elle est impartiale.

Description : Niveau de risque et décision de sécurité ; Cela nécessite une autorité professionnelle, un jugement clinique, l’opinion d’une équipe multidisciplinaire, une supervision et une responsabilité juridique. Ici, l’IA peut uniquement rappeler les facteurs de risque/de protection et modifier les notes ; ne peut pas produire de scores ou de décisions. Il peut également attribuer un risque élevé systématique aux groupes défavorisés en raison de biais dans les données de formation, de sorte que ses résultats ne peuvent pas être utilisés comme décision.

5. Que faire lorsque l'intelligence artificielle donne des informations de référence pour un client en disant « tel centre, tel téléphone » ?

A) Confirmer l'adresse et le numéro de téléphone de la source officielle et actuelle de l'institution avant de les donner au client ✔
B) Transmettre les informations directement au client car elles sont présentées en toute confiance
C) En supposant que l'information soit absolument exacte du moment que l'intelligence artificielle donne une date actuelle
D) Penser qu'il n'est pas nécessaire d'enquêter sur l'exactitude de l'information car elle est mentionnée quelque part.

Description : L'intelligence artificielle peut constituer des services, des exigences d'application, des adresses et des numéros de téléphone ou fournir des informations obsolètes ; Les institutions fusionnent, déménagent, ferment. Envoyer le client à une adresse non vérifiée entraînera un voyage inutile et une perte de confiance. Par conséquent, les coordonnées fournies par l'intelligence artificielle doivent être confirmées par le canal officiel de l'institution avant d'être transmises au client.

6. Qui doit fixer les objectifs d’un plan d’intervention et quel est le rôle de l’IA ?

A) L'intelligence artificielle doit à la fois déterminer les objectifs et rédiger l'intégralité du plan sans rien demander au client.
B) Le client (avec le spécialiste) détermine les objectifs ; L'IA les met au format SMART et les structure, n'ajoute pas de nouvelles cibles ✔
C) Les objectifs ne sont pas importants ; Plus le plan comprend d’objectifs, mieux c’est.
D) L'intelligence artificielle peut ignorer les priorités du client parce qu'elle semble professionnelle

Description : La valeur fondamentale du travail social est « l'autodétermination » : le client fixe des objectifs et des priorités, en les façonnant avec des connaissances professionnelles expertes. L'intelligence artificielle met ces objectifs au format SMART et suggère des étapes et des indicateurs ; mais il ne peut pas ajouter de nouveaux objectifs que le client ne précise pas. Un projet étranger imposé de l’extérieur ne peut être appliqué au client.

7. Dans un rapport d'enquête sociale à soumettre au tribunal, dans quel domaine l'intelligence artificielle est-elle la plus dangereuse ?

A) Capacité à inventer des dates, des observations ou des citations inexistantes pour faire paraître le rapport « complet » ✔
B) Rendre le langage du texte trop formel
C) Rédaction du rapport plus court que demandé
D) Ordre alphabétique des titres

Explication : La tendance la plus dangereuse de l'IA est d'ajouter une date, une observation ou une citation inexistante pour donner l'impression que le rapport est « complet ». Une phrase fabriquée dans un rapport judiciaire peut à la fois induire en erreur une décision et détruire la crédibilité de l'expert. Par conséquent, chaque cas doit être lié à un véritable entretien/observation/document, et l’opinion professionnelle doit être formée par l’expert.

8. Qui doit rédiger la section opinion professionnelle et opinion (suggestion) d’un rapport d’enquête sociale ?

A) Intelligence artificielle ; car cela produit une recommandation plus impartiale
B) La section avis n'est jamais renseignée lors de la rédaction du rapport.
C) L'intelligence artificielle rédige l'avis, l'expert ne signe qu'à la fin
D) Expert ; l'opinion et l'opinion professionnelles sont son autorité et sa responsabilité, l'intelligence artificielle ne fait que clarifier le langage ✔

Déclaration : L'opinion et l'opinion professionnelles — « c'est le meilleur intérêt de cet enfant », « cet arrangement est approprié » — constituent l'autorité légale et la responsabilité de l'expert. « Qu'est-ce que je recommande à l'intelligence artificielle ? Ce n’est pas demandé ; Une « suggestion » qu'il produit peut être à la fois fabriquée et un transfert de responsabilité. Au mieux, l’intelligence artificielle clarifie le langage de l’avis rédigé par l’expert.

9. Quel est le contrôle le plus critique lors de la simplification d'une lourde lettre d'aide officielle pour un client doté d'une intelligence artificielle ?

A) Gardez le texte aussi court que possible, ne regardez pas les détails
B) Le résultat semble fluide et esthétique
C) Vérifier qu'aucun droit, condition, montant, date ou avis n'a été omis en comparant avec l'original ✔
D) La simplification apporte du confort au client en lui donnant moins d'informations.

Explication : Simplifier ne signifie pas déformer ; En « raccourcissant » ou en « simplifiant », l’IA peut avaler un droit, une condition, un montant, une date ou un avis. Le client peut perdre son droit en cas d'informations « faciles » mais incomplètes. Il convient donc de comparer le texte simplifié à l’original et de vérifier qu’aucune information critique n’a été perdue, et même de demander à l’intelligence artificielle de lister les éléments critiques qu’elle protège.

10. Comment est-il correct de traiter les statistiques produites par l’intelligence artificielle lors de la rédaction d’une demande de financement ?

A) Utiliser directement les statistiques fournies par l’intelligence artificielle pour donner un aspect impressionnant
B) Ne pas obliger l'intelligence artificielle à établir des statistiques, à imprimer [DONNÉES REQUISES] si nécessaire et à mettre chaque numéro à partir de la source réelle ✔
C) Considérant que la source n'a pas d'importance tant que le numéro est inclus dans une candidature.
D) En supposant qu'il n'est pas nécessaire de vérifier les statistiques car l'IA écrit en toute confiance

Description : L’intelligence artificielle peut constituer des statistiques frappantes mais non sourcées ; Un chiffre sans source est presque toujours peu fiable. Une statistique fabriquée dans la candidature rejettera la candidature et détruira la crédibilité de l’institution. La bonne approche consiste à ne pas obliger l'IA à inventer des chiffres (« Écrire [DONNÉES REQUISES] ») et à placer chaque numéro à partir de la source réelle et vérifiée.

11. Pourquoi est-il dangereux de demander à l'intelligence artificielle « d'expliquer pourquoi cette famille ne parvient pas à élever des enfants » ?

A) Parce que la question est trop longue
B) Puisque l’intelligence artificielle ne peut fournir aucune information sur les affaires familiales
C) Parce qu’elle assume le résultat dès le début, l’intelligence artificielle produit (de manière flatteuse) une confirmation non fondée et biaisée ; La question doit être neutre et équilibrée ✔
D) Parce que l'intelligence artificielle écrira toujours en faveur de la famille

Explication : Cette question présuppose le résultat (« insuffisant »). L’IA produit un texte sans preuves et biaisé qui confirme cette hypothèse avec sa tendance à flatter (confirmez votre insinuation). Une question biaisée crée une réponse biaisée. En effet, il s’agit d’une question neutre qui ne présume pas du résultat, équilibre à la fois les forces et les préoccupations et ne demande que des preuves.

12. Comment appliquer les « tests sous angle » pour vérifier les biais dans la sortie de l'IA ?

A) Penser à la même situation pour un groupe différent et demander « Est-ce que cela serait écrit dans la même langue ? ✔ Tester les doubles standards en demandant
B) Accepter la première réponse de l'intelligence artificielle comme neutre et ne pas chercher un autre angle
C) Poser uniquement des questions qui soutiennent le groupe du client
D) En supposant qu'il n'y a pas besoin de contrôle supplémentaire car les biais n'existent pas du tout dans l'intelligence artificielle

Explication : l'IA peut écrire le même comportement sur un ton différent pour différents groupes (par exemple, « risque de négligence » pour les familles à faible revenu, « parent forcé » pour les familles à revenu élevé). Le test d'inversion est le suivant : « si le client appartenait à un groupe socio-économique/ethnique différent, cela serait-il écrit dans la même langue ? » c'est demander; Cela rend visibles les doubles standards basés sur des stéréotypes et non sur des preuves.

13. Quelle est la bonne approche pour résumer le dossier réel d'un client (y compris le nom, l'adresse et les renseignements sur la santé) ?

A) Pour plus de rapidité, collez-le dans l'outil d'IA public le plus proche et faites-le résumer
B) Traiter le fichier sans prêter attention à la confidentialité car il est court
C) Entrez tout, y compris les informations de santé et enregistrez uniquement le résultat
D) Traiter uniquement dans un système sécurisé approuvé par l'établissement ou avec un texte anonymisé, avec un minimum de données ✔

Divulgation : les données personnelles permettant d'identifier le client, en particulier les données sensibles telles que la santé, ne sont jamais saisies dans un outil public non approuvé par l'institution ; le texte peut être traité, stocké sur des serveurs externes ou utilisé dans la formation de modèles, et l'exfiltration est irréversible. Il s'agit également d'une violation du KVKK. Ce type de travail est effectué uniquement dans des systèmes internes, sécurisés et approuvés, qui ne fuient pas de données ou avec du texte anonymisé.

14. Pourquoi la suppression de noms d'un document ne suffit-elle pas toujours pour le confier à un outil public ?

A) La suppression de noms constitue toujours une anonymisation totale et sécurise chaque document.
B) Tant que le document est court, il est impossible de déduire l'identité du contexte
C) Un document dont le nom a été supprimé n'entre absolument pas dans le champ d'application du KVKK.
D) Le contexte (quartier, âge, événement, structure familiale) peut réaffirmer l'identité ; La protection est assurée par le choix de l'outil et de l'environnement ✔

Explication : Même si les noms sont supprimés, le contexte (une combinaison rare de quartier, d'âge, d'événement, de date, de structure familiale, etc.) peut rendre une personne identifiable ; Il est peut-être la seule personne dans un quartier qui corresponde à la description. La véritable protection n’est pas assurée par le masquage, mais par le choix du bon outil et du bon environnement ; Le contexte est également constitué de données personnelles et les informations incertaines doivent être protégées en tant que classe supérieure.

15. De la demande à la clôture d’un dossier, quel est le moyen le plus efficace d’éviter qu’une seule erreur d’IA ne se reflète dans la décision finale ?

A) Déléguer l'ensemble du processus à un seul outil d'IA et signer une seule fois à la fin
B) Mettre une porte de vérification humaine et une condition de réussite à chaque étape (vérification en couches) ✔
C) Supprimer les validations intermédiaires pour la vitesse et vérifier uniquement en sortie
D) Permettre à chaque expert d'utiliser librement son propre outil sans tenir de registre

La description : Une porte de vérification humaine est placée à chaque étape (demande/confidentialité, évaluation/jugement clinique, risque/autorisation, plan/vérification, rapport/preuve, clôture/exactitude) ; On ne peut pas passer par une porte sans en passer par une autre. Cette structure en couches empêche qu'une hallucination, un parti pris ou une erreur de confidentialité à un moment donné ne s'infiltre dans la décision affectant un client.