Gains :
- Être capable de distinguer où l'intelligence artificielle fait gagner du temps dans le flux de travail du travail social (résumé, édition, simplification, brouillon) et où le jugement clinique, les décisions en matière de risque et de représentation sont laissés à l'humain, en fonction du niveau de risque.
- Capacité à appliquer une discipline qui vérifie chaque résultat en les reliant à des preuves réelles, en confirmant les informations externes avec des sources officielles actuelles et en les filtrant par biais.
- Pour comprendre pourquoi la confidentialité des clients, la distinction entre le monde des données anonymes et celui des données clients et la responsabilité du KVKK doivent être prises en compte dès le début du travail social.
Vous êtes le matin dans un centre de services sociaux. Trois nouvelles candidatures sont arrivées hier : une femme victime de violences et ses deux enfants, une personne âgée nécessitant des soins et une adolescente risquant d'abandonner ses études. Il y a quatre rapports d'enquête sociale sur votre bureau, un avis demandé par le tribunal, des dossiers à remplir et des préparatifs pour une visite à domicile avec une famille cet après-midi. Le travail social (la profession et la discipline exercées pour améliorer la fonctionnalité sociale des individus, des familles et des communautés, pour garantir leur accès aux droits et au bien-être et pour protéger les groupes vulnérables) est un domaine qui est intrinsèquement gourmand en documents, pressé par le temps, qui touche à la vie humaine et qui comporte de grandes responsabilités. L'intelligence artificielle (IA - logiciel capable d'extraire des modèles à partir de données historiques et de produire ou de classer des textes, des résumés, des traductions et des brouillons) vous donne une pause dans cette charge de documents et cette pression temporelle. Mais le tout début de ce module est clair : l’IA est un assistant, un synthétiseur et un générateur de contours ; Vous êtes l'expert compétent qui évalue les risques et prend la décision finale concernant le client.
Dans cette première unité, nous nous concentrerons sur la discipline et non sur l'outil. Vous apprendrez où l'IA permet de gagner du temps dans le flux de travail du travail social, où elle est dangereuse, comment vérifier chaque résultat, comment protéger la confidentialité et les données personnelles des clients, et comment rester attentif aux préjugés. Sans poser ces bases, les unités suivantes restent en suspens – car en travail social, un résultat non vérifié n’est pas simplement une fausse phrase ; C’est une erreur qui pourrait conduire à une mauvaise évaluation d’un enfant, à la négligence d’un risque, à la stigmatisation injuste d’une famille ou à la fuite d’informations sensibles.
Où l’IA est-elle utile dans le flux de travail du travail social ?
Divisons les emplois du travail social en deux grands groupes. Le premier groupe : tâches gourmandes en documents, répétitives, extractibles par modèles et basées sur le langage. Traduction de notes éparses suite à un entretien en un dossier organisé, résumé chronologique d'un long dossier, première ébauche d'un rapport d'enquête sociale, simplification d'une liste d'aides/services en fonction de la langue du client, rédaction d'une lettre de référence, traduction d'un texte d'information simple pour un client multilingue, première trame d'analyse des besoins d'un programme. Dans ces métiers, l’IA réduit les heures à quelques minutes et ne se fatigue pas.
Deuxième groupe : tâches nécessitant du jugement, une évaluation clinique, un jugement sur les risques et une responsabilité. Si un enfant est en sécurité à la maison, le niveau de risque d'automutilation d'un individu, si une famille a besoin de mesures de protection, l'opinion avec laquelle un rapport sera présenté au tribunal, si un service est vraiment approprié pour le client. Ces décisions nécessitent une compétence professionnelle, un jugement clinique, une connaissance du contexte, une responsabilité éthique et souvent l’opinion d’une équipe multidisciplinaire. Ici, l’IA multiplie les options, génère des brouillons, vous rappelle ce qui a été négligé – mais l’évaluation et la signature finales vous appartiennent.
Clarifions la distinction en une phrase : l'IA est forte sur les questions « qu'est-ce qu'il y a dans ce fichier et à quoi ressemble la première ébauche » ; La décision vous appartient lorsqu'il s'agit de questions telles que « Quelle est la situation réelle de cette personne et puis-je la défendre au nom de ma profession ? »
Astuce : avant de confier une tâche à une IA, demandez : « Qui sera blessé si ce résultat est erroné ? » Si la réponse est « quelques minutes de refactoring », déléguez confortablement. Si la réponse est « mauvaise évaluation d'un client, évasion d'un risque ou fuite d'informations », laissez l'IA produire le projet et vous prenez la décision et la vérification.
Vie privée : principe inviolable
Le cœur du travail social est la confiance, et la confiance repose sur la confidentialité. Un client vous confie ses informations les plus privées, les plus fragiles – violence, pauvreté, état de santé, secrets de famille – dans le respect du secret professionnel. Lorsque ces informations tombent entre de mauvaises mains, elles menacent la vie, la sécurité et la dignité d'une personne. La règle de base ici : aucune donnée personnelle identifiant le client (nom, adresse, TR ID, santé, informations familiales, etc.) ne sera saisie dans un outil d'IA public que votre institution n'a pas approuvé. Le texte que vous saisissez dans un service public d'IA est traité sur les serveurs de ce service ; Vous ne pouvez pas contrôler qui le voit, où il est stocké et s'il est utilisé pour entraîner le modèle. En Turquie, il s'agit également d'une responsabilité légale en vertu du KVKK (loi sur la protection des données personnelles - la loi qui réglemente le traitement des données personnelles).
Ainsi, l’utilisation de l’IA en travail social s’opère dans deux mondes distincts : les outils généraux peuvent être utilisés pour le monde dé-identifié/générique (exemples anonymes ou fictifs qui n’identifient pas le client, questions de culture générale) ; Pour le monde des données clients, seuls des systèmes internes, sécurisés et approuvés qui ne fuient pas de données sont utilisés. Confondre les deux est l'erreur la plus dangereuse de ce module.
Attention : « L'IA l'a dit » n'est pas une justification et n'a aucune force dans un dossier. En cas d’erreur de jugement, d’informations fabriquées ou de fuites de données, la responsabilité n’appartient pas à l’IA, mais à l’expert qui utilise ces résultats sans les vérifier ou saisit ces données dans l’outil.
Discipline de vérification : trois étapes
L'IA produit avec fluidité et confiance ; Cela ne veut pas dire que c'est vrai. L’IA produit parfois des hallucinations, c’est-à-dire qu’elle présente comme réel une loi qui n’existe pas, un service qui n’existe pas, une statistique inventée ou une déclaration que le client n’a jamais dite. Dans un rapport d’enquête sociale ou une note de risque, c’est désastreux. Appliquez un réflexe en trois étapes à chaque sortie :
- Lien vers la source/preuve. Chaque déclaration que l'IA fait à propos du client doit être basée sur la note ou la conversation réelle que vous avez donnée. « Dans quelle conversation, de quelle bouche, avec quelle observation cette information a-t-elle été donnée ? demander. L'IA ne doit rien ajouter que le client n'a pas dit.
- Confirmez avec une source indépendante. Vérifiez les informations externes telles que la loi, les droits, le service, l'adresse de réexpédition, etc. à partir de la source officielle actuelle. Une condition de candidature ou un numéro de téléphone fourni par AI peut être obsolète ou faux.
- Passez-le à travers le filtre de l’interprétation et des préjugés. La production est-elle biaisée contre un groupe ? Y a-t-il un langage qui stigmatise et blâme le client ? Est-ce qu’il ignore les points forts ? Votre jugement professionnel est le filtre final.
trois mini-cases
Cas 1 — La documentation a permis de gagner du temps. Un travailleur social a mené 14 entretiens en une semaine et a pris des notes pour chacun d'entre eux. L'édition assistée par l'IA a réduit le temps total de traduction de ces notes en dossiers de cas structurés d'environ 4 heures à 1 heure. Mais chaque enregistrement a été lu par l'expert et vérifié en le comparant avec l'entretien lui-même ; Deux phrases que l'IA a « interprétées » ont été supprimées.
Cas 2 — La vérification a détecté une hallucination. Un expert a posé à l’IA une question sur les droits ; YZ a déclaré : « Il y a une condition de résidence minimale de 24 mois pour cette aide. » Lorsque l’expert a examiné la législation officielle, une telle exigence n’existait pas ; AI avait mélangé deux aides similaires et créé une condition qui n'existait pas. L’étape d’attribution a permis d’éviter que le client ne soit injustement refoulé.
Cas 3 – Retour suite à une violation de la vie privée. Pour être rapide, un nouveau professionnel souhaitait coller toutes les informations d'un dossier de protection de l'enfance (y compris le nom, l'adresse et l'école de l'enfant) dans un outil d'IA public et imprimer un rapport. L'expert principal s'est rendu compte qu'il s'agissait de données personnelles sensibles relevant du KVKK et qu'elles étaient exclues. L'incident a été traité comme une violation de données ; le travail a été refait avec les informations d'identification supprimées et uniquement avec une méthode sécurisée interne.
Quatre modèles copiables
1) Évaluation de l’adéquation de l’emploi :
Votre rôle : travailleur social principal et superviseur. Je décrirai le poste ci-dessous. Dites-moi (1) s'il s'agit d'un travail de résumé/édition/décrire qui peut être délégué à une IA, ou s'il nécessite un jugement clinique et un jugement des risques, (2) le coût pour le client d'une sortie incorrecte, (3) la vérification que je dois faire avant et après la délégation. Emploi : [insérer l'emploi ici]
2) Obligation de s'appuyer sur des preuves :
Je vais vous donner les notes d'une réunion. Lors de la modification de l'enregistrement, utilisez UNIQUEMENT les informations contenues dans la note. N'ajoutez rien que le client n'a pas dit, ne diagnostiquez pas, ne commentez pas. Étiquetez séparément l’observation et l’expression du client. Marquez les zones manquantes ou peu claires comme « nécessite des éclaircissements ».
3) Pré-vérification de la confidentialité :
Évaluez le texte suivant AVANT le traitement : ce texte pourrait-il contenir des données personnelles identifiant le client (nom, adresse, TR ID, santé, informations familiales) ? Si oui, quelles sections ? A ce titre, s'il ne doit pas être traité dans un outil public, prévenez-moi et listez les champs que je dois anonymiser. Texte : [écrire le texte ici]
4) Vérification des biais/langue :
Considérez le cas suivant : Y a-t-il un langage qui stigmatise, blâme ou porte préjudice au client contre un groupe ? Ignore-t-il les forces et les ressources ? Suggérez un langage plus respectueux, axé sur les faits et qui reconnaît les points forts. Ne modifiez pas le dossier, signalez simplement les problèmes de langue.
Invite faible/Invite forte
Invite faible :
Rédigez un rapport sur cette famille et décidez si l'enfant est en sécurité à la maison.
Cette invite est sans contexte et dangereuse : on ne sait pas exactement quelles informations, quelles observations, et l'IA est invitée à prendre une décision concernant la sécurité d'un enfant. L’IA prédit, peut biaiser, peut inventer – et cela implique une vie humaine.
Invite puissante :
Votre rôle : rédacteur adjoint à l'assistante sociale. Source : Notes d’entretien et d’observation avec informations d’identification supprimées, que je collerai ci-dessous. Tâche : créer un projet de squelette de rapport d'enquête sociale basé uniquement sur les informations RÉELLEMENT contenues dans ces notes ; Étiquetez séparément l’observation, la déclaration du client et les informations manquantes. PRENDRE une décision en matière de risque ou de sécurité ; Je ferai l'évaluation. Marquez la zone dont vous n'êtes pas sûr comme « doit être clarifiée ».
La différence est claire : la désidentification, la contrainte de « véritable passage », l'étiquetage et la contrainte de « décision » rendent la sortie sûre et utile.
Tableau de comparaison rôle/tâche
entreprise
Rôle de l'IA
le rôle de l'homme
vérification
Modifier un dossier de cas
Configurer la note
confirmation, exactitude
Comparaison avec la note
Résumé du dossier
aperçu chronologique
Importance, commentaire
Lien vers la source
Informations sur les droits/services
première ébauche
Confirmation actuelle
législation officielle
évaluation des risques
Rappel question/cadre
Jugement clinique, décision
Equipe + encadrement
Rapport
croquis de squelette
Contenu, avis, signature
Correspondance des preuves et des déclarations
Conception du programme
Génération d’idées/cadre
éligibilité, décision
Champ + confirmation des données
Erreurs courantes
- Confondre la sortie de l’IA avec l’évaluation. Le résultat est toujours une ébauche à vérifier ; Il n'entre pas dans le dossier sans être lié à des preuves.
- Coller les données client dans l'outil ouvert. En cas de fuite, elle ne peut pas être annulée et constitue une violation du KVKK ; C'est l'erreur la plus dangereuse.
- Demander à l’IA de prendre une décision risque/sécurité. Ces décisions nécessitent une autorité et une responsabilité professionnelles ; L'IA ne peut pas prendre de décisions.
- Une demande qui ne nécessite pas de preuves. Si vous ne dites pas : « Utilisez simplement ce qu’il y a dans la note », l’IA peut ajouter ce que le client n’a pas dit.
- Ne pas remarquer un langage stigmatisant. Le langage d’AI peut comporter des préjugés ; Un langage respectueux et prenant en compte les points forts est sous votre contrôle.
En résumé
L'IA est un assistant puissant en travail social : organise la note en désordre, résume le dossier, produit des brouillons, simplifie, traduit. Mais le jugement clinique, l’évaluation des risques, la représentation et la décision finale appartiennent à l’humain. Effectuez une séparation en deux ensembles (travail à forte intensité documentaire vs jugement/décisions à risque), une vérification en trois étapes (lien vers des preuves, confirmation indépendante, filtre de biais), une sensibilisation à la confidentialité (monde anonyme vs monde des données client) et une vigilance face aux préjugés comme épine dorsale de ce module.
Tâche de candidature
Énumérez 6 tâches depuis votre propre bureau (ou imaginaire). Classez chacun comme « résumé/modification/brouillon délégable par l’IA » ou « jugement clinique/décision en matière de risque ». Pour l'un des transférables (avec un exemple fictif qui n'identifie pas le client), utilisez le modèle « Évaluation de l'adéquation de l'emploi » ci-dessus et obtenez une réponse de l'IA ; puis appliquez la vérification en trois étapes et essayez également la vérification préalable de la confidentialité.
liste de contrôle
- [ ] J'ai divisé le travail en deux groupes (à forte intensité documentaire / jugement-jugement-risque).
- [ ] J'ai appliqué une vérification en trois étapes (preuve, confirmation indépendante, biais).
- [ ] Je me suis assuré de ne pas fournir de données personnelles identifiant le client à l'outil ouvert.
- [ ] J'ai lié chaque déclaration faite par l'IA à propos du client à la note réelle.
- [ ] J'ai vérifié le langage stigmatisant/biaisé dans le résultat.