Winst:
- Mogelijkheid om de checklist voor risico- en beschermende factoren en het skelet van het beveiligingsplan op te stellen met kunstmatige intelligentie en te werken zonder gebieden over te slaan
- Begrijp dat beslissingen over risiconiveau/score en beveiliging alleen worden genomen door experts, teams, toezicht en juridische processen, en dat kunstmatige intelligentie geen beslissingen kan voortbrengen.
- Inzien dat kunstmatige intelligentie systematische vooroordelen kan toekennen aan kansarme groepen en de discipline kan toepassen om de output ervan nooit als beslissing te gebruiken en de meest gevoelige gegevens alleen in een beveiligd systeem te verwerken
De ernstigste verantwoordelijkheid van het maatschappelijk werk is risicobeoordeling – oordelen die direct betrekking hebben op de veiligheid van het leven, zoals de vraag of een kind wordt verwaarloosd of misbruikt, of het waarschijnlijk is dat een individu zichzelf of iemand anders schade toebrengt, of een oudere persoon veilig is, of hoe bedreigd een slachtoffer van geweld is. De eerste en meest gedurfde regel van deze eenheid is deze: besluitvorming over risico's behoort niet, kan en mag niet tot AI behoren. Beslissing over de veiligheid van een persoon; Het vereist professioneel gezag, klinisch oordeel, de mening van een multidisciplinair team, supervisie en juridische verantwoordelijkheid. AI is hier slechts een voorbereidings- en herinneringsinstrument: het herinnert u eraan welke risico- en beschermende factoren u moet beoordelen, ordent uw aantekeningen en schetst een veiligheidsplan. Het geeft geen score, het zegt niet "het risico is laag/hoog", het neemt geen beslissing.
Waarom benadrukken we dit zo hard? Omdat in de risicoarena de kosten van een AI-fout onomkeerbaar zijn. De beoordeling door AI van een risico als ‘laag’ laat een kind onbeschermd achter; Door een risico onnodig ‘hoog’ te laten lijken, kan dit ertoe leiden dat een gezin op oneerlijke wijze wordt gescheiden. Bovendien brengt AI vooroordelen met zich mee in trainingsgegevens: algoritmen die systematisch een hoger risico toeschrijven aan bepaalde sociaal-economische groepen, etniciteiten of buurten zijn over de hele wereld gedocumenteerd. Dus zelfs als de output van de AI input is, kan deze nooit uw onafhankelijke oordeel terzijde schuiven.
De legitieme rol van AI: herinnering en regulering
Er zijn drie plaatsen waar u AI veilig kunt gebruiken als u risico loopt:
1. Factorherinnering. De risicofactoren (bijvoorbeeld een voorgeschiedenis van geweld, middelengebruik, sociaal isolement, eerdere opnames) en beschermende factoren (bijvoorbeeld een ondersteunende volwassene, regelmatige schoolbezoek, een sterk sociaal netwerk) waarmee rekening moet worden gehouden bij een risicobeoordeling zijn lang; AI helpt u te voorkomen dat u gebieden mist door een checklist op te roepen die past bij het raamwerk dat uw organisatie gebruikt.
2. Notitie bewerken. Het vertaalt uw observaties en klantverklaringen naar een georganiseerde, feitelijke tekst, zodat u uw oordeel kunt baseren op duidelijke gegevens.
3. Opstellen beveiligingsplan. Een veiligheidsplan (een concreet plan dat bepaalt wat het slachtoffer gaat doen bij gevaar, met wie hij contact opneemt, waar hij heen gaat) kent een bepaalde structuur. De AI kan een schetsskelet maken dat samen met de opdrachtgever wordt ingevuld; Maar jij en de opdrachtgever vullen de inhoud van het plan in volgens de werkelijkheid.
Let op: Vraag nooit aan de AI "wat is in dit geval het risiconiveau?" of “is het kind veilig thuis?” Vraag het niet. Gebruik de uitvoer NIET als beslissing, zelfs niet als u erom vraagt. Deze vragen worden alleen beantwoord door de geautoriseerde deskundige, het team en het toezicht via de officiële risicotool van de instelling.
Stap voor stap: AI correct positioneren in het risicoproces
- Veiligheid voorop. Als er sprake is van een onmiddellijk en ernstig gevaar (levensveiligheid), is het noodzakelijk om de noodprocedure van de instelling toe te passen, en niet om met AI om te gaan. AI mag de urgentie niet uitstellen.
- Disidentificeer. Risicobeoordelingen zijn de meest gevoelige gegevens; Informatie ter identificatie van de cliënt wordt niet in de open tool ingevoerd, er wordt alleen gebruik gemaakt van de beveiligde instellingstool.
- Herinner me aan de factorenlijst. Vraag een checklist voor risico- en beschermende factoren aan die past bij het institutionele kader.
- Vorm uw eigen oordeel. Je weegt de factoren af, evalueert met het team en overlegt met de leidinggevende. Je wilt niet dat de AI ‘evalueert’.
- Samen met de opdrachtgever het veiligheidsplan invullen. Het ontwerpskelet kan afkomstig zijn van de AI; De inhoud wordt gevuld met het daadwerkelijke netwerk, de bronnen en de voorkeuren van de klant.
drie minikoffers
Geval 1 — Gemiste beschermende factor. Een deskundige gericht op risicofactoren in een huiselijk geweldzaak. Op de factorchecklist waar hij AI om vroeg, vroeg hij naar het veilige ondersteuningsnetwerk van de cliënt op het werk in de sectie 'beschermende factoren' – een gebied dat de expert over het hoofd had gezien. Dit netwerk werd het meest realistische onderdeel van het beveiligingsplan. De beslissing was opnieuw aan de deskundige; AI herinnerde alleen maar aan de vraag.
Geval 2 – Onjuiste score werd niet vertrouwd. Eén bureau zag dat een proef-AI-tool een zaak bestempelde als ‘laag risico’. De observatie van de deskundige en de verklaring van de cliënt wezen echter op een ernstig gevaar. Het team verwierp het AI-label en startte op basis van eigen inschatting beschermende maatregelen. Later werd bevestigd dat het gevaar reëel was. Les: AI-score is geen beslissing; het menselijk oordeel primeert.
Geval 3 — Vooroordeel gevangen. In één rechtszaak werd dezelfde zaak tweemaal aan de AI voorgelegd; Het enige verschil was de buurt waar de cliënt woonde. De AI produceerde systematisch hogere ‘risicotaal’ voor de wijk waarvan bekend is dat deze benadeeld is. Dit toonde vooringenomenheid in de trainingsgegevens van de AI aan en versterkte het beleid van het agentschap om AI niet te gebruiken bij de besluitvorming over risico's.
Vier kopieerbare sjablonen
1) Herinnering aan risico-/beschermende factoren:
Jouw rol: assistent van de begeleider maatschappelijk werk. Stel een checklist op van risicofactoren en beschermende factoren die aanbevolen worden om te beoordelen in een risicobeoordeling in gevallen van [huiselijk geweld]. Presenteer dit als een lijst met HERINNERS; produceer GEEN scores, beslissingen of "risiconiveaus". Evaluatie en beslissing behoren toe aan de deskundige.
2) Conceptskelet veiligheidsplan:
Jouw rol: redacteur. Maak een LEGE schets van een veiligheidsplan dat moet worden ingevuld met een slachtoffer van huiselijk geweld: waarschuwingssignalen, veilige plekken, contactpersonen en instellingen, belangrijke documenten, plan voor kinderen, digitale veiligheid. Het invullen van de inhoud; Laat onder elke kop een lege ruimte open die u samen met de klant kunt invullen.
3) Een risiconotitie bewerken (zonder een beslissing te nemen):
Vertaal de volgende opmerkingen en opmerkingen in een feitelijke, georganiseerde tekst. Label observatie en cliëntverklaring apart. VERMELDEN van het risiconiveau, NEMEN van een beslissing, TOEVOEGEN van een opmerking. Bewerk alleen wat er in de notitie staat en markeer ontbrekende/onduidelijke gebieden. Opmerking: [plak geanonimiseerde opmerking]
4) Vooringenomen zelfbeheersing:
Staat er in de onderstaande conceptrisiconota een verklaring die onbewezen vooringenomenheid weergeeft vanwege de sociaal-economische status, etniciteit, buurt of soortgelijke kenmerken van de cliënt? Markeer elke zin die gebaseerd is op stereotypen in plaats van op bewijsmateriaal. Verander de tekst niet, waarschuw alleen. Opmerking: [plak opmerking]
Zwakke prompt/sterke prompt
Zwakke prompt:
Lees deze casus en bepaal of het veilig is voor het kind om thuis te blijven en wat het risiconiveau is.
Dit is het uitbesteden van de zwaarste beslissing over een mensenleven aan software. Het is onethisch, in strijd met professionele verantwoordelijkheid, en brengt de vooroordelen van de AI rechtstreeks in het lot van een kind.
Krachtige prompt:
Jouw rol: herinneringsassistent. Voordat u de geanonimiseerde notitie hieronder leest, moet u een checklist opstellen van risico- en beschermende factoren die u moet beoordelen bij de evaluatie van gevallen van [kinderverwaarlozing]. PRODUCEREN van beslissing, score of risiconiveau. Ik maak de evaluatie met mijn team; Herinner me er alleen maar aan welke gebieden ik niet mag overslaan.
Het verschil: door te zeggen ‘welke vragen mag ik niet vergeten’ in plaats van om beslissingen te vragen, blijft de AI op de veilige en ethische grens.
Rolgrenzen op het gebied van risico
Zoektocht
Kan AI het?
Wie wel?
Herinnering aan de factorchecklist
Ja
AI (herinnering)
Aantekeningen feitelijk bewerken
Ja
AI + deskundige goedkeuring
Beveiligingsplan leeg skelet
Ja
AI; inhoud klant+expert
Bepaling van risiconiveau/score
nee
Deskundige + team + begeleiding
"Is het veilig?" beslissing
nee
Bevoegde deskundige, juridische procedure
Het initiëren van beschermende maatregelen
nee
Instelling, bevoegde autoriteit
Veel voorkomende fouten
- AI om risicoscore/beslissing vragen. De gevaarlijkste fout; Het besluit vereist professioneel gezag en juridische verantwoordelijkheid.
- Vertrouwen op het AI-label. Een conclusie met een laag risico zal uw observatie van het tegendeel nooit ontkrachten.
- Vooroordelen negeren. AI kan een systematisch hoog risico toekennen aan kansarme groepen; zelfbeheersing is essentieel.
- Uitstel van urgentie. Als er sprake is van levensveiligheid, eerst de noodprocedure; Omgaan met AI kan niet wachten.
- De meest gevoelige gegevens aan de open tool doorgeven. Risiconotities worden alleen verwerkt in de beveiligde instellingstool.
Samengevat
Risicobeoordeling is de grootste verantwoordelijkheid van sociaal werk, en de beslissing ligt volledig bij de persoon: de professional, het team, het toezicht, de wettelijke autoriteit. Hier is AI slechts een hulpmiddel voor herinneren (lijst van risico-/beschermende factoren), organiseren (feitelijke notitie) en opstellen (skelet van het veiligheidsplan); Het scoort niet, het neemt geen beslissingen. Houd er rekening mee dat AI vooroordelen met zich meebrengt, gebruik de resultaten ervan nooit als een beslissing en verwerk de meest gevoelige gegevens alleen in het beveiligde systeem.
Applicatie taak
Kies een fictief zaaktype. Zorg voor een checklist met een ‘risico-/beschermingsfactorherinnering’-sjabloon en verifieer dat de AI geen ‘risiconiveaus’ oplevert. Pak dan een leeg planskelet met de sjabloon "veiligheidsplanoverzichtskelet". Bewust aan de AI vragen “wat is het risiconiveau?” en schrijf in één zin waarom je de uitvoer NIET als beslissing zou moeten gebruiken.
controlelijst
- [ ] Ik heb de AI alleen om een factorherinnering gevraagd, niet om een beslissing/score.
- [ ] De meest gevoelige gegevens heb ik alleen in de beveiligde ondernemingstool verwerkt.
- [ ] Ik was van plan om samen met de opdrachtgever de inhoud van het beveiligingsplan in te vullen.
- [ ] Ik heb de AI-uitvoer gecontroleerd op bias.
- [ ] Ik heb bevestigd dat de uiteindelijke risicobeslissing bij het team, het toezicht en een eerlijk proces ligt.