Gevinster:
- Evne til at forberede risiko- og beskyttelsesfaktor-tjeklisten og sikkerhedsplanskelettet med kunstig intelligens og arbejde uden at springe nogle områder over
- Forstå, at risikoniveau/score og sikkerhedsbeslutninger kun træffes af eksperter, teams, supervision og juridiske processer, og at kunstig intelligens ikke kan producere beslutninger.
- At se, at kunstig intelligens kan tilskrive systematisk skævhed til dårligt stillede grupper og anvende disciplinen med aldrig at bruge dets output som en beslutning og kun behandle de mest følsomme data i et sikkert system
Socialt arbejdes mest alvorlige ansvar er risikovurdering – vurderinger, der direkte vedrører livssikkerhed, såsom om et barn er omsorgssvigtet eller misbrugt, om en person sandsynligvis vil skade sig selv eller en anden, om en ældre person er i sikkerhed, eller hvor truet et voldsoffer er. Den første og mest dristige regel for denne enhed er denne: Risikobeslutninger hører ikke til, kan og bør ikke tilhøre AI. Beslutning om en persons sikkerhed; Det kræver professionel autoritet, klinisk dømmekraft, tværfaglig teamudtalelse, supervision og juridisk ansvar. AI er blot et forberedelses- og påmindelsesværktøj her: det minder dig om, hvilke risiko- og beskyttelsesfaktorer du skal gennemgå, organiserer dine noter, skitserer en sikkerhedsplan. Den giver ikke en score, den siger ikke "risikoen er lav/høj", den tager ikke en beslutning.
Hvorfor understreger vi dette så hårdt? Because in the risk arena, the cost of an AI mistake is irreversible. AI's rating of a risk as "low" leaves a child unprotected; Making a risk seem unnecessarily "high" could lead to a family being unfairly separated. Derudover bærer AI skævheder i træningsdata: Algoritmer, der systematisk tilskriver højere risiko til visse socioøkonomiske grupper, etniciteter eller kvarterer, er blevet dokumenteret rundt om i verden. So even if the AI's output is an input, it can never override your independent judgment.
The legitimate role of AI: reminder and regulation
There are three places where you can safely use AI in risk:
1. Faktorpåmindelse. Risikofaktorerne (f.eks. tidligere voldshistorie, stofbrug, social isolation, tidligere indlæggelser) og beskyttende faktorer (f.eks. en støttende voksen, regelmæssig skolegang, et stærkt socialt netværk), der bør overvejes i en risikovurdering, er lange; AI helps you avoid missing any areas by recalling a checklist that fits the framework your organization uses.
2. Redigering af noter. Det oversætter dine observationer og klientudsagn til en organiseret, faktuel tekst - så du kan basere din vurdering på klare data.
3. Udkast til sikkerhedsplan. En sikkerhedsplan (en konkret plan, der bestemmer, hvad offeret vil gøre i tilfælde af fare, hvem han vil kontakte, hvor han vil hen) har en bestemt struktur. AI kan producere et udkast til skelet, der skal udfyldes med klienten; Men du og klienten udfylder planens indhold efter virkeligheden.
Forsigtig: Spørg aldrig AI "hvad er risikoniveauet i dette tilfælde?" eller "er barnet trygt derhjemme?" Spørg ikke. Brug IKKE output som en beslutning, selvom du spørger. Disse spørgsmål besvares kun af den autoriserede ekspert, team og supervision gennem institutionens officielle risikoværktøj.
Trin for trin: positionering af AI korrekt i risikoprocessen
- Sikkerhed først. Hvis der er en umiddelbar og alvorlig fare (livssikkerhed), er det nødvendigt at betjene institutionens nødprocedure, ikke at beskæftige sig med AI. AI bør ikke forsinke enhver hast.
- Afidentificere. Risikovurderinger er de mest følsomme data; Oplysninger, der identificerer klienten, indtastes ikke i det åbne værktøj, kun det sikre institutionsværktøj anvendes.
- Remind me of the factor list. Request a risk and protective factor checklist appropriate to the institutional framework.
- Lav din egen vurdering. Du vejer faktorerne, evaluerer med teamet og rådfører dig med vejlederen. You don't want the AI to "evaluate".
- Udfyld sikkerhedsplanen med klienten. The draft skeleton may come from the AI; Indholdet er udfyldt med klientens faktiske netværk, ressourcer og præferencer.
tre minisager
Case 1 — Missed protective factor. En ekspert fokuserede på risikofaktorer i en sag om vold i hjemmet. Faktor-tjeklisten, han bad AI om, fik ham til at spørge om klientens sikre supportnetværk på arbejdet i afsnittet "beskyttende faktorer" - et område, som eksperten havde savnet. Dette netværk blev den mest realistiske del af sikkerhedsplanen. Beslutningen var igen op til den sagkyndige; AI mindede blot om spørgsmålet.
Tilfælde 2 — Der var ikke tillid til forkert score. Et agentur så et forsøg med AI-værktøj mærke en sag som "lav risiko." Den sagkyndiges observation og klientens udtalelse pegede dog på en alvorlig fare. Holdet afviste AI-mærket og iværksatte beskyttelsesforanstaltninger baseret på deres egen vurdering. Det blev senere bekræftet, at faren var reel. Lektion: AI-score er ikke en beslutning; menneskelig dømmekraft har forrang.
Tilfælde 3 - Bias fanget. I et forsøg blev den samme sag givet til AI to gange; Den eneste forskel var kvarteret, hvor klienten boede. AI producerede systematisk højere "risikosprog" for det nabolag, der er kendt for at være ugunstigt stillet. Dette viste skævhed i AI's træningsdata og forstærkede agenturets politik om ikke at bruge AI i risikobeslutningstagning.
Fire kopierbare skabeloner
1) Påmindelse om risiko/beskyttelsesfaktor:
Din rolle: assistent for den socialfaglige vejleder. Udarbejd en tjekliste over risikofaktorer og beskyttelsesfaktorer, der anbefales gennemgået i en risikovurdering i [vold i hjemmet] sager. Præsenter dette som en liste over PÅMINDELSER; producere IKKE nogen score, beslutninger eller "risikoniveauer". Evaluering og beslutning tilhører eksperten.
2) Udkast til sikkerhedsplanens skelet:
Din rolle: redaktør. Udarbejd en BLANK oversigt over en sikkerhedsplan, der skal udfyldes med et offer for vold i hjemmet: advarselsskilte, sikre steder, personer og institutioner at kontakte, vigtige dokumenter, plan for børn, digital sikkerhed. Udfyldelse af indholdet; Efterlad tomme pladser under hver overskrift, som skal udfyldes med klienten.
3) Redigering af en risikonotat (uden at tage en beslutning):
Oversæt følgende observations- og erklæringsnoter til en faktuel, organiseret tekst. Etiketobservation og klienterklæring separat. ANGIVELSE AF risikoniveauet, TAGE en beslutning, TILFØJELSE AF en kommentar. Rediger kun det der står i noten og marker manglende/obskure områder. Bemærk: [indsæt afidentificeret note]
4) Bias selvkontrol:
Er der i udkastet til risikonotat nedenfor en erklæring, der formidler ubevist bias på grund af klientens socioøkonomiske status, etnicitet, nabolag eller lignende karakteristika? Marker hver sætning, der er baseret på stereotyper i stedet for beviser. Ændre ikke teksten, bare advare. Bemærk: [indsæt note]
Svag prompt / Stærk prompt
Svag prompt:
Læs denne sag og afgør, om det er sikkert for barnet at blive hjemme, og hvad risikoniveauet er.
Dette er at outsource den mest vægtige beslutning om et menneskeliv til en software. Det er uetisk, i modsætning til professionelt ansvar, og fører AI-ens skævhed direkte ind i et barns skæbne.
Kraftig prompt:
Din rolle: rykkerassistent. Før du læser den afidentificerede note nedenfor, skal du udarbejde en tjekliste over risiko- og beskyttelsesfaktorer, der skal gennemgås i evalueringen af tilfælde af [forsømmelse af børn]. PRODUCERER beslutning, score eller risikoniveau. Jeg vil foretage evalueringen med mit team; Du minder mig bare om, hvilke områder jeg ikke bør springe over.
Forskellen: at sige "hvilke spørgsmål bør jeg ikke glemme" i stedet for at bede om beslutninger holder AI på den sikre og etiske grænse.
Rollegrænser inden for risikoområdet
Quest
Kan AI gøre det?
Hvem gør?
Påmindelse om faktortjekliste
Ja
AI (påmindelse)
Redigering af noter faktuelt
Ja
AI + ekspertgodkendelse
Sikkerhedsplan blankt skelet
Ja
AI; indholdsklient+ekspert
Risikoniveau/scorefastsættelse
nej
Ekspert + team + supervision
"Er det sikkert?" beslutning
nej
Kompetent ekspert, juridisk proces
Iværksættelse af beskyttelsesforanstaltninger
nej
Institution, kompetent myndighed
Almindelige fejl
- Spørger AI om risikoscore/beslutning. Den farligste fejl; Afgørelsen kræver faglig myndighed og juridisk ansvar.
- Stoler på AI-mærket. En "lav risiko" konklusion vil aldrig ugyldiggøre din observation om det modsatte.
- Ignorerer fordomme. AI kan tilskrive systematisk høj risiko til dårligt stillede grupper; selvkontrol er afgørende.
- Forsinkende haster. Hvis der er livssikkerhed, nødprocedure først; At beskæftige sig med AI kan ikke vente.
- Giver de mest følsomme data til det åbne værktøj. Risikonotater behandles kun i det sikre institutionsværktøj.
Sammenfattende
Risikovurdering er socialt arbejdes største ansvar, og beslutningen ligger helt hos personen - fagpersonen, teamet, tilsynet, den juridiske myndighed. Her er AI blot et værktøj til påmindelse (risiko/beskyttelsesfaktorliste), organisering (faktisk note) og udarbejdelse (sikkerhedsplan skelet); Den scorer ikke, den tager ikke beslutninger. Husk, at AI har bias, brug aldrig dets output som en beslutning, og bearbejd kun de mest følsomme data i det sikre system.
Ansøgningsopgave
Vælg en fiktiv sagstype. Få en tjekliste med en "risiko-/beskyttelsesfaktorpåmindelse"-skabelon og bekræft, at AI'en ikke producerer nogen "risikoniveauer." Grib derefter et blankt planskelet med skabelonen "sikkerhedsplan skitseringsskelet". Spørg bevidst AI'en "hvad er risikoniveauet?" og skriv i én sætning, hvorfor du IKKE skal bruge outputtet som en beslutning.
tjekliste
- [ ] Jeg bad kun AI om en faktorpåmindelse, ikke en beslutning/score.
- [ ] Jeg behandlede kun de mest følsomme data i det sikre virksomhedsværktøj.
- [ ] Jeg planlagde at udfylde indholdet af sikkerhedsplanen sammen med klienten.
- [ ] Jeg tjekkede AI-outputtet for bias.
- [ ] Jeg bekræftede, at den endelige risikobeslutning ligger hos teamet, supervision og retfærdig proces.