Støtte for risikovurdering og sikkerhetsplanlegging: Den mest følsomme grensen — Kunstig intelligens i sosialt arbeid

Gevinster:

Evne til å utarbeide risiko- og beskyttelsesfaktorsjekklisten og sikkerhetsplanskjelettet med kunstig intelligens og arbeid uten å hoppe over noen områder
Forstå at risikonivå/poengsum og sikkerhetsbeslutninger bare tas av eksperter, team, tilsyn og juridiske prosesser, og at kunstig intelligens ikke kan produsere beslutninger.
Å se at kunstig intelligens kan tilskrive systematisk skjevhet til vanskeligstilte grupper og bruke disiplinen med å aldri bruke resultatet som en beslutning og behandle de mest sensitive dataene bare i et sikkert system

Sosialarbeids mest alvorlige ansvar er risikovurdering – vurderinger som direkte angår livssikkerhet, for eksempel om et barn blir forsømt eller misbrukt, om en person er sannsynlig å skade seg selv eller noen andre, om en eldre person er trygg, eller hvor truet et voldsoffer er. Den første og mest dristige regelen for denne enheten er denne: Risikobeslutninger hører ikke til, kan og bør ikke tilhøre AI. Beslutning om en persons sikkerhet; Det krever faglig autoritet, klinisk skjønn, tverrfaglig teamuttalelse, veiledning og juridisk ansvar. AI er bare et forberedelses- og påminnelsesverktøy her: det minner deg om hvilke risiko- og beskyttelsesfaktorer du bør vurdere, organiserer notatene dine, skisserer en sikkerhetsplan. Det gir ikke en poengsum, det står ikke "risikoen er lav/høy", den tar ingen avgjørelse.

Hvorfor understreker vi dette så hardt? For på risikoarenaen er kostnadene for en AI-feil irreversible. AIs vurdering av en risiko som "lav" etterlater et barn ubeskyttet; Å få en risiko til å virke unødvendig "høy" kan føre til at en familie blir urettferdig separert. I tillegg har AI skjevheter i treningsdata: Algoritmer som systematisk tillegger visse sosioøkonomiske grupper, etnisiteter eller nabolag høyere risiko, er dokumentert over hele verden. Så selv om AI-ens utgang er en inngang, kan den aldri overstyre din uavhengige vurdering.

Den legitime rollen til AI: påminnelse og regulering

Det er tre steder hvor du trygt kan bruke AI i faresonen:

1. Faktorpåminnelse. Risikofaktorene (f.eks. tidligere voldshistorie, rusmiddelbruk, sosial isolasjon, tidligere innleggelser) og beskyttende faktorer (f.eks. en støttende voksen, vanlig skolegang, et sterkt sosialt nettverk) som bør vurderes i en risikovurdering er lange; AI hjelper deg å unngå å gå glipp av områder ved å hente frem en sjekkliste som passer til rammeverket organisasjonen din bruker.

2. Notatredigering. Den oversetter observasjonene og klientuttalelsene dine til en organisert, faktatekst – slik at du kan basere din vurdering på klare data.

3. Utkast til sikkerhetsplan. En sikkerhetsplan (en konkret plan som bestemmer hva offeret skal gjøre i tilfelle fare, hvem han vil kontakte, hvor han skal gå) har en viss struktur. AI kan produsere et utkast til skjelett som skal fylles ut med klienten; Men du og klienten fyller ut innholdet i planen etter virkeligheten.

Forsiktig: Spør aldri AI-en "hva er risikonivået i dette tilfellet?" eller "er barnet trygt hjemme?" Ikke spør. IKKE bruk utdataene som en avgjørelse, selv om du spør. Disse spørsmålene besvares kun av den autoriserte eksperten, teamet og tilsyn gjennom institusjonens offisielle risikoverktøy.

Trinn for trinn: posisjonere AI riktig i risikoprosessen

Sikkerhet først. Hvis det er en umiddelbar og alvorlig fare (livssikkerhet), er det nødvendig å betjene institusjonens nødprosedyre, ikke å forholde seg til AI. AI bør ikke forsinke noe som haster.
Avidentifiser. Risikovurderinger er de mest sensitive dataene; Informasjon som identifiserer klienten legges ikke inn i det åpne verktøyet, kun det sikre institusjonsverktøyet brukes.
Minn meg på faktorlisten. Be om en sjekkliste for risiko og beskyttelsesfaktorer som passer til det institusjonelle rammeverket.
Lag din egen vurdering. Du veier faktorene, evaluerer med teamet og rådfører deg med veileder. Du vil ikke at AI skal "evaluere".
Fullfør sikkerhetsplanen med klienten. Trekkskjelettet kan komme fra AI; Innholdet er fylt med klientens faktiske nettverk, ressurser og preferanser.

tre minisaker

Tilfelle 1 — Savnet beskyttelsesfaktor. En ekspert fokuserte på risikofaktorer i en familievoldssak. Faktorsjekklisten han spurte AI om fikk ham til å spørre om klientens sikre støttenettverk på jobb i delen "beskyttende faktorer" – et område eksperten hadde savnet. Dette nettverket ble den mest realistiske delen av sikkerhetsplanen. Avgjørelsen var igjen opp til den sakkyndige; AI bare minnet spørsmålet.

Tilfelle 2 – Feil poengsum ble ikke klarert. Ett byrå så at et AI-verktøy for forsøk merket en sak som «lav risiko». Den sakkyndiges observasjon og klientens erklæring pekte imidlertid på en alvorlig fare. Teamet avviste AI-merket og satte i gang beskyttelsestiltak basert på sin egen vurdering. Det ble senere bekreftet at faren var reell. Leksjon: AI-poengsum er ikke en avgjørelse; menneskelig dømmekraft har forrang.

Sak 3 - Skjevhet fanget. I en rettssak ble den samme saken gitt til AI to ganger; Den eneste forskjellen var nabolaget der klienten bodde. AI produserte systematisk høyere "risikospråk" for nabolaget som er kjent for å være vanskeligstilt. Dette demonstrerte skjevhet i AIs treningsdata og forsterket byråets policy om ikke å bruke AI i risikobeslutninger.

Fire kopierbare maler

1) Påminnelse om risiko/beskyttelsesfaktor:

Din rolle: assistent for sosialfaglig veileder. Utarbeide en sjekkliste over risikofaktorer og beskyttelsesfaktorer som anbefales gjennomgått i en risikovurdering i [husvold]-saker. Presenter dette som en liste over PÅMINNELSER; IKKE produsere noen score, beslutninger eller "risikonivåer". Evaluering og beslutning tilhører den sakkyndige.

2) Skjelett for sikkerhetsplan:

Din rolle: redaktør. Lag en BLANK oversikt over en sikkerhetsplan som skal fylles ut med et offer for vold i hjemmet: varselskilt, trygge steder, personer og institusjoner å kontakte, viktige dokumenter, plan for barn, digital sikkerhet. Fylle ut innholdet; La det være tomme mellomrom under hver overskrift som skal fylles ut med klienten.

3) Redigere en risikonotat (uten å ta en avgjørelse):

Oversett følgende observasjons- og uttalelsesnotater til en saklig, organisert tekst. Merk observasjon og klienterklæring separat. ANGI risikonivået, TA en beslutning, LEGG TIL en kommentar. Rediger kun det som står i notatet og merk manglende/obskure områder. Merk: [lim inn avidentifisert notat]

4) Bias selvkontroll:

I utkastet til risikonotat nedenfor, er det en uttalelse som formidler ubevist skjevhet på grunn av klientens sosioøkonomiske status, etnisitet, nabolag eller lignende karakteristika? Merk hver setning som er basert på stereotypier i stedet for bevis. Ikke endre teksten, bare advar. Merk: [lim inn notat]

Svak forespørsel / Sterk forespørsel

Svak melding:

Les denne saken og avgjør om det er trygt for barnet å være hjemme og hva risikonivået er.

Dette er å outsource den mest tungtveiende avgjørelsen om et menneskeliv til en programvare. Det er uetisk, i strid med profesjonelt ansvar, og fører skjevheten til AI direkte inn i et barns skjebne.

Kraftig ledetekst:

Din rolle: påminnelsesassistent. Før du leser det avidentifiserte notatet nedenfor, utarbeide en sjekkliste over risiko- og beskyttelsesfaktorer som skal gjennomgås i evalueringen av tilfeller av omsorgssvikt. PRODUSERING av beslutning, poengsum eller risikonivå. Jeg vil gjøre evalueringen med teamet mitt; Du bare minner meg på hvilke områder jeg ikke bør hoppe over.

Forskjellen: Å si "hvilke spørsmål bør jeg ikke glemme" i stedet for å be om avgjørelser holder AI på den sikre og etiske grensen.

Rollegrenser i risikofeltet

Quest

Kan AI gjøre det?

Hvem gjør det?

Påminnelse om faktorsjekkliste

AI (påminnelse)

Redigering av notater faktisk

AI + ekspertgodkjenning

Sikkerhetsplan blankt skjelett

AI; innholdsklient+ekspert

Fastsettelse av risikonivå/poengsum

nei

Ekspert + team + veiledning

"Er det trygt?" vedtak

nei

Kompetent ekspert, juridisk prosess

Sette i gang beskyttelsestiltak

nei

Institusjon, kompetent myndighet

Vanlige feil

Spør AI om risikoscore/beslutning. Den farligste feilen; Vedtaket krever faglig myndighet og juridisk ansvar.
Stoler på AI-merket. En "lavrisiko" konklusjon vil aldri ugyldiggjøre din observasjon om det motsatte.
Ignorerer fordommer. AI kan tilskrive systematisk høy risiko til vanskeligstilte grupper; selvkontroll er viktig.
Forsinkende haster. Hvis det er livssikkerhet, nødprosedyre først; Å håndtere AI kan ikke vente.
Gi de mest sensitive dataene til det åpne verktøyet. Risikonotater behandles kun i det sikre institusjonsverktøyet.

Oppsummert

Risikovurdering er det største ansvaret for sosialt arbeid, og beslutningen ligger helt hos personen – fagpersonen, teamet, tilsynet, den juridiske myndigheten. Her er AI bare et verktøy for påminnelse (risiko-/beskyttelsesfaktorliste), organisering (faktisk notat) og utarbeidelse (sikkerhetsplanskjelett); Den scorer ikke, den tar ikke avgjørelser. Husk at AI bærer skjevhet, bruk aldri resultatet som en beslutning og behandle de mest sensitive dataene kun i det sikre systemet.

Søknadsoppgave

Velg en fiktiv sakstype. Få en sjekkliste med en "risiko-/beskyttelsesfaktorpåminnelse"-mal og bekreft at AI-en ikke produserer noen "risikonivåer." Ta deretter tak i et tomt planskjelett med malen "sikkerhetsplankonturskjelett". Spør AI bevisst "hva er risikonivået?" og skriv i én setning hvorfor du IKKE bør bruke utdataene som en avgjørelse.

sjekkliste

[ ] Jeg ba bare AI om en faktorpåminnelse, ikke en beslutning/poengsum.
[ ] Jeg behandlet de mest sensitive dataene kun i det sikre bedriftsverktøyet.
[ ] Jeg planla å fylle ut innholdet i sikkerhetsplanen sammen med klienten.
[ ] Jeg sjekket AI-utgangen for skjevhet.
[ ] Jeg bekreftet at den endelige risikobeslutningen ligger hos teamet, tilsyn og rettferdig prosess.