Vinster:
- Förmåga att förbereda risk- och skyddsfaktorchecklistan och säkerhetsplanens skelett med artificiell intelligens och arbeta utan att hoppa över några områden
- Förstå att risknivå/poäng och säkerhetsbeslut endast fattas av experter, team, övervakning och juridiska processer, och att artificiell intelligens inte kan producera beslut.
- Att se att artificiell intelligens kan tillskriva missgynnade grupper systematisk partiskhet och tillämpa disciplinen att aldrig använda dess utdata som ett beslut och behandla de mest känsliga uppgifterna endast i ett säkert system
Socialt arbetes mest allvarliga ansvar är riskbedömning – bedömningar som direkt berör livssäkerhet, till exempel om ett barn är vanvårdat eller misshandlat, om en individ är sannolikt att skada sig själv eller någon annan, om en äldre person är säker eller hur hotad ett offer för våld är. Den första och mest djärva regeln för denna enhet är denna: Riskbeslutsfattande inte, kan och bör inte tillhöra AI. Beslut om en persons säkerhet; Det kräver professionell auktoritet, kliniskt omdöme, multidisciplinärt teamutlåtande, handledning och juridiskt ansvar. AI är bara ett förberedelse- och påminnelseverktyg här: det påminner dig om vilka risk- och skyddsfaktorer du ska granska, organiserar dina anteckningar, beskriver en säkerhetsplan. Den ger inget poäng, det står inte "risken är låg/hög", den fattar inget beslut.
Varför betonar vi detta så hårt? För på riskarenan är kostnaden för ett AI-misstag oåterkallelig. AI:s klassificering av en risk som "låg" lämnar ett barn oskyddat; Att få en risk att verka onödigt "hög" kan leda till att en familj orättvist separeras. Dessutom har AI fördomar i träningsdata: algoritmer som systematiskt tillskriver högre risk till vissa socioekonomiska grupper, etniciteter eller stadsdelar har dokumenterats runt om i världen. Så även om AI:s utdata är en ingång, kan den aldrig åsidosätta din oberoende bedömning.
AI:s legitima roll: påminnelse och reglering
Det finns tre platser där du säkert kan använda AI i riskzonen:
1. Faktorpåminnelse. Riskfaktorerna (t.ex. tidigare historia av våld, droganvändning, social isolering, tidigare intagningar) och skyddsfaktorer (t.ex. en stödjande vuxen, regelbunden skolgång, ett starkt socialt nätverk) som bör beaktas i en riskbedömning är långa; AI hjälper dig att undvika att missa några områden genom att återkalla en checklista som passar det ramverk din organisation använder.
2. Anteckningsredigering. Den översätter dina observationer och klientuttalanden till en organiserad, faktatext – så att du kan basera din bedömning på tydliga data.
3. Utkast till säkerhetsplan. En säkerhetsplan (en konkret plan som bestämmer vad offret ska göra vid fara, vem han ska kontakta, vart han ska gå) har en viss struktur. AI kan producera ett utkast till skelett som ska fyllas i med klienten; Men du och uppdragsgivaren fyller i innehållet i planen efter verkligheten.
Varning: Fråga aldrig AI:n "vilken är risknivån i det här fallet?" eller "är barnet säkert hemma?" Fråga inte. Använd INTE resultatet som ett beslut, även om du frågar. Dessa frågor besvaras endast av den auktoriserade experten, teamet och övervakningen genom institutionens officiella riskverktyg.
Steg för steg: positionera AI korrekt i riskprocessen
- Säkerheten först. Om det finns en omedelbar och allvarlig fara (livssäkerhet) är det nödvändigt att använda institutionens nödförfarande, inte att hantera AI. AI bör inte fördröja någon brådska.
- Avidentifiera. Riskklassificeringar är de mest känsliga uppgifterna; Information som identifierar klienten läggs inte in i det öppna verktyget, bara det säkra institutionsverktyget används.
- Påminn mig om faktorlistan. Begär en checklista för risker och skyddsfaktorer som är lämpliga för det institutionella ramverket.
- Gör din egen bedömning. Du väger faktorerna, utvärderar med teamet och rådgör med handledaren. Du vill inte att AI ska "utvärdera".
- Komplettera säkerhetsplanen med kunden. Draftskelettet kan komma från AI; Innehållet är fyllt med klientens faktiska nätverk, resurser och preferenser.
tre minifodral
Fall 1 — Missad skyddsfaktor. En expert fokuserade på riskfaktorer i ett fall av våld i hemmet. Faktorchecklistan han bad AI om fick honom att fråga om klientens säkra supportnätverk på jobbet i avsnittet "skyddande faktorer" – ett område som experten hade missat. Detta nätverk blev den mest realistiska delen av säkerhetsplanen. Beslutet var återigen upp till experten; AI påminde bara frågan.
Fall 2 – Felaktig poäng var inte betrodd. En byrå såg ett försök med AI-verktyg märkte ett fall som "låg risk". Den sakkunniges iakttagelse och klientens utlåtande pekade dock på en allvarlig fara. Teamet avvisade AI-märkningen och inledde skyddsåtgärder baserat på sin egen bedömning. Det bekräftades senare att faran var verklig. Lektion: AI-poäng är inte ett beslut; mänskligt omdöme har företräde.
Fall 3 - Bias fångad. I en rättegång gavs samma fall till AI två gånger; Den enda skillnaden var grannskapet där klienten bodde. AI producerade systematiskt högre "riskspråk" för grannskapet som är känt för att vara missgynnat. Detta visade på partiskhet i AI:s utbildningsdata och förstärkte byråns policy att inte använda AI i riskbeslutsfattande.
Fyra kopierbara mallar
1) Påminnelse om risk/skyddsfaktor:
Din roll: assistent till socialhandledaren. Utarbeta en checklista över riskfaktorer och skyddsfaktorer som rekommenderas att ses över i en riskbedömning i fall av [våld i hemmet]. Presentera detta som en lista över PÅMINNELSER; producera INTE några poäng, beslut eller "risknivåer". Utvärdering och beslut tillhör experten.
2) Utkast till säkerhetsplansskelett:
Din roll: redaktör. Förbered en BLANK översikt över en säkerhetsplan som ska fyllas i med ett offer för våld i hemmet: varningsskyltar, säkra platser, personer och institutioner att kontakta, viktiga dokument, plan för barn, digital säkerhet. Fylla i innehållet; Lämna tomma utrymmen under varje rubrik för att fyllas i med klienten.
3) Redigera en riskanteckning (utan att ta ett beslut):
Översätt följande observations- och uttalandenoteringar till en saklig, organiserad text. Märkobservation och kundutlåtande separat. ANGÅR risknivån, fattar beslut, lägger till en kommentar. Redigera endast det som står i anteckningen och markera saknade/obskyra områden. Obs: [klistra in avidentifierad anteckning]
4) Bias självkontroll:
I utkastet till risknota nedan, finns det ett uttalande som förmedlar obevisad partiskhet på grund av klientens socioekonomiska status, etnicitet, grannskap eller liknande egenskaper? Markera varje mening som är baserad på stereotyper snarare än bevis. Ändra inte texten, bara varna. Obs: [klistra in anteckning]
Svag prompt / Stark prompt
Svag uppmaning:
Läs detta ärende och avgör om det är säkert för barnet att stanna hemma och vad risknivån är.
Detta är att lägga ut det mest tungt vägande beslutet om ett människoliv till en programvara. Det är oetiskt, i strid med professionellt ansvar, och bär AI:ns fördomar direkt in i ett barns öde.
Kraftfull uppmaning:
Din roll: påminnelseassistent. Innan du läser den avidentifierade anteckningen nedan, förbered en checklista med risk- och skyddsfaktorer att granska i utvärderingen av fall av [barnförsummelse]. PRODUCERA beslut, poäng eller risknivå. Jag kommer att göra utvärderingen med mitt team; Du påminner mig bara om vilka områden jag inte bör hoppa över.
Skillnaden: att säga "vilka frågor ska jag inte glömma" snarare än att be om beslut håller AI på den säkra och etiska gränsen.
Rollgränser inom riskområdet
Quest
Kan AI göra det?
Vem gör det?
Påminnelse om faktorchecklista
Ja
AI (påminnelse)
Redigera anteckningar faktiskt
Ja
AI + expertgodkännande
Säkerhetsplan tomt skelett
Ja
AI; innehållsklient+expert
Bestämning av risknivå/poäng
nej
Expert + team + handledning
"Är det säkert?" beslut
nej
Kompetent expert, juridisk process
Inleda skyddsåtgärder
nej
Institution, behörig myndighet
Vanliga misstag
- Frågar AI om riskpoäng/beslut. Det farligaste misstaget; Beslutet kräver professionell befogenhet och juridiskt ansvar.
- Litar på AI-etiketten. En slutsats av "låg risk" kommer aldrig att ogiltigförklara din iakttagelse om motsatsen.
- Ignorera fördomar. AI kan tillskriva missgynnade grupper en systematisk hög risk; självkontroll är viktigt.
- Fördröjande brådska. Om det finns livsäkerhet, nödförfarande först; Att hantera AI kan inte vänta.
- Ge den mest känsliga informationen till det öppna verktyget. Risknoteringar behandlas endast i det säkra institutionsverktyget.
Sammanfattningsvis
Riskbedömning är det sociala arbetets största ansvar och beslutet vilar helt på personen – yrkesutövaren, teamet, tillsynen, den juridiska myndigheten. Här är AI bara ett verktyg för att påminna (risk-/skyddsfaktorlista), organisera (faktisk anteckning) och utarbeta (säkerhetsplanskelett); Den gör inte mål, den fattar inga beslut. Kom ihåg att AI har bias, använd aldrig dess utdata som ett beslut och bearbeta de mest känsliga uppgifterna endast i det säkra systemet.
Applikationsuppgift
Välj en fiktiv falltyp. Få en checklista med en mall för "risk/skyddsfaktorpåminnelse" och verifiera att AI:n inte producerar några "risknivåer". Ta sedan ett tomt planskelett med mallen "säkerhetsplanskonturskelett". Medvetet fråga AI:n "vilken är risknivån?" och skriv i en mening varför du INTE ska använda utdata som ett beslut.
checklista
- [ ] Jag bad bara AI om en faktorpåminnelse, inte ett beslut/poäng.
- [ ] Jag bearbetade de mest känsliga uppgifterna endast i det säkra företagsverktyget.
- [ ] Jag planerade att fylla i innehållet i säkerhetsplanen tillsammans med klienten.
- [ ] Jag kontrollerade AI-utgången för bias.
- [ ] Jag bekräftade att det slutliga riskbeslutet ligger hos teamet, övervakningen och vederbörlig process.