Vinster:
- Att kunna urskilja var artificiell intelligens sparar tid i det sociala arbetets arbetsflöde (sammanfattning, redigering, förenkling, utkast) och där klinisk bedömning, risk- och representationsbeslut överlåts till människan, beroende på risknivån.
- Förmåga att tillämpa en disciplin som verifierar varje utdata genom stegen att länka den till verkliga bevis, bekräfta extern information med aktuella officiella källor och filtrera den genom bias.
- För att förstå varför klienternas integritet, distinktionen mellan anonyma och klientdatavärldar och KVKK-ansvar bör beaktas redan från början i socialt arbete.
Du är på morgonen på en socialtjänstcentral. Tre nya ansökningar kom i går: en kvinna som utsatts för våld och hennes två barn, en äldre person i behov av vård och en tonåring som riskerar att hoppa av skolan. Det finns fyra sociala utredningsrapporter på ditt skrivbord, ett domstolsbegärt yttrande, ärendeprotokoll som behöver fyllas i och förberedelser inför ett hembesök hos en familj i eftermiddag. Socialt arbete (den profession och den disciplin som utförs för att förbättra individers, familjers och samhällens sociala funktionalitet, för att säkerställa deras tillgång till rättigheter och välfärd samt för att skydda utsatta grupper) är ett område som till sin natur är dokumentintensivt, tidspressat, berör människoliv och har ett stort ansvar. Artificiell intelligens (AI - programvara som kan extrahera mönster från historisk data och producera eller klassificera text, sammanfattningar, översättningar och utkast) ger dig en paus i denna dokumentbelastning och tidspress. Men själva början av denna modul är tydlig: AI är en assistent, sammanfattar och genererar konturer; Du är den kompetenta experten som gör bedömningen, risken och det slutliga beslutet om kunden.
I denna första enhet kommer vi att fokusera på disciplin, inte verktyget. Du kommer att lära dig var AI är en realtidssparare i det sociala arbetsflödet, var det är farligt, hur man verifierar varje utdata, hur man skyddar klienternas integritet och personliga data, och hur man håller sig uppmärksam på partiskhet. Utan att lägga denna grund förblir efterföljande enheter i luften - för i socialt arbete är en overifierad utdata inte bara en falsk mening; Det är ett misstag som kan leda till att ett barn missbedöms, riskerar att bli förbisett, att en familj blir orättvist stigmatiserad eller att känslig information läcker ut.
Var kommer AI till nytta i det sociala arbetsflödet?
Låt oss dela upp socialt arbete i två stora kluster. Det första klustret: dokumentintensiva, repetitiva, mönsterutdragbara och språkbaserade uppgifter. Översättning av spridda anteckningar efter en intervju till en organiserad ärendejournal, kronologisk sammanfattning av en lång akt, första skelettet i en social utredningsrapport, förenkling av en hjälp-/tjänstlista för att passa klientens språk, utkast till remissbrev, översättning av en enkel informationstext för en flerspråkig klient, första ramverket för en programbehovsanalys. I dessa jobb minskar AI timmar till minuter och tröttnar inte.
Andra klustret: uppgifter som kräver bedömning, klinisk bedömning, riskbedömning och ansvar. Huruvida ett barn är tryggt hemma, en individs risknivå för självskada, om en familj behöver skyddsåtgärder, den åsikt med vilken en rapport kommer att presenteras för domstolen, om en tjänst verkligen är lämplig för klienten. Dessa beslut kräver professionell kompetens, kliniskt omdöme, sammanhangskunskap, etiskt ansvar och ofta multidisciplinärt teamuppfattning. Här multiplicerar AI alternativen, genererar utkast, påminner dig om vad som förbises - men den slutliga utvärderingen och signaturen är din.
Låt oss förtydliga distinktionen i en mening: AI är stark på "vad finns i den här filen och hur ser det första utkastet ut"-frågor; Beslutet är ditt när det kommer till frågor som "Vad är den verkliga situationen för den här personen och kan jag försvara detta på uppdrag av mitt yrke?"
Tips: Innan du lägger ut ett jobb till en AI, fråga: "Vem blir skadad om denna utdata är fel?" Om svaret är "några minuters refaktorering", delegera bekvämt. Om svaret är "fel utvärdering av en klient, undvikande av en risk eller läckt information", låt AI:n producera utkastet och du fattar beslutet och verifieringen.
Sekretess: okränkbar princip
Hjärtat i socialt arbete är förtroende, och förtroende bygger på konfidentialitet. En klient berättar sin mest privata, mest ömtåliga information – våld, fattigdom, hälsotillstånd, familjehemligheter – och förlitar sig på professionell sekretess. När denna information hamnar i orätta händer, hotar den en persons liv, säkerhet och värdighet. Grundregeln här: Inga personuppgifter som identifierar klienten (namn, adress, TR-ID, hälsa, familjeinformation etc.) kommer att läggas in i ett offentligt AI-verktyg som din institution inte har godkänt. Texten du skriver in i en offentlig AI-tjänst bearbetas på den tjänstens servrar; Du kan inte kontrollera vem som ser den, var den lagras och om den används för att träna modellen. I Türkiye är detta också ett juridiskt ansvar enligt KVKK (Personal Data Protection Law - lagen som reglerar behandlingen av personuppgifter).
Därför verkar användningen av AI i socialt arbete i två separata världar: Allmänna verktyg kan användas för den avidentifierade/generiska världen (anonyma eller fiktiva exempel som inte identifierar klienten, allmänna kunskapsfrågor); För en värld av klientdata används endast interna, säkra, godkända system som inte läcker data. Att blanda ihop de två är den här modulens farligaste misstag.
Varning: "AI:n sa det" är inte en motivering och har ingen kraft i en ärendeakt. Om det finns en felaktig bedömning, tillverkad information eller läckt data, ligger ansvaret inte på AI:n, utan på experten som använder denna utdata utan att verifiera den eller matar in den informationen i verktyget.
Verifieringsdisciplin: tre steg
AI producerar smidigt och säkert; Det betyder inte att det är sant. AI producerar ibland hallucinationer – det vill säga den presenterar som verklig en lag som inte existerar, en tjänst som inte existerar, en påhittad statistik eller ett påstående som klienten aldrig sa. I en social utredningsrapport eller riskpromemoria är detta katastrofalt. Applicera en trestegsreflex på varje utgång:
- Länk till källa/bevis. Varje uttalande som AI gör om klienten måste baseras på den faktiska anteckningen eller konversationen du gav. "I vilket samtal, från vems mun, med vilken observation gavs denna information?" be. AI ska inte lägga till något som klienten inte har sagt.
- Bekräfta med oberoende källa. Verifiera extern information som lag, rättigheter, service, vidarebefordransadress etc. från den aktuella officiella källan. Ett applikationskrav eller telefonnummer som tillhandahålls av AI kan vara föråldrat eller falskt.
- Passera det genom filtret av tolkning och partiskhet. Är utgången partisk mot en grupp? Finns det språk som stigmatiserar och skyller på klienten? Bortser det från styrkor? Ditt professionella omdöme är det sista filtret.
tre minifodral
Fall 1 — Dokumentation sparade tid. En socialarbetare genomförde 14 intervjuer under en vecka och förde lösa handanteckningar för var och en. AI-assisterad redigering minskade den totala tiden för att översätta dessa anteckningar till strukturerade ärendeposter från cirka 4 timmar till 1 timme. Men varje inspelning lästes av experten och verifierades genom att jämföra den med själva intervjun; Två meningar som AI:n "tolkade" raderades.
Fall 2 — Verifiering fångade en hallucination. En expert ställde en rättighetsfråga till AI; YZ sa: "Det finns ett minimikrav på bosättning på 24 månader för detta stöd." När experten tittade på den officiella lagstiftningen fanns inget sådant krav; AI hade blandat två liknande hjälpmedel och gjort upp ett tillstånd som inte fanns. Tillskrivningssteget förhindrade att klienten blev otillbörligt avvisad.
Fall 3 — Återkomst från integritetskränkning. För att vara snabb ville en ny professionell klistra in all information om ett barnskyddsärende (inklusive barnets namn, adress, skola) i ett offentligt AI-verktyg och skriva ut en rapport. Den seniora experten insåg: detta var känsliga personuppgifter inom KVKKs ram och var ute. Incidenten behandlades som ett dataintrång; jobbet gjordes om med inloggningsuppgifter borttagna och endast intern säker metod.
Fyra kopierbara mallar
1) Bedömning av arbetslämplighet:
Din roll: socialarbetare och arbetsledare. Jag kommer att beskriva jobbet nedan. Berätta för mig (1) om detta är ett sammanfattnings-/redigerings-/översiktsjobb som kan delegeras till en AI, eller ett som kräver klinisk bedömning och riskbedömning, (2) kostnaden för kunden för felaktig utdata, (3) verifieringen jag behöver göra före och efter delegering. Jobb: [infoga jobb här]
2) Skyldighet att förlita sig på bevis:
Jag kommer att ge dig anteckningarna från ett möte. När du redigerar inspelningen, använd ENDAST informationen i anteckningen. Lägg inte till något som klienten inte har sagt, ställ inte diagnos, kommentera inte. Märk observationen och klientens uttryck separat. Markera saknade eller otydliga områden som "behöver förtydligande".
3) Sekretessförkontroll:
Utvärdera följande text INNAN behandlingen: kan denna text innehålla personuppgifter som identifierar klienten (namn, adress, TR-ID, hälsa, familjeinformation)? Vilka avsnitt i så fall? Som sådan, om det inte skulle bearbetas i ett offentligt verktyg, varna mig och lista de fält jag behöver avidentifiera.Text: [skriv text här]
4) Bias/språkkontroll:
Tänk på följande fall: Finns det språk som stigmatiserar, skyller på eller fördomar klienten mot en grupp? Bortser det från styrkor och resurser? Föreslå ett språk som är mer respektfullt, faktafokuserat och erkänner styrkor. Ändra inte posten, bara flagga språkproblemen.
Svag prompt / Stark prompt
Svag uppmaning:
Skriv en rapport om denna familj och avgör om barnet är säkert hemma.
Denna uppmaning är kontextlös och farlig: det är oklart vilken information, vilken observation och AI:n som uppmanas att fatta ett beslut om ett barns säkerhet. AI förutsäger, kan fördomar, kan göra upp - och det involverar ett människoliv.
Kraftfull uppmaning:
Din roll: biträdande redaktör till socialarbetare. Källa: Intervju- och observationsanteckningar med identifieringsuppgifter borttagna, som jag kommer att klistra in nedan. Uppgift: skapa ett utkast till en social utredningsrapport baserat endast på den information som FAKTISKT finns i dessa anteckningar; Märkobservation, kunduttalande och saknad information separat. TA ett risk- eller säkerhetsbeslut; Jag ska göra utvärderingen. Markera området du inte är säker på som "behöver förtydligas".
Skillnaden är tydlig: avidentifiering, "true-passion"-begränsningen, märkning och "besluts"-begränsningen gör resultatet säkert och användbart.
Jämförelsediagram för roll/uppgift
företag
AI:s roll
mannens roll
verifiering
Redigera en ärendepost
Konfigurera anteckningen
bekräftelse, noggrannhet
Jämförelse med not
Filsammanfattning
kronologisk översikt
Vikt, kommentar
Länk till källa
Rättigheter/tjänstinformation
första utkastet
Aktuell bekräftelse
officiell lagstiftning
riskbedömning
Fråga/rampåminnelse
Klinisk bedömning, beslut
Team + handledning
Rapportera
skelettskiss
Innehåll, åsikt, signatur
Matchning av bevis-påstående
Programdesign
Generering av idéer/ramverk
behörighet, beslut
Fält + databekräftelse
Vanliga misstag
- Misstag AI-utdata för utvärdering. Utgången är alltid ett utkast som ska verifieras; Den kommer inte in i akten utan att den är kopplad till bevis.
- Klistra in klientdata i det öppna verktyget. Om det läcker kan det inte ångras och är ett brott mot KVKK; Det är det farligaste misstaget.
- Be AI:en fatta ett risk-/säkerhetsbeslut. Dessa beslut kräver professionell auktoritet och ansvar; AI kan inte fatta beslut.
- En begäran som inte kräver bevis. Om du inte säger "Använd bara det som står i anteckningen", kan AI:en lägga till det som klienten inte sa.
- Att inte lägga märke till stigmatiserande språk. AI:s språk kan ha fördomar; Språk som är respektfullt och tar hänsyn till styrkor är under din kontroll.
Sammanfattningsvis
AI är en kraftfull assistent i socialt arbete: organiserar den röriga anteckningen, sammanfattar filen, producerar utkast, förenklar, översätter. Men klinisk bedömning, riskbedömning, representation och slutgiltigt beslut tillhör människan. Bär separation i två uppsättningar (dokumentintensivt arbete kontra bedömning/riskbeslut), trestegsverifiering (länk till bevis, oberoende bekräftelse, biasfilter), integritetsmedvetenhet (anonym vs. klientdatavärld) och vakenhet för partiskhet som ryggraden i denna modul.
Applikationsuppgift
Lista 6 uppgifter från ditt eget (eller imaginära) skrivbord. Klassificera var och en som "AI-delegerbar sammanfattning/redigering/utkast" eller "klinisk bedömning/riskbeslut." För en av de överförbara (med ett fiktivt exempel som inte identifierar kunden), använd mallen "Bedömning av arbetslämplighet" ovan och få svar från AI:n; tillämpa sedan trestegsverifiering och prova sekretessförhandskontrollen också.
checklista
- [ ] Jag delade in arbetet i två kluster (dokumentintensiv / bedömning-riskbedömning).
- [ ] Jag tillämpade trestegsverifiering (bevis, oberoende bekräftelse, partiskhet).
- [ ] Jag såg till att jag inte lämnade personuppgifter som identifierar kunden till det öppna verktyget.
- [ ] Jag kopplade varje uttalande som AI gjorde om klienten till själva anteckningen.
- [ ] Jag kollade efter stigmatiserande/partiskt språk i utdata.