Dobici:
- Biti u stanju razlikovati gdje umjetna inteligencija štedi vrijeme u tijeku rada socijalnog rada (sažetak, uređivanje, pojednostavljenje, nacrt), a gdje su klinička prosudba, rizik i odluke o predstavljanju prepušteni ljudima, ovisno o razini rizika.
- Sposobnost primjene discipline koja provjerava svaki izlaz kroz korake povezivanja sa stvarnim dokazima, potvrđivanjem vanjskih informacija s trenutnim službenim izvorima i njihovim filtriranjem kroz pristranost.
- Da bismo razumjeli zašto bi se od samog početka u socijalnom radu trebalo uzeti u obzir privatnost klijenta, razliku između anonimnog svijeta i svijeta podataka o klijentu i odgovornost KVKK.
Ujutro ste u centru za socijalnu skrb. Jučer su stigle tri nove prijave: žena žrtva nasilja i njezino dvoje djece, starija osoba kojoj je potrebna njega i tinejdžerica kojoj prijeti napuštanje škole. Na vašem stolu nalaze se četiri izvješća o društvenoj istrazi, mišljenje koje je zatražio sud, spisi predmeta koje treba ispuniti i pripreme za kućni posjet obitelji ovog poslijepodneva. Socijalni rad (profesija i disciplina koja se provodi kako bi se poboljšala socijalna funkcionalnost pojedinaca, obitelji i zajednica, kako bi se osigurao njihov pristup pravima i dobrobiti, te kako bi se zaštitile ranjive skupine) je područje koje je inherentno dokumentirano, pod pritiskom vremena, dotiče se ljudskog života i ima visoku odgovornost. Umjetna inteligencija (AI - softver koji može izdvojiti uzorke iz povijesnih podataka i proizvesti ili klasificirati tekst, sažetke, prijevode i skice) daje vam oduška u ovoj opterećenosti dokumentima i vremenskom pritisku. Ali sam početak ovog modula je jasan: AI je pomoćnik, sažimač i generator nacrta; Vi ste kompetentan stručnjak koji donosi procjenu rizika i konačnu odluku o klijentu.
U ovoj prvoj jedinici usredotočit ćemo se na disciplinu, a ne na alat. Naučit ćete gdje umjetna inteligencija stvarno štedi vrijeme u tijeku rada socijalnog rada, gdje je opasna, kako provjeriti svaki rezultat, kako zaštititi privatnost klijenata i osobne podatke te kako ostati oprezan s pristranostima. Bez postavljanja ovog temelja, sljedeće jedinice ostaju u zraku - jer u socijalnom radu neprovjereni rezultat nije samo lažna rečenica; To je pogreška koja može dovesti do toga da dijete bude pogrešno procijenjeno, rizik da bude previđen, da obitelj bude nepravedno stigmatizirana ili da osjetljive informacije procure.
Gdje je umjetna inteligencija korisna u tijeku rada u socijalnom radu?
Podijelimo poslove socijalnog rada u dvije velike grupe. Prvi klaster: zadaci koji zahtijevaju mnogo dokumenata, koji se ponavljaju, mogu se izdvojiti uzorcima i zadaci koji se temelje na jeziku. Prevođenje razbacanih bilješki nakon intervjua u organizirani zapis o slučaju, kronološki sažetak dugog dosjea, prvi kostur izvješća o društvenom istraživanju, pojednostavljenje popisa pomoći/usluga kako bi odgovarao jeziku klijenta, nacrt pisma preporuke, prijevod jednostavnog informativnog teksta za klijenta koji govori više jezika, prvi okvir analize potreba programa. U tim poslovima AI smanjuje sate na minute i ne umara se.
Drugi klaster: zadaci koji zahtijevaju prosudbu, kliničku procjenu, procjenu rizika i odgovornost. Je li dijete sigurno kod kuće, koliki je rizik pojedinca od samoozljeđivanja, trebaju li obitelji zaštitne mjere, mišljenje s kojim će se izvješće podnijeti sudu, je li usluga zaista primjerena klijentu. Ove odluke zahtijevaju profesionalnu kompetenciju, kliničku prosudbu, poznavanje konteksta, etičku odgovornost i često mišljenje multidisciplinarnog tima. Ovdje AI umnožava opcije, generira nacrte, podsjeća vas na ono što ste previdjeli — ali konačna procjena i potpis su vaši.
Pojasnimo razliku u jednoj rečenici: AI je jaka u pitanjima "što je u ovoj datoteci i kako izgleda prvi nacrt"; Odluka je vaša kada se radi o pitanjima poput "Kakva je stvarna situacija za ovu osobu i mogu li to braniti u ime svoje profesije?"
Savjet: Prije nego što posao prepustite umjetnoj inteligenciji, zapitajte se: "Tko će biti povrijeđen ako je rezultat pogrešan?" Ako je odgovor "nekoliko minuta refaktoriranja", udobno delegirajte. Ako je odgovor "pogrešna procjena klijenta, izbjegavanje rizika ili curenje informacija", dopustite umjetnoj inteligenciji da izradi nacrt, a vi donesite odluku i provjeru.
Privatnost: nepovredivo načelo
Srž socijalnog rada je povjerenje, a povjerenje se temelji na povjerljivosti. Klijent vam govori svoje najprivatnije, najosjetljivije informacije - nasilje, siromaštvo, zdravstveno stanje, obiteljske tajne - oslanjajući se na profesionalnu povjerljivost. Kada te informacije dospiju u pogrešne ruke, one ugrožavaju život, sigurnost i dostojanstvo osobe. Ovdje je osnovno pravilo: Nikakvi osobni podaci koji identificiraju klijenta (ime, adresa, TR ID, zdravstveni podaci, obiteljski podaci itd.) neće se unijeti u javni AI alat koji vaša institucija nije odobrila. Tekst koji upišete u javnu AI uslugu obrađuje se na poslužiteljima te usluge; Ne možete kontrolirati tko ga vidi, gdje je pohranjen i koristi li se u obuci modela. U Turskoj je to također zakonska obveza prema KVKK (Zakon o zaštiti osobnih podataka - zakon koji regulira obradu osobnih podataka).
Stoga, korištenje umjetne inteligencije u socijalnom radu djeluje u dva odvojena svijeta: opći alati mogu se koristiti za deidentificirani/generički svijet (anonimni ili izmišljeni primjeri koji ne identificiraju klijenta, pitanja općeg znanja); Za svijet podataka o klijentima koriste se samo interni, sigurni, odobreni sustavi koji ne propuštaju podatke. Brkanje to dvoje najopasnija je pogreška ovog modula.
Oprez: "AI je tako rekao" nije opravdanje i nema snagu u spisu slučaja. Ako postoji pogrešna procjena, izmišljena informacija ili curenje podataka, odgovornost ne pripada umjetnoj inteligenciji, već stručnjaku koji koristi taj rezultat bez provjere ili unosa podataka u alat.
Disciplina provjere: tri koraka
AI proizvodi tečno i pouzdano; To ne znači da je istina. Umjetna inteligencija povremeno proizvodi halucinacije — to jest, predstavlja kao stvaran dio zakona koji ne postoji, uslugu koja ne postoji, izmišljenu statistiku ili izjavu koju klijent nikada nije rekao. U izvješću o socijalnom istraživanju ili memorandumu o riziku, to je katastrofalno. Primijenite refleks u tri koraka na svaki izlaz:
- Link na izvor/dokaz. Svaka izjava koju AI daje o klijentu mora se temeljiti na stvarnoj bilješci ili razgovoru koji ste dali. "U kojem razgovoru, iz čijih usta, s kojim zapažanjem je data ova informacija?" pitati. AI ne bi trebao dodati ništa što klijent nije rekao.
- Potvrdite s neovisnim izvorom. Provjerite vanjske informacije kao što su zakon, prava, usluga, adresa za prosljeđivanje itd. iz trenutnog službenog izvora. Zahtjevi za prijavu ili telefonski broj koje daje AI mogu biti zastarjeli ili lažni.
- Propustite ga kroz filter tumačenja i pristranosti. Je li rezultat pristran prema grupi? Postoji li jezik koji stigmatizira i okrivljuje klijenta? Zanemaruje li prednosti? Vaša profesionalna prosudba posljednji je filter.
tri mini kućišta
Slučaj 1 — Vrijeme ušteđeno na dokumentaciji. Socijalna radnica provela je 14 intervjua u jednom tjednu i za svaki je vodila bilješke. Uređivanje uz pomoć umjetne inteligencije smanjilo je ukupno vrijeme prevođenja ovih bilješki u strukturirane zapise slučajeva s približno 4 sata na 1 sat. No, svaku je snimku pročitao stručnjak i provjerio usporedbom sa stvarnim intervjuom; Izbrisane su dvije rečenice koje je AI "tumačila".
Slučaj 2 — Verifikacija je uhvatila halucinaciju. Stručnjak je AI-u postavio pitanje o pravima; YZ je rekao: "Postoji minimalni uvjet boravka od 24 mjeseca za ovu pomoć." Kad je stručnjak pogledao službeno zakonodavstvo, takav zahtjev nije postojao; AI je pomiješao dva slična pomagala i napravio uvjet koji nije postojao. Korak atribucije spriječio je da klijent bude nepravedno odbijen.
Slučaj 3 — Povratak nakon povrede privatnosti. Kako bismo bili brzi, novi stručnjak želio je zalijepiti sve informacije o slučaju zaštite djeteta (uključujući ime djeteta, adresu, školu) u javni alat za umjetnu inteligenciju i ispisati izvješće. Viši vještak je shvatio: radi se o osjetljivim osobnim podacima iz djelokruga KVKK i ispao je. Incident je tretiran kao povreda podataka; posao je ponovno obavljen s uklonjenim vjerodajnicama i samo internom sigurnom metodom.
Četiri predloška za kopiranje
1) Procjena podobnosti za posao:
Vaša uloga: viši socijalni radnik i supervizor. Posao ću opisati u nastavku. Recite mi (1) je li ovo posao sažetka/uređivanja/ocrtavanja koji se može delegirati umjetnoj inteligenciji ili onaj koji zahtijeva kliničku prosudbu i procjenu rizika, (2) trošak za klijenta netočnog izlaza, (3) provjeru koju moram obaviti prije i nakon delegiranja. Posao: [ovdje unesite posao]
2) Obaveza pozivanja na dokaze:
Dat ću vam bilješke sa sastanka. Prilikom uređivanja snimke koristite SAMO informacije u bilješci. Nemojte dodavati ništa što klijent nije rekao, nemojte dijagnosticirati, nemojte komentirati. Označite zasebno opažanje i izraz klijenta. Označite nedostajuća ili nejasna područja kao "potrebno pojašnjenje".
3) Prethodna provjera privatnosti:
Ocijenite sljedeći tekst PRIJE obrade: može li ovaj tekst sadržavati osobne podatke koji identificiraju klijenta (ime, adresa, TR ID, zdravstveni podaci, podaci o obitelji)? Ako da, koji dijelovi? Kao takav, ako se ne bi trebao obrađivati u javnom alatu, upozori me i navedi polja koja trebam deidentificirati. Tekst: [ovdje napišite tekst]
4) Provjera predrasuda/jezika:
Razmotrite sljedeći zapis slučaja: Postoji li jezik koji stigmatizira, okrivljuje ili stvara predrasude klijenta prema skupini? Zanemaruje li snage i resurse? Predložite jezik koji je više pun poštovanja, usmjeren na činjenice i prepoznaje prednosti. Nemojte mijenjati zapis, samo označite jezične probleme.
Slab upit / Jak upit
Slab upit:
Napišite izvješće o ovoj obitelji i odlučite je li dijete sigurno kod kuće.
Ovaj upit je bez konteksta i opasan: nejasno je koje informacije, koje zapažanje, a AI se traži da donese odluku o sigurnosti djeteta. AI predviđa, može utjecati, može nadoknaditi — a to uključuje ljudski život.
Snažan upit:
Vaša uloga: pomoćnik urednika socijalnom radniku. Izvor: Bilješke s intervjua i promatranja s uklonjenim identifikacijskim podacima, koje ću zalijepiti u nastavku. Zadatak: izradite nacrt kostura izvješća o društvenom istraživanju koji se temelji samo na informacijama koje su STVARNO sadržane u ovim bilješkama; Zapažanje oznake, izjava klijenta i informacije koje nedostaju zasebno. DONOŠENJE odluke o riziku ili sigurnosti; Ja ću napraviti evaluaciju. Označite područje u koje niste sigurni kao "treba razjasniti".
Razlika je jasna: deidentifikacija, ograničenje "pravog prolaza", označavanje i ograničenje "odluke" čine izlaz sigurnim i korisnim.
Tablica usporedbe uloga/zadataka
poslovanje
Uloga umjetne inteligencije
muška uloga
provjera
Uredite zapis slučaja
Konfigurirajte bilješku
potvrda, točnost
Usporedba s napomenom
Sažetak datoteke
kronološki ocrt
Važnost, komentar
Link na izvor
Informacije o pravima/usluzi
prvi nacrt
Trenutna potvrda
službeno zakonodavstvo
procjena rizika
Podsjetnik na pitanje/okvir
Klinička prosudba, odluka
Tim + nadzor
izvješće
skica kostura
Sadržaj, mišljenje, potpis
Usklađivanje dokaza i iskaza
Dizajn programa
Generiranje ideje/okvira
podobnost, odluka
Polje + potvrda podataka
Uobičajene greške
- Zamjena AI izlaza za procjenu. Izlaz je uvijek nacrt koji treba provjeriti; Ne ulazi u spis bez povezivanja s dokazima.
- Lijepljenje podataka klijenta u otvoreni alat. Ako procuri, ne može se poništiti i predstavlja povredu KVKK; To je najopasnija greška.
- Tražiti od umjetne inteligencije da donese odluku o riziku/sigurnosti. Ove odluke zahtijevaju profesionalni autoritet i odgovornost; AI ne može donositi odluke.
- Zahtjev za koji nisu potrebni dokazi. Ako ne kažete: "Samo upotrijebi ono što je u bilješci", AI može dodati ono što klijent nije rekao.
- Ne primjećujući stigmatizirajući jezik. AI jezik može sadržavati pristranosti; Jezik koji je pun poštovanja i uzima u obzir prednosti je pod vašom kontrolom.
Ukratko
AI je moćan pomoćnik u socijalnom radu: organizira neuredne bilješke, sažima datoteku, izrađuje nacrte, pojednostavljuje, prevodi. Ali klinička prosudba, procjena rizika, zastupanje i konačna odluka pripadaju čovjeku. Nosite odvajanje u dva skupa (posao koji zahtijeva intenzivne dokumente naspram odluka o prosudbi/riziku), provjeru u tri koraka (veza na dokaze, neovisnu potvrdu, filtar pristranosti), svijest o privatnosti (anonimni u odnosu na svijet podataka o klijentima) i pozornost na pristranosti kao okosnicu ovog modula.
Zadatak aplikacije
Navedite 6 zadataka sa svog (ili zamišljenog) stola. Klasificirajte svaki kao "sažetak/uređivanje/nacrt koji može delegirati AI" ili "klinička prosudba/odluka o riziku". Za jedan od prenosivih (s izmišljenim primjerom koji ne identificira klijenta), upotrijebite gornji predložak "Procjena prikladnosti za posao" i dobijte odgovor od AI-a; zatim primijenite provjeru u tri koraka i isprobajte i pretprovjeru privatnosti.
popis za provjeru
- [ ] Podijelio sam rad u dva klastera (intenzivan dokument / prosudba-rizična prosudba).
- [ ] Primijenio sam provjeru u tri koraka (dokaz, neovisna potvrda, pristranost).
- [ ] Pobrinuo sam se da ne dam osobne podatke koji identificiraju klijenta otvorenom alatu.
- [ ] Povezao sam svaku izjavu koju je AI dao o klijentu sa stvarnom bilješkom.
- [ ] Provjerio sam stigmatizirajući/pristrani jezik u izlazu.