Dobici:
- Mogućnost razlikovanja gdje umjetna inteligencija štedi vrijeme u toku rada socijalnog rada (sažetak, uređivanje, pojednostavljenje, nacrt) i gdje su kliničko prosuđivanje, rizik i odluke o zastupanju prepušteni čovjeku, ovisno o nivou rizika.
- Sposobnost primjene discipline koja provjerava svaki rezultat kroz korake povezivanja sa stvarnim dokazima, potvrđivanja vanjskih informacija sa trenutnim zvaničnim izvorima i filtriranja kroz pristrasnost.
- Da bismo razumjeli zašto privatnost klijenata, razliku između svijeta anonimnih i klijentskih podataka i KVKK odgovornost treba uzeti u obzir od samog početka u socijalnom radu.
Ujutro ste u centru za socijalni rad. Jučer su stigle tri nove prijave: žena koja je bila žrtva nasilja i njeno dvoje djece, starija osoba kojoj je potrebna njega i tinejdžer koji je u opasnosti da napusti školu. Na vašem stolu stoje četiri izvještaja o socijalnoj istrazi, sudsko zatraženo mišljenje, evidencija predmeta koju treba popuniti i pripreme za kućnu posjetu porodici danas popodne. Socijalni rad (profesija i disciplina koja se provodi radi poboljšanja društvene funkcionalnosti pojedinaca, porodica i zajednica, osiguravanja njihovog pristupa pravima i blagostanju, te zaštite ranjivih grupa) je oblast koja je sama po sebi zahtjevna za dokumentima, pod pritiskom vremena, dotiče se ljudskog života i nosi veliku odgovornost. Umjetna inteligencija (AI - softver koji može izdvojiti obrasce iz historijskih podataka i proizvesti ili klasificirati tekst, sažetke, prijevode i nacrte) daje vam oduška u opterećenju ovog dokumenta i vremenskom pritisku. Ali sam početak ovog modula je jasan: AI je pomoćnik, rezimator i generator nacrta; Vi ste kompetentni stručnjak koji donosi procjenu, rizik i konačnu odluku o klijentu.
U ovoj prvoj cjelini fokusirat ćemo se na disciplinu, a ne na alat. Naučit ćete gdje AI štedi vrijeme u stvarnom toku rada u socijalnom radu, gdje je opasno, kako provjeriti svaki rezultat, kako zaštititi privatnost i lične podatke klijenata i kako ostati upozoren na pristrasnost. Bez postavljanja ovog temelja, naredne jedinice ostaju u zraku — jer u socijalnom radu neprovjereni rezultat nije samo lažna rečenica; To je greška koja može dovesti do toga da dijete bude pogrešno ocijenjeno, do rizika da bude zanemareno, do nepravedne stigmatizacije porodice ili do curenja osjetljivih informacija.
Gdje umjetna inteligencija dolazi od koristi u procesu socijalnog rada?
Podijelimo poslove socijalnog rada u dva velika klastera. Prvi klaster: zadaci koji su intenzivni u dokumentima, koji se ponavljaju, zadaci koji se mogu izdvojiti po uzorcima i zadaci zasnovani na jeziku. Prevođenje razbacanih bilješki nakon intervjua u organiziranu evidenciju slučaja, hronološki sažetak dugog dosijea, prvi kostur izvještaja o socijalnoj istrazi, pojednostavljenje liste pomoći/usluga kako bi odgovarao jeziku klijenta, nacrt pisma preporuke, prijevod jednostavnog informativnog teksta za višejezičnog klijenta, prvi okvir analize potreba programa. U ovim poslovima AI skraćuje sate na minute i ne umara se.
Drugi klaster: zadaci koji zahtijevaju prosuđivanje, kliničku procjenu, procjenu rizika i odgovornost. Da li je dete bezbedno kod kuće, stepen rizika pojedinca od samopovređivanja, da li su porodici potrebne zaštitne mere, mišljenje sa kojim će se podneti izveštaj sudu, da li je usluga zaista prikladna za klijenta. Ove odluke zahtijevaju profesionalnu kompetenciju, kliničko prosuđivanje, poznavanje konteksta, etičku odgovornost i često multidisciplinarno mišljenje tima. Ovdje umjetna inteligencija umnožava opcije, generiše nacrte, podsjeća vas na ono što ste previdjeli — ali konačna procjena i potpis su vaši.
Hajde da razjasnimo razliku u jednoj rečenici: AI je jak u pitanjima "šta je u ovom fajlu i kako izgleda prvi nacrt"; Odluka je na vama kada su u pitanju pitanja poput "Kakva je stvarna situacija za ovu osobu i mogu li to braniti u ime svoje profesije?"
Savjet: Prije nego što predate posao AI-u, pitajte: “Ko će biti povrijeđen ako je ovaj rezultat pogrešan?” Ako je odgovor "nekoliko minuta prepravljanja", delegirajte udobno. Ako je odgovor "pogrešna procjena klijenta, izbjegavanje rizika ili curenje informacija", neka AI izradi nacrt, a vi donosite odluku i verifikaciju.
Privatnost: neprikosnoveno načelo
Srce socijalnog rada je povjerenje, a povjerenje se zasniva na povjerljivosti. Klijent vam govori svoje najprivatnije, najkrhkije informacije – nasilje, siromaštvo, zdravstveno stanje, porodične tajne – oslanjajući se na profesionalnu povjerljivost. Kada ova informacija padne u pogrešne ruke, ugrožava život, sigurnost i dostojanstvo osobe. Osnovno pravilo ovdje: Nikakvi lični podaci koji identifikuju klijenta (ime, adresa, TR ID, zdravlje, podaci o porodici, itd.) neće biti uneseni u javni AI alat koji vaša institucija nije odobrila. Tekst koji unesete u javni AI servis se obrađuje na serverima te usluge; Ne možete kontrolisati ko ga vidi, gdje je pohranjen i da li se koristi u obučavanju modela. U Turskoj je to također pravna odgovornost prema KVKK (Zakon o zaštiti ličnih podataka - zakon koji regulira obradu ličnih podataka).
Stoga, upotreba AI u socijalnom radu djeluje u dva odvojena svijeta: Opći alati se mogu koristiti za deidentifikovani/generički svijet (anonimni ili izmišljeni primjeri koji ne identifikuju klijenta, pitanja općeg znanja); Za svijet podataka o klijentima koriste se samo interni, sigurni, odobreni sistemi koji ne propuštaju podatke. Brkanje to dvoje je najopasnija greška ovog modula.
Oprez: "AI je tako rekao" nije opravdanje i nema snagu u spisu predmeta. Ako dođe do pogrešne procjene, izmišljenih informacija ili curenja podataka, odgovornost ne pripada AI, već stručnjaku koji koristi taj izlaz bez provjere ili unese te podatke u alat.
Disciplina verifikacije: tri koraka
AI proizvodi fluidno i pouzdano; To ne znači da je istina. AI povremeno proizvodi halucinacije — to jest, predstavlja stvarni zakon koji ne postoji, uslugu koja ne postoji, izmišljenu statistiku ili izjavu koju klijent nikada nije rekao. U izvještaju o socijalnoj istrazi ili memorandumu o riziku, ovo je katastrofalno. Primijenite refleks u tri koraka na svaki izlaz:
- Link do izvora/dokaza. Svaka izjava koju AI daje o klijentu mora biti zasnovana na stvarnoj bilješki ili razgovoru koji ste dali. "U kom razgovoru, iz čijih usta, s kojim zapažanjem je data ova informacija?" pitaj. AI ne treba da dodaje ništa što klijent nije rekao.
- Potvrdite sa nezavisnim izvorom. Provjerite eksterne informacije kao što su zakon, prava, usluga, adresa za prosljeđivanje, itd. iz trenutnog zvaničnog izvora. Zahtjev za prijavu ili broj telefona koji daje AI mogu biti zastarjeli ili lažni.
- Provucite ga kroz filter tumačenja i pristranosti. Da li je rezultat pristrasan u odnosu na grupu? Postoji li jezik koji stigmatizira i okrivljuje klijenta? Da li ignoriše prednosti? Vaša profesionalna prosudba je konačni filter.
tri mini kofera
Slučaj 1 — Dokumentacija uštedi vrijeme. Socijalni radnik je obavio 14 intervjua u jednoj sedmici i držao beleške za svaki od njih. Uređivanje uz pomoć umjetne inteligencije smanjilo je ukupno vrijeme za prevođenje ovih bilješki u strukturirane zapise slučajeva sa otprilike 4 sata na 1 sat. Ali svaki snimak je pročitao veštak i proverio ga upoređujući ga sa stvarnim intervjuom; Dvije rečenice koje je AI "protumačio" su izbrisane.
Slučaj 2 — Verifikacija je uhvatila halucinaciju. Stručnjak je postavio AI pitanje o pravima; YZ je rekao: "Postoji minimalni uslov boravka od 24 mjeseca za ovu pomoć." Kada je vještak pogledao službeno zakonodavstvo, nije postojao takav zahtjev; AI je pomiješao dva slična pomagala i napravio uslov koji nije postojao. Korak atribucije je spriječio da klijent bude nepravedno odbijen.
Slučaj 3 — Povratak od povrede privatnosti. Da bi bio brz, novi profesionalac je želio da zalijepi sve informacije o slučaju zaštite djece (uključujući ime djeteta, adresu, školu) u javni AI alat i odštampa izvještaj. Viši stručnjak je shvatio: radi se o osjetljivim ličnim podacima u okviru KVKK-a i nestao je. Incident je tretiran kao povreda podataka; posao je ponovo obavljen sa uklonjenim akreditivima i jedino bezbednom metodom u kući.
Četiri šablona za kopiranje
1) Procjena podobnosti za posao:
Vaša uloga: viši socijalni radnik i supervizor. U nastavku ću opisati posao. Recite mi (1) da li je ovo posao sažetka/uređivanja/crtanja koji se može delegirati na AI ili onaj koji zahtijeva kliničko prosuđivanje i procjenu rizika, (2) trošak za klijenta netačnog rezultata, (3) verifikaciju koju trebam obaviti prije i nakon delegiranja. Posao: [ovdje unesite posao]
2) Obaveza oslanjanja na dokaze:
Daću vam beleške sa sastanka. Prilikom uređivanja snimka, koristite SAMO informacije u napomeni. Ne dodavati ništa što klijent nije rekao, ne postavljati dijagnozu, ne komentarisati. Označite zapažanje i izraz klijenta odvojeno. Označite područja koja nedostaju ili nejasna kao "potrebno je pojašnjenje".
3) Prethodna provjera privatnosti:
Procijenite sljedeći tekst PRIJE obrade: može li ovaj tekst sadržavati lične podatke koji identifikuju klijenta (ime, adresa, TR ID, zdravlje, podaci o porodici)? Ako da, koje sekcije? Kao takav, ako ga ne treba obraditi u javnom alatu, upozorite me i navedite polja koja trebam de-identificirati. Tekst: [ovdje napišite tekst]
4) Pristrasnost/provjera jezika:
Razmotrite sljedeću evidenciju slučaja: Postoji li jezik koji stigmatizira, okrivljuje ili predrasude klijenta prema grupi? Da li ignoriše snage i resurse? Predložite jezik koji je više poštovan, fokusiran na činjenice i koji prepoznaje prednosti. Ne mijenjajte zapis, samo označite jezične probleme.
Slaba prompt / Jaka prompt
Slab upit:
Napišite izvještaj o ovoj porodici i odlučite da li je dijete bezbedno kod kuće.
Ovaj upit je bez konteksta i opasan: nejasno je koje informacije, koje zapažanje i AI se traže da donese odluku o sigurnosti djeteta. AI predviđa, može pristrasnost, može nadoknaditi - a to uključuje ljudski život.
Snažan upit:
Vaša uloga: pomoćnik urednika socijalnog radnika. Izvor: Bilješke o intervjuima i zapažanjima sa uklonjenim identifikacijskim informacijama, koje ću zalijepiti u nastavku. Zadatak: izraditi nacrt skeleta izvještaja o socijalnoj istrazi samo na osnovu informacija STVARNO sadržanih u ovim bilješkama; Označite zapažanje, izjavu klijenta i informacije koje nedostaju zasebno. DONOŠENJE odluke o riziku ili sigurnosti; Ja ću uraditi procjenu. Označite područje za koje niste sigurni kao "treba razjasniti".
Razlika je jasna: de-identifikacija, ograničenje "true-passing", označavanje i ograničenje "odluke" čine izlaz sigurnim i korisnim.
Tabela poređenja uloga/zadataka
posao
Uloga AI
muška uloga
verifikacija
Uredite evidenciju slučaja
Konfigurišite bilješku
potvrda, tačnost
Poređenje sa napomenom
Sažetak fajla
hronološki nacrt
Važnost, komentar
Link do izvora
Informacije o pravima/servisima
prvi nacrt
Trenutna potvrda
zvanično zakonodavstvo
procjena rizika
Podsjetnik na pitanje/okvir
Klinička procjena, odluka
Tim + nadzor
Izvještaj
skeleta skeleta
Sadržaj, mišljenje, potpis
Usklađivanje dokaza i iskaza
Dizajn programa
Generisanje ideja/okvira
podobnost, odluka
Polje + potvrda podataka
Uobičajene greške
- Greška AI izlaza za evaluaciju. Izlaz je uvijek nacrt koji treba provjeriti; Ne ulazi u dosije bez povezivanja sa dokazima.
- Lijepljenje podataka o klijentu u otvoreni alat. Ako procuri, to se ne može poništiti i predstavlja kršenje KVKK; To je najopasnija greška.
- Tražiti od AI da donese odluku o riziku/sigurnosti. Ove odluke zahtijevaju profesionalni autoritet i odgovornost; AI ne može donositi odluke.
- Zahtjev za koji nisu potrebni dokazi. Ako ne kažete, "Samo koristite ono što je u bilješci", AI može dodati ono što klijent nije rekao.
- Ne primjećujući stigmatizirajući jezik. Jezik AI može imati pristrasnost; Jezik koji poštuje i uzima u obzir prednosti je pod vašom kontrolom.
Ukratko
AI je moćan asistent u socijalnom radu: organizira neurednu bilješku, sažima fajl, pravi nacrte, pojednostavljuje, prevodi. Ali kliničko prosuđivanje, procjena rizika, predstavljanje i konačna odluka pripadaju čovjeku. Nosite razdvajanje u dva seta (rad koji je intenzivan na dokumentu u odnosu na prosuđivanje/odluke o riziku), verifikaciju u tri koraka (veza na dokaze, nezavisna potvrda, filter za pristrasnost), svijest o privatnosti (anonimni naspram svijeta podataka o klijentima) i budnost na pristrasnost kao okosnicu ovog modula.
Zadatak aplikacije
Navedite 6 zadataka iz vlastitog (ili zamišljenog) stola. Klasificirajte svaki kao „sažetak/uređivanje/nacrt koji može delegirati AI“ ili „klinička procjena/odluka o riziku“. Za jedan od prenosivih (sa izmišljenim primjerom koji ne identifikuje klijenta), koristite gornji predložak „Procjena podobnosti za posao“ i dobijete odgovor od AI; zatim primijenite verifikaciju u tri koraka i isprobajte i prethodnu provjeru privatnosti.
kontrolna lista
- [ ] Podijelio sam rad u dva klastera (dokumentno intenzivno / prosuđivanje-rizik).
- [ ] Primijenio sam verifikaciju u tri koraka (dokazi, nezavisna potvrda, pristrasnost).
- [ ] Uvjerio sam se da otvorenom alatu nisam dao lične podatke koji identifikuju klijenta.
- [ ] Povezao sam svaku izjavu koju je AI dao o klijentu sa stvarnom bilješkom.
- [ ] Provjerio sam stigmatizirajući/pristrasan jezik u izlazu.