Dobički:
- Biti sposoben razlikovati, kje umetna inteligenca prihrani čas v poteku dela socialnega dela (povzetek, urejanje, poenostavitev, osnutek) in kje so klinična presoja, tveganje in odločitve o predstavitvi prepuščene človeku, odvisno od stopnje tveganja.
- Sposobnost uporabe discipline, ki preverja vsak rezultat s koraki njegovega povezovanja z resničnimi dokazi, potrjevanja zunanjih informacij s trenutnimi uradnimi viri in njihovega filtriranja skozi pristranskost.
- Da bi razumeli, zakaj je treba v socialnem delu že od samega začetka upoštevati zasebnost strank, razlikovanje med svetom podatkov o anonimnih in strankah ter odgovornost KVKK.
Zjutraj ste v centru za socialno delo. Včeraj so prispele tri nove prijave: ženska, ki je bila žrtev nasilja, in njena dva otroka, starejša oseba, ki potrebuje nego, in najstnik, ki ji grozi osip. Na vaši mizi so štiri poročila socialne preiskave, mnenje, ki ga je zahtevalo sodišče, spisi primerov, ki jih je treba izpolniti, in priprave na domači obisk z družino danes popoldne. Socialno delo (poklic in disciplina, ki se izvaja za izboljšanje socialne funkcionalnosti posameznikov, družin in skupnosti, za zagotavljanje njihovega dostopa do pravic in blaginje ter za zaščito ranljivih skupin) je področje, ki je samo po sebi dokumentno intenzivno, časovno omejeno, se dotika človekovega življenja in ima visoko odgovornost. Umetna inteligenca (AI – programska oprema, ki lahko izlušči vzorce iz zgodovinskih podatkov in ustvari ali razvrsti besedilo, povzetke, prevode in osnutke) vam daje duška pri tej obremenitvi dokumentov in časovnem pritisku. Toda sam začetek tega modula je jasen: AI je pomočnik, povzemalec in generator orisov; Vi ste kompetenten strokovnjak, ki naredi oceno, tveganje in končno odločitev o naročniku.
V tej prvi enoti se bomo osredotočili na disciplino, ne na orodje. Izvedeli boste, kje umetna inteligenca prihrani čas v poteku dela socialnega dela, kje je nevarna, kako preveriti vsak rezultat, kako zaščititi zasebnost strank in osebne podatke ter kako ostati pozoren na pristranskost. Brez postavitve tega temelja nadaljnje enote ostanejo v zraku — kajti v socialnem delu nepreverjeni rezultat ni le lažen stavek; To je napaka, ki bi lahko povzročila napačno oceno otroka, spregledanje tveganja, nepravično stigmatizacijo družine ali razkritje občutljivih informacij.
Kje umetna inteligenca pride prav v delovnem procesu socialnega dela?
Razdelimo socialna dela v dva velika sklopa. Prvi grozd: dokumentno intenzivne, ponavljajoče se naloge, ki jih je mogoče ekstrahirati z vzorci in jezikovne naloge. Prevajanje razpršenih zapiskov po intervjuju v organiziran zapis primera, kronološki povzetek dolge datoteke, prvi okvir poročila o socialni preiskavi, poenostavitev seznama pomoči/storitev, da ustreza jeziku stranke, osnutek napotnega pisma, prevod preprostega informativnega besedila za večjezično stranko, prvi okvir analize potreb programa. Pri teh delovnih mestih umetna inteligenca skrajša ure na minute in se ne utrudi.
Drugi sklop: naloge, ki zahtevajo presojo, klinično oceno, presojo tveganja in odgovornost. Ali je otrok varen doma, stopnja tveganja posameznika za samopoškodovanje, ali družina potrebuje zaščitne ukrepe, mnenje, s katerim bo poročilo predloženo sodišču, ali je storitev res primerna za stranko. Te odločitve zahtevajo strokovno usposobljenost, klinično presojo, poznavanje konteksta, etično odgovornost in pogosto mnenje multidisciplinarne ekipe. Tukaj umetna inteligenca pomnoži možnosti, ustvari osnutke, vas opomni na tisto, kar ste spregledali – a končna ocena in podpis sta vaša.
Razjasnimo razliko v enem stavku: AI je močan pri vprašanjih "kaj je v tej datoteki in kako izgleda prvi osnutek"; Odločitev je vaša, ko gre za vprašanja, kot je "Kakšno je dejansko stanje za to osebo in ali lahko to zagovarjam v imenu svojega poklica?"
Namig: preden delo oddate zunanjemu izvajalcu umetne inteligence, se vprašajte: "Kdo bo poškodovan, če je rezultat napačen?" Če je odgovor "nekaj minut preoblikovanja", udobno delegirajte. Če je odgovor "napačna ocena stranke, izogibanje tveganju ali uhajanje informacij", naj AI pripravi osnutek, vi pa sprejmete odločitev in preverite.
Zasebnost: nedotakljivo načelo
Srce socialnega dela je zaupanje, zaupanje pa temelji na zaupnosti. Stranka vam pove svoje najbolj zasebne, najbolj krhke informacije – nasilje, revščina, zdravstveno stanje, družinske skrivnosti – pri čemer se zanaša na poklicno zaupnost. Ko ti podatki pridejo v napačne roke, ogrožajo človekovo življenje, varnost in dostojanstvo. Osnovno pravilo tukaj: v javno orodje AI, ki ga vaša ustanova ni odobrila, ne bodo vneseni osebni podatki, ki identificirajo stranko (ime, naslov, TR ID, zdravstveni podatki, družinski podatki itd.). Besedilo, ki ga vnesete v javno storitev AI, se obdela na strežnikih te storitve; Ne morete nadzirati, kdo ga vidi, kje je shranjen in ali se uporablja pri usposabljanju modela. V Turčiji je to tudi pravna obveznost po KVKK (Zakon o varstvu osebnih podatkov – zakon, ki ureja obdelavo osebnih podatkov).
Zato uporaba umetne inteligence v socialnem delu deluje v dveh ločenih svetovih: splošna orodja se lahko uporabljajo za deidentificirani/generični svet (anonimni ali izmišljeni primeri, ki ne identificirajo stranke, vprašanja splošnega znanja); Za svet podatkov o strankah se uporabljajo samo interni, varni, odobreni sistemi, ki ne puščajo podatkov. Mešanje obeh je najnevarnejša napaka tega modula.
Pozor: »AI je tako rekel« ni utemeljitev in nima veljave v spisu primera. Če pride do napačne presoje, izmišljenih informacij ali uhajanja podatkov, odgovornost ne pripada umetni inteligenci, temveč strokovnjaku, ki uporabi ta rezultat, ne da bi ga preveril, ali te podatke vnese v orodje.
Disciplina preverjanja: trije koraki
AI ustvarja tekoče in samozavestno; To ne pomeni, da je res. Umetna inteligenca občasno povzroči halucinacije – to pomeni, da kot resnično predstavi zakonodajo, ki ne obstaja, storitev, ki ne obstaja, izmišljeno statistiko ali izjavo, ki je stranka ni nikoli povedala. V poročilu o socialni preiskavi ali memorandumu o tveganju je to katastrofalno. Za vsak izhod uporabite tristopenjski refleks:
- Povezava do vira/dokaza. Vsaka izjava, ki jo AI poda o stranki, mora temeljiti na dejanskem zapisku ali pogovoru, ki ste ga dali. "V katerem pogovoru, iz čigavih ust, s kakšno opazko je bila podana ta informacija?" vprašaj. AI ne bi smel dodati ničesar, česar stranka ni povedala.
- Potrdite z neodvisnim virom. Preverite zunanje informacije, kot so zakon, pravice, storitev, naslov za posredovanje itd. iz trenutnega uradnega vira. Zahteva za prijavo ali telefonska številka, ki jo zagotovi AI, je lahko zastarela ali lažna.
- Spustiti skozi filter interpretacije in pristranskosti. Ali je rezultat pristranski proti skupini? Ali obstaja jezik, ki stigmatizira in krivi stranko? Ali zanemarja prednosti? Vaša strokovna presoja je zadnji filter.
trije mini kovčki
1. primer – prihranek časa pri dokumentaciji. Socialna delavka je v enem tednu opravila 14 intervjujev in za vsakega vodila ohlapne ročne zapiske. Urejanje s pomočjo umetne inteligence je skrajšalo skupni čas prevajanja teh zapiskov v strukturirane zapise primerov s približno 4 ur na 1 uro. Toda vsak posnetek je izvedenec prebral in preveril s primerjavo z dejanskim intervjujem; Dva stavka, ki ju je AI "interpretirala", sta bila izbrisana.
Primer 2 — Verifikacija je ujela halucinacijo. Strokovnjak je AI postavil vprašanje o pravicah; YZ je rekel: "Za to pomoč je zahtevano minimalno bivanje 24 mesecev." Ko je strokovnjak pogledal uradno zakonodajo, te zahteve ni bilo; AI je zmešal dve podobni pomoči in ustvaril pogoj, ki ni obstajal. Korak pripisovanja je preprečil, da bi bila stranka neupravičeno zavrnjena.
Primer 3 – Vrnitev zaradi kršitve zasebnosti. Da bi bil hiter, je novi strokovnjak želel prilepiti vse informacije o primeru zaščite otrok (vključno z otrokovim imenom, naslovom, šolo) v javno orodje AI in natisniti poročilo. Višji strokovni sodelavec je ugotovil: gre za občutljive osebne podatke v okviru KVKK in je bil zunaj. Incident je bil obravnavan kot kršitev podatkov; opravilo je bilo prenovljeno z odstranjenimi poverilnicami in samo interno varno metodo.
Štiri predloge za kopiranje
1) Ocena primernosti za delo:
Vaša vloga: višji socialni delavec in nadzornik. Delo bom opisal spodaj. Povejte mi (1) ali je to delo povzetka/urejanja/orisovanja, ki ga je mogoče prenesti na AI, ali tisto, ki zahteva klinično presojo in presojo tveganja, (2) strošek za stranko zaradi nepravilnega izhoda, (3) preverjanje, ki ga moram opraviti pred in po prenosu. Delovno mesto: [tukaj vstavite delovno mesto]
2) Obveznost sklicevanja na dokaze:
Dal vam bom zapiske sestanka. Pri urejanju posnetka uporabite SAMO podatke v opombi. Ne dodajajte ničesar, česar stranka ni povedala, ne postavljajte diagnoz, ne komentirajte. Ločeno označite opažanje in strankin izraz. Označite manjkajoča ali nejasna področja kot "potrebna pojasnila".
3) Predhodno preverjanje zasebnosti:
PRED obdelavo ocenite naslednje besedilo: ali lahko to besedilo vsebuje osebne podatke, ki identificirajo stranko (ime, naslov, TR ID, zdravstveni podatki, družinski podatki)? Če da, katere razdelke? Zato me opozori in navedi polja, ki jih moram deidentificirati, če ne bi smel biti obdelan v javnem orodju. Besedilo: [napišite besedilo sem]
4) Preverjanje pristranskosti/jezika:
Razmislite o naslednjem primeru: Ali obstaja jezik, ki stranko stigmatizira, obtožuje ali ustvarja predsodke do skupine? Ali zanemarja prednosti in vire? Predlagajte jezik, ki je bolj spoštljiv, osredotočen na dejstva in priznava prednosti. Ne spreminjajte zapisa, samo označite jezikovne težave.
Šibek poziv/močan poziv
Šibek poziv:
Napišite poročilo o tej družini in se odločite, ali je otrok varen doma.
Ta poziv je brez konteksta in nevaren: nejasno je, katere informacije, kakšno opazovanje in umetna inteligenca se zahteva, da sprejme odločitev o varnosti otroka. Umetna inteligenca napoveduje, lahko pristranskost, lahko nadomesti - in to vključuje človeško življenje.
Močan poziv:
Vaša vloga: pomočnik urednika socialnemu delavcu. Vir: zapiski o intervjuju in opazovanju z odstranjenimi identifikacijskimi podatki, ki jih bom prilepil spodaj. Naloga: ustvarite osnutek skeleta poročila o socialni preiskavi, ki temelji samo na informacijah, ki jih DEJANSKO vsebujejo te opombe; Opazovanje oznake, izjava stranke in manjkajoče informacije ločeno. SPREJEMANJE odločitve o tveganju ali varnosti; Jaz bom ocenil. Področje, za katerega niste prepričani, označite kot "potrebno je pojasniti".
Razlika je jasna: deidentifikacija, omejitev "pravega prehoda", označevanje in omejitev "odločitve" naredijo izhod varen in uporaben.
Tabela primerjave vlog/nalog
posel
Vloga AI
moška vloga
preverjanje
Uredite zapis o primeru
Konfigurirajte opombo
potrditev, natančnost
Primerjava z opombo
Povzetek datoteke
kronološki oris
Pomembnost, komentar
Povezava do vira
Informacije o pravicah/storitvi
prvi osnutek
Trenutna potrditev
uradna zakonodaja
ocena tveganja
Vprašanje/okvirni opomnik
Klinična presoja, odločitev
Ekipa + nadzor
Poročilo
skica okostja
Vsebina, mnenje, podpis
Ujemanje dokazov in izjav
Oblikovanje programa
Generiranje ideje/ogrodja
upravičenost, odločitev
Polje + potrditev podatkov
Pogoste napake
- Zamenjajo rezultate AI za oceno. Rezultat je vedno osnutek, ki ga je treba preveriti; Ne vstopi v spis, ne da bi bil povezan z dokazi.
- Lepljenje podatkov odjemalca v odprto orodje. Če pušča, je ni mogoče razveljaviti in je kršitev KVKK; To je najbolj nevarna napaka.
- Zahteva AI, da sprejme odločitev o tveganju/varnosti. Te odločitve zahtevajo strokovno avtoriteto in odgovornost; AI ne more sprejemati odločitev.
- Zahteva, ki ne zahteva dokazov. Če ne rečete, "Uporabi samo tisto, kar je v opombi," lahko AI doda tisto, kar odjemalec ni povedal.
- Ne opaziti stigmatizirajočega jezika. Jezik AI lahko vsebuje pristranskost; Jezik, ki je spoštljiv in upošteva prednosti, je pod vašim nadzorom.
Če povzamem
AI je močan pomočnik pri socialnem delu: organizira neurejene zapiske, povzema datoteko, izdeluje osnutke, poenostavlja, prevaja. Toda klinična presoja, ocena tveganja, zastopanje in končna odločitev pripadajo človeku. Nosite ločevanje na dva sklopa (delo z veliko dokumentov v primerjavi s presojo/odločitvami o tveganju), preverjanje v treh korakih (povezava do dokazov, neodvisna potrditev, filter pristranskosti), ozaveščenost o zasebnosti (anonimni v primerjavi s svetom podatkov strank) in pozornost na pristranskost kot hrbtenico tega modula.
Aplikacijska naloga
Naštejte 6 nalog s svoje (ali namišljene) mize. Vsako razvrstite kot »povzetek/urejanje/osnutek, ki ga lahko prenese AI« ali »klinično presojo/odločitev o tveganju«. Za enega od prenosljivih (z izmišljenim primerom, ki ne identificira stranke) uporabite zgornjo predlogo »Ocena primernosti za delo« in pridobite odgovor AI; nato uporabite preverjanje v treh korakih in preizkusite tudi predhodno preverjanje zasebnosti.
kontrolni seznam
- [ ] Delo sem razdelil na dva sklopa (dokumentno intenzivna/presoja-tvegana presoja).
- [ ] Uporabil sem preverjanje v treh korakih (dokazi, neodvisna potrditev, pristranskost).
- [ ] Prepričal sem se, da odprtemu orodju nisem posredoval osebnih podatkov, ki identificirajo stranko.
- [ ] Vsako izjavo, ki jo je umetna inteligenca podala o stranki, sem povezal z dejansko opombo.
- [ ] Preveril sem stigmatizirajoči/pristranski jezik v izpisu.