Dobici:
- Sposobnost pripreme kontrolne liste rizika i zaštitnih faktora i kostura sigurnosnog plana sa umjetnom inteligencijom i rad bez preskakanja bilo koje oblasti
- Shvatite da nivo rizika i sigurnosne odluke donose samo stručnjaci, timovi, nadzor i pravni procesi, te da umjetna inteligencija ne može donositi odluke.
- Vidjevši da umjetna inteligencija može pripisati sistematsku pristrasnost grupama u nepovoljnom položaju i primjenjujući disciplinu da nikada ne koristi svoje rezultate kao odluku i obrađuje najosjetljivije podatke samo u sigurnom sistemu
Najozbiljnija odgovornost socijalnog rada je procjena rizika – presude koje se direktno tiču sigurnosti života, kao što je da li je dijete zanemareno ili zlostavljano, da li je vjerovatno da će pojedinac povrijediti sebe ili nekog drugog, da li je starija osoba sigurna ili koliko je žrtva nasilja ugrožena. Prvo i najhrabrije pravilo ove jedinice glasi: donošenje odluka o riziku ne pripada, ne može i ne smije pripadati AI. Odluka o sigurnosti osobe; Zahtijeva profesionalni autoritet, kliničko prosuđivanje, mišljenje multidisciplinarnog tima, nadzor i pravnu odgovornost. AI je ovdje samo alat za pripremu i podsjetnik: podsjeća vas koje faktore rizika i zaštite treba pregledati, organizira vaše bilješke, ocrtava sigurnosni plan. Ne daje ocenu, ne kaže „rizik je nizak/visok“, ne donosi odluku.
Zašto to tako oštro naglašavamo? Jer u areni rizika, cena greške veštačke inteligencije je nepovratna. AI ocjena rizika kao "nizak" ostavlja dijete nezaštićenim; Činiti da se rizik čini nepotrebno „visokim“ može dovesti do nepravedno razdvojene porodice. Osim toga, AI nosi pristrasnost u podacima o obuci: algoritmi koji sistematski pripisuju veći rizik određenim socioekonomskim grupama, etničkim grupama ili susjedstvima dokumentirani su širom svijeta. Dakle, čak i ako je izlaz AI ulaz, on nikada ne može nadjačati vašu nezavisnu prosudbu.
Legitimna uloga AI: podsjetnik i regulacija
Postoje tri mjesta na kojima možete bezbedno koristiti AI u opasnosti:
1. Podsjetnik faktora. Faktori rizika (npr. prošlost nasilja, upotreba supstanci, socijalna izolacija, prethodni prijem) i zaštitni faktori (npr. odrasla osoba koja pruža podršku, redovno pohađanje škole, jaka društvena mreža) koje treba uzeti u obzir u procjeni rizika su dugi; AI vam pomaže da izbjegnete propuštanje bilo koje oblasti prizivanjem kontrolne liste koja odgovara okviru koji vaša organizacija koristi.
2. Uređivanje beleški. Prevodi vaše zapažanje i izjave klijenata u organiziran, činjenični tekst - tako da možete zasnovati svoj sud na jasnim podacima.
3. Nacrt sigurnosnog plana. Sigurnosni plan (konkretan plan koji određuje šta će žrtva učiniti u slučaju opasnosti, kome će se obratiti, gdje će ići) ima određenu strukturu. AI može proizvesti nacrt skeleta koji se popunjava sa klijentom; Ali vi i klijent ispunjavate sadržaj plana u skladu sa realnošću.
Oprez: Nikada ne pitajte AI "koji je nivo rizika u ovom slučaju?" ili "da li je dijete bezbedno kod kuće?" Ne pitaj. NEMOJTE koristiti izlaz kao odluku, čak i ako tražite. Na ova pitanja odgovara samo ovlašteni stručnjak, tim i nadzor putem službenog instrumenta rizika institucije.
Korak po korak: ispravno pozicioniranje AI u procesu rizika
- Sigurnost na prvom mjestu. Ako postoji neposredna i ozbiljna opasnost (sigurnost života), potrebno je voditi hitnu proceduru ustanove, a ne baviti se AI. AI ne bi trebalo da odlaže bilo kakvu hitnost.
- Disidentifikovati. Ocene rizika su najosetljiviji podaci; Informacije koje identifikuju klijenta ne unose se u otvoreni alat, već se koristi samo bezbedni institucijski alat.
- Podsjeti me na listu faktora. Zatražite kontrolnu listu rizika i zaštitnih faktora koja odgovara institucionalnom okviru.
- Procijenite sami. Vagate faktore, procenjujete sa timom i konsultujete se sa supervizorom. Ne želite da AI "procjenjuje".
- Završite sigurnosni plan sa klijentom. Nacrt skeleta može doći od AI; Sadržaj je popunjen klijentovom stvarnom mrežom, resursima i preferencijama.
tri mini kofera
Slučaj 1 — Propušten zaštitni faktor. Stručnjak se fokusirao na faktore rizika u slučaju nasilja u porodici. Kontrolna lista faktora koju je tražio od AI navela ga je da pita o klijentovoj bezbednoj mreži podrške na poslu u odeljku „zaštitni faktori“ – oblasti koju je stručnjak propustio. Ova mreža je postala najrealniji dio sigurnosnog plana. Odluka je opet bila na vještaku; AI je samo podsjetio na pitanje.
Slučaj 2 — Netačan rezultat nije vjerovan. Jedna agencija je vidjela da je probni alat AI označio slučaj kao "nizak rizik". Međutim, zapažanje vještaka i izjava klijenta ukazivali su na ozbiljnu opasnost. Tim je odbacio oznaku AI i pokrenuo zaštitnu akciju na osnovu vlastite procjene. Kasnije je potvrđeno da je opasnost bila stvarna. Lekcija: AI rezultat nije odluka; ljudski sud ima prednost.
Slučaj 3 — Pristrasnost uhvaćena. U jednom suđenju isti slučaj je dvaput dat AI; Jedina razlika je u komšiluku u kojem je klijent živio. AI je sistematski proizvodio viši „jezik rizika“ za susjedstvo za koje je poznato da je u nepovoljnom položaju. Ovo je pokazalo pristrasnost u podacima o obuci AI i ojačalo politiku agencije da ne koristi AI u donošenju odluka o riziku.
Četiri šablona za kopiranje
1) Podsjetnik na rizik/zaštitni faktor:
Vaša uloga: pomoćnik supervizora socijalnog rada. Pripremite kontrolnu listu faktora rizika i zaštitnih faktora koji se preporučuju da se pregledaju u procjeni rizika u slučajevima [nasilja u porodici]. Predstavite ovo kao listu PODSJETNIKA; NEMOJTE proizvoditi nikakve rezultate, odluke ili "nivoe rizika". Procjena i odluka pripadaju ekspertu.
2) skelet nacrta sigurnosnog plana:
Vaša uloga: urednik. Pripremite PRAZNU skicu sigurnosnog plana koji treba popuniti sa žrtvom nasilja u porodici: znakovi upozorenja, sigurna mjesta, ljudi i institucije koje treba kontaktirati, važna dokumenta, plan za djecu, digitalna sigurnost. Popunjavanje sadržaja; Ostavite prazna mjesta ispod svakog naslova koje će popuniti klijent.
3) Uređivanje bilješke o riziku (bez donošenja odluke):
Prevedite sljedeća zapažanja i bilješke o izjavama u činjenični, organiziran tekst. Označite opažanje i izjavu klijenta odvojeno. NAVEDANJE nivoa rizika, DONOŠENJE ODLUKE, DODAVANJE komentara. Uredite samo ono što je u bilješci i označite nedostajuća/nejasna područja. Napomena: [zalijepi de-identificiranu bilješku]
4) Samokontrola predrasuda:
U nacrtu napomene o riziku u nastavku, postoji li izjava koja prenosi nedokazanu pristrasnost zbog socioekonomskog statusa, etničke pripadnosti, susjedstva ili sličnih karakteristika klijenta? Označite svaku rečenicu koja je zasnovana na stereotipima, a ne na dokazima. Ne mijenjajte tekst, samo upozorite. Napomena: [zalijepi bilješku]
Slaba prompt / Jaka prompt
Slab upit:
Pročitajte ovaj slučaj i odlučite da li je bezbedno da dete ostane kod kuće i koliki je nivo rizika.
Ovo je prepuštanje najvažnijoj odluci o ljudskom životu softveru. To je neetično, suprotno profesionalnoj odgovornosti i nosi pristrasnost AI direktno u sudbinu djeteta.
Snažan upit:
Vaša uloga: pomoćnik za podsjetnike. Prije nego što pročitate donju napomenu bez identifikacije, pripremite kontrolnu listu rizika i zaštitnih faktora koje ćete razmotriti u evaluaciji slučajeva [zanemarivanja djece]. PROIZVODNJA odluke, rezultata ili nivoa rizika. Napravit ću evaluaciju sa svojim timom; Samo me podsjetite koja područja ne smijem preskočiti.
Razlika: izgovaranje „koja pitanja ne smijem zaboraviti“ umjesto traženja odluka drži AI na sigurnoj i etičkoj granici.
Granice uloga u oblasti rizika
Quest
Može li AI to učiniti?
ko zna?
Podsjetnik na kontrolnu listu faktora
Da
AI (podsjetnik)
Činjenično uređivanje bilješki
Da
AI + stručno odobrenje
Prazan kostur sigurnosnog plana
Da
AI; sadržaj klijent+stručnjak
Određivanje nivoa rizika/skora
br
Ekspert + tim + nadzor
"Je li sigurno?" odluka
br
Kompetentan stručnjak, pravni proces
Pokretanje zaštitnih mjera
br
Institucija, nadležni organ
Uobičajene greške
- Traženje AI za rezultat/odluku o riziku. Najopasnija greška; Odluka zahtijeva profesionalni autoritet i pravnu odgovornost.
- Vjerovati AI etiketi. Zaključak "niskog rizika" nikada neće poništiti vaše zapažanje suprotno.
- Ignoriranje predrasuda. AI može pripisati sistematski visok rizik grupama u nepovoljnom položaju; samokontrola je neophodna.
- Odlaganje hitnosti. Ako postoji životna sigurnost, prvo hitni postupak; Suočavanje s AI ne može čekati.
- Davanje najosjetljivijih podataka otvorenom alatu. Bilješke o riziku se obrađuju samo u sigurnom institucijskom alatu.
Ukratko
Procjena rizika je najveća odgovornost socijalnog rada, a odluka je isključivo na osobi — profesionalcu, timu, nadzoru, pravnim autoritetima. Ovdje je AI samo alat za podsjećanje (lista faktora rizika/zaštitnih faktora), organiziranje (činjenična bilješka) i izradu nacrta (kostur sigurnosnog plana); Ne daje golove, ne donosi odluke. Zapamtite da AI nosi pristrasnost, nikada ne koristite njegov izlaz kao odluku i obradite najosjetljivije podatke samo u sigurnom sistemu.
Zadatak aplikacije
Odaberite izmišljenu vrstu slučaja. Nabavite kontrolnu listu sa šablonom „podsjetnik na rizik/zaštitni faktor“ i provjerite da AI ne proizvodi nikakve „nivoe rizika“. Zatim zgrabite prazan kostur plana sa šablonom "kostur okvira sigurnosnog plana". Svjesno pitati AI "koji je nivo rizika?" i napišite u jednoj rečenici zašto NE koristite izlaz kao odluku.
kontrolna lista
- [ ] Tražio sam od AI samo podsjetnik faktora, a ne odluku/rezultat.
- [ ] Obradio sam najosjetljivije podatke samo u sigurnom alatu za preduzeća.
- [ ] Planirao sam popuniti sadržaj sigurnosnog plana zajedno sa klijentom.
- [ ] Provjerio sam AI izlaz za pristrasnost.
- [ ] Potvrdio sam da konačna odluka o riziku ostaje na timu, nadzoru i pravilnom postupku.