Rizikos įvertinimo palaikymas ir saugumo planavimas: jautriausia riba

Pelnas:

• Gebėjimas parengti rizikos ir apsauginių faktorių kontrolinį sąrašą bei saugos plano skeletą su dirbtiniu intelektu ir dirbti nepraleidžiant jokių sričių
• Supraskite, kad rizikos lygio/balo ir saugumo sprendimus priima tik ekspertai, komandos, priežiūra ir teisiniai procesai, o dirbtinis intelektas negali priimti sprendimų.
• Matydami, kad dirbtinis intelektas gali priskirti sistemingą šališkumą nepalankioje padėtyje esančioms grupėms, ir laikytis disciplinos niekada nenaudoti jo išvesties kaip sprendimo ir apdoroti jautriausius duomenis tik saugioje sistemoje.

Rimčiausia socialinio darbo atsakomybė yra rizikos vertinimas – sprendimai, tiesiogiai susiję su gyvybės saugumu, pavyzdžiui, ar vaikas neprižiūrimas ar skriaudžiamas, ar asmuo gali pakenkti sau ar kam nors kitam, ar pagyvenęs žmogus yra saugus, ar gresia pavojus smurto aukai. Pirmoji ir drąsiausia šio skyriaus taisyklė yra tokia: sprendimų dėl rizikos priėmimas nepriklauso, negali ir neturėtų priklausyti DI. Sprendimas dėl asmens saugumo; Tam reikalingas profesionalus autoritetas, klinikinis sprendimas, daugiadalykė komandos nuomonė, priežiūra ir teisinė atsakomybė. Dirbtinis intelektas čia yra tik pasiruošimo ir priminimo įrankis: jis primena, kuriuos rizikos ir apsaugos veiksnius peržiūrėti, sutvarko užrašus, išdėsto saugos planą. Tai neduoda balo, nesako „rizika maža/didelė“, nepriima sprendimo.

Kodėl mes tai taip griežtai pabrėžiame? Kadangi rizikos arenoje AI klaidos kaina yra negrįžtama. AI rizikos įvertinimas „mažas“ palieka vaikas neapsaugotą; Jei rizika atrodytų be reikalo „didelė“, šeima gali būti neteisingai atskirta. Be to, dirbtinis intelektas turi tendencijų mokymo duomenims: algoritmai, kurie sistemingai priskiria didesnę riziką tam tikroms socialinėms ir ekonominėms grupėms, etninėms grupėms ar rajonams, buvo užfiksuoti visame pasaulyje. Taigi net jei AI išvestis yra įvestis, ji niekada negali nepaisyti jūsų nepriklausomo sprendimo.

Teisėtas AI vaidmuo: priminimas ir reguliavimas

Yra trys vietos, kur galite saugiai naudoti AI rizikuodami:

1. Faktoriaus priminimas. Rizikos veiksniai (pvz., ankstesnė smurto istorija, narkotikų vartojimas, socialinė izoliacija, ankstesnis priėmimas) ir apsauginiai veiksniai (pvz., palaikomasis suaugęs asmuo, reguliarus mokyklos lankymas, stiprus socialinis tinklas), į kuriuos reikėtų atsižvelgti vertinant riziką, yra ilgi; Dirbtinis intelektas padeda jums nepraleisti jokių sričių, prisimindamas kontrolinį sąrašą, atitinkantį jūsų organizacijos naudojamą sistemą.

2. Pastabų redagavimas. Ji paverčia jūsų pastebėjimus ir klientų teiginius į sutvarkytą faktinį tekstą, todėl galite pagrįsti savo sprendimą aiškiais duomenimis.

3. Apsaugos plano projektas. Saugumo planas (konkretus planas, nurodantis, ką nukentėjusysis veiks pavojaus atveju, su kuo kreipsis, kur eis) turi tam tikrą struktūrą. AI gali sukurti juodraščio skeletą, kurį užpildys klientas; Bet jūs ir klientas pildote plano turinį pagal realybę.

Atsargiai: niekada neklauskite AI „koks yra rizikos lygis šiuo atveju? arba „ar vaikas saugus namuose? Neklausk. NENAUDOKITE išvesties kaip sprendimo, net jei to prašote. Į šiuos klausimus atsako tik įgaliotas ekspertas, komanda ir priežiūra per įstaigos oficialų rizikos įrankį.

Žingsnis po žingsnio: teisingai nustatykite AI rizikos procese

1. Saugumas pirmiausia. Esant tiesioginiam ir rimtam pavojui (gyvybės saugumui), būtina atlikti įstaigos skubios pagalbos procedūrą, o ne kovoti su PG. AI neturėtų atidėti jokios skubos.
2. Neidentifikuoti. Rizikos reitingai yra jautriausi duomenys; Klientą identifikuojanti informacija į atvirąjį įrankį neįvedama, naudojamas tik saugios įstaigos įrankis.
3. Priminkite man faktorių sąrašą. Paprašykite rizikos ir apsauginių veiksnių kontrolinio sąrašo, atitinkančio institucinę sistemą.
4. Padarykite savo sprendimą. Pasveriate veiksnius, įvertinate kartu su komanda ir konsultuojatės su vadovu. Jūs nenorite, kad AI „įvertintų“.
5. Užpildykite saugos planą kartu su klientu. Skeleto juodraštis gali būti iš AI; Turinys užpildytas faktiniu kliento tinklu, ištekliais ir pageidavimais.

trys mini dėklai

1 atvejis – praleistas apsauginis faktorius. Ekspertas daugiausia dėmesio skyrė rizikos veiksniams smurto šeimoje byloje. Faktorių kontrolinis sąrašas, kurio jis paprašė AI, privertė jį paklausti apie kliento saugų palaikymo tinklą darbe „apsauginių veiksnių“ skiltyje – srities, kurią ekspertas praleido. Šis tinklas tapo realiausia saugumo plano dalimi. Sprendimą vėl turėjo priimti ekspertas; AI tik priminė klausimą.

2 atvejis – neteisingas rezultatas nepasitikėjo. Viena agentūra pamatė, kad bandomasis AI įrankis pažymėjo atvejį kaip „mažos rizikos“. Tačiau eksperto pastebėjimas ir kliento pareiškimas rodė rimtą pavojų. Komanda atmetė AI etiketę ir, remdamasi savo vertinimu, pradėjo apsaugos veiksmus. Vėliau buvo patvirtinta, kad pavojus buvo realus. Pamoka: AI rezultatas nėra sprendimas; žmogaus sprendimas turi viršenybę.

3 atvejis – pagautas šališkumas. Viename tyrime ta pati byla AI buvo pateikta du kartus; Vienintelis skirtumas buvo kaimynystėje, kurioje klientas gyveno. AI sistemingai kūrė didesnę „rizikos kalbą“ kaimynystėje, kuri žinoma nepalankioje padėtyje. Tai parodė AI mokymo duomenų šališkumą ir sustiprino agentūros politiką nenaudoti AI priimant sprendimus dėl rizikos.

Keturi kopijuojami šablonai

1) Rizikos / apsauginio faktoriaus priminimas:

Jūsų vaidmuo: socialinio darbo vadovo padėjėjas. Paruoškite rizikos veiksnių ir apsauginių veiksnių, kuriuos rekomenduojama peržiūrėti atliekant [smurto šeimoje] atvejų rizikos vertinimą, kontrolinį sąrašą. Pateikite tai kaip PRIMINIMŲ sąrašą; NENAUDOKITE jokių balų, sprendimų ar „rizikos lygių“. Įvertinimas ir sprendimas priklauso ekspertui.

2) Apsaugos plano juodraštis:

Jūsų vaidmuo: redaktorius. Paruoškite TUŠČIUS saugos plano metmenis, kuriuos pildysite su smurto artimoje aplinkoje auka: įspėjamieji ženklai, saugios vietos, asmenys ir institucijos, į kuriuos galima susisiekti, svarbūs dokumentai, planas vaikams, skaitmeninis saugumas. Turinio pildymas; Po kiekviena antrašte palikite tuščius tarpus, kuriuos užpildysite su klientu.

3) Rizikos užrašo redagavimas (nepriimant sprendimo):

Išverskite šiuos pastebėjimus ir teiginius į faktinį, sutvarkytą tekstą. Atskirai pažymėkite stebėjimą ir kliento pareiškimą. NURODYTI rizikos lygį, PRIIMTI sprendimą, PRIDĖTI komentarą. Redaguokite tik tai, kas yra pastaboje, ir pažymėkite trūkstamas / neaiškias sritis. Pastaba: [įklijuokite atpažintą užrašą]

4) šališkumo savikontrolė:

Ar toliau pateiktame pastabos apie riziką projekte yra teiginys, kuris perteikia neįrodytą šališkumą dėl kliento socialinės ir ekonominės padėties, etninės kilmės, kaimynystės ar panašių savybių? Pažymėkite kiekvieną sakinį, pagrįstą stereotipais, o ne įrodymais. Nekeiskite teksto, tik perspėkite. Pastaba: [įklijuoti pastabą]

Silpnas raginimas / Stiprus raginimas

Silpnas raginimas:

Perskaitykite šį atvejį ir nuspręskite, ar vaikui saugu likti namuose ir koks yra rizikos lygis.

Tai svarbiausio žmogaus gyvenimo sprendimo perdavimas programinei įrangai. Tai neetiška, prieštarauja profesinei atsakomybei, o dirbtinio intelekto šališkumas tiesiogiai susijęs su vaiko likimu.

Galingas raginimas:

Jūsų vaidmuo: priminimo asistentas. Prieš skaitydami toliau pateiktą atpažinimo pastabą, paruoškite rizikos ir apsauginių veiksnių kontrolinį sąrašą, kurį reikia peržiūrėti vertinant [vaiko nepriežiūros] atvejus. SUDARYTI sprendimą, balą ar rizikos lygį. Įvertinimą atliksiu su savo komanda; Jūs tiesiog priminkite man, kurių sričių neturėčiau praleisti.

Skirtumas: sakydamas „kurių klausimų neturėčiau pamiršti“, o ne prašydamas priimti sprendimus, dirbtinis intelektas yra saugus ir etiškas.

Vaidmenų ribos rizikos srityje

Quest

Ar AI gali tai padaryti?

Kas daro?

Faktorių kontrolinio sąrašo priminimas

Taip

AI (priminimas)

Pastabų redagavimas faktiškai

Taip

AI + eksperto patvirtinimas

Tuščias saugumo plano skeletas

Taip

AI; turinio klientas+ekspertas

Rizikos lygio/balo nustatymas

ne

Ekspertas + komanda + supervizija

– Ar saugu? sprendimą

ne

Kompetentingas ekspertas, teisinis procesas

Apsaugos priemonių inicijavimas

ne

Įstaiga, kompetentinga institucija

Dažnos klaidos

• Prašymas AI dėl rizikos balo / sprendimo. Pavojingiausia klaida; Sprendimui priimti reikalingas profesionalus autoritetas ir teisinė atsakomybė.
• Pasitikėjimas AI etikete. „Mažos rizikos“ išvada niekada nepaneigia jūsų pastebėjimo priešingai.
• Ignoruojant išankstinį nusistatymą. AI gali sistemingai didelę riziką priskirti nepalankioje padėtyje esančioms grupėms; savikontrolė yra būtina.
• Atidėtas skubumas. Jei yra gyvybės saugumas, pirmiausia skubios pagalbos procedūra; Darbas su AI negali laukti.
• Skelbtiniausių duomenų suteikimas atviram įrankiui. Rizikos pastabos apdorojamos tik saugios įstaigos įrankyje.

Apibendrinant

Rizikos įvertinimas yra didžiausia socialinio darbo atsakomybė, o sprendimas priklauso tik asmeniui – profesionalui, komandai, priežiūrai, teisinei valdžiai. Čia AI yra tik priminimo (rizikos/apsauginių veiksnių sąrašas), organizavimo (faktinė pastaba) ir rengimo (saugos plano struktūra) įrankis; Jis nerenka taškų, nepriima sprendimų. Atminkite, kad dirbtinis intelektas yra šališkas, niekada nenaudokite jo išvesties kaip sprendimo ir apdorokite jautriausius duomenis tik saugioje sistemoje.

Taikymo užduotis

Pasirinkite išgalvoto atvejo tipą. Gaukite kontrolinį sąrašą su „rizikos / apsauginio faktoriaus priminimo“ šablonu ir patikrinkite, ar AI nesukuria jokių „rizikos lygių“. Tada paimkite tuščią plano skeletą naudodami „saugos plano kontūro skeleto“ šabloną. Sąmoningai klausdami AI „koks yra rizikos lygis? ir vienu sakiniu parašykite, kodėl NEGALIMA naudoti išvesties kaip sprendimą.

kontrolinis sąrašas

• [ ] Aš paprašiau AI tik priminimo apie veiksnį, o ne sprendimo / balo.
• [ ] Slapčiausius duomenis apdorojau tik saugiame įmonės įrankyje.
• [ ] Saugumo plano turinį planavau pildyti kartu su klientu.
• [ ] Patikrinau AI išvestį, ar nėra šališkumo.
• [ ] Patvirtinau, kad galutinį sprendimą dėl rizikos priima komanda, priežiūra ir tinkamas procesas.