Riskianalüüsi tugi ja turvaplaneerimine: kõige tundlikum piir

Kasu:

• Võimalus koostada tehisintellektiga riski- ja kaitsetegurite kontrollnimekiri ja turvaplaani karkass ning töötada ühtki ala vahele jätmata
• Mõistke, et riskitaseme/skoori ja turvalisuse otsuseid teevad ainult eksperdid, meeskonnad, järelevalve ja juriidilised protsessid ning tehisintellekt ei saa teha otsuseid.
• Nähes, et tehisintellekt võib omistada süstemaatilist eelarvamust ebasoodsas olukorras olevatele rühmadele ja rakendada distsipliini, mille kohaselt ei kasutata kunagi oma väljundit otsusena ja töödeldakse kõige tundlikumaid andmeid ainult turvalises süsteemis

Sotsiaaltöö kõige tõsisem vastutus on riskide hindamine – hinnangud, mis puudutavad otseselt eluohutust, näiteks kas laps on hooletusse jäetud või väärkoheldud, kas inimene võib endale või kellelegi teisele kahju teha, kas eakas on ohutu või kui ohus on vägivalla ohver. Selle üksuse esimene ja kõige julgem reegel on järgmine: riskiotsuste tegemine ei kuulu, ei saa ega tohiks kuuluda tehisintellektile. Otsus inimese ohutuse kohta; See nõuab professionaalset autoriteeti, kliinilist hinnangut, multidistsiplinaarset meeskonna arvamust, järelevalvet ja juriidilist vastutust. AI on siin vaid ettevalmistus- ja meeldetuletustööriist: see tuletab teile meelde, millised riski- ja kaitsefaktorid üle vaadata, korrastab teie märkmed, visandab ohutusplaani. See ei anna hinnet, ei ütle "risk on madal/kõrge", ei tee otsust.

Miks me seda nii karmilt rõhutame? Sest riskiareenil on tehisintellekti vea hind pöördumatu. Tehisintellekti hinnang riskile "madal" jätab lapse kaitseta; Kui risk näib tarbetult "suurena", võib see kaasa tuua perekonna ebaõiglase lahutamise. Lisaks on tehisintellektil treeningandmetes kallutatus: kogu maailmas on dokumenteeritud algoritme, mis omistavad süstemaatiliselt suurema riski teatud sotsiaalmajanduslikele rühmadele, rahvustele või naabruskondadele. Nii et isegi kui AI väljund on sisend, ei saa see kunagi teie sõltumatut otsust alistada.

AI legitiimne roll: meeldetuletus ja reguleerimine

Seal on kolm kohta, kus saate tehisintellekti ohutult riskides kasutada:

1. Faktori meeldetuletus. Riskitegurid (nt vägivalla ajalugu, ainete tarbimine, sotsiaalne isoleeritus, varasem vastuvõtt) ja kaitsefaktorid (nt toetav täiskasvanu, regulaarne kooliskäimine, tugev sotsiaalne võrgustik), mida tuleks riskianalüüsis arvesse võtta, on pikad; AI aitab teil vältida mis tahes valdkondade vahelejätmist, meenutades kontrollnimekirja, mis sobib teie organisatsiooni kasutatava raamistikuga.

2. Märkmete redigeerimine. See teisendab teie tähelepanekud ja klientide avaldused organiseeritud faktipõhiseks tekstiks – nii saate oma otsuse teha selgete andmete põhjal.

3. Turvaplaani kavand. Turvaplaanil (konkreetne plaan, mis määrab, mida ohver ohu korral teeb, kellega ta ühendust võtab, kuhu läheb) on kindla ülesehitusega. Tehisintellekt suudab koostada luustiku mustandi, mis tuleb kliendiga täita; Aga sina ja klient täidate plaani sisu vastavalt tegelikkusele.

Ettevaatust: ärge kunagi küsige tehisintellektilt "mis on sel juhul riskitase?" või "kas laps on kodus turvaliselt?" Ära küsi. ÄRGE kasutage väljundit otsusena, isegi kui te seda küsite. Nendele küsimustele vastavad ainult volitatud ekspert, meeskond ja järelevalve asutuse ametliku riskitööriista kaudu.

Samm-sammult: tehisintellekti õige positsioneerimine riskiprotsessis

1. Ohutus ennekõike. Vahetu ja tõsise ohu (eluohutus) korral on vaja opereerida asutuse erakorralist protseduuri, mitte tegeleda tehisintellektiga. AI ei tohiks kiireloomulisi asju edasi lükata.
2. Deidentifitseerida. Riskireitingud on kõige tundlikumad andmed; Avatud tööriista ei sisestata klienti tuvastavat teavet, kasutatakse ainult turvalise asutuse tööriista.
3. Tuleta mulle meelde tegurite loendit. Taotlege institutsionaalsele raamistikule vastavat riski- ja kaitsetegurite kontrollnimekirja.
4. Tehke oma otsus. Kaalute tegureid, hindate koos meeskonnaga ja konsulteerite juhendajaga. Te ei taha, et AI "hindaks".
5. Täitke koos kliendiga ohutusplaan. Mustandi skelett võib pärineda AI-st; Sisu täidetakse kliendi tegeliku võrgu, ressursside ja eelistustega.

kolm minikarpi

Juhtum 1 – kaitsva teguri puudumine. Ekspert keskendus perevägivalla juhtumi riskiteguritele. Tegurite kontrollnimekiri, mida ta AI küsis, pani tal küsima kliendi turvalise tugivõrgustiku kohta tööl jaotises "Kaitsetegurid" – valdkond, millest ekspert oli tähelepanuta jätnud. Sellest võrgust sai turvaplaani kõige realistlikum osa. Otsus oli jällegi eksperdi teha; AI lihtsalt tuletas küsimust meelde.

Juhtum 2 – vale tulemust ei usaldatud. Üks agentuur nägi, et AI proovitööriist märgistas juhtumi kui "madala riskiga". Eksperdi tähelepanek ja kliendi ütlus viitasid aga tõsisele ohule. Meeskond lükkas AI-märgise tagasi ja algatas oma hinnangu põhjal kaitsemeetmed. Hiljem kinnitati, et oht oli reaalne. Õppetund: AI skoor ei ole otsus; inimlik otsustusõigus on ülimuslik.

Juhtum 3 – kallutatus tabatud. Ühes katses anti sama juhtum AI-le kaks korda; Ainus erinevus oli naabruskond, kus klient elas. AI tekitas süstemaatiliselt ebasoodsas olukorras oleva naabruskonna jaoks kõrgemat "riskikeelt". See näitas tehisintellekti koolitusandmete kallutatust ja tugevdas agentuuri poliitikat mitte kasutada tehisintellekti riskiotsuste tegemisel.

Neli kopeeritavat malli

1) Riski/kaitsefaktori meeldetuletus:

Sinu roll: sotsiaaltöö juhendaja assistent. Koostage kontrollnimekiri riskiteguritest ja kaitseteguritest, mida soovitatakse [perevägivalla] juhtumite riskianalüüsis läbi vaadata. Esitage see MEELDETULETUSTE loendina; ÄRGE toodake mingeid hindeid, otsuseid ega "riskitasemeid". Hindamine ja otsus kuulub eksperdile.

2) Turvaplaani kavandi skelett:

Sinu roll: toimetaja. Koosta perevägivalla ohvriga täidetavast ohutusplaanist TÜHI eskiis: hoiatussildid, turvalised kohad, inimesed ja asutused, kellega ühendust võtta, olulised dokumendid, plaan lastele, digiohutus. sisu täitmine; Jätke iga pealkirja alla tühjad ruumid, mis tuleb kliendiga täita.

3) Riskimärkuse muutmine (otsust tegemata):

Tõlgi järgmised tähelepanekud ja avaldused faktipõhiseks korrastatud tekstiks. Märgistage vaatlus ja kliendi avaldus eraldi. Riskitaseme VÄLJAANDMINE, OTSUSE TEGEMINE, KOMMENTAARI LISAMINE. Redigeerige ainult märkuses olevat ja märkige puuduvad/varjatud alad. Märkus: [kleepige tuvastamata märge]

4) kallutatud enesekontroll:

Kas allolevas riskimärkuse mustandis on väide, mis väljendab kliendi sotsiaalmajandusliku staatuse, etnilise päritolu, naabruskonna või sarnase tunnuse tõttu tõendamata eelarvamusi? Märkige iga lause, mis põhineb pigem stereotüüpidel kui tõenditel. Ärge muutke teksti, vaid hoiatage. Märkus: [kleebi märge]

Nõrk viip / Tugev viip

Nõrk viip:

Lugege seda juhtumit ja otsustage, kas lapsel on ohutu koju jääda ja milline on riskitase.

See on inimelu kõige kaalukama otsuse allhange tarkvarale. See on ebaeetiline, vastuolus ametialase vastutusega ja viib AI eelarvamuse otse lapse saatusele.

Võimas viip:

Teie roll: meeldetuletuse assistent. Enne alloleva tuvastamata märkuse lugemist koostage riski- ja kaitsetegurite kontrollnimekiri, mida [lapse hooletussejätmise] juhtumite hindamisel üle vaadata. Otsuse, skoori või riskitaseme TOOTAMINE. Teen hindamise koos oma meeskonnaga; Sa lihtsalt tuletad mulle meelde, milliseid valdkondi ma ei tohiks vahele jätta.

Erinevus: otsuste küsimise asemel öeldes "millisi küsimusi ma ei tohiks unustada" hoiab tehisintellekti turvalisel ja eetilisel piiril.

Rollipiirid riskivaldkonnas

Quest

Kas AI saab sellega hakkama?

Kes teeb?

Faktori kontrollnimekirja meeldetuletus

Jah

AI (meeldetuletus)

Märkmete faktiline toimetamine

Jah

AI + eksperdi kinnitus

Turvaplaani tühi skelett

Jah

AI; sisuklient+ekspert

Riskitaseme/skoori määramine

ei

Ekspert + meeskond + järelevalve

"Kas see on ohutu?" otsus

ei

Pädev ekspert, juriidiline protsess

Kaitsemeetmete käivitamine

ei

Asutus, pädev asutus

Levinud vead

• AI küsimine riskiskoori/otsuse kohta. Kõige ohtlikum viga; Otsus nõuab professionaalset autoriteeti ja juriidilist vastutust.
• AI-märgise usaldamine. "Madala riskiga" järeldus ei muuda kunagi teie vastupidist tähelepanekut kehtetuks.
• Eelarvamuste eiramine. AI võib omistada süstemaatiliselt kõrge riski ebasoodsas olukorras olevatele rühmadele; enesekontroll on hädavajalik.
• Kiireloomulisuse edasilükkamine. Kui on olemas eluohutus, tehke esmalt erakorraline protseduur; AI-ga tegelemine ei saa oodata.
• Kõige tundlikumate andmete andmine avatud tööriistale. Riskimärke töödeldakse ainult turvalise asutuse tööriistas.

Kokkuvõttes

Riski hindamine on sotsiaaltöö suurim vastutus ja otsus lasub otseselt inimesel – professionaalil, meeskonnal, järelevalvel, juriidilisel võimul. Siin on tehisintellekt vaid meeldetuletamise (riski/kaitsetegurite loetelu), organiseerimise (faktiline märkus) ja koostamise (ohutusplaani skelett) tööriist; See ei löö skoori, ei tee otsuseid. Pidage meeles, et tehisintellekt on kallutatud, ärge kunagi kasutage selle väljundit otsuse tegemiseks ja töötlege kõige tundlikumaid andmeid ainult turvalises süsteemis.

Rakenduse ülesanne

Valige väljamõeldud juhtumi tüüp. Hankige kontroll-loend koos malliga „riski/kaitsefaktori meeldetuletus” ja veenduge, et tehisintellekt ei tekita "riskitasemeid". Seejärel haarake tühja plaani skelett malliga "Turvaplaani kontuuri skelett". Teadlikult küsides tehisintellektilt "mis on riskitase?" ja kirjuta ühe lausega, miks EI TOHI väljundit otsusena kasutada.

kontrollnimekiri

• [ ] Küsisin tehisintellektilt ainult teguri meeldetuletust, mitte otsust/skoori.
• [ ] Töötlesin kõige tundlikumaid andmeid ainult ettevõtte turvalises tööriistas.
• [ ] Turvaplaani sisu plaanisin täita koos kliendiga.
• [ ] Kontrollisin tehisintellekti väljundis kallutatust.
• [ ] Kinnitasin, et lõpliku riskiotsuse langetab meeskond, järelevalve ja nõuetekohane menetlus.