zisky:
- Schopnosť pripraviť kontrolný zoznam rizík a ochranných faktorov a kostru bezpečnostného plánu s umelou inteligenciou a pracovať bez preskakovania akýchkoľvek oblastí
- Pochopte, že rozhodnutia o úrovni rizika/skóre a bezpečnosti robia iba odborníci, tímy, dohľad a právne procesy a že umelá inteligencia nemôže produkovať rozhodnutia.
- Vidieť, že umelá inteligencia môže pripisovať systematickú zaujatosť znevýhodneným skupinám a uplatňovať disciplínu nikdy nepoužiť jej výstup ako rozhodnutie a spracúvať tie najcitlivejšie údaje iba v zabezpečenom systéme
Najzávažnejšou zodpovednosťou sociálnej práce je hodnotenie rizík – úsudky, ktoré sa priamo týkajú bezpečnosti života, napríklad či je dieťa zanedbávané alebo týrané, či je pravdepodobné, že jednotlivec ublíži sebe alebo niekomu inému, či je starší človek v bezpečí alebo nakoľko je ohrozená obeť násilia. Prvé a najodvážnejšie pravidlo tejto jednotky je toto: Rozhodovanie o riziku nepatrí, nemôže a nemalo by patriť do AI. Rozhodnutie o bezpečnosti osoby; Vyžaduje si to profesionálnu autoritu, klinický úsudok, názor multidisciplinárneho tímu, dohľad a právnu zodpovednosť. AI je tu len nástroj na prípravu a pripomenutie: pripomenie vám, ktoré rizikové a ochranné faktory je potrebné preskúmať, usporiada vaše poznámky, načrtne bezpečnostný plán. Nedáva skóre, nehovorí „riziko je nízke/vysoké“, nerozhoduje.
Prečo to tak tvrdo zdôrazňujeme? Pretože v rizikovej oblasti je cena za chybu AI nezvratná. Hodnotenie rizika AI ako „nízke“ ponecháva dieťa bez ochrany; Ak by sa riziko zdalo zbytočne „vysoké“, mohlo by to viesť k nespravodlivému oddeleniu rodiny. Okrem toho AI nesie v tréningových údajoch zaujatosti: algoritmy, ktoré systematicky pripisujú vyššie riziko určitým socioekonomickým skupinám, etnikám alebo štvrtiam, boli zdokumentované na celom svete. Takže aj keď je výstup AI vstupom, nikdy nemôže prevážiť váš nezávislý úsudok.
Legitímna úloha AI: pripomínanie a regulácia
Existujú tri miesta, kde môžete bezpečne používať AI v nebezpečenstve:
1. Pripomenutie faktora. Rizikové faktory (napr. minulá anamnéza násilia, užívanie návykových látok, sociálna izolácia, predchádzajúce prijatie) a ochranné faktory (napr. podporná dospelá osoba, pravidelná školská dochádzka, silná sociálna sieť), ktoré by sa mali brať do úvahy pri hodnotení rizika, sú dlhé; Umelá inteligencia vám pomôže vyhnúť sa vynechaniu akejkoľvek oblasti tým, že si spomeniete na kontrolný zoznam, ktorý vyhovuje rámcu, ktorý vaša organizácia používa.
2. Úprava poznámky. Prekladá vaše pozorovania a vyhlásenia klienta do usporiadaného vecného textu – takže svoj úsudok môžete založiť na jasných údajoch.
3. Návrh plánu zabezpečenia. Bezpečnostný plán (konkrétny plán, ktorý určuje, čo bude obeť robiť v prípade nebezpečenstva, koho bude kontaktovať, kam pôjde) má určitú štruktúru. AI môže vytvoriť návrh kostry, ktorú vyplní klient; Vy a klient ale vyplníte obsah plánu podľa skutočnosti.
Upozornenie: Nikdy sa nepýtajte AI "aká je úroveň rizika v tomto prípade?" alebo "je dieťa v bezpečí doma?" Nepýtaj sa. NEPOUŽÍVAJTE výstup ako rozhodnutie, aj keď sa pýtate. Na tieto otázky odpovedá iba autorizovaný expert, tím a dohľad prostredníctvom oficiálneho nástroja rizika inštitúcie.
Krok za krokom: správne umiestnenie AI v procese rizika
- Bezpečnosť na prvom mieste. Pri bezprostrednom a vážnom nebezpečenstve (bezpečnosť života) je potrebné prevádzkovať núdzový postup inštitúcie, nie riešiť AI. Umelá inteligencia by nemala odkladať žiadnu naliehavosť.
- Odlíšiť sa. Hodnoty rizika sú najcitlivejšie údaje; Informácie identifikujúce klienta sa do otvoreného nástroja nezadávajú, využíva sa len nástroj zabezpečenej inštitúcie.
- Pripomeňte mi zoznam faktorov. Vyžiadajte si kontrolný zoznam rizík a ochranných faktorov zodpovedajúci inštitucionálnemu rámcu.
- Urobte si vlastný úsudok. Zvažujete faktory, hodnotíte s tímom a konzultujete s nadriadeným. Nechcete, aby AI „hodnotila“.
- Dokončite s klientom bezpečnostný plán. Návrhová kostra môže pochádzať z AI; Obsah je vyplnený skutočnou sieťou klienta, zdrojmi a preferenciami.
tri mini prípady
Prípad 1 – Zmeškaný ochranný faktor. Odborník sa zameral na rizikové faktory v prípade domáceho násilia. Kontrolný zoznam faktorov, o ktorý požiadal AI, ho prinútil spýtať sa na zabezpečenú sieť podpory klienta v práci v časti „ochranné faktory“ – oblasť, ktorú expert vynechal. Táto sieť sa stala najreálnejšou súčasťou bezpečnostného plánu. Rozhodnutie bolo opäť na odborníkovi; AI len pripomenula otázku.
Prípad 2 – Nesprávne skóre nebolo dôveryhodné. Jedna agentúra videla, že skúšobný nástroj AI označil prípad za „nízkorizikový“. Pozorovanie znalca a výpoveď klienta však poukazovali na vážne nebezpečenstvo. Tím odmietol označenie AI a inicioval ochranné opatrenia na základe vlastného posúdenia. Neskôr sa potvrdilo, že nebezpečenstvo bolo reálne. Ponaučenie: Skóre AI nie je rozhodnutie; ľudský úsudok má prednosť.
Prípad 3 – Zaujatosť. V jednom procese bol rovnaký prípad poskytnutý AI dvakrát; Jediným rozdielom bola štvrť, kde klient býval. Umelá inteligencia systematicky produkovala vyšší „rizikový jazyk“ pre okolie, o ktorom je známe, že je znevýhodnené. To demonštrovalo zaujatosť v údajoch o školení AI a posilnilo politiku agentúry nepoužívať AI pri rozhodovaní o riziku.
Štyri kopírovateľné šablóny
1) Pripomenutie rizikového/ochranného faktora:
Vaša úloha: asistent supervízora sociálnej práce. Pripravte si kontrolný zoznam rizikových faktorov a ochranných faktorov, ktoré sa odporúča prehodnotiť pri hodnotení rizika v prípadoch [domáceho násilia]. Prezentujte to ako zoznam PRIPOMIENOK; NEPRODUKTUJTE žiadne skóre, rozhodnutia ani „úrovne rizika“. Hodnotenie a rozhodnutie patrí odborníkovi.
2) Kostra návrhu bezpečnostného plánu:
Vaša úloha: redaktor. Pripravte si PRÁZDNÝ náčrt bezpečnostného plánu, ktorý vyplníte s obeťou domáceho násilia: varovné značky, bezpečné miesta, ľudia a inštitúcie, ktoré je potrebné kontaktovať, dôležité dokumenty, plán pre deti, digitálna bezpečnosť. Vyplnenie obsahu; Pod každým nadpisom nechajte prázdne miesta, ktoré vyplníte s klientom.
3) Úprava poznámky o riziku (bez rozhodnutia):
Preložte nasledujúce poznámky a poznámky k tvrdeniam do vecného, usporiadaného textu. Označte pozorovanie a výpis klienta samostatne. STANOVENIE úrovne rizika, ROZHODNUTIE, PRIDANIE komentára. Upravte iba to, čo je v poznámke, a označte chýbajúce/neprehľadné oblasti. Poznámka: [prilepiť neidentifikovanú poznámku]
4) Predpojatosť sebakontroly:
Existuje v návrhu poznámky o riziku nižšie vyhlásenie, ktoré vyjadruje nepreukázanú zaujatosť z dôvodu socioekonomického postavenia klienta, etnickej príslušnosti, susedstva alebo podobnej charakteristiky? Označte každú vetu, ktorá je založená skôr na stereotypoch ako na dôkazoch. Text nemeňte, len varujte. Poznámka: [prilepiť poznámku]
Slabá výzva / Silná výzva
Slabá výzva:
Prečítajte si tento prípad a rozhodnite sa, či je pre dieťa bezpečné zostať doma a aká je miera rizika.
Toto je outsourcing toho najzávažnejšieho rozhodnutia o ľudskom živote na softvér. Je to neetické, v rozpore s profesionálnou zodpovednosťou a nesie zaujatosť AI priamo do osudu dieťaťa.
Výkonná výzva:
Vaša úloha: asistent pripomenutia. Pred prečítaním nižšie uvedenej poznámky o deidentifikácii si pripravte kontrolný zoznam rizikových a ochranných faktorov, ktoré sa majú preskúmať pri hodnotení prípadov [zanedbávanie detí]. PRODUCING rozhodnutie, skóre alebo úroveň rizika. Hodnotenie vykonám so svojím tímom; Len mi pripomínaš, ktoré oblasti by som nemal preskočiť.
Rozdiel: hovoriť „na ktoré otázky by som nemal zabudnúť“ namiesto pýtania sa na rozhodnutia udržiava AI na bezpečnej a etickej hranici.
Hranice úloh v oblasti rizika
Quest
Dokáže to AI?
kto robí?
Pripomenutie kontrolného zoznamu faktorov
áno
AI (pripomienka)
Faktická úprava poznámok
áno
AI + odborné schválenie
Prázdna kostra bezpečnostného plánu
áno
AI; obsahový klient+odborník
Stanovenie úrovne rizika/skóre
č
Expert + tím + supervízia
"Je to bezpečné?" rozhodnutie
č
Kompetentný odborník, právny proces
Spustenie ochranných opatrení
č
Inštitúcia, príslušný orgán
Časté chyby
- Požiadanie AI o skóre rizika/rozhodnutie. Najnebezpečnejšia chyba; Rozhodnutie si vyžaduje odbornú právomoc a právnu zodpovednosť.
- Dôverovať značke AI. Záver „nízkeho rizika“ nikdy nevyvráti vaše pozorovanie o opaku.
- Ignorovanie predsudkov. AI môže znevýhodneným skupinám pripisovať systematické vysoké riziko; sebakontrola je nevyhnutná.
- Odkladanie naliehavosti. Ak existuje bezpečnosť života, najskôr núdzový postup; Zaobchádzanie s AI nemôže čakať.
- Poskytovanie najcitlivejších údajov otvorenému nástroju. Poznámky k riziku sa spracúvajú iba v zabezpečenom nástroji inštitúcie.
V súhrne
Posudzovanie rizík je najvážnejšou zodpovednosťou sociálnej práce a rozhodnutie je priamo na osobe – odborníkovi, tíme, supervízii, právnej autorite. Umelá inteligencia je tu len nástrojom na pripomenutie (zoznam rizikových/ochranných faktorov), organizovanie (faktická poznámka) a navrhovanie (kostra bezpečnostného plánu); Nedáva góly, nerozhoduje. Pamätajte, že AI je zaujatá, nikdy nepoužívajte jej výstup ako rozhodnutie a najcitlivejšie dáta spracovávajte iba v zabezpečenom systéme.
Aplikačná úloha
Vyberte typ fiktívneho prípadu. Získajte kontrolný zoznam so šablónou „pripomenutia rizika/ochranného faktora“ a overte, či AI nevytvára žiadne „úrovne rizika“. Potom uchopte prázdnu kostru plánu so šablónou „kostra obrysu bezpečnostného plánu“. Vedome sa pýtať AI „aká je úroveň rizika?“ a napíšte jednou vetou, prečo by ste nemali výstup použiť ako rozhodnutie.
kontrolný zoznam
- [ ] Požiadal som AI iba o pripomenutie faktora, nie o rozhodnutie/skóre.
- [ ] Najcitlivejšie údaje som spracoval iba v zabezpečenom podnikovom nástroji.
- [ ] Obsah bezpečnostného plánu som plánoval vyplniť spolu s klientom.
- [ ] Skontroloval som skreslenie výstupu AI.
- [ ] Potvrdil som, že konečné rozhodnutie o riziku je na tíme, dohľade a riadnom procese.