zisky:
- Schopnost připravit kontrolní seznam rizik a ochranných faktorů a kostru bezpečnostního plánu s umělou inteligencí a pracovat bez přeskakování jakýchkoli oblastí
- Pochopte, že rozhodnutí o úrovni rizika/skóre a zabezpečení jsou přijímána pouze odborníky, týmy, dohledem a právními procesy a že umělá inteligence nemůže produkovat rozhodnutí.
- Vidět, že umělá inteligence může připisovat systematickou zaujatost znevýhodněným skupinám a aplikovat disciplínu nikdy nepoužít její výstup jako rozhodnutí a nejcitlivější data zpracovávat pouze v zabezpečeném systému
Nejzávažnější odpovědností sociální práce je hodnocení rizik – úsudky, které se přímo týkají bezpečnosti života, například zda je dítě zanedbáváno nebo týráno, zda je pravděpodobné, že jedinec ublíží sobě nebo někomu jinému, zda je starší člověk v bezpečí nebo jak je ohrožena oběť násilí. První a nejodvážnější pravidlo této jednotky je toto: Rozhodování o riziku nepatří, nemůže a nemělo by patřit k AI. Rozhodnutí o bezpečnosti osoby; Vyžaduje to profesionální autoritu, klinický úsudek, názor multidisciplinárního týmu, dohled a právní odpovědnost. Umělá inteligence je zde pouze přípravným a připomínacím nástrojem: připomene vám, které rizikové a ochranné faktory je třeba přezkoumat, uspořádá vaše poznámky, načrtne bezpečnostní plán. Nedává skóre, neříká „riziko je nízké/vysoké“, nerozhoduje.
Proč to tak tvrdě zdůrazňujeme? Protože v rizikové aréně je cena za chybu AI nevratná. Hodnocení rizika ze strany AI jako „nízké“ ponechá dítě bez ochrany; Pokud by se riziko zdálo zbytečně „vysoké“, mohlo by to vést k nespravedlivému oddělení rodiny. Umělá inteligence navíc nese zkreslení v tréninkových datech: algoritmy, které systematicky připisují vyšší riziko určitým socioekonomickým skupinám, etnikům nebo čtvrtím, byly zdokumentovány po celém světě. Takže i když je výstup AI vstupem, nikdy nemůže překonat váš nezávislý úsudek.
Legitimní role AI: připomínka a regulace
Existují tři místa, kde můžete bezpečně používat AI v ohrožení:
1. Připomenutí faktoru. Rizikové faktory (např. předchozí násilí, užívání návykových látek, sociální izolace, předchozí přijetí) a ochranné faktory (např. podpůrná dospělá osoba, pravidelná školní docházka, silná sociální síť), které by měly být zohledněny při hodnocení rizik, jsou dlouhé; Umělá inteligence vám pomůže vyhnout se vynechání jakékoli oblasti tím, že si připomene kontrolní seznam, který odpovídá rámci, který vaše organizace používá.
2. Úprava poznámky. Převádí vaše pozorování a prohlášení klienta do uspořádaného věcného textu – takže svůj úsudek můžete založit na jasných datech.
3. Návrh plánu zabezpečení. Bezpečnostní plán (konkrétní plán, který určuje, co bude oběť dělat v případě nebezpečí, koho bude kontaktovat, kam půjde) má určitou strukturu. AI může vytvořit návrh kostry, kterou vyplní klient; Vy a klient ale vyplníte obsah plánu podle skutečnosti.
Upozornění: Nikdy se neptejte AI „jaká je úroveň rizika v tomto případě?“ nebo "je dítě doma v bezpečí?" Neptej se. NEPOUŽÍVEJTE výstup jako rozhodnutí, i když se ptáte. Na tyto otázky odpovídá pouze oprávněný odborník, tým a dohled prostřednictvím oficiálního nástroje rizik instituce.
Krok za krokem: správné umístění umělé inteligence v procesu rizika
- Bezpečnost na prvním místě. V případě bezprostředního a vážného ohrožení (bezpečnost života) je nutné provozovat nouzový postup instituce, neřešit AI. AI by neměla zdržovat žádnou naléhavost.
- Odhalit. Hodnocení rizik jsou nejcitlivějšími údaji; Informace identifikující klienta se do otevřeného nástroje nezadávají, používá se pouze nástroj zabezpečené instituce.
- Připomeňte mi seznam faktorů. Vyžádejte si kontrolní seznam rizik a ochranných faktorů odpovídající institucionálnímu rámci.
- Udělejte si vlastní úsudek. Zvážíte faktory, hodnotíte s týmem a konzultujete s nadřízeným. Nechcete, aby AI „hodnotila“.
- Dokončete s klientem bezpečnostní plán. Návrhová kostra může pocházet z AI; Obsah je naplněn skutečnou sítí klienta, zdroji a preferencemi.
tři mini pouzdra
Případ 1 – Chybějící ochranný faktor. Odborník se zaměřil na rizikové faktory v případu domácího násilí. Kontrolní seznam faktorů, o který požádal AI, ho přiměl zeptat se na zabezpečenou síť podpory klienta v práci v sekci „ochranné faktory“ – oblast, kterou expert přehlédl. Tato síť se stala nejrealističtější součástí bezpečnostního plánu. Rozhodnutí bylo opět na odborníkovi; AI jen připomněla otázku.
Případ 2 – Nesprávné skóre nebylo důvěryhodné. Jedna agentura viděla, že zkušební nástroj AI označil případ jako „nízkorizikový“. Pozorování znalce a výpověď klienta však poukazovaly na vážné nebezpečí. Tým odmítl označení AI a zahájil ochrannou akci na základě vlastního posouzení. Později se potvrdilo, že nebezpečí bylo reálné. Lekce: Skóre AI není rozhodnutí; lidský úsudek má přednost.
Případ 3 – Zkreslení. V jednom procesu byl stejný případ poskytnut AI dvakrát; Jediným rozdílem byla čtvrť, kde klient bydlel. Umělá inteligence systematicky produkovala vyšší „rizikový jazyk“ pro okolí, o kterém je známo, že je znevýhodněno. To prokázalo zaujatost v datech školení AI a posílilo politiku agentury nepoužívat AI při rozhodování o rizicích.
Čtyři kopírovatelné šablony
1) Připomenutí rizikového/ochranného faktoru:
Vaše role: asistent supervizora sociální práce. Připravte si kontrolní seznam rizikových faktorů a ochranných faktorů, které se doporučuje přezkoumat při hodnocení rizik v případech [domácího násilí]. Prezentujte to jako seznam PŘIPOMÍNEK; NEPRODUKTUJTE žádné skóre, rozhodnutí nebo „úrovně rizika“. Hodnocení a rozhodnutí náleží odborníkovi.
2) Kostra návrhu bezpečnostního plánu:
Vaše role: redaktor. Připravte si PRÁZDNÝ náčrt bezpečnostního plánu, který vyplníte s obětí domácího násilí: varovné značky, bezpečná místa, lidé a instituce, které je třeba kontaktovat, důležité dokumenty, plán pro děti, digitální bezpečnost. Vyplnění obsahu; Pod každým nadpisem ponechte prázdná místa, která vyplníte s klientem.
3) Úprava poznámky k riziku (bez rozhodnutí):
Přeložte následující poznámky a poznámky k výrokům do věcného, uspořádaného textu. Označte pozorování a prohlášení klienta zvlášť. STANOVENÍ úrovně rizika, ROZHODNUTÍ, PŘIDÁNÍ komentáře. Upravte pouze to, co je v poznámce, a označte chybějící/nejasné oblasti. Poznámka: [vložit neidentifikovanou poznámku]
4) Předpojatost sebekontroly:
Existuje v níže uvedeném návrhu poznámky k riziku prohlášení, které vyjadřuje neprokázanou zaujatost z důvodu socioekonomického postavení klienta, etnického původu, sousedství nebo podobné charakteristiky? Označte každou větu, která je založena spíše na stereotypech než na důkazech. Text neměňte, pouze varujte. Poznámka: [vložit poznámku]
Slabá výzva / Silná výzva
Slabá výzva:
Přečtěte si tento případ a rozhodněte se, zda je pro dítě bezpečné zůstat doma a jaká je míra rizika.
Jedná se o outsourcing nejzávažnějšího rozhodnutí o lidském životě softwaru. Je to neetické, v rozporu s profesionální odpovědností a přenáší zaujatost AI přímo do osudu dítěte.
Výkonná výzva:
Vaše role: asistent připomenutí. Než si přečtete níže uvedenou poznámku o odstranění identifikace, připravte si kontrolní seznam rizikových a ochranných faktorů, které si budete moci prohlédnout při hodnocení případů [zanedbávání dětí]. PRODUCING rozhodnutí, skóre nebo úroveň rizika. Hodnocení provedu se svým týmem; Jen mi připomínáš, které oblasti bych neměl přeskočit.
Rozdíl: říkat „které otázky bych neměl zapomenout“ spíše než žádat o rozhodnutí udržuje AI na bezpečné a etické hranici.
Hranice rolí v oblasti rizika
Quest
Dokáže to AI?
kdo ano?
Připomenutí kontrolního seznamu faktorů
Ano
AI (připomenutí)
Věcná úprava poznámek
Ano
AI + odborné schválení
Bezpečnostní plán prázdná kostra
Ano
AI; obsahový klient+odborník
Stanovení úrovně rizika/skóre
ne
Expert + tým + supervize
"Je to bezpečné?" rozhodnutí
ne
Kompetentní odborník, právní proces
Zahájení ochranných opatření
ne
Instituce, příslušný orgán
Časté chyby
- Požádat AI o skóre rizika/rozhodnutí. Nejnebezpečnější chyba; Rozhodnutí vyžaduje odbornou autoritu a právní odpovědnost.
- Důvěřovat označení AI. Závěr „nízkého rizika“ nikdy nezpochybní vaše pozorování v opačném smyslu.
- Ignorování předsudků. AI může znevýhodněným skupinám připisovat systematické vysoké riziko; sebekontrola je nezbytná.
- Odkládání naléhavosti. Pokud existuje bezpečnost života, nejprve nouzový postup; Jednání s AI nemůže čekat.
- Poskytování nejcitlivějších dat otevřenému nástroji. Poznámky k riziku jsou zpracovávány pouze v nástroji zabezpečené instituce.
V souhrnu
Posouzení rizik je nejvážnější odpovědností sociální práce a rozhodnutí spočívá přímo na osobě – na odborníkovi, týmu, supervizi, právní autoritě. Zde je umělá inteligence pouze nástrojem pro připomenutí (seznam rizik/ochranných faktorů), organizování (faktická poznámka) a navrhování (kostra bezpečnostního plánu); Nedává góly, nerozhoduje. Pamatujte, že AI je zkreslená, nikdy nepoužívejte její výstup jako rozhodnutí a nejcitlivější data zpracujte pouze v zabezpečeném systému.
Aplikační úkol
Vyberte typ fiktivního případu. Získejte kontrolní seznam se šablonou „připomenutí rizik/ochranných faktorů“ a ověřte, že AI nevytváří žádné „úrovně rizika“. Poté uchopte prázdnou kostru plánu se šablonou „kostra obrysu bezpečnostního plánu“. Vědomě se ptát AI „jaká je úroveň rizika? a jednou větou napište, proč byste výstup NEMĚLI používat jako rozhodnutí.
kontrolní seznam
- [ ] Požádal jsem AI pouze o připomenutí faktoru, nikoli o rozhodnutí/skóre.
- [ ] Nejcitlivější data jsem zpracovával pouze v zabezpečeném podnikovém nástroji.
- [ ] Obsah bezpečnostního plánu jsem plánoval vyplnit společně s klientem.
- [ ] Zkontroloval jsem zkreslení výstupu AI.
- [ ] Potvrdil jsem, že konečné rozhodnutí o riziku je na týmu, dohledu a řádném procesu.