Nyereség:
- Képes mesterséges intelligenciával elkészíteni a kockázati és védőfaktor-ellenőrző listát és biztonsági tervvázat, és bármely terület kihagyása nélkül dolgozni
- Értsd meg, hogy a kockázati szint/pontszám és a biztonsági döntéseket csak szakértők, csapatok, felügyelet és jogi folyamatok hozzák meg, és hogy a mesterséges intelligencia nem hozhat döntéseket.
- Látva, hogy a mesterséges intelligencia szisztematikus elfogultságot tud a hátrányos helyzetű csoportoknak tulajdonítani, és azt a fegyelmet alkalmazva, hogy soha ne használja fel a kimenetét döntésként, és a legérzékenyebb adatokat csak biztonságos rendszerben dolgozza fel.
A szociális munka legkomolyabb felelőssége a kockázatértékelés – olyan ítéletek, amelyek közvetlenül érintik az életbiztonságot, például, hogy elhanyagolják-e vagy bántalmazzák-e a gyermeket, vajon az egyén károsíthatja-e önmagát vagy másokat, biztonságban van-e egy idős ember, vagy mennyire van veszélyben az erőszak áldozata. Ennek az egységnek az első és legmerészebb szabálya a következő: A kockázati döntéshozatal nem tartozik, nem lehet és nem is kell az AI-hoz tartoznia. Döntés egy személy biztonságáról; Szakmai tekintélyt, klinikai megítélést, multidiszciplináris team véleményt, felügyeletet és jogi felelősséget igényel. Az AI itt csak egy előkészítő és emlékeztető eszköz: emlékezteti, hogy mely kockázati és védelmi tényezőket kell áttekinteni, rendszerezi a jegyzeteket, felvázol egy biztonsági tervet. Nem ad pontszámot, nem azt írja, hogy "alacsony/magas a kockázat", nem hoz döntést.
Miért hangsúlyozzuk ezt olyan keményen? Mert a kockázati arénában egy mesterséges intelligencia hibája visszafordíthatatlan. A mesterséges intelligencia „alacsony” kockázati besorolása védelem nélkül hagyja a gyermeket; Ha egy kockázatot szükségtelenül „nagynak” teszünk, az a család igazságtalan szétválásához vezethet. Ezenkívül a mesterséges intelligencia torzítja a képzési adatokat: világszerte dokumentáltak olyan algoritmusokat, amelyek szisztematikusan magasabb kockázatot tulajdonítanak bizonyos társadalmi-gazdasági csoportoknak, etnikumoknak vagy városrészeknek. Tehát még ha a mesterséges intelligencia kimenete egy bemenet is, soha nem bírálhatja felül a független megítélésedet.
A mesterséges intelligencia legitim szerepe: emlékeztető és szabályozás
Három helyen használhatja biztonságosan az AI-t kockázatok között:
1. Tényező emlékeztető. A kockázatértékelés során figyelembe veendő kockázati tényezők (pl. erőszak, szerhasználat, társadalmi elszigeteltség, korábbi felvételek) és protektív tényezők (pl. támogató felnőtt, rendszeres iskolalátogatás, erős közösségi hálózat) hosszúak; A mesterséges intelligencia segít elkerülni a területek kihagyását azáltal, hogy felidéz egy ellenőrző listát, amely illeszkedik a szervezet által használt keretrendszerhez.
2. Jegyzetszerkesztés. Megfigyeléseit és ügyfélnyilatkozatait rendezett, tényszerű szöveggé fordítja le – így egyértelmű adatokra alapozhatja ítéletét.
3. Biztonsági terv tervezete. A biztonsági tervnek (konkrét tervnek, amely meghatározza, hogy az áldozat mit fog tenni veszély esetén, kihez fog fordulni, hova megy) egy bizonyos felépítésű. Az AI képes előállítani egy vázlatvázlatot, amelyet az ügyféllel kell kitölteni; De Ön és az ügyfél a valóságnak megfelelően tölti ki a terv tartalmát.
Vigyázat: Soha ne kérdezze meg az AI-t, hogy "mi a kockázati szint ebben az esetben?" vagy „biztonságban van otthon a gyerek?” Ne kérdezz. NE használja a kimenetet döntésként, még akkor sem, ha kéri. Ezekre a kérdésekre csak az arra feljogosított szakértő, csapat és felügyelet ad választ az intézmény hivatalos kockázati eszközén keresztül.
Lépésről lépésre: az AI helyes pozicionálása a kockázati folyamatban
- Első a biztonság. Közvetlen és súlyos veszély (életbiztonság) esetén az intézmény sürgősségi eljárásának működtetése szükséges, MI-vel nem foglalkozni. A mesterséges intelligencia nem halogathatja a sürgősséget.
- Az azonosítás megszüntetése. A kockázati besorolások a legérzékenyebb adatok; A nyitott eszközbe nem kerül be az ügyfél azonosító információ, csak a biztonságos intézmény eszközt használjuk.
- Emlékeztessen a faktorlistára. Kérjen az intézményi kereteknek megfelelő kockázati és védőfaktor ellenőrző listát.
- Hozd meg a saját ítéletedet. Mérlegezi a tényezőket, értékeli a csapattal, és konzultál a felettesével. Nem akarja, hogy az AI "értékeljen".
- Készítse el a biztonsági tervet az ügyféllel. A vázlat az MI-től származhat; A tartalom az ügyfél tényleges hálózatával, erőforrásaival és preferenciáival van feltöltve.
három mini tok
1. eset – Kihagyott védőfaktor. Egy szakértő a kockázati tényezőkre összpontosított egy családon belüli erőszak ügyében. A faktorellenőrző lista, amelyet az AI-ra kért, rákérdezett az ügyfél munkahelyi biztonságos támogató hálózatára a „védő tényezők” részben – ezt a területet a szakértő figyelmen kívül hagyta. Ez a hálózat lett a biztonsági terv legreálisabb része. A döntés ismét a szakértőn múlott; Az AI csak emlékeztetett a kérdésre.
2. eset – A hibás pontszám nem volt megbízható. Az egyik ügynökség azt látta, hogy egy kísérleti mesterséges intelligencia eszköz „alacsony kockázatúnak” címkézte az esetet. A szakértő észrevétele és az ügyfél nyilatkozata azonban komoly veszélyre utalt. A csapat elutasította az AI címkét, és saját értékelése alapján védelmi intézkedéseket kezdeményezett. Később bebizonyosodott, hogy a veszély valós. Tanulság: Az AI pontszám nem döntés; az emberi ítélet élvez elsőbbséget.
3. eset – Elfogult elfogultság. Az egyik tárgyalás során ugyanazt az esetet kétszer adták az AI-nak; Az egyetlen különbség az volt, hogy az ügyfél lakott a környéken. Az AI szisztematikusan magasabb „kockázati nyelvet” produkált az ismerten hátrányos helyzetű környéken. Ez elfogultságot mutatott a mesterséges intelligencia képzési adataiban, és megerősítette az ügynökség azon politikáját, hogy ne használja a mesterséges intelligenciát a kockázati döntéshozatalban.
Négy másolható sablon
1) Kockázati/védő tényező emlékeztető:
Feladata: a szociális munkafelügyelő asszisztense. Készítsen egy ellenőrző listát azokról a kockázati tényezőkről és védőfaktorokról, amelyeket a [családon belüli erőszak] eseteiben javasolt kockázatértékelés során felülvizsgálni. Mutassa be ezt az EMLÉKEZTETŐK listájaként; NE készítsen pontszámot, döntést vagy „kockázati szintet”. Az értékelés és a döntés a szakértőé.
2) A biztonsági terv vázlata:
Az Ön szerepe: szerkesztő. Készítsen ÜRES vázlatot a családon belüli erőszak áldozatával kitöltendő biztonsági tervről: figyelmeztető táblák, biztonságos helyek, elérhető személyek és intézmények, fontos dokumentumok, terv gyerekeknek, digitális biztonság. A tartalom kitöltése; Hagyjon üres helyeket az egyes címsorok alatt, amelyeket az ügyféllel kell kitölteni.
3) Kockázati megjegyzés szerkesztése (döntés nélkül):
Fordítsa le a következő megfigyeléseket és kijelentéseket tényszerű, rendszerezett szöveggé! A megfigyelést és az ügyfél nyilatkozatát külön jelölje. A kockázati szint MEGÁLLAPÍTÁSA, Döntéshozatal, megjegyzés Hozzáfűzése. Csak azt szerkessze, ami a jegyzetben szerepel, és jelölje meg a hiányzó/homályos területeket. Megjegyzés: [illessze be az azonosított megjegyzést]
4) Elfogult önkontroll:
Van-e az alábbi kockázati megjegyzés tervezetében olyan állítás, amely az ügyfél társadalmi-gazdasági státusza, etnikai hovatartozása, szomszédsága vagy hasonló jellemzői miatt nem bizonyított elfogultságot közvetít? Jelölj meg minden olyan mondatot, amely sztereotípiákon, semmint bizonyítékokon alapul. Ne változtasd meg a szöveget, csak figyelmeztess. Megjegyzés: [jegyzet beillesztése]
Gyenge felszólítás / Erős felszólítás
Gyenge felszólítás:
Olvassa el ezt az esetet, és döntse el, hogy biztonságos-e, ha a gyermek otthon marad, és mekkora a kockázati szint.
Ez az emberi élet legsúlyosabb döntésének kiszervezése egy szoftverre. Ez etikátlan, ellentétes a szakmai felelősséggel, és a mesterséges intelligencia elfogultságát közvetlenül a gyermek sorsába viszi.
Erőteljes felszólítás:
Az Ön szerepe: emlékeztető asszisztens. Mielőtt elolvasná az alábbi, azonosítatlan megjegyzést, készítse el a kockázati és védőfaktorok ellenőrzőlistáját, amelyet át kell tekinteni a [gyermek elhanyagolása] eseteinek értékelése során. Döntés, pontszám vagy kockázati szint előállítása. Az értékelést a csapatommal fogom elkészíteni; Csak emlékeztetsz arra, hogy mely területeket nem szabad kihagynom.
A különbség: ha azt mondjuk, hogy „mely kérdéseket ne felejtsem el” ahelyett, hogy döntéseket kérnék, az AI a biztonságos és etikus határon marad.
Szerephatárok a kockázat területén
Quest
Meg tudja csinálni az AI?
Ki csinálja?
Tényező ellenőrző lista emlékeztető
Igen
AI (emlékeztető)
Jegyzetek szerkesztése tényszerűen
Igen
AI + szakértői jóváhagyás
Biztonsági terv üres csontváz
Igen
AI; tartalom kliens+szakértő
Kockázati szint/pontszám meghatározása
nem
Szakértő + csapat + felügyelet
– Biztonságos? határozatot
nem
Hozzáértő szakértő, jogi eljárás
Védelmi intézkedések megindítása
nem
Intézmény, illetékes hatóság
Gyakori hibák
- Kockázati pontszám/döntés MI kérése. A legveszélyesebb hiba; A döntés szakmai tekintélyt és jogi felelősséget igényel.
- Bízva az AI címkében. Az „alacsony kockázatú” következtetés soha nem fogja érvényteleníteni az ellenkező észrevételét.
- Az előítélet figyelmen kívül hagyása. A mesterséges intelligencia szisztematikusan magas kockázatot tulajdoníthat a hátrányos helyzetű csoportoknak; az önuralom elengedhetetlen.
- A sürgősség késleltetése. Ha van életbiztonság, először sürgősségi eljárás; A mesterséges intelligencia kezelése nem várhat.
- A legérzékenyebb adatok megadása a nyitott eszköznek. A kockázati megjegyzések feldolgozása csak a biztonságos intézmény eszközben történik.
Összefoglalva
A kockázatértékelés a szociális munka legsúlyosabb felelőssége, és a döntés az egyéné – a szakemberé, a csapaté, a felügyeleté, a jogi hatóságé. Itt az AI csak egy eszköz az emlékeztetéshez (kockázati/védőfaktorok listája), rendszerezéshez (tényszerű megjegyzés) és megfogalmazáshoz (biztonsági tervvázlat); Nem pontoz, nem hoz döntéseket. Ne feledje, hogy az AI torzítást hordoz, soha ne használja a kimenetét döntésként, és a legérzékenyebb adatokat csak a biztonságos rendszerben dolgozza fel.
Pályázati feladat
Válasszon kitalált esettípust. Szerezzen be egy ellenőrzőlistát egy „kockázati/védőfaktor-emlékeztető” sablonnal, és ellenőrizze, hogy az AI nem termel „kockázati szintet”. Ezután fogjon meg egy üres tervvázat a „biztonsági tervvázlatváz” sablonnal. Tudatosan megkérdezni az AI-t, hogy „mi a kockázati szint?” és írd le egy mondatban, hogy miért NE használd a kimenetet döntésként.
ellenőrző lista
- [ ] Csak tényező emlékeztetőt kértem az AI-tól, döntést/pontszámot nem.
- [ ] A legérzékenyebb adatokat csak a biztonságos vállalati eszközben dolgoztam fel.
- [ ] A biztonsági tervben foglaltakat az ügyféllel közösen terveztem kitölteni.
- [ ] Ellenőriztem az AI-kimenet torzítását.
- [ ] Megerősítettem, hogy a végső kockázati döntés a csapaton, a felügyeleten és a megfelelő eljáráson múlik.