Voitot:
- Kyky laatia riski- ja suojatekijöiden tarkistuslista ja turvallisuussuunnitelman runko tekoälyn avulla ja työskennellä ohittamatta yhtään aluetta
- Ymmärrä, että riskitaso-/pistemäärä- ja turvallisuuspäätökset tekevät vain asiantuntijat, tiimit, valvonta- ja lakiprosessit ja että tekoäly ei voi tuottaa päätöksiä.
- Sen näkeminen, että tekoäly voi katsoa systemaattisen puolueellisuuden epäedullisessa asemassa olevien ryhmien ansioksi ja noudattaa kurinalaisuutta, jonka mukaan sen tulosta ei koskaan käytetä päätöksenä ja arkaluontoisinta dataa käsitellään vain suojatussa järjestelmässä
Sosiaalityön vakavin vastuu on riskinarviointi – suoraan elämän turvallisuuteen liittyviä arvioita, kuten onko lapsi laiminlyöty tai pahoinpidelty, vahingoittaako henkilö itseään tai toista, onko iäkäs turvassa tai kuinka vaarassa väkivallan uhri on. Tämän yksikön ensimmäinen ja rohkein sääntö on tämä: Riskipäätöksenteko ei kuulu, ei voi eikä saa kuulua tekoälylle. Päätös henkilön turvallisuudesta; Se vaatii ammatillista auktoriteettia, kliinistä harkintaa, monialaista ryhmän mielipidettä, valvontaa ja juridista vastuuta. Tekoäly on tässä vain valmistelu- ja muistutustyökalu: se muistuttaa, mitkä riski- ja suojatekijät kannattaa tarkistaa, järjestää muistiinpanot ja hahmotella turvallisuussuunnitelman. Se ei anna pisteitä, se ei sano "riski on pieni/suuri", se ei tee päätöstä.
Miksi korostamme tätä niin jyrkästi? Koska riskiareenalla tekoälyvirheen hinta on peruuttamaton. Tekoälyn riskiluokitus "matalaksi" jättää lapsen suojaamatta; Riskin saattaminen näyttämään tarpeettoman "suurelta" voi johtaa perheen epäoikeudenmukaiseen erottamiseen. Lisäksi tekoäly sisältää harhaa koulutustiedoissa: algoritmeja, jotka systemaattisesti antavat korkeamman riskin tietyille sosioekonomisille ryhmille, etnisille ryhmille tai kaupunginosille, on dokumentoitu ympäri maailmaa. Joten vaikka tekoälyn tulos olisikin syöte, se ei voi koskaan ohittaa riippumatonta harkintasi.
Tekoälyn laillinen rooli: muistutus ja säätely
On kolme paikkaa, joissa voit turvallisesti käyttää tekoälyä vaarassa:
1. Tekijän muistutus. Riskitekijät (esim. aikaisempi väkivalta, päihteiden käyttö, sosiaalinen eristäytyminen, aiemmat sisäänpääsyt) ja suojaavat tekijät (esim. tukeva aikuinen, säännöllinen koulunkäynti, vahva sosiaalinen verkosto), jotka tulisi ottaa huomioon riskiarvioinnissa, ovat pitkiä; Tekoäly auttaa sinua välttämään alueiden puuttumista muistamalla tarkistuslistan, joka sopii organisaatiosi käyttämiin puitteisiin.
2. Muistiinpanojen muokkaus. Se kääntää havaintosi ja asiakkaiden lausunnot järjestetyksi, asialliseksi tekstiksi – joten voit perustaa arviosi selkeisiin tietoihin.
3. Turvasuunnitelmaluonnos. Turvasuunnitelmalla (konkreettinen suunnitelma, joka määrittää, mitä uhri tekee vaaratilanteessa, keneen hän ottaa yhteyttä, minne hän menee) on tietty rakenne. Tekoäly voi tuottaa luonnosrungon, joka täytetään asiakkaan kanssa; Mutta sinä ja asiakas täytätte suunnitelman sisällön todellisuuden mukaan.
Varoitus: Älä koskaan kysy tekoälyltä "mikä on riskitaso tässä tapauksessa?" tai "onko lapsi turvassa kotona?" Älä kysy. ÄLÄ käytä tulostetta päätöksenä, vaikka kysyisit. Näihin kysymyksiin vastaa vain valtuutettu asiantuntija, tiimi ja valvonta laitoksen virallisen riskityökalun kautta.
Askel askeleelta: tekoälyn sijoittaminen oikein riskiprosessiin
- Turvallisuus ensin. Jos on välitön ja vakava vaara (henkiturvallisuus), on välttämätöntä käyttää laitoksen hätämenettelyä, ei käsitellä tekoälyä. Tekoälyn ei pitäisi viivyttää kiireellisyyttä.
- Erota henkilöllisyys. Riskiluokitukset ovat herkimpiä tietoja; Asiakkaan tunnistetietoja ei syötetä avoimeen työkaluun, vaan käytetään vain suojatun laitoksen työkalua.
- Muistuta minua tekijäluettelosta. Pyydä institutionaaliseen kehykseen sopiva riski- ja suojatekijöiden tarkistuslista.
- Tee oma arviosi. Punnitset tekijöitä, arvioit yhdessä tiimin kanssa ja keskustelet esimiehen kanssa. Et halua tekoälyn "arvioivan".
- Täytä turvallisuussuunnitelma yhdessä asiakkaan kanssa. Luonnosrunko voi tulla tekoälystä; Sisältö täytetään asiakkaan todellisen verkon, resurssien ja mieltymysten mukaan.
kolme minilaukkua
Tapaus 1 – Suojatekijä puuttui. Asiantuntija keskittyi riskitekijöihin perheväkivaltatapauksessa. Tekijöiden tarkistuslista, jota hän pyysi tekoälylle, sai hänet kysymään asiakkaan suojatusta tukiverkostosta työssä "suojatekijät" -osiossa - alue, jota asiantuntija oli jättänyt huomiotta. Tästä verkosta tuli turvasuunnitelman realistisin osa. Päätös oli jälleen asiantuntijan tehtävä; AI vain muistutti kysymystä.
Tapaus 2 — Väärään tulokseen ei luotettu. Eräs virasto näki tekoälytyökalun merkinnän tapaukselle "pienen riskin". Asiantuntijan havainto ja asiakkaan lausunto viittasivat kuitenkin vakavaan vaaraan. Tiimi hylkäsi tekoälymerkinnän ja aloitti suojatoimenpiteet oman arvionsa perusteella. Myöhemmin vahvistettiin, että vaara oli todellinen. Oppitunti: AI-pisteet eivät ole päätös; ihmisen arvostelu on etusijalla.
Tapaus 3 – harha kiinni. Yhdessä tutkimuksessa sama tapaus annettiin tekoälylle kahdesti; Ainoa ero oli naapurustossa, jossa asiakas asui. Tekoäly tuotti systemaattisesti korkeampaa "riskikieltä" epäedullisessa asemassa olevalle naapurustolle. Tämä osoitti harhaa tekoälyn koulutustiedoissa ja vahvisti viraston politiikkaa olla käyttämättä tekoälyä riskien päätöksenteossa.
Neljä kopioitavaa mallia
1) Muistutus riski-/suojatekijästä:
Tehtäväsi: sosiaalityön ohjaajan assistentti. Laadi tarkistuslista riskitekijöistä ja suojatekijöistä, jotka suositellaan tarkistettavaksi [perheväkivalta]-tapausten riskiarvioinnissa. Esitä tämä luettelona REMINDERS; ÄLÄ tuota pisteitä, päätöksiä tai "riskitasoja". Arviointi ja päätös kuuluu asiantuntijalle.
2) Turvasuunnitelman luonnosrunko:
Sinun roolisi: toimittaja. Laadi TYHJÄ suunnitelma turvallisuussuunnitelmasta, joka täytetään perheväkivallan uhrin kanssa: varoituskyltit, turvapaikat, henkilöt ja laitokset, joihin voi ottaa yhteyttä, tärkeät asiakirjat, suunnitelma lapsille, digitaalinen turvallisuus. sisällön täyttäminen; Jätä jokaisen otsikon alle tyhjät kohdat, jotka täytetään asiakkaalla.
3) Riskimerkinnän muokkaaminen (ilman päätöstä):
Käännä seuraavat havainnot ja lausumat asiallisiksi, organisoiduksi tekstiksi. Merkitse havainto ja asiakkaan lausunto erikseen. Riskitason ILMOITUS, PÄÄTÖKSEN TEKEMINEN, KOMMENTIN LISÄÄMINEN. Muokkaa vain huomautuksen sisältöä ja merkitse puuttuvat/epäselvät alueet. Huomautus: [liitä tunniste poistettu muistiinpano]
4) Bias-itsehallinta:
Onko alla olevassa riskihuomautusluonnoksessa lausunto, joka välittää todisteettoman puolueellisuuden asiakkaan sosioekonomisen aseman, etnisen taustan, naapuruston tai vastaavan ominaisuuden vuoksi? Merkitse jokainen lause, joka perustuu stereotypioihin todisteiden sijaan. Älä muuta tekstiä, vaan varoita. Huomautus: [liitä huomautus]
Heikko kehote / Vahva kehote
Heikko kehote:
Lue tämä tapaus ja päätä, onko lapsen turvallista jäädä kotiin ja mikä on riskitaso.
Tämä on kaikkein painavin ihmiselämää koskevan päätöksen ulkoistaminen ohjelmistolle. Se on epäeettistä, vastoin ammatillista vastuuta ja kuljettaa tekoälyn ennakkoluuloja suoraan lapsen kohtaloon.
Tehokas kehotus:
Sinun roolisi: muistutusassistentti. Ennen kuin luet alla olevan huomautuksen, jonka tunnistaminen on poistettu, valmistele tarkistuslista riskeistä ja suojaavista tekijöistä, joita tarkastellaan [lapsen laiminlyönti]tapausten arvioinnissa. TUOTTAA päätöksen, pistemäärän tai riskitason. Teen arvioinnin tiimini kanssa; Muistutat vain, mitä alueita minun ei pitäisi ohittaa.
Ero: sanomalla "mitä kysymyksiä en saa unohtaa" päätösten pyytämisen sijaan pitää tekoäly turvallisella ja eettisellä rajalla.
Roolin rajat riskien alalla
Quest
Voiko AI tehdä sen?
Kuka tekee?
Tekijän tarkistuslistan muistutus
Kyllä
AI (muistutus)
Muokkaa muistiinpanoja asiallisesti
Kyllä
AI + asiantuntijan hyväksyntä
Turvasuunnitelman tyhjä luuranko
Kyllä
AI; sisällön asiakas+asiantuntija
Riskitason/pisteiden määrittäminen
ei
Asiantuntija + tiimi + valvonta
"Onko se turvallista?" päätös
ei
Pätevä asiantuntija, oikeusprosessi
Suojatoimenpiteiden aloittaminen
ei
Laitos, toimivaltainen viranomainen
Yleisiä virheitä
- Tekoälyn kysyminen riskipisteistä/päätöksestä. Vaarallisin virhe; Päätös edellyttää ammattipätevyyttä ja laillista vastuuta.
- AI-merkkiin luottaminen. "Alhaisen riskin" johtopäätös ei koskaan mitätöi päinvastaista havaintoa.
- Ennakkoluulojen huomioimatta jättäminen. Tekoäly voi katsoa järjestelmällisesti suuren riskin heikommassa asemassa oleville ryhmille; itsehillintä on välttämätöntä.
- Kiireellisyyden viivästyminen. Jos on olemassa henkiturvallisuus, hätätoimenpiteet ensin; Tekoälyn käsittely ei voi odottaa.
- Arkaluontoisimpien tietojen antaminen avoimelle työkalulle. Riskilaskuja käsitellään vain suojatun laitoksen työkalussa.
Yhteenvetona
Riskinarviointi on sosiaalityön vakavin vastuu, ja päätös on suoraan henkilöllä – ammattilaisella, tiimillä, valvonnalla, lainvalvojalla. Tässä tekoäly on vain työkalu muistutukseen (riski/suojatekijöiden luettelo), organisointiin (faktatieto) ja laatimiseen (turvallisuussuunnitelman runko); Se ei tee maaleja, se ei tee päätöksiä. Muista, että tekoäly sisältää harhaa, älä koskaan käytä sen tulosta päätöksenä ja käsittele arkaluontoisimpia tietoja vain suojatussa järjestelmässä.
Sovellustehtävä
Valitse kuvitteellinen tapaustyyppi. Hanki tarkistuslista, jossa on "riski/suojatekijämuistutus" -malli ja varmista, että tekoäly ei tuota "riskitasoja". Tartu sitten tyhjään suunnitelmarunkoon "turvasuunnitelman ääriviivat" -mallilla. Tietoisesti kysymällä tekoälyltä "mikä on riskitaso?" ja kirjoita yhdellä lauseella, miksi sinun EI pitäisi käyttää tulostetta päätöksenä.
tarkistuslista
- [ ] Pyysin tekoälyltä vain tekijämuistutusta, en päätöstä/pisteitä.
- [ ] Käsittelin arkaluontoisimmat tiedot vain suojatussa yritystyökalussa.
- [ ] Suunnittelin täyttäväni turvasuunnitelman sisällön yhdessä asiakkaan kanssa.
- [ ] Tarkastin AI-lähdön harhaa.
- [ ] Vahvistin, että lopullisen riskipäätöksen tekee tiimi, valvonta ja asianmukainen menettely.