Voitot:
- Sen tunnistaminen, milloin tekoäly tuottaa harhaa harjoitustietojen, kehystysten, kaksoisstandardien ja imartelun avulla
- Kyky kontrolloida harhaa neutraaleilla kysymyksillä, todiste-stereotyyppisyrjinnällä ja käänteiskulmatestillä
- Kyky kääntää leimaava kieli kuvaavaksi ja kunnioittavaksi kieleksi käyttämällä kulttuuritietoa huomion kohteena eikä lopullisena sääntönä
Sosiaalityön syy on oikeudenmukaisuus ja ihmisarvo; Ammatin ytimessä on sitoutuminen siihen, että jokainen yksilö on yhtä arvokas, syrjintää vastustetaan ja haavoittuvia ryhmiä suojellaan. Tekoäly sisältää riskin, joka voi hiljaa vahingoittaa juuri näitä arvoja: harha. AI oppii historiallisista tiedoista; Jos nämä tiedot sisältävät eriarvoisuutta, stereotypioita ja syrjintää yhteiskunnassa, tekoäly oppii ne ja toistaa ne sujuvalla, "objektiivisen" näköisellä kielellä. Sosiaalityöntekijän käsissä tämä voi muuttua systemaattisesti negatiivisemmiksi ryhmän arvioimiseksi, stereotypioksi perheestä tai kulttuurin väärinymmärrykseksi. Tässä osiossa opit tunnistamaan tekoälyn harhaa, hallitsemaan sitä ja käyttämään tekoälyä oikeudenmukaisesti ja kulttuurisesti.
Fakta alusta alkaen: tekoäly ei ole neutraali, se näyttää neutraalilta. Vaarallisin harha on se, joka esitetään itsevarmalla ja ammattimaisella kielellä; koska se hyväksytään kyselemättä. Sinun tehtäväsi sosiaalityöntekijänä on tehdä tämä näkymätön harha näkyväksi ja seurata, onko tulos ristiriidassa ammatillisten arvojen kanssa.
Mistä AI-harha tulee ja miltä se näyttää?
- Harjoittelutietojen harha. Tekoäly oppii teksteistä, jotka kuvastavat yhteiskunnan eriarvoisuutta. Stereotypiat tietyistä etnisistä ryhmistä, köyhistä, vammaisista, tietyistä kaupunginosista tai sukupuolista voivat vuotaa tuotantoon.
- Kielen ja kehystysharha. Tekoäly voi muodostaa ryhmän passiiviseksi, "ongelmalliseksi" tai "avun tarpeessa olevaksi esineeksi"; toinen ryhmä aiheina. Yksi ryhmä voi tulkita saman käyttäytymisen "kulttuuriseksi" ja toinen ryhmä "ongelmalliseksi".
- Edustuksen puute. Tekoäly voi ymmärtää epätarkasti tai pinnallisesti ryhmiä, jotka ovat aliedustettuina tiedoissa (pienet populaatiot, harvinaiset tapaukset).
- Iimarointi (sykofanssi). Tekoälyllä on taipumus vahvistaa implisiittistä näkemystäsi; Puolueellinen kysymys tuo puolueellisen vahvistuksen.
Nämä ennakkoluulot ovat erityisen vaarallisia sosiaalityössä, koska tulos koskettaa suoraan todellisten ihmisten elämää – arviointi, raportti, lähete.
Varoitus: "Tekoäly arvioi sen tällä tavalla" on varoitusmerkki, ei perustelu. Kun näet tulosteen, joka kuvaa ryhmää tai yksilöä negatiivisesti, ensimmäinen kysymys on "perustuuko se todisteisiin vai stereotypioihin?" pitäisi olla.
Askel askeleelta: tarkastus puolueellisuutta vastaan
- Kysy neutraalilta. Esitä kysymyksiä, jotka eivät vihjaa tai johda; Ei "selitä, miksi tämä perhe on laiminlyönyt", vaan "mitä nämä havainnot voivat tarkoittaa, mitä vaihtoehtoisia selityksiä on?" kysyä.
- Tee ero todisteiden ja stereotypioiden välillä. Kysy jokaisen kielteisen väitteen kohdalla: perustuuko se edessäni olevaan konkreettiseen näyttöön vai perustuuko se yleiseen olettamukseen ryhmästä?
- Testaa vastakkaisesta kulmasta. Harkitse samaa tilannetta eri ryhmälle: "Jos asiakas olisi eri sosioekonomisesta/etnisestä taustasta, kirjoittaisiko tekoäly sen samalla kielellä?"
- Etsi kulttuurisen herkkyyttä. Kysy käyttäytymisen kulttuurisesta kontekstista; mutta ota kulttuuritieto mahdollisuutena ja varoituksena, ei absoluuttisena sääntönä (vältä stereotypia).
- Puhdista painatuskieli. Käännä se kielelle, joka kuvaa tilannetta, ei henkilöä, ja näkee myös vahvuudet.
kolme minilaukkua
Tapaus 1 – Käänteinen kulma paljasti vinon. Asiantuntija antoi tekoälylle yhteenvedon kahdesta samanlaisesta tapauksesta; ainoa ero oli perheiden sosioekonomisessa asemassa. YZ kirjoitti sävyllä "suuri riski laiminlyönnistä" pienituloisille perheille ja sävyllä "vanhempi, joka on pakotettu käyttäytymään" korkean tulotason perheelle. Asiantuntija tunnusti tämän kaksoisstandardin ja kiteytti molemmat arvioinnit todisteisiin perustuvaksi, tasavertaiseksi kieleksi.
Tapaus 2 – Kulttuurinen väärintulkinta korjattu. YZ kuvasi suurperheen kanssa asuvan lapsen tilanteen "rajakysymyksiksi ja sekaiseksi kotiympäristöksi". Asiantuntija tiesi, että perheen kulttuuriympäristössä suurperhe oli voimakas tuen ja suojan lähde. Tekoäly oli muuttanut kulttuurisen voiman ongelmaksi. Arvostelu on korjattu tunnistamaan tämä tuki resurssiksi.
Tapaus 3 – Johtava kysymys aiheutti puolueellisuuden. "Kirjoita ylös, miksi tämä isä on epäluotettava", eräs harjoittelija kysyi tekoälyltä. Tekoäly tuotti tekstin, joka kuvaa isää negatiivisesti (imartelu) ilman todisteita. Ohjaaja muokkasi kysymystä: "Mitä havaintoja on isästä, mitkä voivat olla hänen vahvuutensa ja heikkoutensa?" Tuotoksesta on tullut tasapainoinen ja näyttöön perustuva. Oppitunti: puolueellinen kysymys tuottaa puolueellisen vastauksen.
Neljä kopioitavaa mallia
1) Pyydä neutraali, tasapainoinen arviointi:
Yhteenvetona seuraavista havainnoista esität sekä mahdolliset vahvuudet että mahdolliset huolenaiheet TASAPAINOISESTI ja VAIN näyttöön perustuen. Älä tee johtopäätöksiä stereotypioiden perusteella. Jos kommentti ei perustu havaintoon, kirjoita "riittämätön todiste". Havainnot: [liitä havainnot]
2) Bias-tarkistus (vastakkaisen kulman testi):
Katso arvostelun teksti alta. Onko olemassa väitteitä, jotka välittävät perusteettoman stereotypian asiakkaan sosioekonomisen aseman, etnisen taustan, uskonnon, sukupuolen, vamman tai naapuruston vuoksi? Kysy jokaisen kohdalla: "Kirjoitetaanko tämä samalla kielellä, jos asiakas olisi eri ryhmästä?" Merkitse ongelmalauseet.Teksti: [liitä teksti]
3) Kulttuurikonteksti (ei-stereotypia):
Tarjoa MAHDOLLISUUKSIA sille, mitä seuraava käyttäytyminen/tilanne voi tarkoittaa eri kulttuurisissa yhteyksissä. Anna nämä huomioitavina tekijöinä, älä ehdottomina sääntöinä; Korosta, että jokaisessa yhteisössä on yksilöllisiä eroja. Älä yleistä yhdestä ryhmästä. Tilanne: [kirjoita tilanne]
4) Painatuskielen puhdistus:
Etsi alla olevasta tekstistä adjektiiveja, jotka tuomitsevat tai leimaavat henkilöä (esim. "laiminlyövä", "yhteistyökyvytön", "ongelmallinen"). Korvaa jokaiselle sama tosiasia vaihtoehdolla, joka on kuvaava, kunnioittava ja tunnistaa vahvuudet. Lisätään uusia tietoja.Teksti: [liitä teksti]
Heikko kehote / Vahva kehote
Heikko kehote:
Selitä, miksi tämä perhe ei ole riittävä kasvattamaan lapsia.
Tämä kysymys olettaa tuloksen alusta alkaen ("riittämätön"). Tekoäly, jolla on taipumus imarilla, tuottaa todisteettoman ja puolueellisen tekstin, joka vahvistaa tämän oletuksen. Jos kysymys on puolueellinen, myös vastaus on puolueellinen.
Tehokas kehotus:
Listaa seuraavien havaintojen perusteella sekä tämän perheen lastenkasvatusvahvuudet että huolenaiheet TASAPAINOISESTI ja pelkällä todisteella. Älä oleta tulosta alusta alkaen; Jos todisteet ovat riittämättömiä, ilmoita se. Vältä stereotypioita. Havainnot: [liitä havainnot]
Ero: tasapainoinen kysymys, joka ei ota kantaa lopputulokseen ja vaatii todisteita, estää ensinnäkin puolueellisuuden.
Vinotyypit ja vastatoimenpiteet
Bias-tyyppi
Miltä se näyttää?
vastatoimenpide
harjoitustiedot
ryhmästereotypia
Todisteen ja mallin ero
kehystys
Passiivinen/negatiivinen kieli
Tasapainoinen, aihekeskeinen kieli
kaksoisstandardi
Sama käytös, eri sävy
käänteisen kulman testi
kulttuurinen sokeus
Kulttuurivallan muuttaminen ongelmaksi
Kulttuurikontekstikysymys
imartelua
vahvista implikaatio
Älä kysy neutraaleja kysymyksiä
edustuksen puute
Pinnallista/väärinkäsitystä
Paikallinen/asiantuntija vahvistus
Yleisiä virheitä
- Esittää ennakkoluuloisia kysymyksiä. Kysymys, joka olettaa johtopäätöksen, tuottaa puolueellisen vastauksen; neutraali ongelma.
- Luottaa itsevarmaan kieleen. Ammattimainen sävy ei tee harhaa oikeaksi; katso todisteet.
- Kulttuuritietämyksen pitäminen lopullisena sääntönä. Ota se mahdollisuutena ja huomiona; Vältä stereotypioita.
- Ei huomaa kaksoisstandardeja. Testaa, kuinka sama käyttäytyminen kirjoitetaan eri ryhmissä.
- Leiman pitäminen todisteena väärin. Se on "tuottamuksellinen" tuomio; Kuvaile ilmiötä, älä tuomitse henkilöä.
Yhteenvetona
AI ei ole neutraali, se näyttää neutraalilta; Se toistaa koulutustiedon eriarvoisuutta ja stereotypioita sujuvalla kielellä. Sosiaalityössä tämä voi johtaa todellisten ihmisten epäreiluihin arvioihin. Tunnista harha (koulutustiedot, kehystys, kaksoisstandardit, kulttuurisokeus, imartelu), vertaa sitä (neutraali kysymys, todisteiden ja kuvioiden erottelu, kulmatestaus, kulttuurinen herkkyys, leimautumisen poistaminen) ja suodata jokainen tulos ammatin oikeudenmukaisuuden ja kunnian arvojen kautta. Viimeinen eettinen suodatin olet aina sinä.
Sovellustehtävä
Pyydä tekoälyä tiivistämään samat fiktiiviset havainnot kahdella eri ryhmäprofiililla (esim. erilainen sosioekonominen asema) ja vertaamaan "käänteiskulmatestiin", eroavatko äänet/kieli. Kokeile sitten neutraalia kysymystä tietoisesti puolueellisella kysymyksellä ("selitä, miksi se ei ole riittävä") ja tutki tulosten eroa. Käytä lopuksi "vesileiman kielen puhdistus" -mallia tekstiin.
tarkistuslista
- [ ] Esitin kysymykseni neutraalisti, olettamatta lopputulosta.
- [ ] Tarkastin jokaisen kielteisen väitteen käyttämällä todiste-stereotyyppierottelua.
- [ ] Tarkastin kaksoisstandardin käänteiskulmatestillä.
- [ ] Käytin kulttuuritietoa varoituksena, en absoluuttisena sääntönä.
- [ ] Korvasin leimaavan kielen kuvaavalla, kunnioittavalla kielellä.