Nyereség:
- Példákkal ismerje fel, hogy a mesterséges intelligencia-modellek kulturális, nemi és diagnosztikai torzulása hogyan okoz károkat a pszichológia kontextusában
- Képesség egy torzítás-ellenőrzés megvalósítására, amely különböző csoportok, nyelvek és kultúrák kimenetét teszteli
- Képes olyan gyors és ellenőrző technikák kifejlesztésére, amelyek korrigálják a Nyugat-központú normát és a megbélyegző nyelvezetet
A mesterséges intelligencia (AI) nem semleges. Egy mesterséges intelligencia modell az interneten található hatalmas szöveghalmazból tanul, és a modell "világképét" elferdíti, hogy kinek a hangja tartalmaz többet és kinek a hangja kevesebbet. Ezt a torzítást torzításnak nevezzük. Az elfogultság a pszichológiában nem közönséges technikai hiba; Közvetlenül befolyásolhatja egy személy értékelését, diagnózisát és kezelését. Egy tünet az egyik kultúrában „normálisnak”, a másikban „kórosnak” tekinthető; egy viselkedést az egyik nemnél „asszertivitás”, a másik nemnél „agresszió”-ként lehet megfogalmazni. Az AI megtanulhatja és megismételheti ezeket a történelmi torzításokat. Ebben az egységben megtanulja felismerni a mesterséges intelligencia elfogultságát a pszichológia kontextusában, és megvizsgálja a különböző csoportok, nyelvek és kultúrák kimeneteit.
Honnan származnak az előítéletek, és hogyan ártanak?
Az AI torzításának három elsődleges forrása van:
- Képzési adatok kiegyensúlyozatlansága. A modellek képzése túlnyomórészt egy adott nyelv, kultúra és korszak szövegeivel történik. A pszichológiai irodalom zöme nyugati, művelt, iparosodott társadalmakból származik; ezért a mesterséges intelligencia „normál emberi” feltételezése ezt a szűk mintát tükrözi.
- Történelmi elfogultság felvétele. Az adatok között szerepelnek olyan szövegek is, amelyek korábban bizonyos csoportokat patologizáltak és megbélyegeztek; a modell megtanulja ezeket a mintákat.
- A képviselet hiánya. A modell vagy nem rendelkezik elegendő vagy sztereotip információval az alulreprezentált csoportokról (különböző etnikai hovatartozás, nyelv, szexuális irányultság, fogyatékosság).
A kár kézzelfogható: a mesterséges intelligencia az egyik csoportban súlyosabbnak és enyhébbnek értékelheti a tünetet, mint a másikban; tévesen tünetnek tekinthet egy kulturális megnyilvánulást (gyászrituálé, vallási élmény); Megbélyegző, sablonos nyelvezetet tud produkálni.
Vigyázat: Még ha a mesterséges intelligencia egy kimenete „objektív tudománynak” tűnik is, hordozhatja a tanult torzításokat. Különösen, ha a különböző kultúrákról, nemekről, szexuális irányultságokról és társadalmi-gazdasági csoportokról van szó, minden eredményt úgy tekintünk, hogy „ez igazságos-e minden csoport számára?” Szűrés a kérdéssel.
Az elfogultság pszichológiára jellemző típusai
Az elfogultság típusa
Nézet a pszichológiában
kockázatot
kulturális elfogultság
A nyugati normákat egyetemesnek tekintve
Ne tévessze össze a kulturális kifejezést a patológiával
nemi elfogultság
Ugyanannak a viselkedésnek a nemtől függően eltérő értelmezése
diagnosztikai eltérés
diagnosztikai torzítás
Bizonyos csoportok „hajlamosnak” tétele bizonyos diagnózisokra
Túl/alul diagnózis
nyelvi elfogultság
Az uralkodó nyelvben "jártasabb", a másikban felületesebb
Egyenlőtlen értékelés
Bélyegzés
Nyelv, amely azonosítja a személyt a diagnózissal
lealacsonyító keretezés
Lépésről lépésre: torzítás szabályozás
- Módosíthatja a kimenetet a "kinek írták?" kérdés. Ki az alapértelmezett alany? Általában tanult, nyugati, "átlagos" srác.
- Tesztelj különböző csoportokkal. Ismételje meg ugyanazt a felszólítást különböző kulturális, nemi és életkori kontextusokban; Változnak a megjegyzések?
- Vizsgálja meg a stigmatikus nyelvet. Helyes megfogalmazás, amely azonosítja a személyt a diagnózisával („skizofréniában szenvedő személy” a „skizofrén” helyett).
- Adjon hozzá kulturális kontextust. Mondja el az MI-nek a kliens kulturális/nyelvi kontextusát, és „ne tekintse patológiának azokat a kifejezéseket, amelyek ebben az összefüggésben normálisak lehetnek”.
- Szakértő és közösségi szemek. Ha bizonytalan egy kulturális kérdésben, forduljon olyan kollégához, aki ismeri az adott kultúrát.
- Hadd döntsenek az emberek. Még az elfogultság-ellenőrzést sem bízzuk az AI-ra; Az igazságosság végső ítélete a tiéd.
Tipp: Egy gyakorlati módszer annak tesztelésére, hogy egy kimenet torz-e: változtasson meg egyetlen attribútumot (nem, kultúra, életkor) a promptban, és tegye fel újra ugyanazt a kérdést. Ha az értelmezés "tisztességtelenül" változik ezzel a változtatással, akkor elfogultságról van szó.
három mini tok
1. eset – Patologizáló kulturális kifejezés. Egy szakember azt mondja az MI-nek, hogy egy másik kultúrából származó kliens „beszélget az elhunyttal” a gyászfolyamat során. Az AI ezt úgy fogalmazza meg, hogy „pszichotikus tünet lehet”. Ez azonban a gyász általános és normális kifejezése az ügyfél kultúrájában. A szakértő elutasítja az AI kimenetét, mert ismeri a kulturális kontextust. Aki nem ismerte a szövegkörnyezetet, az súlyosan tévedhet.
2. eset – Nemi elfogultság vizsgálata. Egy nyomozó kétszer adja össze ugyanazt az esetet az AI-nak; csak megváltoztatja az illető nemét. A „női” változatban az AI az „érzelmi instabilitást” hangsúlyozza, míg a „férfi” változatban ugyanazt a viselkedést fogalmazza meg, mint „stresszreakciót”. Ez egyértelműen mutatja a modell nemi torzítását. A kutató dokumentálja ezt a különbséget, és ennek tudatában használja fel az outputokat.
3. eset – A stigmatizáló nyelvezet kijavítása. Az egyik jelentéstervezet szerint az AI „beteg határvonal”. A szakember ezt olyan megbélyegző nyelvnek látja, amely azonosítja az embert a diagnózisával, és lefordítja azt olyan nyelvre, amely a személyre összpontosít, például "egy meghatározott határvonalas személyiségmintával rendelkező egyénre". Egy kis változtatás a nyelvben nagy változást hoz az ügyfél méltóságának védelmében.
Másolható promptok és sablonok
Ellenőrizze a következő szöveget az elfogultság szempontjából: kulturális, nemi, szexuális irányultságra, életkorra vagy társadalmi-gazdasági elfogultságra utaló megjelölések. Mutassa be azokat a feltételezéseket is, amelyek a nyugati normákat egyetemesnek tekintik. Javasoljon igazságosabb alternatívát mindegyikhez.Szöveg: [szöveg]
Segítsen értékelni a következő helyzetet, de az ügyfél kulturális kontextusa [kultúra/nyelv]. Ebben az összefüggésben olyan kifejezések bemutatása, amelyek NORMÁLIS lehetnek patológiaként; Ha nem biztos egy kulturális pontban, mondja azt, hogy "ez kulturálisan változhat, forduljon szakértőhöz." Állapot: [névtelen állapot]
Fordítsa le a szövegben található megbélyegző kifejezéseket, amelyek azonosítják a személyt a diagnózissal (pl. "skizofrén", "határvonal") olyan nyelvre, amely a személyt középpontba állítja és megőrzi méltóságát. Ne a tartalmat változtasd, csak humanizáld a nyelvet. Szöveg: [szöveg]
A következő eset-összefoglalót kétszer értékelem: egyszer az alany [feature A], a másik [feature B]. Van-e igazságtalan különbség a két értékelés között, és ha igen, ez az elfogultságnak köszönhető? Összehasonlítás. Absztrakt: [névtelen absztrakt]
Gyenge felszólítás / Erős felszólítás
Gyenge felszólítás: "Ez az ügyfél viselkedése normális vagy rendellenes?"
Ez a prompt nem kérdez rá, hogy kinek szól a "normális"; A mesterséges intelligencia Nyugat-központú, kulturálatlan „normál”-ot feltételez, és patologizálhatja a kulturális kifejezést.
Erős felszólítás: "Ez az ügyfél [kulturális/nyelvi kontextusban] van. Magyarázza el, hogy ez a viselkedés normális kifejezés-e az adott kulturális kontextusban, vagy olyan jel, amely figyelmet igényel, mindkettőt külön megbeszélve. Ne hozzon végleges ítéletet; emlékeztessen arra, hogy konzultáljak egy szakértővel, aki ismeri a kulturális kontextust."
Ez a felszólítás a kontextust helyezi a középpontba, megakadályozza a kulturális félreértéseket, és a döntést a szakértőre bízza.
Gyakori hibák
- Az AI kimenet összetévesztése az „objective”-vel. Elfelejtve, hogy a modell torzítást hordoz, és elfogadni a kimenetet tudományos tényként.
- A nyugati normát egyetemesnek tekintve. A "normális" definiálása egyetlen kultúra szerint és a különböző kifejezések patologizálása.
- Nem veszi észre a megbélyegző nyelvezetet. Eltéveszteni azt a nyelvet, amely a diagnózissal rendelkező személyt "technikai nyelvként" azonosítja.
- Nem az elfogultság tesztelése. Nem próbálja meg ugyanazt a promptot különböző csoportokkal, és nem ellenőrzi a konzisztenciát.
- Egyedül hoz döntéseket egy olyan kultúrában, amelyet nem ismer. Ítéletet hozni anélkül, hogy megkérdeznénk egy kollégát, aki ismeri ezt a kultúrát.
Összefoglalva
A mesterséges intelligencia elfogult, mert egy elfogult világ szövegeiből tanul; A pszichológiában ez az elfogultság kézzelfogható károkká válik kulturális, nemi, diagnosztikai, nyelvi és stigma formájában. Hasonlítsa össze az egyes kimeneteket a következő kérdéssel: „Ez igazságos minden csoport számára?” szűrjük le; tesztelje ugyanazt a prompt különböző csoportokkal; adjon hozzá kulturális kontextust a prompthoz; a stigmatizáló nyelvet személyközpontú nyelvre cseréljük; Keressen szakértő/közösségi szemet egy olyan kultúrára, amelyet nem ismer. Az igazságosság megítélése, beleértve az elfogultság ellenőrzését is, az emberi lényből fakad.
Pályázati feladat
Készítsen esetösszefoglalót (anonim). Add oda az AI-nak kétszer; csak egy jellemzőt (nem, kultúra vagy életkor) változtat. Helyezze egymás mellé a két nyomatot, és vizsgálja meg az igazságtalan eltéréseket. Kérje meg az AI-t, hogy a jelentés bekezdésében szereplő stigmatizáló kifejezéseket személyközpontú nyelvre fordítsa le, és vegye figyelembe a különbséget.
ellenőrző lista
- [ ] Módosítsa a kimenetet "minden csoporttal szemben igazságos?" – tettem fel a kérdést.
- [ ] Ugyanazt a promptot teszteltem különböző csoportokkal/kultúrákkal.
- [ ] Hozzáadtam a kulturális kontextust a prompthoz; Nem patologizáltam a kulturális kifejezésmódot.
- [ ] A stigmatizáló nyelvet személyközpontú nyelvre változtattam.
- [ ] Szakértő/kolléga tanácsát kértem egy számomra ismeretlen kulturális kérdésben.
- [ ] A méltányosság végső döntését a saját megítélésemre bíztam, nem az MI-re.