Dobički:
- S primeri prepoznajte, kako kulturna, spolna in diagnostična pristranskost v modelih umetne inteligence povzročajo škodo v kontekstu psihologije
- Sposobnost izvajanja preverjanja pristranskosti, ki testira rezultate za različne skupine, jezike in kulture
- Sposobnost razvijanja hitrih in verifikacijskih tehnik, ki popravljajo zahodno osredotočeno normo in stigmatizirajoči jezik
Umetna inteligenca (AI) ni nevtralna. Model z umetno inteligenco se uči iz ogromnega kupa besedila na internetu, "pogled na svet" modela pa je izkrivljen glede na to, čigav glas vsebuje več in čigav glas vsebuje manj. To popačenje se imenuje pristranskost. Pristranskost v psihologiji ni običajna tehnična napaka; Lahko neposredno vpliva na oceno, diagnozo in zdravljenje osebe. Simptom se lahko bere kot "normalen" v eni kulturi in "patološki" v drugi; vedenje je lahko uokvirjeno kot "asertivnost" pri enem spolu in "agresija" pri drugem. AI se lahko nauči in posnema te zgodovinske pristranskosti. V tej enoti se boste naučili prepoznati pristranskost v AI v kontekstu psihologije in revidirati rezultate za različne skupine, jezike in kulture.
Od kod predsodki in kako škodijo?
Obstajajo trije primarni viri pristranskosti AI:
- Neuravnoteženost podatkov o usposabljanju. Modeli se usposabljajo pretežno z besedili določenega jezika, kulture in obdobja. Večina psihološke literature prihaja iz zahodnih, izobraženih, industrializiranih družb; zato AI-jeva predpostavka o "normalnem človeku" odraža ta ozek vzorec.
- Vključitev zgodovinske pristranskosti. V podatke so vključena tudi besedila, ki so v preteklosti patologizirala in stigmatizirala določene skupine; model se teh vzorcev nauči.
- Pomanjkanje reprezentance. Model ima bodisi nezadostne bodisi stereotipne informacije o premalo zastopanih skupinah (različna etnična pripadnost, jezik, spolna usmerjenost, invalidnost).
Škoda je otipljiva: AI lahko oceni simptom kot hujšega v eni skupini in blažjega kot v drugi; lahko zmotno obravnava kulturni izraz (obred žalovanja, versko izkustvo) kot simptom; Lahko povzroči stigmatizirajoč, klišejski jezik.
Pozor: tudi če je rezultat umetne inteligence videti kot »objektivna znanost«, lahko vsebuje pristranskosti, ki se jih je naučil. Zlasti ko gre za različne kulture, spole, spolne usmerjenosti in socialno-ekonomske skupine, vsak rezultat obravnavamo kot "ali je to pravično za vse skupine?" Filtriraj z vprašanjem.
Vrste pristranskosti, značilne za psihologijo
Vrsta pristranskosti
Pogled v psihologiji
tveganje
kulturna pristranskost
Upoštevanje zahodnih norm kot univerzalnih
Ne zamenjajte kulturnega izražanja za patologijo
spolna pristranskost
Razlaga istega vedenja različno glede na spol
diagnostično neskladje
diagnostična pristranskost
Prikazovanje določenih skupin kot "nagnjenih" k določenim diagnozam
Preveč/premalo diagnoze
jezikovna pristranskost
Bolj "obvladati" prevladujoči jezik, površno v drugem
Neenako vrednotenje
Žigosanje
Jezik, ki identificira osebo z njeno diagnozo
ponižujoče kadriranje
Korak za korakom: nadzor pristranskosti
- Izhod lahko spremenite v "za koga je bilo napisano?" vprašanje. Kdo je privzeti subjekt? Na splošno je izobražen, zahodnjaški, "povprečen" človek.
- Testirajte z različnimi skupinami. Ponovite isti poziv v različnih kulturnih, spolnih in starostnih kontekstih; Ali se komentarji spreminjajo?
- Skenirajte stigmatični jezik. Pravilno besedilo, ki identificira osebo z njeno diagnozo ("oseba s shizofrenijo" namesto "shizofrenik").
- Dodajte kulturni kontekst. Umetni inteligenci povejte kulturni/jezikovni kontekst odjemalca in "izrazov, ki bi lahko bili normalni v tem kontekstu, ne obravnavajte kot patologijo."
- Oči strokovnjakov in skupnosti. Če niste prepričani glede kulturnega vprašanja, se posvetujte s kolegom, ki to kulturo pozna.
- Naj se ljudje odločijo. Tudi preverjanje pristranskosti ni prepuščeno AI; Končna sodba pravice je vaša.
Namig: praktičen način za preizkus, ali je rezultat pristranski: spremenite en atribut (spol, kulturo, starost) v pozivu in znova postavite isto vprašanje. Če se interpretacija s to spremembo spremeni "nepošteno", gre za pristranskost.
trije mini kovčki
Primer 1 – Patologiziranje kulturnega izražanja. Strokovnjak pove AI, da se stranka iz druge kulture med procesom žalovanja »pogovarja s pokojnikom«. AI to uokvirja kot "lahko psihotični simptom." Vendar je to običajen in običajen izraz žalosti v kulturi te stranke. Strokovnjak zavrača rezultat AI, ker pozna kulturni kontekst. Nekdo, ki ne pozna konteksta, bi lahko resno napačno presodil.
Primer 2 – Testiranje pristranskosti glede na spol. Preiskovalec dvakrat poda isti povzetek primera AI; samo spremeni spol osebe. V »ženski« različici umetna inteligenca poudarja »čustveno nestabilnost«, medtem ko v »moški« različici uokvirja isto vedenje kot »odziv na stres«. To jasno kaže spolno pristranskost modela. Raziskovalec dokumentira to razliko in s tem zavedanjem uporablja rezultate.
Primer 3 – Popravljanje stigmatizirajočega jezika. AI je "bolna meja", navaja osnutek poročila. Specialist vidi to kot stigmatizirajoč jezik, ki identificira osebo z njeno diagnozo in jo prevede v jezik, ki se osredotoča na osebo, kot je "posameznik z definiranim mejnim osebnostnim vzorcem". Majhna sprememba jezika naredi veliko razliko pri zaščiti dostojanstva stranke.
Pozivi in predloge, ki jih je mogoče kopirati
Preverite naslednje besedilo za pristranskost: izjave z zastavico, ki kažejo na kulturno, spolno, spolno usmerjenost, starost ali socialno-ekonomsko pristranskost. Pokažite tudi predpostavke, ki menijo, da so zahodne norme univerzalne. Za vsakega predlagajte pravičnejšo alternativo. Besedilo: [besedilo]
Pomagajte mi oceniti naslednjo situacijo, vendar je kulturni kontekst stranke [kultura/jezik]. V tem kontekstu predstavljanje izrazov, ki so lahko NORMALNI kot patologija; Če niste prepričani glede kulturne točke, recite "to se lahko razlikuje glede na kulturo, posvetujte se s strokovnjakom." Status: [anonimni status]
Prevedite stigmatizirajoče izraze v tem besedilu, ki identificirajo osebo z njeno diagnozo (npr. "shizofrenik", "mejni") v jezik, ki osebo osredotoči in ohranja njeno dostojanstvo. Ne spreminjajte vsebine, samo počlovečite jezik. Besedilo: [besedilo]
Naslednji povzetek primera bom ocenil dvakrat: enkrat predmet [značilnost A], drugič [značilnost B]. Ali obstaja nepoštena razlika med obema ocenama in če je tako, ali je to posledica pristranskosti? Primerjaj. Povzetek: [anonimni povzetek]
Šibek poziv/močan poziv
Šibek poziv: "Ali je vedenje te stranke normalno ali nenormalno?"
Ta poziv ne sprašuje, komu je "normalen" namenjen; Umetna inteligenca predpostavlja zahodnocentrično, nekulturno »normalno« in lahko patološko vpliva na kulturno izražanje.
Močan poziv: "Ta stranka je v [kulturnem/jezikovnem kontekstu]. Pojasnite, ali je to vedenje lahko običajen izraz v tem kulturnem kontekstu ali znak, ki zahteva pozornost, pri čemer se pogovorite o obeh ločeno. Ne sodite dokončno; opomnite me, naj se posvetujem s strokovnjakom, ki pozna kulturni kontekst."
Ta poziv postavlja kontekst v središče, preprečuje kulturno napačno branje in prepušča odločitev strokovnjaku.
Pogoste napake
- Zamenjanje rezultatov AI za "objektivne". Pozabljamo, da je model pristranski, in sprejemamo rezultat kot znanstveno dejstvo.
- Upoštevanje zahodne norme kot univerzalne. Definiranje "normalnega" glede na eno samo kulturo in patologiziranje različnih izrazov.
- Ne opaziti stigmatizirajočega jezika. Zamenjati jezik, ki identificira osebo z njeno diagnozo, kot "tehnični jezik".
- Brez testiranja pristranskosti. Ne preizkušanje istega poziva z različnimi skupinami in preverjanje doslednosti.
- Odločanje sprejemaš sam v kulturi, ki je ne poznaš. Izvajanje presoje brez posvetovanja s kolegom, ki pozna to kulturo.
Če povzamem
AI je pristranska, ker se uči iz besedil pristranskega sveta; V psihologiji se ta pristranskost prevede v oprijemljivo škodo v obliki kulturne, spolne, diagnostične, jezikovne in stigme. Vsak rezultat primerjajte z vprašanjem "ali je to pošteno do vseh skupin?" precedite; preizkusite isti poziv z različnimi skupinami; svojemu pozivu dodajte kulturni kontekst; spremeniti stigmatizirajoči jezik v jezik, osredotočen na osebo; Poiščite pogled strokovnjaka/skupnosti na kulturo, ki je ne poznate. Pravična presoja, vključno z nadzorom pristranskosti, izhaja iz človeka.
Aplikacijska naloga
Pripravite povzetek primera (anonimno). Dvakrat ga dajte AI; spremeniti samo eno lastnost (spol, kulturo ali starost). Dva izpisa položite drug poleg drugega in preverite, ali obstajata nepravične razlike. Umetna inteligenca naj tudi prevede stigmatizirajoče fraze v odstavku poročila v jezik, osredotočen na osebo, in opazi razliko.
kontrolni seznam
- [ ] Spremenite izhod v "je to pošteno do vseh skupin?" Postavil sem vprašanje.
- [ ] Isti poziv sem preizkusil z različnimi skupinami/kulturami.
- [ ] Pozivu sem dodal kulturni kontekst; Nisem patologiziral kulturnega izražanja.
- [ ] Spremenil sem stigmatizirajoči jezik v jezik, osredotočen na osebo.
- [ ] Poiskal sem nasvet strokovnjaka/kolega o kulturni temi, ki mi ni bila znana.
- [ ] Končno odločitev o pravičnosti sem prepustil lastni presoji, ne AI.