Zyski:
- Rozpoznaj na przykładach, w jaki sposób uprzedzenia kulturowe, płciowe i diagnostyczne w modelach sztucznej inteligencji powodują szkody w kontekście psychologii
- Możliwość wdrożenia kontroli stronniczości, która testuje wyniki dla różnych grup, języków i kultur
- Umiejętność opracowania technik szybkiej i weryfikacji, które korygują normy zachodnie i stygmatyzujący język
Sztuczna inteligencja (AI) nie jest neutralna. Model sztucznej inteligencji uczy się z ogromnego stosu tekstu w Internecie, a „światopogląd” modelu jest wypaczony w zależności od tego, czyj głos zawiera więcej, a którego mniej. To zniekształcenie nazywa się stronniczością. Stronniczość w psychologii nie jest zwykłą wadą techniczną; Może to bezpośrednio wpłynąć na ocenę, diagnozę i leczenie danej osoby. Objaw można odczytać jako „normalny” w jednej kulturze i „patologiczny” w innej; zachowanie można określić jako „asertywność” u jednej płci i „agresję” u drugiej. Sztuczna inteligencja może uczyć się i powielać te historyczne uprzedzenia. W tej jednostce nauczysz się rozpoznawać uprzedzenia w sztucznej inteligencji w kontekście psychologii i kontrolować wyniki dla różnych grup, języków i kultur.
Skąd biorą się uprzedzenia i jak szkodzą?
Istnieją trzy główne źródła stronniczości AI:
- Brak równowagi danych treningowych. Modele trenują głównie z tekstami z określonego języka, kultury i okresu. Większość literatury psychologicznej pochodzi z wykształconych i uprzemysłowionych społeczeństw zachodnich; stąd założenie sztucznej inteligencji dotyczące „normalnego człowieka” odzwierciedla tę wąską próbkę.
- Uwzględnienie uprzedzeń historycznych. Dane uwzględniają także teksty, które w przeszłości patologizowały i napiętnowały określone grupy; model uczy się tych wzorców.
- Brak reprezentacji. Model zawiera niewystarczające lub stereotypowe informacje na temat niedostatecznie reprezentowanych grup (różne pochodzenie etniczne, język, orientacja seksualna, niepełnosprawność).
Szkoda jest namacalna: sztuczna inteligencja może ocenić objaw jako poważniejszy w jednej grupie i łagodniejszy niż w innej; może błędnie uznać ekspresję kulturową (rytuał żałobny, doświadczenie religijne) za objaw; Może tworzyć stygmatyzujący, banalny język.
Uwaga: nawet jeśli wynik sztucznej inteligencji wydaje się być „obiektywną nauką”, może zawierać uprzedzenia, których się nauczył. Szczególnie jeśli chodzi o różne kultury, płcie, orientacje seksualne i grupy społeczno-ekonomiczne, każdy wynik rozważamy w kategoriach „czy jest to sprawiedliwe dla wszystkich grup?” Filtruj z pytaniem.
Rodzaje uprzedzeń charakterystyczne dla psychologii
Rodzaj uprzedzeń
Pogląd w psychologii
ryzyko
uprzedzenia kulturowe
Uznawanie zachodnich norm za uniwersalne
Nie myl ekspresji kulturowej z patologią
uprzedzenia płciowe
Różna interpretacja tego samego zachowania w zależności od płci
rozbieżność diagnostyczna
błąd diagnostyczny
Przedstawianie pewnych grup jako „podatnych” na pewne diagnozy
Diagnoza zawyżona/niedostateczna
stronniczość językowa
Bardziej „biegły” w dominującym języku, powierzchowny w drugim
Nierówna ocena
Stemplowanie
Język identyfikujący osobę z jej diagnozą
poniżające kadrowanie
Krok po kroku: kontrola odchylenia
- Możesz zmienić wynik na „dla kogo został napisany?” pytanie. Kto jest domyślnym tematem? Jest ogólnie wykształconym, „przeciętnym” facetem z Zachodu.
- Przetestuj z różnymi grupami. Powtarzaj tę samą zachętę w różnych kontekstach kulturowych, płciowych i wiekowych; Czy komentarze się zmieniają?
- Zeskanuj język stygmatyczny. Prawidłowe sformułowanie identyfikujące osobę z postawioną diagnozą („osoba cierpiąca na schizofrenię” zamiast „schizofrenik”).
- Dodaj kontekst kulturowy. Powiedz AI kontekst kulturowy/językowy klienta i „nie uważaj wyrażeń, które mogą być normalne w tym kontekście, za patologię”.
- Oczy ekspertów i społeczności. Jeśli nie masz pewności co do kwestii kulturowej, skonsultuj się ze współpracownikiem, który zna tę kulturę.
- Pozwól ludziom decydować. Nawet sprawdzanie stronniczości nie jest zadaniem sztucznej inteligencji; Ostateczny osąd sprawiedliwości należy do Ciebie.
Wskazówka: praktyczny sposób sprawdzenia, czy wyniki są stronnicze: zmień pojedynczy atrybut (płeć, kultura, wiek) w monicie i zadaj to samo pytanie ponownie. Jeśli interpretacja zmienia się w wyniku tej zmiany „niesprawiedliwie”, mamy do czynienia z uprzedzeniami.
trzy mini etui
Przypadek 1 — Patologizacja ekspresji kulturowej. Profesjonalista mówi AI, że klient z innej kultury „rozmawia ze zmarłym” podczas procesu żałoby. AI określa to jako „może być objawem psychotycznym”. Jest to jednak powszechny i normalny wyraz żalu w kulturze tego klienta. Ekspert odrzuca wyniki sztucznej inteligencji, ponieważ zna kontekst kulturowy. Ktoś, kto nie znał kontekstu, mógł dokonać poważnej błędnej oceny.
Przypadek 2 — Testowanie uprzedzeń ze względu na płeć. Badacz dwukrotnie przekazuje AI podsumowanie tej samej sprawy; zmienia po prostu płeć danej osoby. W wersji „żeńskiej” sztuczna inteligencja kładzie nacisk na „niestabilność emocjonalną”, natomiast w wersji „męskiej” określa to samo zachowanie jako „reakcję na stres”. To wyraźnie pokazuje stronniczość modelu ze względu na płeć. Badacz dokumentuje tę różnicę i z tą świadomością wykorzystuje wyniki.
Przypadek 3 — Korygowanie stygmatyzującego języka. Sztuczna inteligencja to „chora granica” – stwierdza jeden z projektów raportów. Specjalista postrzega to jako język stygmatyzujący, identyfikujący osobę ze swoją diagnozą i przekładający ją na język skupiający się na tej osobie, np. „jednostka z określonym wzorcem osobowości borderline”. Mała zmiana języka robi dużą różnicę chroniąc godność klienta.
Kopiowalne podpowiedzi i szablony
Sprawdź następujący tekst pod kątem uprzedzeń: oświadczenia wskazujące na uprzedzenia kulturowe, płeć, orientację seksualną, wiek lub uprzedzenia społeczno-ekonomiczne. Pokaż także założenia, które uznają normy zachodnie za uniwersalne. Zaproponuj bardziej sprawiedliwą alternatywę dla każdego. Tekst: [tekst]
Pomóż mi ocenić następującą sytuację, ale kontekst kulturowy klienta to [kultura/język]. W tym kontekście przedstawienie wyrażeń, które mogą być NORMALNE, jako patologia; Jeśli nie masz pewności co do kwestii kulturowych, powiedz „może to zależeć od kultury, skonsultuj się z ekspertem”. Status: [status anonimowy]
Przetłumacz stygmatyzujące wyrażenia w tym tekście, które identyfikują osobę z jej diagnozą (np. „schizofrenik”, „osoba z pogranicza”) na język, który koncentruje się na osobie i chroni jej godność. Nie zmieniaj treści, po prostu humanizuj język. Tekst: [tekst]
Poniższe podsumowanie przypadku będę oceniał dwukrotnie: raz podmiot [cecha A], drugi [cecha B]. Czy istnieje niesprawiedliwa różnica między tymi dwiema ocenami, a jeśli tak, to czy wynika ona z uprzedzeń? Porównaj.Streszczenie: [anonimowe streszczenie]
Słaba zachęta/silna zachęta
Słaby komunikat: „Czy zachowanie tego klienta jest normalne czy nienormalne?”
W tym wierszu nie pojawia się pytanie, dla kogo przeznaczony jest „normalny”; Sztuczna inteligencja przyjmuje zachodniocentryczną, pozbawioną kultury „normalność” i może patologizować ekspresję kulturową.
Mocna podpowiedź: „Ten klient znajduje się w [kontekście kulturowym/językowym]. Wyjaśnij, czy to zachowanie może być normalnym wyrazem w tym kontekście kulturowym, czy znakiem wymagającym uwagi, omawiając oba z osobna. Nie wydawaj ostatecznej oceny; przypomnij mi, żebym skonsultował się z ekspertem znającym kontekst kulturowy”.
Podpowiedź ta stawia kontekst w centrum uwagi, zapobiega błędnym odczytaniom kulturowym i pozostawia decyzję ekspertowi.
Typowe błędy
- Mylenie wyników AI z „celem”. Zapominając, że model niesie ze sobą stronniczość i przyjmując wyniki jako fakt naukowy.
- Uznanie normy zachodniej za uniwersalną. Definiowanie „normalności” w ramach jednej kultury i patologizowanie różnych wyrażeń.
- Nie zauważając stygmatyzującego języka. Mylenie języka identyfikującego osobę z postawioną diagnozą jako „język techniczny”.
- Nie testuję stronniczości. Nie próbowanie tego samego monitu z różnymi grupami i sprawdzanie spójności.
- Samodzielne podejmowanie decyzji w kulturze, której nie znasz. Dokonywanie oceny bez konsultacji ze współpracownikiem, który zna tę kulturę.
Podsumowując
Sztuczna inteligencja jest stronnicza, ponieważ uczy się z tekstów stronniczego świata; W psychologii to uprzedzenie przekłada się na wymierną szkodę w postaci kulturowej, płciowej, diagnostycznej, językowej i piętna. Porównaj każdy wynik z pytaniem „czy jest to sprawiedliwe dla wszystkich grup?” odcedź; przetestuj ten sam monit z różnymi grupami; dodaj kontekst kulturowy do swojego podpowiedzi; zmienić język stygmatyzujący na język skoncentrowany na osobie; Poszukaj spojrzenia eksperta/społeczności na kulturę, której nie znasz. Osąd sprawiedliwości, w tym kontrola uprzedzeń, pochodzi od istoty ludzkiej.
Zadanie aplikacji
Przygotuj streszczenie sprawy (anonimowe). Daj to AI dwa razy; zmienić tylko jedną cechę (płeć, kulturę lub wiek). Umieść oba wydruki obok siebie i sprawdź, czy nie występują nieuczciwe różnice. Poproś sztuczną inteligencję o przetłumaczenie stygmatyzujących wyrażeń w akapicie raportu na język skoncentrowany na osobie i zanotuj różnicę.
lista kontrolna
- [ ] Zmień wynik na „czy jest to sprawiedliwe wobec wszystkich grup?” Zadałem pytanie.
- [ ] Przetestowałem ten sam monit z różnymi grupami/kulturami.
- [ ] Dodałem kontekst kulturowy do podpowiedzi; Nie patologizowałem ekspresji kulturowej.
- [ ] Zmieniłem język stygmatyzujący na język skoncentrowany na osobie.
- [ ] Zwróciłem się o poradę do eksperta/kolegi w nieznanej mi kwestii kulturowej.
- [ ] Ostateczną decyzję dotyczącą uczciwości pozostawiłem własnemu osądowi, a nie sztucznej inteligencji.