Zyski:
- Rozpoznanie, kiedy sztuczna inteligencja powoduje stronniczość poprzez dane szkoleniowe, kadrowanie, podwójne standardy i pochlebstwa
- Umiejętność ustalenia kontroli przed uprzedzeniami za pomocą pytań neutralnych, dyskryminacji stereotypów dowodowych i testu odwróconego kąta
- Umiejętność przełożenia stygmatyzującego języka na język opisowy i pełen szacunku, wykorzystując wiedzę kulturową jako punkt uwagi, a nie ostateczną zasadę
Racją bytu pracy socjalnej jest sprawiedliwość i godność ludzka; U podstaw tej profesji leży zobowiązanie, że każda osoba ma taką samą wartość, przeciwdziałanie dyskryminacji i ochronę grup bezbronnych. Sztuczna inteligencja niesie ze sobą ryzyko, które może po cichu zaszkodzić właśnie tym wartościom: stronniczości. AI uczy się na podstawie danych historycznych; Jeśli dane te obejmują nierówności, stereotypy i dyskryminację w społeczeństwie, sztuczna inteligencja uczy się ich i odtwarza w płynnym, „obiektywnie” wyglądającym języku. W rękach pracownika socjalnego może to przełożyć się na systematycznie coraz bardziej negatywną ocenę grupy, stereotypizację rodziny lub niezrozumienie kultury. W tej części nauczysz się rozpoznawać uprzedzenia sztucznej inteligencji, kontrolować je i wykorzystywać sztuczną inteligencję w sposób uczciwy i wrażliwy kulturowo.
Fakt od początku: AI nie jest neutralna, wydaje się neutralna. Najbardziej niebezpieczne uprzedzenia to te prezentowane pewnym siebie i profesjonalnym językiem; ponieważ jest to akceptowane bez zastrzeżeń. Twoim zadaniem jako pracownika socjalnego jest uwidocznienie tego niewidocznego uprzedzenia i monitorowanie, czy wyniki są sprzeczne z Twoimi wartościami zawodowymi.
Skąd bierze się stronniczość AI i jak ona wygląda?
- Błąd danych treningowych. Sztuczna inteligencja uczy się z tekstów odzwierciedlających nierówności w społeczeństwie. Stereotypy na temat niektórych grup etnicznych, biednych, niepełnosprawnych, niektórych dzielnic lub płci mogą przedostać się do wyników.
- Stronniczość językowa i kadrowa. Sztuczna inteligencja może postrzegać grupę jako pasywną, „problematyczną” lub „obiekt wymagający pomocy”; inna grupa jako podmioty. To samo zachowanie może być interpretowane jako „kulturowe” przez jedną grupę i „problematyczne” przez inną grupę.
- Brak reprezentacji. Sztuczna inteligencja może niedokładnie lub powierzchownie rozumieć grupy niedostatecznie reprezentowane w danych (małe populacje, rzadkie przypadki).
- Pochlebstwa (pochlebstwa). Sztuczna inteligencja ma tendencję do potwierdzania Twojego domniemanego poglądu; Stronnicze pytanie przynosi stronnicze potwierdzenie.
Te uprzedzenia są szczególnie niebezpieczne w pracy socjalnej, ponieważ wyniki bezpośrednio wpływają na życie prawdziwych ludzi – ocena, raport, skierowanie.
Uwaga: „AI tak to oceniła” jest sygnałem ostrzegawczym, a nie uzasadnieniem. Kiedy widzisz materiały, które negatywnie przedstawiają grupę lub osobę, pierwsze pytanie brzmi: „czy opierają się one na dowodach, czy na stereotypach?” powinno być.
Krok po kroku: audyt pod kątem uprzedzeń
- Zapytaj neutralnie. Zadawaj pytania, które nie sugerują ani nie prowadzą; Nie „wyjaśnij, dlaczego ta rodzina zaniedbuje”, ale „co mogą oznaczać te obserwacje i jakie są alternatywne wyjaśnienia?” zapytać.
- Rozróżnij dowód od stereotypu. W przypadku każdego negatywnego stwierdzenia zadaj sobie pytanie: czy opiera się ono na konkretnych dowodach, które mam przed sobą, czy też na ogólnych założeniach dotyczących grupy?
- Sprawdź pod przeciwnym kątem. Rozważ tę samą sytuację dla innej grupy: „Gdyby klient pochodził z innego środowiska społeczno-ekonomicznego/etnicznego, czy sztuczna inteligencja napisałaby to w tym samym języku?”
- Szukaj wrażliwości kulturowej. Zapytaj o kontekst kulturowy zachowania; ale traktuj wiedzę kulturową jako możliwość i przestrogę, a nie absolutną regułę (unikaj stereotypów).
- Oczyść język odciskowy. Przetłumacz to na język, który opisuje sytuację, a nie osobę, a także dostrzega mocne strony.
trzy mini etui
Przypadek 1 — Odwrócony kąt ujawnił stronniczość. Ekspert zlecił AI podsumowanie dwóch podobnych przypadków; jedyną różnicą był status społeczno-ekonomiczny rodzin. YZ pisała tonem „wysokiego ryzyka zaniedbania” w przypadku rodziny o niskich dochodach i tonem „rodzica zmuszonego do zachowania” w przypadku rodziny o wysokich dochodach. Ekspert dostrzegł te podwójne standardy i spisał obie oceny w równym języku, opartym na dowodach.
Przypadek 2 — poprawiono błędną interpretację kulturową. YZ określiła sytuację dziecka mieszkającego w dalszej rodzinie jako „kwestie graniczne i mieszane środowisko domowe”. Ekspert wiedział, że w kontekście kulturowym rodziny dalsza rodzina stanowi potężne źródło wsparcia i ochrony. Sztuczna inteligencja zamieniła siłę kulturową w problem. Recenzja została poprawiona, aby uznać to wsparcie za zasób.
Przypadek 3 – Pytanie wiodące spowodowało stronniczość. „Zapisz, dlaczego ten ojciec jest niegodny zaufania” – poprosił sztuczną inteligencję stażysta. Sztuczna inteligencja stworzyła tekst, który przedstawia ojca w negatywny sposób (pochlebstwa) bez żadnych dowodów. Opiekun zmodyfikował pytanie: „Jakie są obserwacje na temat ojca, jakie mogą być jego mocne i słabe strony?” Wyniki stały się zrównoważone i oparte na dowodach. Lekcja: stronnicze pytanie daje stronniczą odpowiedź.
Cztery szablony do kopiowania
1) Poproś o neutralną, wyważoną ocenę:
Podsumowując poniższe obserwacje, przedstawiasz zarówno możliwe mocne strony, jak i możliwe obawy w ZRÓWNOWAŻONY sposób i w oparciu WYŁĄCZNIE o dowody. Nie wyciągaj żadnych wniosków na podstawie stereotypów. Jeżeli komentarz nie opiera się na obserwacjach, należy wpisać „niewystarczające dowody”. Obserwacje: [wklej obserwacje]
2) Kontrola odchylenia (test kąta przeciwnego):
Zapoznaj się z tekstem recenzji poniżej. Czy istnieją stwierdzenia, które przekazują bezpodstawny stereotyp ze względu na status społeczno-ekonomiczny klienta, pochodzenie etniczne, religię, płeć, niepełnosprawność lub sąsiedztwo? W przypadku każdego z nich zadaj sobie pytanie: „Czy byłoby to napisane w tym samym języku, gdyby klient należał do innej grupy?” Oznacz zdania problematyczne.Tekst: [wklej tekst]
3) Kontekst kulturowy (niestereotypowy):
Podaj MOŻLIWOŚCI dotyczące tego, co może oznaczać następujące zachowanie/sytuacja w różnych kontekstach kulturowych. Podaj je jako punkty do rozważenia, a nie jako bezwzględne zasady; Podkreśl, że w każdej społeczności istnieją indywidualne różnice. Nie generalizuj na temat jednej grupy. Sytuacja: [napisz sytuację]
4) Odciskowe czyszczenie języka:
W poniższym tekście znajdź przymiotniki, które osądzają lub piętnują daną osobę (np. „zaniedbanie”, „brak współpracy”, „problematyka”). W przypadku każdego z nich zastąp ten sam fakt alternatywą, która będzie opisowa, pełna szacunku i uznająca mocne strony. Dodawanie nowych informacji.Tekst: [wklej tekst]
Słaba zachęta/silna zachęta
Słaba zachęta:
Wyjaśnij, dlaczego ta rodzina nie radzi sobie z wychowywaniem dzieci.
To pytanie zakłada wynik od początku („niewystarczający”). Sztuczna inteligencja, mająca skłonność do pochlebstw, stworzy pozbawiony dowodów i stronniczy tekst, który potwierdzi to założenie. Jeśli pytanie jest stronnicze, odpowiedź również będzie stronnicza.
Potężny monit:
W oparciu o poniższe obserwacje, wypisz mocne strony tej rodziny w zakresie wychowywania dzieci oraz obszary budzące wątpliwości w ZRÓWNOWAŻONY i oparty wyłącznie na dowodach sposób. Nie zakładaj wyniku od początku; Jeżeli dowody są niewystarczające, należy to zgłosić. Unikaj stereotypów. Obserwacje: [wklej obserwacje]
Różnica: wyważone pytanie, które nie zakłada wyniku i wymaga dowodów, przede wszystkim zapobiega stronniczości.
Rodzaje uprzedzeń i środki zaradcze
Rodzaj uprzedzeń
Jak to wygląda
środek zaradczy
dane treningowe
stereotyp grupowy
Rozróżnienie wzoru dowodu
kadrowanie
Język pasywny/negatywny
Zrównoważony, tematyczny język
podwójne standardy
To samo zachowanie, inny ton
próba kąta odwrotnego
ślepota kulturowa
Przekształcenie władzy kulturowej w problem
Pytanie dotyczące kontekstu kulturowego
pochlebstwo
potwierdzić implikację
Nie zadawaj neutralnych pytań
brak reprezentacji
Powierzchowne/nieporozumienie
Potwierdzenie lokalne/eksperta
Typowe błędy
- Zadawanie uprzedzonych pytań. Pytanie, które zakłada konkluzję, daje stronniczą odpowiedź; neutralnego problemu.
- Poleganie na pewnym języku. Profesjonalny ton nie sprawia, że stronniczość jest prawidłowa; spójrz na dowody.
- Uznawanie wiedzy kulturowej za ostateczną regułę. Potraktuj to jako punkt możliwości i uwagi; Unikaj stereotypów.
- Nie zauważając podwójnych standardów. Sprawdź, jak to samo zachowanie jest zapisane w różnych grupach.
- Uznanie pieczęci za dowód. Jest to wyrok „niedbały”; Opisz zjawisko, nie oceniaj osoby.
Podsumowując
Sztuczna inteligencja nie jest neutralna, wydaje się neutralna; Odtwarza nierówności i stereotypy w danych edukacyjnych w płynnym języku. W pracy socjalnej może to prowadzić do niesprawiedliwej oceny prawdziwych ludzi. Rozpoznaj stronniczość (dane szkoleniowe, kadrowanie, podwójne standardy, ślepota kulturowa, pochlebstwo), sprawdź pod kątem niej (pytanie neutralne, oddzielenie dowodów od wzorców, testowanie pod kątem, wrażliwość kulturowa, usuwanie piętna) i filtruj każdy wynik według wartości zawodu, takich jak uczciwość i honor. Ostatnim filtrem etycznym jesteś zawsze Ty.
Zadanie aplikacji
Niech sztuczna inteligencja podsumowuje ten sam zestaw fikcyjnych obserwacji z dwoma różnymi profilami grupowymi (np. różnym statusem społeczno-ekonomicznym) i porówna z „testem odwróconego kąta”, czy tony/język różnią się. Następnie spróbuj zadać pytanie neutralne ze świadomie stronniczym („wyjaśnij, dlaczego jest nieodpowiednie”) i sprawdź różnicę w wynikach. Na koniec zastosuj szablon „czyszczenie języka znaku wodnego” do tekstu.
lista kontrolna
- [ ] Sformułowałem swoje pytania neutralnie, nie zakładając wyniku.
- [ ] Sprawdziłem każde negatywne stwierdzenie, stosując rozróżnienie na dowód i stereotyp.
- [ ] Sprawdziłem podwójny standard za pomocą testu kąta odwróconego.
- [ ] Wiedzę kulturową potraktowałem jako przestrogę, a nie absolutną regułę.
- [ ] Zastąpiłem stygmatyzujący język językiem opisowym, pełnym szacunku.