Zyski:
- Rozumie, że dane są głównym źródłem stronniczości sztucznej inteligencji
- Rozumie ryzyko, jakie stronniczość może stworzyć w miejscu pracy
- Wdraża środki, które można podjąć w celu ograniczenia uprzedzeń
AI jawi się jako neutralna, obiektywna maszyna; ale prawda jest znacznie bardziej złożona. Systemy sztucznej inteligencji uczą się ludzkich uprzedzeń na podstawie danych, na których są szkolone, a czasem je powiększają i odtwarzają. Uprzedzenie to tendencja systemu do systematycznego faworyzowania lub wykluczania pewnych osób lub grup. W tej części zastanowimy się, skąd biorą się uprzedzenia, jakie konkretne zagrożenia stwarzają w miejscu pracy i co można z nimi zrobić. To nie jest tylko kwestia „etyki”; Jest to praktyczna kwestia biznesowa, która w przypadku złego zarządzania niesie ze sobą ryzyko prawne, handlowe i reputacyjne.
Skąd się biorą uprzedzenia?
Informacje o modelu języka pochodzą z ogromnych tekstów tworzonych przez ludzi. W tekstach tych zawarta jest cała wiedza o społeczeństwie ludzkim, a także wszelkie jego stereotypy, brak równowagi i historyczne nierówności. Model nie rozróżnia „dobrych” i „złych” wzorców; Uczy się wszystkiego, co jest w danych.
Przykład: Jeśli w poprzednich tekstach określone zawody były głównie kojarzone z płcią (np. „pielęgniarka” z kobietą, „inżynier” z mężczyzną), model uczy się tego skojarzenia. Może mieć tendencję do wybierania zaimka męskiego podczas kończenia zdania: „Inżynier wszedł do biura, on…” Model nie jest złośliwy; odzwierciedla jedynie brak równowagi w danych.
Zatem błąd wynika głównie z tego, że jest to lustrzane odbicie danych, a nie świadomy błąd programistyczny. Wyjaśnianie problemu jako „ktoś napisał zły kod” jest mylące; Problem polega na tym, że brak równowagi na świecie jest przenoszony na dane, a stamtąd do modelu.
Wymierne zagrożenia w miejscu pracy
obszar
Ryzyko stronniczości
możliwa krzywda
rekrutacja
Poznaj trend w danych historycznych i wyeliminuj określone grupy
Sprawa sądowa, utrata zdolności
Komunikacja z klientem
Język stereotypowy lub wykluczający
Utrata reputacji, ucieczka klienta
kredyt/ryzyko
Utrwalanie nierówności z przeszłości
Dyskryminacja, sankcje
Ocena wydajności
Przenoszenie stronniczości danych na decyzję
Nieuczciwy awans/premia
Treść/marketing
Uczyń określoną grupę niewidoczną
Uszkodzenie marki
Trzy mini etui
Przypadek 1 — Reklama zawężała język. Firma zaczęła drukować oferty pracy za pomocą sztucznej inteligencji. Po pewnym czasie zauważono, że reklamy odwoływały się do określonego profilu za pomocą wyrażeń takich jak „młody i dynamiczny”, „agresywny cel”, zmniejszając w ten sposób różnorodność zastosowań. Zespół dodał krok, który sprawdza każdy wpis pod kątem „języka włączającego”; W ciągu kilku miesięcy różnorodność kandydatów znacznie wzrosła.
Przypadek 2 – Ukryta stronniczość w podsumowaniu. Jeden z menedżerów zlecił sztucznej inteligencji podsumowanie 30 opinii pracowników. Podsumowanie wydawało się skupiać negatywne komentarze na jednym konkretnym zespole; natomiast w danych surowych sytuacja była wyrównana. Modelka przesadziła z kilkoma mocnymi stwierdzeniami. Kiedy menedżer wrócił i sprawdził surowe dane, uniknął błędnego przekonania.
Przypadek 3 – Nakaz włączenia społecznego zadziałał. Jeden z zespołów marketingowych ujednolicił instrukcję w tekście kampanii, aby „używać włączającego, nieokreślonego języka dotyczącego płci/wieku/grupy i na końcu wymieniać swoje założenia”. Wyrażenia formalne w produkowanych tekstach zauważalnie się zmniejszyły; zespół nie musiał ręcznie poprawiać każdego wyniku w kółko.
Dlaczego uprzedzenia są trudne do rozpoznania?
Najbardziej podstępną cechą uprzedzeń jest to, że często są one niewidoczne. Wynik wygląda gładko, profesjonalnie i rozsądnie; Tendencja w nim zawarta staje się widoczna dopiero wtedy, gdy przyjrzymy się uważnie lub zmierzymy jej wpływ na różne grupy. Twierdzenie, że „nie ma tu stronniczości” na podstawie pojedynczego przykładu, jest mylące; Stronniczość często objawia się nie w pojedynczych przykładach, ale w ogólnej tendencji systemu.
Uwaga: Założenie, że „jestem neutralny, dlatego narzędzie, którego używam, jest również neutralne” jest niebezpieczne. Neutralność narzędzia zależy od danych treningowych i sposobu ich sprawdzania, a nie od Twoich zamiarów.
Słaba podpowiedź/silna podpowiedź
Słaba podpowiedź: Opisz idealnego kandydata na to stanowisko.
Wynik: Model może opierać się na stereotypach i przedstawiać konkretny profil jako „idealny”.
Mocna podpowiedź: wymień tylko mierzalne kompetencje dla tego stanowiska, które są naprawdę istotne dla danego stanowiska. Nie używaj cech niezwiązanych z pracą, takich jak płeć, wiek, stan cywilny, miejsce zamieszkania. Na koniec napisz, co pominąłeś, pod nagłówkiem „Założenia, których unikam”.
Wynik: Ocena ogranicza się do kryteriów związanych ze stanowiskiem pracy, pomija cechy nieistotne.
Szablony redukujące stronniczość
Sprawdź poniższy tekst, aby zapoznać się z językiem włączającym. Oznacz oświadczenia, które sugerują płeć, wiek, pochodzenie etniczne, niepełnosprawność lub konkretną grupę i sugerują neutralną alternatywę dla każdego z nich.Tekst: [wklej tutaj]
Dokonaj tej oceny wyłącznie w oparciu o następujące obiektywne kryteria: [kryteria]. Nie bierz pod uwagę żadnych informacji innych niż te kryteria (imię i nazwisko, płeć, wiek).
Na końcu wypisz w osobnym nagłówku, jakie założenia przyjąłeś w opracowanym przez siebie tekście. Widzę więc ukryte uprzedzenia.
Oceń tę treść oczami trzech różnych grup czytelników i zaznacz wszelkie stwierdzenia, które mogą obrazić/obrażać którąkolwiek z nich. Treść: [wklej tutaj]
Typowe błędy
Typowe błędy
- Zakładając „neutralny” wynik AI. Nawet jeśli dane wyjściowe wydają się neutralne, mogą powodować odchylenia w danych; Wymagany jest aktywny nadzór.
- Patrząc na jeden przykład i mówiąc „nie ma uprzedzeń”. W ogólnej tendencji systemu ukryte są uprzedzenia.
- Pozostawienie podejmowania decyzji o dużym wpływie nienadzorowanej sztucznej inteligencji. Władza ludzka jest niezbędna przy podejmowaniu decyzji takich jak rekrutacja, awans i kredytowanie.
- Zapominając o żądaniu inkluzywności. Jeśli nie zażądasz tego wyraźnie w monicie, model powróci do wzorców domyślnych.
- Oznacza to: „Maszyna to powiedziała”. Osoba, która podejmuje decyzję, ponosi również odpowiedzialność za jej skutki.
Sprawiedliwość jest obowiązkiem każdego
Walka z uprzedzeniami to nie tylko zadanie zespołu technicznego. Każdy pracownik korzystający z wyników sztucznej inteligencji ma obowiązek zadać pytanie, czy wyniki te są sprawiedliwe. „Maszyna mi powiedziała” nie jest wymówką; Osoba podejmująca decyzję ponosi także odpowiedzialność za jej skutki.
Podsumowując
- Głównym źródłem stronniczości sztucznej inteligencji nie jest wrogość, ale istniejące braki równowagi i stereotypy w danych szkoleniowych.
- Uprzedzenie; Stwarza realne ryzyko prawne i reputacyjne w obszarach takich jak rekrutacja, komunikacja z klientami, finanse i ocena.
- Stronniczość jest często niewidoczna i osadzona w ogólnym usposobieniu systemu; Patrzenie na pojedynczy przykład wprowadza w błąd.
- Aby ograniczyć: bądź świadomy, ogranicz decyzję do kryteriów związanych z pracą, wyraźnie poproś o włączenie, zapewnij ludzką kontrolę nad decyzjami o dużym wpływie.
- „Maszyna mi powiedziała” nie jest wymówką; Uczciwość jest obowiązkiem każdego, kto korzysta z wyników.
Zadanie aplikacji
Powiedz AI „opisz idealnego pracownika [dowolnego zawodu]” i zaznacz, jakie (być może niepotrzebne) założenia przyjęto w wynikach. Następnie powtórz powyższe czynności z szablonem „kryteria związane ze stanowiskiem pracy” i porównaj oba wyniki pod kątem uczciwości.
Lista kontrolna
- [ ] Rozumiem, że głównym źródłem błędu są dane szkoleniowe.
- [ ] Potrafię wymienić konkretne zagrożenia, jakie może stwarzać stronniczość w miejscu pracy.
- [ ] Wiem, że stronniczość jest często niewidoczna i że patrzenie na pojedynczy przykład wprowadza w błąd.
- [ ] Mogę wyraźnie poprosić w pytaniu o kryteria włączające i związane z pracą.
- [ ] Wymagam ludzkiego nadzoru nad decyzjami o dużym wpływie.