Zyski:
- Umiejętność powiązania zasad odpowiedzialnej sztucznej inteligencji (uczciwość, przejrzystość, odpowiedzialność, prywatność, nadzór ze strony człowieka, bezpieczeństwo, zrównoważony rozwój) z konkretnymi decyzjami
- Możliwość przetestowania zainteresowanych stron i uprzedzeń poprzez oddzielenie etyki od zgodności z prawem i rozróżnienie między „możemy” a „powinniśmy”
- Możliwość wcześniejszego ograniczenia scenariuszy nadużyć poprzez osadzenie w projekcie przejrzystości, monitorowania przez człowieka i atrakcyjności
Startup AI może być doskonały technicznie, opłacalny finansowo i prawnie opłacalny; ale nadal może być źle. Etyka to różnica między „możemy” a „powinniśmy”. Dla menedżera wyższego szczebla etyka nie jest kwestią ozdobników czy public relations; Jest to fundament utrzymujący długoterminową wiarygodność, reputację i legitymację społeczną instytucji. W tej jednostce poznasz zasady odpowiedzialnej sztucznej inteligencji (podejście do rozwoju i wykorzystania sztucznej inteligencji w sposób uczciwy, przejrzysty, odpowiedzialny i szanujący godność człowieka) oraz w jaki sposób odzwierciedlać je w codziennych decyzjach.
Podstawowe zasady odpowiedzialnej sztucznej inteligencji
Różne ramy opierają się na podobnych zasadach. Praktyczne podsumowanie dla menedżera:
zasada
Co masz na myśli?
pytanie administratora
sprawiedliwość
niedyskryminacja
Czy wpływa to niesprawiedliwie na grupę?
przejrzystość
być zrozumiałym
Czy możemy wyjaśnić powód tej decyzji?
odpowiedzialność
Ustalenie, kto jest odpowiedzialny
Kto ponosi odpowiedzialność w przypadku wystąpienia błędu?
Prywatność
Szacunek dla danych osobowych
Czy mamy prawo wykorzystywać dane?
nadzór człowieka
Zachowanie kontroli
Czy można się sprzeciwić i to zatrzymać?
Bezpieczeństwo
nie szkodzić
Czy można to nadużyć?
Zrównoważony rozwój
Wpływ na środowisko/społeczeństwo
Na kogo narzucamy koszty?
Zasady te nie są abstrakcyjne; Każdy z nich można powiązać z konkretną decyzją. Na przykład „przejrzystość” oznacza poinformowanie klienta, że rozmawia z AI; „Nadzór ludzki” oznacza ludzką weryfikację odmowy pożyczki i pozostawienie jej otwartej do odwołania.
Wskazówka: w przypadku każdej decyzji dotyczącej sztucznej inteligencji o dużym wpływie zadaj jedno pytanie: „Czy mogę jasno wyjaśnić tę decyzję i stanąć za nią osobie, na którą ma ona największy negatywny wpływ?” Jeśli odpowiedź jest obraźliwa, pojawia się problem etyczny.
Etyka różni się od prawa
Kluczowe rozróżnienie: zgodność z prawem (część 9) to absolutne minimum; Etyka to wyższa granica. Coś może być legalne, ale nieetyczne. Na przykład aplikacja nie może mieć zakazu wykorzystywania sztucznej inteligencji do manipulowania zachowaniem użytkownika, ale jest to nieetyczne. Odpowiedzialne instytucje „czy to jest zabronione?” nie: „Czy to prawda?” pyta.
Krok po kroku: osadzanie etyki w decyzji
1. Zidentyfikuj zainteresowane strony. Kogo dotyczy ta inicjatywa? (Klient, pracownik, społeczeństwo, grupy znajdujące się w niekorzystnej sytuacji)
2. Skanuj z zasadami. Kwestionuj inicjatywę pod kątem każdej z powyższych zasad.
3. Sprawdź pod kątem uprzedzeń i szkód. Czy model niesprawiedliwie wpływa na określone grupy? Jakie są scenariusze nadużyć?
4. Dodaj przejrzystość i nadzór. Zgłoś wykorzystanie sztucznej inteligencji, nie pozostawiając miejsca na sprzeciw człowieka.
5. Dokumenty i przegląd. Zapisz ocenę etyczną; Sprawdzaj okresowo.
trzy mini etui
Przypadek 1 — Legalne, ale błędne. Aplikacja wykorzystywała sztuczną inteligencję do generowania uzależniających powiadomień, aby użytkownicy mogli dłużej pozostać w aplikacji. Nie było przeszkód prawnych, ale kiedy ogłoszono to w prasie, doszło do poważnej utraty reputacji; W szczególności jego ukierunkowanie na młodych użytkowników spotkało się z krytyką. Firma usunęła tę funkcję. Gdyby od początku był filtr etyczny, to ryzyko byłoby widoczne.
Przypadek 2 – Wartość testu uczciwości. Bankowy model scoringu kredytowego systematycznie przyznawał niższe oceny wnioskom z grup chronionych. Zostało to wykryte podczas audytu wymiaru sprawiedliwości. Model był przeprojektowywany i regularnie testowany, aby zapewnić równość wyników międzygrupowych. Zasada etyczna (sprawiedliwość) zamieniła się w konkretny sprawdzian i zapobiegła rzeczywistej krzywdzie.
Przypadek 3 – Zaufanie zbudowane w oparciu o przejrzystość. Firma z branży e-commerce umieściła na początku chatbota obsługi klienta frazę „Pomaga Ci asystent sztucznej inteligencji, w każdej chwili możesz połączyć się z przedstawicielem człowieka”. Przejrzystość i odejście ludzi nie zmniejszyły satysfakcji; Wręcz przeciwnie, zwiększyło to zaufanie, a skargi spadły o 15%. Właściwa przejrzystość była wartością, a nie kosztem.
Cztery szablony do kopiowania
1) Kontrola etyczna:
Twoja rola: odpowiedzialny konsultant AI. Przeanalizuj tę inicjatywę pod kątem 7 zasad: uczciwości, przejrzystości, odpowiedzialności, prywatności, nadzoru ludzkiego, bezpieczeństwa, zrównoważonego rozwoju. Dla każdej polisy zapisz jedno ryzyko i jedno zalecenie. Inicjatywa: [tekst]
2) Analiza strony dotkniętej:
Wymień wszystkie strony, których dotyczy ta inicjatywa AI (klient, pracownik, społeczeństwo, grupy znajdujące się w niekorzystnej sytuacji). Zapisz możliwe pozytywne i negatywne skutki dla każdej ze stron; Zaznacz grupę, która najprawdopodobniej doświadczy krzywdy. Inicjatywa: [tekst]
3) Scenariusz nadużycia:
Wygeneruj 5 scenariuszy, w których może dojść do nadużycia następującej funkcji AI (w tym manipulacja, dyskryminacja, naruszenie prywatności, oszustwo). Zaproponuj zapobiegawczą decyzję projektową dla każdego scenariusza. Atrybut: [tekst]
4) Kontrola przejrzystości i nadzoru:
Napisz plan przejrzystości i nadzoru ludzkiego nad sztuczną inteligencją skierowaną do klienta, który: co zostanie przekazane użytkownikowi i w jaki sposób; W jaki sposób można go przenieść na ludzi? Jak może sprzeciwić się tej decyzji? Użycie: [tekst]
Słaba zachęta/silna zachęta
Słabe: „Czy ta sztuczna inteligencja jest etyczna?”
Wynik: powierzchowne „tak/nie”; Nie jest jasne, jakiej zasady, kogo dotyczy, jakiego środka.
Strong: „Rozważamy wykorzystanie sztucznej inteligencji w narzędziu do wstępnej kontroli rekrutacji (ostateczną decyzję podejmie człowiek). Sprawdź to pod kątem zasad uczciwości, przejrzystości, odpowiedzialności i nadzoru ludzkiego. Napisz konkretnie, na które grupy kandydatów może to wpłynąć niesprawiedliwie, jakie testy stronniczości muszę przeprowadzić i w jaki sposób kandydaci mogą odwołać się od decyzji”.
Wynik: oparta na zasadach, praktyczna ocena, która identyfikuje stronę dotkniętą i sugeruje przetestowanie i odwołanie.
Typowe błędy
- Mylenie etyki z przestrzeganiem prawa. Nie wszystko, co jest legalne, jest etyczne; Etyka to wyższa granica.
- Pozostawiając etykę na koniec. Uzyskanie „akceptacji etycznej” po zaprojektowaniu jest już za późno; etyka musi być osadzona w projekcie od początku.
- Nie sprawdzam sprawiedliwości. Założenie, że „nasz model jest neutralny” jest niebezpieczne; nie da się poznać bez pomiaru.
- Mylenie przejrzystości z kosztami. Właściwa przejrzystość zwiększa zaufanie i wartość.
- Utrzymywanie dotkniętych boków wąskimi. Myślenie wyłącznie o kliencie i ignorowanie pracownika, społeczeństwa i grup znajdujących się w niekorzystnej sytuacji tworzy martwy punkt.
Uwaga: Całkowite pozostawienie oceny etycznej sztucznej inteligencji jest sprzeczne i niebezpieczne. Sztuczna inteligencja może pomóc w stawianiu pytań etycznych, ale ocena wartości, kontekst kulturowy i ostateczna odpowiedzialność moralna spoczywają na człowieku. O etycznej postawie organizacji decydują świadome wybory ludzi, a nie „tak stwierdziła sztuczna inteligencja”.
Podsumowując
Etyka to różnica między „możemy” a „powinniśmy” i chroni długoterminową wiarygodność organizacji. Odpowiedzialna sztuczna inteligencja; Opiera się na zasadach sprawiedliwości, przejrzystości, odpowiedzialności, prywatności, nadzoru ludzkiego, bezpieczeństwa i zrównoważonego rozwoju. Zasady te nie są abstrakcyjne; Przekłada się to na konkretne decyzje, takie jak identyfikacja zainteresowanych stron, testowanie stronniczości, zapewnianie przejrzystości i dodanie nadzoru ludzkiego. Etyka różni się od prawa i jest wyższą linią; Nie można tego zostawić do końca, trzeba to osadzić w projekcie. W kolejnej części omówimy compliance, czyli prawny odpowiednik etyki, w szczególności unijną ustawę o sztucznej inteligencji i KVKK.
Zadanie aplikacji
Wybierz startup AI o dużym wpływie. Korzystając z szablonu 2, wypisz wszystkie zainteresowane strony i zaznacz grupę, która najprawdopodobniej odniesie krzywdę. Korzystając z szablonu 1, przeskanuj inicjatywę pod kątem siedmiu zasad. Zdefiniuj konkretny środek (test uczciwości, powiadomienie o przejrzystości, droga odwoławcza itp.) w przypadku dwóch najbardziej krytycznych ryzyk etycznych. Na koniec: „Czy mogę wyjaśnić tę decyzję osobie, która najbardziej ją na nią dotknie?” Odpowiedz szczerze na pytanie.
lista kontrolna
- [ ] Zidentyfikowałem wszystkie zainteresowane strony.
- [ ] W startupie sprawdziłem siedem zasad odpowiedzialnej AI.
- [ ] Zaplanowałem test na stronniczość/uczciwość.
- [ ] Zaprojektowałem oświadczenie dotyczące przejrzystości.
- [ ] Nie pozostawiłem żadnej możliwości ludzkiego nadzoru i odwołania.
- [ ] Myślałem o scenariuszach nadużyć.
- [ ] „Czy mogę to wyjaśnić osobie najbardziej dotkniętej?” Zdałem test.