Zyski:
- Umiejętność jasnego zdefiniowania pojęć agencji, luki w odpowiedzialności, błędu algorytmicznego, przejrzystości i autonomii oraz ustalenia napięć.
- Umieszczanie odpowiedzialności nie na „sztucznej inteligencji”, ale na łańcuchu ludzkim, który ją projektuje, wdraża i wykorzystuje
- Umiejętność prowadzenia wielostronnej debaty poprzez sprawdzenie optymistycznego nastawienia sztucznej inteligencji i przestarzałej wiedzy na temat własnej technologii
Filozofia i etyka stosowana to dziedziny, które nie tylko wykorzystują sztuczną inteligencję, ale także ją badają. Sztuczna inteligencja sama w sobie jest jednym z najżywszych tematów dzisiejszej filozofii etycznej: kto jest odpowiedzialny za podejmowanie decyzji przez system sztucznej inteligencji? Jeśli algorytm jest stronniczy, jak nazywa się tę niesprawiedliwość? Czy sztuczną inteligencję można uznać za „agenta” (podmiotu zdolnego do moralnego działania)? Jako etyk jesteś osobą, która zarówno prowadzi te dyskusje, jak i uczy. W tej części wyjaśnimy podstawowe pojęcia debaty na temat etyki sztucznej inteligencji (gałąź etyki stosowanej, która bada kwestie moralne – odpowiedzialność, stronniczość, przejrzystość, autonomia, sprawiedliwość – wynikające z rozwoju i wykorzystania systemów sztucznej inteligencji) i zobaczymy, jak można lepiej analizować i uczyć tej debaty za pomocą narzędzi AI.
Oto interesująca pętla: możesz używać sztucznej inteligencji jako narzędzia nawet podczas omawiania etyki sztucznej inteligencji – ale właśnie w tym miejscu musisz być najbardziej wyczulony na uprzedzenia i ograniczenia sztucznej inteligencji.
Podstawowe pojęcia i napięcia
Agent i podmiot moralny. Intencja, zrozumienie, wolność i świadomość konsekwencji są często wymagane, aby istota poniosła odpowiedzialność moralną. To, czy AI je posiada, jest dyskusyjne; Większość poglądów utrzymuje, że sztuczna inteligencja jest narzędziem i odpowiedzialność spoczywa na ludziach, którzy ją projektują, wdrażają i wykorzystują. Jest to zgodne z zasadą podkreślaną w całym module: ostateczna odpowiedzialność spoczywa na człowieku.
Luka w odpowiedzialności. Kiedy system sztucznej inteligencji powoduje szkodę, mogą wystąpić sytuacje, w których odpowiedzialność jest rozproszona („pozostawiona w próżni”): projektant, dostawca danych, korzystająca z nich instytucja, ostateczny operator? Ta „luka w odpowiedzialności” jest jednym z głównych problemów współczesnej etyki sztucznej inteligencji.
Błąd algorytmiczny. Sztuczna inteligencja może uczyć się i replikować historyczne nierówności w danych szkoleniowych; To błąd algorytmiczny (kiedy system systematycznie generuje wyniki niekorzystne dla niektórych grup) leży u podstaw dyskusji na temat sprawiedliwości i dyskryminacji.
Przejrzystość i wyjaśnialność. Brak zrozumienia, dlaczego decyzja AI jest taka, jaka jest (problem „czarnej skrzynki”) jest problemem etycznym w kontekście odpowiedzialności i prawa do odwołania. Wyjaśnialność (sprawienie, że uzasadnienie wyników systemu będzie zrozumiałe dla człowieka) staje się w coraz większym stopniu wymogiem etycznym i prawnym.
Wskazówka: Omawiając etykę sztucznej inteligencji, wyraźnie oddziel pojęcia: zamiast mówić „Sztuczna inteligencja podjęła decyzję”, powiedz „Sztuczna inteligencja stworzyła wynik, człowiek go wdrożył”. Ten rygor językowy umieszcza odpowiedzialność we właściwym miejscu i chroni dyskusję przed niejasnością.
Wykorzystanie sztucznej inteligencji jako narzędzia w tej debacie
Sztuczna inteligencja sama w sobie jest świetnym materiałem ilustracyjnym na kursach etyki AI. Możesz poprosić uczniów o znalezienie stronniczości w wynikach sztucznej inteligencji, wykazanie nieuzasadnienia decyzji i porównanie różnych opinii. Ale są dwa zastrzeżenia: (1) sztuczna inteligencja może mieć komercyjne lub optymistyczne podejście do swojej technologii; Koniecznie szukaj także krytycznych opinii. (2) To pole zmienia się szybko; Informacje o sztucznej inteligencji mogą być nieaktualne. Przepisy i fakty można znaleźć w bieżącym źródle.
Uwaga: pytając sztuczną inteligencję „Czy sztuczna inteligencja jest etyczna?” Kiedy zadajesz takie pytanie, odpowiedź, którą otrzymujesz, jest średnią danych treningowych, a nie wynikiem dyskusji filozoficznej. Weź tę odpowiedź jako punkt wyjścia; Sam zdefiniuj pojęcia, sam ustal napięcia i sam je oprzyj aktualnymi, realnymi przykładami.
trzy mini etui
Przypadek 1 – Debata na temat luki w odpowiedzialności. Podczas jednego z seminariów omawiano scenariusz, w którym system rekrutacji oparty na sztucznej inteligencji stawia grupę w niekorzystnej sytuacji. Zapytaj sztuczną inteligencję „kto jest odpowiedzialny?” Przeanalizowali to pytanie z różnych perspektyw; Dane wyjściowe odwzorowały łańcuch projektant-data-instytucja-operator. Grupa wykorzystała tę mapę do opracowania własnego uzasadnionego stanowiska: opowiadała się za rozliczalnością każdego ogniwa, tak aby odpowiedzialność nie popadła w „pustkę”.
Przypadek 2 — Uprzedzenie ukazane na żywym przykładzie. Instruktor kazał sztucznej inteligencji napisać ten sam opis stanowiska pod różnymi nazwiskami i pokazał uczniom stereotypy na wydruku. Studenci postrzegali błąd algorytmiczny nie jako abstrakcyjną koncepcję, ale konkretny wynik, jaki mieli przed sobą. Lekcja ugruntowała tę koncepcję na prawdziwym przykładzie. Wykładowca podkreślił również, że był to pojedynczy wynik i do uogólnienia potrzebne były systematyczne dowody.
Przypadek 3 — Optymistyczny trend ustabilizował się. Uczeń poprosił sztuczną inteligencję o napisanie „wpływu sztucznej inteligencji na społeczeństwo”; Wyniki były w przeważającej mierze pozytywne i zaniżały ryzyko. Student sięgnął do krytycznych źródeł akademickich, dodał przeciwstawne poglądy i skonstruował wyważoną analizę. Nastawienie sztucznej inteligencji na własną domenę jest równoważone przez kontrolę człowieka.
Słaba zachęta/silna zachęta
Słaba zachęta:
Czy sztuczna inteligencja jest etyczna czy nie? Odpowiedź.
Podpowiedź ta redukuje złożoną debatę filozoficzną do odpowiedzi binarnej; Sztuczna inteligencja zwraca średnią, koncepcje pozostają niezdefiniowane, a stronniczość staje się niewidoczna.
Potężny monit:
Twoja rola: Bezstronny analityk w dziedzinie etyki AI. NIE OCENIAJ MNIE w [Scenariusz]. Zamiast tego: 1) Zdefiniuj odpowiednie pojęcia (sprawca, luka w odpowiedzialności, stronniczość algorytmiczna, przejrzystość) — zwięźle i neutralnie. 2) Zamapuj możliwy rozkład odpowiedzialności (projektant, dane, instytucja, operator). 3) Przedstaw co najmniej dwa przeciwstawne stanowiska etyczne, każde z nich jest najsilniejsze. 4) Zauważ, że ta dziedzina szybko się zmienia i wymaga aktualnych zasobów. Ocenę dokonam sam. Scenariusz: [napisz scenariusz]
Ta zachęta wyjaśnia koncepcje, rozpoczyna wielostronną dyskusję i pozostawia decyzję Tobie.
Cztery szablony do kopiowania
1) Wyjaśnienie koncepcji:
Krótko i obiektywnie zdefiniuj następujące pojęcia z zakresu etyki sztucznej inteligencji: podmiot/podmiot moralny, luka w odpowiedzialności, stronniczość algorytmiczna, przejrzystość, wyjaśnialność. Pod każdą definicją umieść przykład z życia codziennego. Oznacz kontrowersyjne obszary jako „opinie są odmienne”.
2) Mapowanie odpowiedzialności:
W poniższym scenariuszu narysuj łańcuch odpowiedzialności za szkody wyrządzone przez system AI: projektant, dostawca danych, instytucja dystrybuująca, operator użytkownik, organ regulacyjny. Zapisz możliwą stawkę i obronę każdego pierścienia. Wydaj ostateczny osąd. Scenariusz: [scenariusz]
3) Prezentacja stanowiska przeciwnego:
Przedstaw co najmniej dwa przeciwstawne stanowiska etyczne w [kwestii etycznej AI], każde w swojej najsilniejszej i najbardziej uczciwej formie. Nie ogłaszaj nikogo „zwycięzcą”. Nazwij wartość, na której opiera się każda pozycja. Pytanie: [pytanie]
4) Kontrola optymizmu/stronniczości:
Sprawdź, czy poniższy tekst na temat sztucznej inteligencji nie bagatelizuje zagrożeń lub nie wyraża optymistycznego nastawienia do technologii. Zaznacz wszelkie brakujące krytyczne perspektywy i ryzyko, które należy dodać. Tekst: [wklej tekst]
Koncepcja / tabela napięć
koncepcja
podstawowe pytanie
napięcie etyczne
Sprawca/podmiot moralny
Czy sztuczna inteligencja ponosi odpowiedzialność?
Narzędzie czy temat?
lukę w odpowiedzialności
Kto ponosi odpowiedzialność w przypadku wyrządzenia szkody?
Rozproszona odpowiedzialność
błąd algorytmiczny
Na niekorzyść kogo?
Sprawiedliwość a efektywność
przejrzystość
Dlaczego ta decyzja?
Wyjaśnialność itp. złożoność
autonomia
Ile ludzkiej kontroli?
Automatyzacja a audyt
Typowe błędy
- Język „zdecydowała sztuczna inteligencja”. Zaciera odpowiedzialność; Sztuczna inteligencja produkuje produkty, ludzie je wdrażają, a odpowiedzialność spoczywa na ludziach.
- Redukcja debaty do odpowiedzi binarnej. „Etyczne czy nie?” pytanie niszczy głębię pojęciową; Ustaw napięcia.
- Nie zauważając optymistycznej tendencji AI. Sztuczna inteligencja może być niestabilna w zakresie własnej technologii; Dodaj źródło krytyczne.
- Uogólnianie pojedynczego wyniku. Błąd w próbie jest uderzający, ale systematyczne twierdzenia wymagają systematycznych dowodów.
- Opieranie się na nieaktualnych informacjach. Pole to i jego ustalenia szybko się zmieniają; Potwierdź fakty za pomocą aktualnego źródła.
Podsumowując
Etyka sztucznej inteligencji jest jedną z najbardziej tętniących życiem współczesnych dziedzin filozofii, a jako etyk zarówno prowadzisz, jak i uczysz tę debatę. Jasno zdefiniuj kluczowe pojęcia – agencja, luka w odpowiedzialności, błąd algorytmiczny, przejrzystość, autonomia – i ustal napięcia. Możesz używać sztucznej inteligencji zarówno jako narzędzia, jak i przykładu w tej dyskusji, ale uważaj na dwie pułapki: sztuczna inteligencja ma tendencję do optymistycznego podejścia do swojej technologii, a jej wiedza może być nieaktualna. Język taki jak „zdecydowała sztuczna inteligencja” zamazuje odpowiedzialność; Rygorystyczny język pojęciowy umieszcza odpowiedzialność we właściwym miejscu. Zawsze podejmujesz decyzję.
Zadanie aplikacji
- Wybierz scenariusz etyki AI (np. algorytmiczny system decyzyjny).
- Zdefiniuj i przejrzyj kluczowe pojęcia samodzielnie, korzystając z szablonu „wyjaśnienia koncepcji”.
- Wyodrębnij łańcuch odpowiedzialności w przypadku szkody za pomocą szablonu „mapowania odpowiedzialności”.
- Porównaj co najmniej dwa stanowiska etyczne za pomocą szablonu „prezentacja stanowiska przeciwnego”.
- Przetestuj stronniczość w tekście AI za pomocą szablonu „kontroli optymizmu” i dodaj krytyczne źródło.
lista kontrolna
- [ ] Zdefiniowałem pojęcia jasno i obiektywnie.
- [ ] Położyłem odpowiedzialność na łańcuchu ludzkim, a nie na „AI”.
- [ ] Ustrukturyzowałem dyskusję wielostronnie, nie sprowadziłem jej do odpowiedzi binarnej.
- [ ] Sprawdziłem optymistyczne nastawienie AI do swojego pola.
- [ ] Potwierdziłem fakty i przepisy na podstawie aktualnego źródła.
- [ ] Sam przedstawiłem ostateczny osąd i uzasadnienie.