Zyski:
- Umiejętność analizowania sprawy etycznej z wielu perspektyw, z ram konsekwencjalizmu, deontologii i etyki cnót
- Umiejętność wyjaśniania faktów i interesariuszy oraz nazywania konfliktów zasad
- Możliwość podejmowania etycznych ocen i decyzji w uzasadniony sposób, z kontrolą uprzedzeń, bez pozostawiania tego sztucznej inteligencji
Sercem etyki stosowanej jest pytanie „co robić?” w prawdziwej sytuacji. polega na udzieleniu uzasadnionej odpowiedzi na pytanie. Szpitalna komisja ds. etyki omawia decyzję dotyczącą leczenia, firma ocenia, czy wykorzystanie danych jest etyczne, badacz ocenia szkodliwość eksperymentu dla uczestników. Narzędziami używanymi w tych pracach są ramy etyczne (podejścia oferujące spójny zbiór zasad i rozumowania służące ocenie sytuacji) – na przykład konsekwencjalizm (podejście oceniające słuszność działania na podstawie jego konsekwencji, korzyści i szkód, jakie powoduje), deontologia (podejście oceniające słuszność działania na podstawie jego zgodności z obowiązkami, prawami i zasadami, niezależnie od jego konsekwencji) oraz etyka cnót (podejście, które formułuje pytanie w następujący sposób: „co by cnotliwa osoba?”, a nie „jakie działanie?”). Sztuczna inteligencja może być szybkim narzędziem do analizy przypadku z różnych frameworków, sprawdzania przeoczonych wymiarów i mnożenia opcji. Jednak ostateczna ocena etyczna – która zasada zwycięży, jaką decyzję należy podjąć i jej uzasadnienie – należy do istoty ludzkiej, zwłaszcza do odpowiedzialnej komisji i eksperta.
W tej części zobaczymy, jak analizować sprawę etyczną w sposób oparty na sztucznej inteligencji, ale oceniany przez człowieka.
Analiza wielu klatek: prawdziwa moc sztucznej inteligencji
Najczęstszym błędem w sprawach etycznych jest trzymanie się jednego punktu widzenia. Dobra analiza pozwala spojrzeć na tę samą sytuację z wielu perspektyw i ujawnić napięcia. W tym właśnie miejscu sztuczna inteligencja jest potężna: może analizować przypadek jednocześnie z perspektywy konsekwencjalistycznej, deontologicznej i opartej na cnotach i szybko sporządzać zestawienie wniosków, do których prowadzą poszczególne ramy. To wyjaśnia przebieg debaty.
Kroki:
1. Wyjaśnij fakty. Kto, co i kiedy jest w to zaangażowany; rozróżnić fakty niepewne i domniemane. Analiza etyczna nie może opierać się na fałszywych faktach.
2. Zidentyfikuj interesariuszy i interesy. Kogo dotyczy ta decyzja, jakie są prawa i interesy każdej z nich?
3. Analizuj w różnych ramach. Jak poszczególne ramy postrzegają tę sytuację i jakie działania zalecają?
4. Pokazuj napięcia i konflikty zasad. Jeżeli ramy prowadzą do różnych wniosków, gdzie dokładnie leży konflikt? (Na przykład między autonomią jednostki a korzyścią dla społeczeństwa.)
5. Podejmij uzasadnioną decyzję. Uzasadnij, która zasada przeważa nad dlaczego, akceptując najsilniejszy sprzeciw drugiej strony.
Wskazówka: nie proś sztucznej inteligencji, aby „podała mi właściwą odpowiedź”; Powiedz „przeanalizuj ten przypadek na podstawie trzech ram i pokaż wnioski oraz najsilniejsze zastrzeżenia każdego z nich”. Zadaniem sztucznej inteligencji jest stworzenie mapy; Ty przedstawiasz decyzję i uzasadnienie. W etyce „odpowiedź udzielona przez maszynę” nie jest uzasadnieniem.
Dlaczego sztuczna inteligencja nie może podejmować etycznych decyzji?
Postawmy to jasno. Ocena etyczna; Wymaga znajomości kontekstu, priorytetyzacji wartości, wzięcia odpowiedzialności i woli podpisania tej decyzji. Sztuczna inteligencja nie ma żadnego z tych elementów: nie ma wartości, nie ma odpowiedzialności, ma ograniczoną wiedzę kontekstową i może replikować uprzedzenia kulturowe/ideologiczne w danych szkoleniowych. Co więcej, AI często wydaje „przeciętną” lub najczęstszą opinię na kontrowersyjny temat; podczas gdy w etyce prawidłowa odpowiedź może znajdować się w większości w mniejszości lub może w ogóle nie istnieć. AI otwiera opcje; Ważysz i decydujesz.
Przestroga: w przypadku decyzji etycznych o dużej stawce (medycznych, prawnych, instytucjonalnych) wyniki sztucznej inteligencji nigdy nie powinny zastępować oceny kompetentnej rady lub eksperta. Wykorzystaj sztuczną inteligencję jako „doradcę”; Ostateczna decyzja i odpowiedzialność spoczywają na osobie odpowiedzialnej. Ponadto, jeśli rzeczywiste dane sprawy zawierają informacje osobiste/poufne, nie należy wprowadzać ich do narzędzi publicznych.
trzy mini etui
Przypadek 1 — Mapa wieloramkowa. Komisja etyki omawiała przydział ograniczonych zasobów (np. ograniczonej liczby opcji leczenia). Polecili sztucznej inteligencji przeanalizować sprawę z perspektywy konsekwencjalistycznej, deontologicznej i opartej na cnotach; W ciągu 20 minut zmapowano trzy różne uzasadnienia i ich punkty konfliktowe. Wykorzystując tę mapę jako punkt wyjścia, zarząd przeprowadził własną dyskusję i podjął własną, uzasadnioną decyzję.
Przypadek 2 — Pominięty interesariusz. Firma analizowała decyzję dotyczącą wykorzystania danych. YZ w swojej analizie wyróżniła trzecią grupę (osoby, których dane zostały wykorzystane, ale nie zaangażowane w proces), na które, poza bezpośrednimi stronami decyzji, wpływa ona pośrednio. Zespół przeoczył tego interesariusza. Dzięki wkładowi sztucznej inteligencji decyzja była bardziej kompletna, ale priorytety ustalił zespół.
Przypadek 3 — poprawiono stronniczą sugestię. Śledczy zlecił sztucznej inteligencji przeanalizowanie sprawy wrażliwej kulturowo. Sztuczna inteligencja przedstawiała pojedynczy pogląd kulturowy jako „uniwersalną prawdę” i ignorowała alternatywne systemy wartości. Badacz dostrzegł tę jednostronność i zróżnicował analizę. Dominujący pogląd na dane szkoleniowe sztucznej inteligencji jest równoważony nadzorem człowieka.
Słaba zachęta/silna zachęta
Słaba zachęta:
Co etycznie powinienem zrobić w tej sytuacji?
Ta zachęta deleguje ocenę etyczną i odpowiedzialność na sztuczną inteligencję; Dostajesz jedną „odpowiedź”, nie widzisz uzasadnienia i ram, uprzedzenia pozostają ukryte.
Potężny monit:
Twoja rola: analityk etyki stosowanej (nie decydent). Przeanalizuj następujący przypadek. NIE DAWAJ MI DECYZJI.1) Wymień niejednoznaczne fakty, które wymagają wyjaśnienia.2) Usuń interesariuszy i interesy/prawa każdego z nich.3) Przeanalizuj sprawę oddzielnie z perspektywy konsekwencjalistycznej, deontologicznej i etyki cnót; Podaj wnioski i najsilniejsze zastrzeżenia każdego z nich. 4) Pokaż podstawowy konflikt zasad pomiędzy frameworkami. Przedstawię decyzję i uzasadnienie. Ostrzegaj, jeśli istnieją dane osobowe/poufne. Sprawa: [napisz sprawę]
Ten monit usuwa mapę wieloramkową, pozostawia decyzję Tobie i uwidacznia odchylenie.
Cztery szablony do kopiowania
1) Wyjaśnienie faktów i interesariuszy:
W poniższym przypadku wymień (a) pewne znane fakty, (b) fakty niepewne/założone, (c) wszystkich interesariuszy oraz interesy i prawa każdego z nich. Dodaj komentarze i decyzje. Sprawa: [przypadek]
2) Analiza trzech ramek:
Analizuj ten przypadek oddzielnie z perspektywy konsekwencjalizmu, deontologii i etyki cnót. Dla każdego kadru: jak go widzi, jakie działanie zaleca i jaki jest najcięższy sprzeciw wobec tej sugestii. Deklarowanie frameworka jako „poprawnego”. Sprawa: [przypadek]
3) Diagnoza konfliktu politycznego:
W poniższej analizie wymień kluczowe zasady, według których ramy są sprzeczne (np. autonomia a dobro wspólne, sprawiedliwość kontra współczucie). Pokaż dokładnie, gdzie znajdują się centra konfliktu. Podejmowanie decyzji.Analiza: [wklej tekst]
4) Audyt uprzedzeń i wrażliwości kulturowej:
Sprawdź, czy ta analiza etyczna nie przedstawia jednego poglądu kulturowego/ideologicznego jako prawdy uniwersalnej. Czy istnieją alternatywne systemy wartości lub perspektywy, które są ignorowane? Podkreśl obszary, w których potrzebny jest większy pluralizm. Analiza: [wklej tekst]
Tabela porównawcza ramek
Rama
podstawowe pytanie
Skup się
typowa słabość
konsekwencjalizm
Jaki jest najlepszy wynik?
Bilans korzyści i szkód
Może zmiażdżyć prawa mniejszości
deontologia
Co mówi zadanie/reguła?
prawo, obowiązek, zasada
Ścisłe, można zignorować wynik
etyka cnót
Co robi cnotliwa osoba?
charakter, zamiar
Niejasny przewodnik po działaniu
Typowe błędy
- Podejmowanie decyzji przez sztuczną inteligencję. „Co powinienem zrobić?” Pytanie deleguje osąd etyczny; Sztuczna inteligencja tworzy mapę, Ty decydujesz.
- Utknąć w jednej klatce. Patrzenie na sprawę tylko z jednej perspektywy; analiza wielu klatek ujawnia napięcie.
- Nie wyjaśnianie faktów. Analiza etyczna oparta na fałszywych lub założonych faktach upada.
- Nie uznawanie uprzedzeń. Sztuczna inteligencja może przedstawiać dominujący pogląd kulturowy jako „uniwersalny”; Pluralizm jest dziełem człowieka.
- Wprowadzanie sprawy poufnej/osobistej do narzędzia publicznego. Ryzyko naruszenia prywatności w prawdziwych plikach; Zanonimizuj lub użyj bezpiecznego systemu.
Podsumowując
Prawdziwa siła sztucznej inteligencji w analizie przypadków z zakresu etyki stosowanej polega na szybkim mapowaniu sytuacji z wielu perspektyw, wyodrębnianiu interesariuszy i uwidocznianiu konfliktów zasad. Jednak osąd etyczny – która zasada zwycięży, decyzja i uzasadnienie – należy do istoty ludzkiej, zwłaszcza do odpowiedzialnej komisji i eksperta; ponieważ sztuczna inteligencja nie ma żadnych wartości, żadnej odpowiedzialności, żadnej wiedzy kontekstowej i niesie ze sobą uprzedzenia. Wyjaśnij fakty, przeanalizuj wiele ram, nazwij konflikt, sprawdź, czy nie ma stronniczości i samodzielnie podejmij decyzję, podając uzasadnienie. W przypadku decyzji o wysokiej stawce sztuczna inteligencja jest obok, a nie zastępowana, oceną ekspertów.
Zadanie aplikacji
- Wybierz prawdziwy lub fikcyjny przypadek etyczny (zanonimizuj, jeśli dotyczy danych osobowych).
- Wyodrębnij fakty i interesariuszy za pomocą szablonu „Wyjaśnienie faktów i interesariuszy”.
- Przeanalizuj przypadek z trzech perspektyw, korzystając z szablonu „analizy trzech ramek”.
- Nazwij podstawowe napięcie, korzystając z szablonu „diagnozy zasadniczego konfliktu”.
- Napisz własną, uzasadnioną decyzję – akceptując najsilniejszy sprzeciw strony przeciwnej.
lista kontrolna
- [ ] Wyjaśniłem fakty i niejasności.
- [ ] Zidentyfikowałem wszystkich interesariuszy i ich interesy.
- [ ] Zleciłem analizę tej sprawy pod kątem co najmniej trzech ram etycznych.
- [ ] Wyraźnie nazwałem zasadniczy konflikt.
- [ ] Sprawdziłem pod kątem stronniczości i jednostronności.
- [ ] Decyzję i uzasadnienie pozostawiłem sobie/zarządowi, a nie AI.
- [ ] Chroniłem dane poufne/osobiste.