Dobici:
- Sposobnost analize etičkog slučaja iz više perspektiva, iz konsekvencijalističkog, deontološkog i okvira etike vrlina
- Sposobnost razjašnjavanja činjenica i dionika te imenovanja sukoba načela
- Sposobnost donošenja etičkih prosudbi i odluka na opravdan način uz kontrolu pristranosti, bez prepuštanja toga umjetnoj inteligenciji
Srž primijenjene etike je pitanje "što učiniti?" u stvarnoj situaciji. je dati argumentirani odgovor na pitanje. Bolničko etičko povjerenstvo raspravlja o odluci o liječenju, tvrtka procjenjuje je li korištenje podataka etično, istraživač odvaguje štetu eksperimenta za sudionike. Alati korišteni u ovim djelima su etički okviri (pristupi koji nude koherentan skup načela i obrazloženja za procjenu situacije) — na primjer, konsekvencijalizam (pristup koji procjenjuje ispravnost neke radnje prema njezinim posljedicama, koristima i štetama koje proizvodi), deontologija (pristup koji procjenjuje ispravnost neke radnje prema njezinoj usklađenosti s dužnostima, pravima i pravilima, neovisno o njezinim posljedice) i etika vrline (pristup koji postavlja pitanje kao "što bi čestita osoba učinila?", a ne "koje djelovanje?"). AI može biti brzi alat za analizu slučaja iz različitih okvira, vidjeti previđene dimenzije i umnožiti opcije. Ali konačna etička prosudba - koje načelo prevladava, koju odluku donijeti i obrazloženje za nju - pripada ljudskom biću, posebno odgovornom povjerenstvu i stručnjaku.
U ovoj jedinici vidjet ćemo kako analizirati etički slučaj na način koji pokreće umjetna inteligencija, ali procjenjuju ljudi.
Analiza više okvira: Prava moć umjetne inteligencije
Najčešća pogreška u etičkom slučaju je držati se jednog stajališta. Dobra analiza vidi istu situaciju iz više okvira i otkriva napetosti. Ovdje je umjetna inteligencija moćna: može analizirati slučaj iz konzekvencijalističke, deontološke perspektive i perspektive temeljene na vrlini istovremeno i brzo navesti zaključak do kojeg svaki okvir vodi. Ovo prikazuje raspravu.
Koraci:
1. Razjasnite činjenice. Tko, što, kada je uključen; razlikovati neizvjesne i pretpostavljene činjenice. Etička analiza ne može se temeljiti na lažnim činjenicama.
2. Identificirajte dionike i interese. Na koga se odluka odnosi, koja su prava i interesi svakoga?
3. Analizirajte iz različitih okvira. Kako svaki okvir gleda na ovu situaciju i koje radnje preporučuje?
4. Pokažite napetosti i sukobe načela. Ako okviri dođu do različitih zaključaka, gdje je točno sukob? (Na primjer, između autonomije pojedinca i dobrobiti društva.)
5. Donesite obrazloženu odluku. Obrazložite koje načelo prevladava zašto prihvaćajući najjači prigovor druge strane.
Savjet: Ne tražite od umjetne inteligencije da mi "kaže pravi odgovor"; Recimo, "analizirajte ovaj slučaj iz tri okvira i pokažite zaključak i najjači prigovor svakog." Posao umjetne inteligencije je stvoriti kartu; Vi donosite odluku i obrazloženje. U etici "odgovor koji daje stroj" nije opravdanje.
Zašto umjetna inteligencija ne može donositi etičke odluke?
Recimo ovo jasno. Etička prosudba; Zahtijeva poznavanje konteksta, određivanje prioriteta između vrijednosti, preuzimanje odgovornosti i volju da se ta odluka potpiše. AI nema ništa od navedenog: nema vrijednosti, nema odgovornosti, ograničeno je znanje o kontekstu i može replicirati kulturne/ideološke pristranosti u podacima o obuci. Štoviše, AI često daje "prosječno" ili najčešće mišljenje o kontroverznoj temi; dok u etici točan odgovor može biti uglavnom u manjini ili uopće ne postoji. AI otvara opcije; Vi odmjerite i odlučite.
Oprez: U etičkim odlukama s visokim ulozima (medicinskim, pravnim, institucionalnim) rezultat umjetne inteligencije nikada ne bi trebao zamijeniti prosudbu nadležnog odbora ili stručnjaka. Koristite umjetnu inteligenciju kao "savjetodavca"; Konačnu odluku i odgovornost snosi odgovorna osoba. Također, ako stvarni podaci o slučaju sadrže osobne/povjerljive informacije, nemojte ih unositi u javne alate.
tri mini kućišta
Slučaj 1 — Karta s više okvira. Etičko povjerenstvo raspravljalo je o dodjeli ograničenih resursa (npr. ograničen broj opcija liječenja). Imali su AI da analizira slučaj iz konsekvencijalističke, deontološke perspektive i perspektive temeljene na vrlini; Tri različita opravdanja i njihove sukobljene točke mapirane su u 20 minuta. Koristeći ovu kartu kao početnu točku, odbor je proveo vlastitu raspravu i donio vlastitu obrazloženu odluku.
Slučaj 2 — Zanemareni dionik. Tvrtka je procjenjivala odluku o korištenju podataka. YZ je u svojoj analizi označio treću skupinu (osobe čiji su podaci korišteni, ali nisu bili uključeni u proces) na koje je neizravno utjecalo, osim izravnih stranaka odluke. Tim je previdio ovog dionika. Unos umjetne inteligencije učinio je odluku potpunijom - ali tim je odredio prioritete.
Slučaj 3 — Ispravljen pristran prijedlog. Istražitelj je pomoću umjetne inteligencije analizirao kulturološki osjetljiv slučaj. AI je predstavio jedan kulturni pogled kao "univerzalnu istinu" i ignorirao alternativne sustave vrijednosti. Istraživač je uočio tu jednostranost i diverzificirao analizu. Dominantni pogled na podatke o obuci AI-a uravnotežen je ljudskim nadzorom.
Slab upit / Jak upit
Slab upit:
Što bih trebao etički učiniti u ovoj situaciji?
Ovaj upit delegira etičku prosudbu i odgovornost na AI; Dobiješ jedan “odgovor”, ne vidiš obrazloženje i okvir, pristranost ostaje skrivena.
Snažan upit:
Vaša uloga: analitičar primijenjene etike (ne donositelj odluka). Analizirajte sljedeći slučaj. NEMOJTE MI DATI ODLUKU.1) Navedite dvosmislene činjenice koje je potrebno razjasniti.2) Uklonite dionike i interese/prava svakog od njih.3) Analizirajte slučaj zasebno iz perspektive konzekvencijalizma, deontologije i etike vrline; Dajte zaključak i najjači prigovor svakoga. 4) Pokažite osnovni sukob načela između okvira. Donijet ću odluku i obrazloženje. Upozorenje ako postoje osobni/povjerljivi podaci. Velika i mala slova: [napiši velika i mala slova]
Ovaj prompt uklanja mapu s više okvira, prepušta odluku vama i čini pristranost vidljivom.
Četiri predloška za kopiranje
1) Pojašnjenje činjenica i dionika:
U sljedećem slučaju navedite (a) određene poznate činjenice, (b) neizvjesne/pretpostavljene činjenice, (c) sve dionike te interese i prava svakog od njih. Dodajte komentare i odluke. Slučaj: [slučaj]
2) Analiza tri okvira:
Analizirajte ovaj slučaj zasebno iz perspektive konsekvencijalizma, deontologije i etike vrline. Za svaki okvir: kako on to vidi, radnju koju preporučuje i najjači prigovor na tu sugestiju. Proglašavanje okvira "ispravnim". Slučaj: [slučaj]
3) Dijagnoza sukoba politika:
Navedite ključna načela na kojima se okviri sukobljavaju u analizi u nastavku (npr. autonomija nasuprot općem dobru, pravda nasuprot suosjećanju). Pokažite točno gdje je središte sukoba. Donošenje odluka. Analiza: [zalijepi tekst]
4) Revizija predrasuda i kulturne osjetljivosti:
Provjerite ne predstavlja li ova etička analiza jedno kulturno/ideološko stajalište kao univerzalnu istinu. Postoje li alternativni sustavi vrijednosti ili perspektive koje se ignoriraju? Istaknite gdje treba više pluralizma. Analiza: [zalijepi tekst]
Tablica usporedbe okvira
Okvir
osnovno pitanje
Fokusirajte se
tipična slabost
konsekvencijalizam
Koji je najbolji ishod?
Ravnoteža koristi/štete
Može srušiti prava manjina
deontologija
Što kaže zadatak/pravilo?
pravo, dužnost, princip
Strog, može zanemariti ishod
etika vrline
Što radi čestita osoba?
karakter, namjera
Nejasan akcijski vodič
Uobičajene greške
- Odlučivanje umjetne inteligencije. "Što da radim?" Pitanje delegira etičku prosudbu; AI stvara kartu, vi odlučujete.
- Biti zaglavljen u jednom kadru. Sagledavanje slučaja samo iz jedne perspektive; multi-frame analiza otkriva napetost.
- Ne razjašnjavajući činjenice. Etička analiza temeljena na lažnim ili pretpostavljenim činjenicama pada.
- Ne prepoznavanje pristranosti. AI može predstaviti dominantni kulturni pogled kao "univerzalan"; Pluralizam osiguravaju ljudi.
- Unos povjerljivog/osobnog predmeta u javni alat. Rizik od povrede privatnosti u stvarnim datotekama; Anonimizirajte ili koristite sigurni sustav.
Ukratko
Prava moć umjetne inteligencije u analizi slučajeva primijenjene etike jest brzo mapiranje situacije iz višestrukih okvira, izdvajanje dionika i vidljivi sukobi načela. Ali etički sud - koje načelo prevladava, odluka i opravdanje - pripada čovjeku, posebno odgovornom povjerenstvu i stručnjaku; jer AI nema vrijednosti, nema odgovornosti, nema znanja o kontekstu i nosi pristranost. Razjasnite činjenice, analizirajte više okvira, imenujte sukob, provjerite pristranost i sami donesite odluku uz obrazloženje. U odlukama s visokim ulozima, umjetna inteligencija se stavlja uz prosudbu stručnjaka, umjesto da je zamjenjuje.
Zadatak aplikacije
- Odaberite stvarni ili izmišljeni etički slučaj (anonimizirajte ako uključuje osobne podatke).
- Izdvojite činjenice i dionike pomoću predloška "Pojašnjenje činjenica i dionika".
- Neka se slučaj analizira iz tri perspektive pomoću predloška "analiza s tri okvira".
- Imenujte temeljnu napetost s predloškom "načelne dijagnoze sukoba".
- Napišite vlastitu obrazloženu odluku — prihvaćajući najjači prigovor suprotne strane.
popis za provjeru
- [ ] Pojasnio sam činjenice i nejasnoće.
- [ ] Identificirao sam sve zainteresirane strane i njihove interese.
- [ ] Slučaj sam analizirao iz najmanje tri etička okvira.
- [ ] Jasno sam imenovao sukob načela.
- [ ] Provjerio sam pristranost i jednostranost.
- [ ] Prepustio sam odluku i obrazloženje sebi/odboru, a ne AI-u.
- [ ] Zaštitio sam povjerljive/osobne podatke.