Dobički:
- Sposobnost analiziranja etičnega primera z več perspektiv, iz konsekvencialističnega, deontološkega okvira in okvira etike vrlin
- Sposobnost pojasnjevanja dejstev in zainteresiranih strani ter poimenovanja nasprotij načel
- Sposobnost sprejemanja etičnih presoj in odločitev na upravičen način z nadzorom pristranskosti, ne da bi to prepustili umetni inteligenci
Srce uporabne etike je vprašanje "kaj storiti?" v realni situaciji. je podati utemeljen odgovor na vprašanje. Bolnišnična etična komisija razpravlja o odločitvi o zdravljenju, podjetje ocenjuje, ali je uporaba podatkov etična, raziskovalec tehta škodo eksperimenta za udeležence. Orodja, uporabljena v teh delih, so etični okviri (pristopi, ki ponujajo skladen nabor načel in sklepanja za ocenjevanje situacije) – na primer konsekvencializem (pristop, ki ocenjuje pravilnost dejanja glede na njegove posledice, koristi in škodo, ki jih povzroči), deontologija (pristop, ki ocenjuje pravilnost dejanja glede na njegovo skladnost z dolžnostmi, pravicami in pravili, neodvisno od njegovih posledice) in etika vrlin (pristop, ki postavlja vprašanje kot "kaj bi storila krepostna oseba?" in ne "kakšno dejanje?"). AI je lahko hitro orodje za analizo primera iz različnih okvirov, ogled spregledanih razsežnosti in množenje možnosti. Toda končna etična presoja – katero načelo prevlada, katero odločitev sprejeti in razlogi zanjo – pripada človeku, še posebej odgovorni komisiji in strokovnjaku.
V tej enoti bomo videli, kako analizirati etični primer na način, ki ga poganja umetna inteligenca, vendar presoja človek.
Analiza več okvirjev: prava moč umetne inteligence
Najpogostejša napaka v etičnem primeru je vztrajanje pri enem samem stališču. Dobra analiza vidi isto situacijo iz več okvirov in razkrije napetosti. Tu je umetna inteligenca močna: lahko hkrati analizira primer s konsekvencialističnega, deontološkega in na vrlinah temelječega vidika ter hitro navede, do kakšnih zaključkov vodi posamezen okvir. To prikazuje razpravo.
Koraki:
1. Pojasnite dejstva. Kdo, kaj, kdaj je vpleten; razlikovati med negotovimi in domnevnimi dejstvi. Etična analiza ne more temeljiti na lažnih dejstvih.
2. Identificirajte deležnike in interese. Koga zadeva odločitev, kakšne so pravice in interesi vsakega?
3. Analizirajte iz različnih okvirov. Kako vsak okvir gleda na to situacijo in kakšne ukrepe priporoča?
4. Pokažite napetosti in načelna nasprotja. Če okviri dosežejo različne sklepe, kje točno je konflikt? (Na primer med avtonomijo posameznika in koristjo družbe.)
5. Sprejmite utemeljeno odločitev. Utemeljite, katero načelo prevlada zakaj, tako da sprejmete najmočnejši ugovor nasprotne strani.
Nasvet: Ne zahtevajte od umetne inteligence, da "pove pravi odgovor"; Recimo, "analizirajte ta primer iz treh okvirov in pokažite zaključek in najmočnejši ugovor vsakega." Naloga AI je ustvariti zemljevid; Vi pripravite odločitev in utemeljitev. V etiki "odgovor, ki ga da stroj" ni opravičilo.
Zakaj AI ne more sprejemati etičnih odločitev?
Recimo to jasno. Etična presoja; Zahteva poznavanje konteksta, določanje prioritet med vrednotami, prevzemanje odgovornosti in voljo podpisati to odločitev. AI nima nič od tega: nima vrednot, nima odgovornosti, ima omejeno poznavanje konteksta in lahko posnema kulturne/ideološke pristranskosti v podatkih o usposabljanju. Poleg tega AI pogosto poda »povprečno« ali najpogostejše mnenje o kontroverzni temi; medtem ko je v etiki pravilen odgovor lahko večinoma v manjšini ali pa ga sploh ni. AI odpira možnosti; Pretehtaš in se odločiš.
Pozor: Pri etičnih odločitvah z visokimi vložki (zdravstveni, pravni, institucionalni) rezultati umetne inteligence nikoli ne smejo nadomestiti presoje pristojnega odbora ali strokovnjaka. Uporabite AI kot "svetovalnega pripravljavca"; Končna odločitev in odgovornost je na odgovorni osebi. Tudi če dejanski podatki o primeru vsebujejo osebne/zaupne informacije, jih ne vnašajte v javna orodja.
trije mini kovčki
Primer 1 – zemljevid z več okvirji. Odbor za etiko je razpravljal o dodelitvi omejenih sredstev (npr. omejeno število možnosti zdravljenja). Imeli so AI, ki je primer analiziral s konsekvencialističnega, deontološkega in na vrlinah temelječega vidika; V 20 minutah so bile preslikane tri različne utemeljitve in njihove konfliktne točke. Z uporabo tega zemljevida kot izhodišča je odbor izvedel lastno razpravo in sprejel lastno utemeljeno odločitev.
Primer 2 – spregledani deležnik. Podjetje je ocenjevalo odločitev o uporabi podatkov. YZ je v svoji analizi označil še tretjo skupino (osebe, katerih podatki so bili uporabljeni, a niso bili vključeni v proces), ki so bili posredno prizadeti, poleg neposrednih strank odločitve. Ekipa je spregledala tega deležnika. Vložek umetne inteligence je naredil odločitev popolnejšo – vendar je ekipa določila prednost.
Primer 3 – Popravljen pristranski predlog. Preiskovalec je dal AI analizirati kulturno občutljiv primer. Umetna inteligenca je predstavila en sam kulturni pogled kot »univerzalno resnico« in ignorirala alternativne vrednostne sisteme. Raziskovalec je opazil to enostranskost in analizo popestril. Prevladujoč pogled na podatke o usposabljanju AI je uravnotežen s človeškim nadzorom.
Šibek poziv/močan poziv
Šibek poziv:
Kaj naj etično storim v tej situaciji?
Ta poziv prenese etično presojo in odgovornost na AI; Dobiš en "odgovor", ne vidiš utemeljitve in okvira, pristranskost ostane skrita.
Močan poziv:
Vaša vloga: analitik uporabne etike (ne odločevalec). Analizirajte naslednji primer. NE DAJTE MI ODLOČITVE.1) Naštejte dvoumna dejstva, ki jih je treba razjasniti.2) Odstranite deležnike in interese/pravice vsakega od njih.3) Primer analizirajte ločeno s konsekvencialističnega, deontološkega vidika in perspektive etike vrlin; Podajte zaključek in najmočnejši ugovor vsakega. 4) Pokažite osnovni konflikt načel med ogrodji. Izdelam sklep in obrazložitev. Opozori, če obstajajo osebni/zaupni podatki. Primer: [napiši velike in male črke]
Ta poziv izloči zemljevid z več okvirji, odločitev prepusti vam in naredi pristranskost vidno.
Štiri predloge za kopiranje
1) Pojasnilo dejstev in zainteresiranih strani:
V naslednjem primeru navedite (a) nekatera znana dejstva, (b) negotova/domnevna dejstva, (c) vse zainteresirane strani ter interese in pravice vsakega. Dodajte komentarje in odločitve. Primer: [primer]
2) Analiza treh okvirjev:
Analizirajte ta primer ločeno z vidika konsekvencializma, deontologije in etike vrlin. Za vsak okvir: kako ga vidi, dejanje, ki ga priporoča, in najmočnejši ugovor temu predlogu. Razglasitev ogrodja za "pravilno". Primer: [primer]
3) Diagnoza konflikta politike:
Poimenujte ključna načela, na podlagi katerih si okviri nasprotujejo v spodnji analizi (npr. avtonomija proti skupnemu dobremu, pravičnost proti sočutju). Natančno pokažite središče konflikta. Odločanje. Analiza: [prilepi besedilo]
4) Revizija predsodkov in kulturne občutljivosti:
Preverite, ali ta etična analiza ne predstavlja enega samega kulturno-ideološkega pogleda kot univerzalne resnice. Ali obstajajo alternativni vrednostni sistemi ali perspektive, ki se jih ne upošteva? Poudarite, kje je potrebno več pluralizma. Analiza: [prilepi besedilo]
Primerjalna tabela okvirjev
Okvir
osnovno vprašanje
Fokus
tipična slabost
konsekvencalizem
Kakšen je najboljši rezultat?
Ravnovesje med koristjo in škodo
Lahko zatre pravice manjšin
deontologija
Kaj pravi naloga/pravilo?
pravica, dolžnost, načelo
Strog, lahko prezre rezultat
etika vrline
Kaj počne krepostna oseba?
značaj, namen
Nejasen vodnik za ukrepanje
Pogoste napake
- Odločanje AI. "Kaj naj naredim?" Vprašanje delegira etično presojo; AI ustvari zemljevid, vi se odločite.
- Biti obtičal v enem samem okvirju. Videti primer samo iz ene perspektive; analiza več okvirjev razkrije napetost.
- Ne razjasnitev dejstev. Etična analiza, ki temelji na napačnih ali domnevnih dejstvih, se sesuje.
- Neprepoznavanje pristranskosti. AI lahko prevladujoč kulturni pogled predstavi kot "univerzalen"; Pluralizem zagotavljamo ljudje.
- Vnos zaupnega/osebnega primera v javno orodje. Tveganje kršitve zasebnosti v resničnih datotekah; Anonimizirajte ali uporabite varen sistem.
Če povzamem
Resnična moč umetne inteligence pri analizi primerov uporabne etike je, da hitro preslika situacijo iz več okvirov, izloči deležnike in naredi vidna nasprotja načel. Toda etična presoja - katero načelo prevlada, odločitev in utemeljitev - pripada človeku, še posebej odgovornemu odboru in strokovnjaku; ker AI nima nobenih vrednot, nobene odgovornosti, nobenega poznavanja konteksta in nosi pristranskost. Pojasnite dejstva, analizirajte več okvirov, poimenujte konflikt, preverite pristranskost in se z utemeljitvijo odločite sami. Pri odločitvah z velikimi vložki je umetna inteligenca postavljena poleg strokovne presoje, namesto da bi jo nadomestila.
Aplikacijska naloga
- Izberite resničen ali izmišljen etični primer (anonimizirajte, če vključuje osebne podatke).
- Izvlecite dejstva in zainteresirane strani s predlogo »Pojasnilo dejstev in zainteresiranih strani«.
- Naj bo primer analiziran s treh perspektiv s predlogo »analiza treh okvirjev«.
- Poimenujte osnovno napetost s predlogo "diagnoza načelnega konflikta".
- Napišite svojo obrazloženo odločitev – sprejmete najmočnejši ugovor nasprotne strani.
kontrolni seznam
- [ ] Pojasnil sem dejstva in negotovosti.
- [ ] Identificiral sem vse deležnike in njihove interese.
- [ ] Primer sem dal analizirati iz vsaj treh etičnih okvirov.
- [ ] Jasno sem poimenoval načelni konflikt.
- [ ] Preveril sem pristranskost in enostranskost.
- [ ] Odločitev in utemeljitev sem prepustil sebi/odboru, ne AI.
- [ ] Zavaroval sem zaupne/osebne podatke.