Dobički:
- Sposobnost jasne opredelitve konceptov agencije, vrzeli v odgovornosti, algoritemske pristranskosti, transparentnosti in avtonomije ter vzpostavljanja napetosti.
- Polaganje odgovornosti ne na „umetno inteligenco“, ampak na človeško verigo, ki jo načrtuje, uvaja in uporablja
- Sposobnost vodenja večstranske razprave s preverjanjem optimistične pristranskosti AI in zastarelega znanja o lastni tehnologiji
Filozofija in uporabna etika sta področji, ki ne uporabljata samo umetne inteligence, ampak tudi preučujeta umetno inteligenco. Sama umetna inteligenca je danes ena najbolj živahnih tem v etični filozofiji: kdo je odgovoren, ko sistem AI sprejme odločitev? Če je algoritem pristranski, kako se imenuje ta nepravičnost? Ali lahko umetno inteligenco štejemo za "agenta" (subjekt, sposoben moralnega delovanja)? Kot etik ste oseba, ki hkrati vodi te razprave in poučuje. V tej enoti bomo razjasnili osnovne koncepte razprave o etiki umetne inteligence (veja uporabne etike, ki preučuje moralna vprašanja – odgovornost, pristranskost, preglednost, avtonomija, pravičnost –, ki jih postavljata razvoj in uporaba sistemov umetne inteligence) in videli, kako lahko to razpravo bolje analizirate in poučujete z orodji umetne inteligence.
Tukaj je zanimiva zanka: umetno inteligenco lahko uporabljate kot orodje, tudi ko razpravljate o etiki umetne inteligence – toda ravno tam morate biti najbolj pozorni na lastne pristranskosti in omejitve umetne inteligence.
Osnovni pojmi in napetosti
Agent in moralni subjekt. Namera, razumevanje, svoboda in zavedanje posledic so pogosto potrebni, da bitje nosi moralno odgovornost. Ali jih AI ima, je sporno; Večina stališč meni, da je umetna inteligenca orodje in da odgovornost nosijo ljudje, ki jo oblikujejo, uvajajo in uporabljajo. To je v skladu z načelom, ki ga ves čas poudarja modul: končna odgovornost je na človeku.
Vrzel v odgovornosti. Ko sistem umetne inteligence povzroči škodo, lahko pride do situacij, ko je odgovornost razpršena (»ostala v praznini«): oblikovalec, ponudnik podatkov, institucija, ki jih uporablja, končni operater? Ta "vrzel v odgovornosti" je eden osrednjih problemov sodobne etike umetne inteligence.
Algoritemska pristranskost. AI se lahko nauči in posnema zgodovinske neenakosti v podatkih o usposabljanju; Ta algoritemska pristranskost (ko sistem sistematično ustvarja rezultate, ki prikrajšajo določene skupine) je v središču razprav o pravičnosti in diskriminaciji.
Preglednost in razložljivost. Nerazumevanje, zakaj je odločitev AI takšna, kot je (problem »črne skrinjice«), je etični problem v smislu odgovornosti in pravice do pritožbe. Razložljivost (zaradi česar je utemeljitev za izhod sistema človeško razumljiva) je vedno bolj postala etična in pravna zahteva.
Nasvet: Ko razpravljate o etiki umetne inteligence, jasno ločite koncepte: Namesto da rečete "Umetna inteligenca je sprejela odločitev," recite "Umetna inteligenca je ustvarila rezultat, človek pa ga je izvedel." Ta jezikovna strogost postavlja odgovornost na pravo mesto in reši razpravo pred zamegljenostjo.
Uporaba AI kot orodja v tej razpravi
Sama umetna inteligenca je odličen ilustrativni material pri tečajih etike umetne inteligence. Učencem lahko omogočite, da odkrijejo pristranskost v rezultatu umetne inteligence, pokažejo neupravičenost odločitve in primerjajo različna mnenja. Toda dve opozorili: (1) umetna inteligenca je lahko komercialna ali optimistična glede svoje tehnologije; Vsekakor poiščite tudi kritična mnenja. (2) To polje se hitro spreminja; Podatki AI so morda zastareli, poiščite trenutni vir za predpise in dejstva.
Pozor: Ko sprašujete AI "Ali je AI etična?" Ko postavite takšno vprašanje, je odgovor, ki ga dobite, povprečje podatkov o usposabljanju in ne rezultat filozofske razprave. Ta odgovor vzemite kot izhodišče; Sami opredelite koncepte, sami vzpostavite napetosti in jih sami podkrepite z aktualnimi realnimi primeri.
trije mini kovčki
Primer 1 – Razprava o vrzeli v odgovornosti. Na enem seminarju so razpravljali o scenariju, ko je sistem zaposlovanja, ki ga poganja AI, skupino pustil v slabšem položaju. Vprašajte AI "kdo je odgovoren?" Vprašanje so analizirali iz različnih okvirov; Izhod je preslikal verigo oblikovalec-podatki-institucija-operater. Skupina je ta zemljevid uporabila za razvoj lastnega utemeljenega stališča: zagovarjali so odgovornost vsake povezave, tako da odgovornost ne pade v »praznino«.
Primer 2 – Predsodki, dokazani z živim primerom. Inštruktor je dal AI napisati isti opis delovnega mesta z različnimi imeni in učencem pokazal stereotipe v izpisu. Študenti algoritemske pristranskosti niso videli kot abstrakten koncept, ampak konkretno v rezultatu pred njimi. Lekcija je zakoreninila koncept z resničnim primerom. Predavatelj je še poudaril, da gre za en sam rezultat in da so za posploševanje potrebni sistematični dokazi.
Primer 3 – Optimistični trend se je stabiliziral. Študent je AI napisal o "vplivu AI na družbo"; Rezultat je bil pretežno pozitiven in je podcenjeval tveganja. Študent se je obrnil na kritične akademske vire, dodal nasprotna stališča in sestavil uravnoteženo analizo. Pristranskost umetne inteligence do lastne domene je uravnotežena s človeškim nadzorom.
Šibek poziv/močan poziv
Šibek poziv:
Ali je umetna inteligenca etična ali ne? Odgovori.
Ta poziv reducira zapleteno filozofsko razpravo na binarni odgovor; AI vrne povprečje, koncepti ostanejo nedefinirani in pristranskost postane nevidna.
Močan poziv:
Vaša vloga: Nepristranski analitik na področju etike umetne inteligence. NE OBSOJAJTE ME glede [scenarija]. Namesto tega: 1) Opredelite ustrezne pojme (storilec, vrzel v odgovornosti, algoritemska pristranskost, preglednost) – jedrnato in nevtralno. 2) Načrtujte možno porazdelitev odgovornosti (oblikovalec, podatki, institucija, operater). 3) Predstavite vsaj dve nasprotujoči si etični stališči, vsako najmočnejše. 4) Upoštevajte, da se to področje hitro spreminja in zahteva posodobljene vire. Sam bom presodil. Scenarij: [napišite scenarij]
Ta poziv razjasni koncepte, vzpostavi večstransko razpravo in prepušča odločitev vam.
Štiri predloge za kopiranje
1) Razjasnitev koncepta:
Na kratko in objektivno definirajte naslednje pojme v etiki umetne inteligence: agent/moralni subjekt, vrzel v odgovornosti, algoritemska pristranskost, transparentnost, razložljivost. Pod vsako definicijo vključite vsakdanji primer. Označite sporna področja kot "mnenja različna."
2) Kartiranje odgovornosti:
V naslednjem scenariju narišite verigo odgovornosti za škodo, ki jo povzroči sistem umetne inteligence: oblikovalec, ponudnik podatkov, distribucijska institucija, uporabniški operater, regulator. Zapišite možni vložek in obrambo vsakega prstana. Dokončno presodite. Scenarij: [scenarij]
3) Predstavitev nasprotnega položaja:
Predstavite vsaj dve nasprotujoči si etični stališči o [vprašanju etike umetne inteligence], vsako v svoji najmočnejši in najbolj iskreni obliki. Nobenega ne razglasite za "zmagovalca". Poimenujte vrednost, na kateri temelji vsak položaj. Vprašanje: [vprašanje]
4) Nadzor optimizma/pristranskosti:
Preverite, ali naslednje besedilo o AI podcenjuje tveganja ali izraža optimistično naravnanost do tehnologije. Označite morebitne kritične vidike, ki manjkajo, in tveganja, ki jih je treba dodati. Besedilo: [prilepi besedilo]
Koncept / tabela napetosti
koncept
osnovno vprašanje
etična napetost
Storilec/moralni subjekt
Ali AI nosi odgovornost?
Orodje ali predmet?
vrzel odgovornosti
Kdo je odgovoren za povzročeno škodo?
Razpršena odgovornost
algoritemska pristranskost
Komu v slabši položaj?
Pravičnost proti učinkovitosti
preglednost
Zakaj ta odločitev?
Razložljivost itd. kompleksnost
avtonomija
Koliko človeškega nadzora?
Avtomatizacija proti reviziji
Pogoste napake
- Jezik »AI odločil«. Zabriše odgovornost; Umetna inteligenca ustvarja rezultat, ljudje ga izvajajo, odgovornost pa leži na ljudeh.
- Zmanjšanje debate na binarni odgovor. "Etično ali ne?" vprašanje uničuje konceptualno globino; Nastavite napetosti.
- Ne opaziti optimistične težnje AI. AI je lahko nestabilen glede lastne tehnologije; Dodaj kritični vir.
- Posploševanje enega samega rezultata. Pristranskost vzorca je osupljiva, vendar sistematična trditev zahteva sistematične dokaze.
- Zanašanje na zastarele informacije. To področje in njegove ureditve se hitro spreminjajo; Potrdite dejstva s trenutnim virom.
Če povzamem
Etika umetne inteligence je eno najživahnejših sodobnih področij filozofije in kot etik oba vodita in poučujeta to debato. Jasno definirajte ključne koncepte – agencijo, vrzel v odgovornosti, algoritemsko pristranskost, preglednost, avtonomijo – in vzpostavite napetosti. Umetno inteligenco lahko uporabite kot orodje in primer v tej razpravi, vendar pazite na dve pasti: umetna inteligenca je ponavadi optimistična glede svoje tehnologije in njeno znanje je lahko zastarelo. Jezik, kot je "umetna inteligenca odločila", zamegljuje odgovornost; Strog konceptualni jezik postavlja odgovornost na pravo mesto. Vedno se odločite vi.
Aplikacijska naloga
- Izberite etični scenarij umetne inteligence (npr. algoritemski sistem odločanja).
- Določite in pregledajte ključne koncepte s predlogo "pojasnitev koncepta".
- Izluščite verigo odgovornosti v primeru škode s predlogo "preslikava odgovornosti".
- Primerjajte vsaj dve etični stališči s predlogo »predstavitev nasprotnega stališča«.
- Preizkusite pristranskost v besedilu AI s predlogo »preverjanje optimizma« in dodajte kritičen vir.
kontrolni seznam
- [ ] Pojme sem opredelil jasno in objektivno.
- [ ] Odgovornost sem položil na človeško verigo, ne na »AI«.
- [ ] Razpravo sem strukturiral večstransko, nisem je reduciral na binarni odgovor.
- [ ] Preveril sem optimistično naravnanost AI do svojega področja.
- [ ] Dejstva in predpise sem potrdil s trenutnim virom.
- [ ] Končno sodbo in utemeljitev sem izdelal sam.