Dobici:
- Sposobnost jasnog definiranja pojmova agencije, jaza u odgovornosti, algoritamske pristranosti, transparentnosti i autonomije te uspostavljanja napetosti.
- Stavljanje odgovornosti ne na 'umjetnu inteligenciju' već na ljudski lanac koji je dizajnira, postavlja i koristi
- Sposobnost vođenja višestrane rasprave provjerom optimistične pristranosti umjetne inteligencije i zastarjelih znanja o vlastitoj tehnologiji
Filozofija i primijenjena etika su područja koja ne samo da koriste AI, već i proučavaju AI. Sama umjetna inteligencija jedna je od najživljih tema u etičkoj filozofiji danas: Tko je odgovoran kada AI sustav donese odluku? Ako je algoritam pristran, kako se zove ta nepravda? Može li se umjetna inteligencija smatrati "agentom" (subjekt sposoban za moralno djelovanje)? Kao etičar, vi ste osoba koja i vodi te rasprave i podučava. U ovoj ćemo jedinici razjasniti osnovne koncepte rasprave o etičkoj inteligenciji (grana primijenjene etike koja ispituje moralna pitanja — odgovornost, pristranost, transparentnost, autonomija, pravda — nastala razvojem i upotrebom sustava umjetne inteligencije) i vidjeti kako ovu raspravu možete bolje analizirati i poučavati pomoću alata umjetne inteligencije.
Evo zanimljivog kruga: AI možete koristiti kao alat čak i kada raspravljate o etici umjetne inteligencije — ali upravo tu trebate biti najviše oprezni s vlastitim predrasudama i ograničenjima AI-a.
Osnovni pojmovi i napetosti
Agent i moralni subjekt. Namjera, razumijevanje, sloboda i svijest o posljedicama često su potrebni da bi neko biće snosilo moralnu odgovornost. Diskutabilno je ima li ih AI; Većina mišljenja drži da je AI alat i da odgovornost ostaje na ljudima koji ga dizajniraju, implementiraju i koriste. Ovo je u skladu s načelom koje modul naglašava u cijelom dijelu: konačna odgovornost leži na čovjeku.
Jaz u odgovornosti. Kada sustav umjetne inteligencije uzrokuje štetu, mogu se pojaviti situacije u kojima je odgovornost raspršena ("ostavljena u praznini"): dizajner, pružatelj podataka, institucija koja ih koristi, krajnji operater? Taj “jaz u odgovornosti” jedan je od središnjih problema suvremene etike umjetne inteligencije.
Algoritamska pristranost. AI može naučiti i replicirati povijesne nejednakosti u podacima o obuci; Ova algoritamska pristranost (kada sustav sustavno proizvodi ishode koji stavljaju određene skupine u nepovoljan položaj) u srži je rasprava o pravednosti i diskriminaciji.
Transparentnost i objašnjivost. Nerazumijevanje zašto je odluka umjetne inteligencije takva kakva jest (problem “crne kutije”) je etički problem u smislu odgovornosti i prava na žalbu. Objašnjivost (čineći obrazloženje izlaza sustava ljudski razumljivim) sve više postaje etički i pravni zahtjev.
Savjet: u raspravi o etici umjetne inteligencije jasno razdvojite pojmove: Umjesto da kažete "AI je donio odluku", recite "AI je proizveo rezultat, čovjek ga je implementirao." Ova jezična strogost postavlja odgovornost na pravo mjesto i spašava raspravu od mutnosti.
Korištenje umjetne inteligencije kao alata u ovoj raspravi
Sama umjetna inteligencija izvrstan je ilustrativni materijal u tečajevima etike umjetne inteligencije. Možete dati učenicima da pronađu pristranost u rezultatu umjetne inteligencije, pokažu neopravdanost odluke i usporede različita mišljenja. Ali dva upozorenja: (1) AI može imati komercijalnu ili optimističnu sklonost u pogledu svoje tehnologije; Svakako potražite i kritička mišljenja. (2) Ovo polje se brzo mijenja; Informacije AI-a mogu biti zastarjele, pogledajte trenutni izvor za propise i činjenice.
Oprez: kada pitate umjetnu inteligenciju "Je li umjetna inteligencija etična?" Kada postavite ovakvo pitanje, odgovor koji dobijete je prosjek podataka o treningu, a ne rezultat filozofske rasprave. Uzmite ovaj odgovor kao polazište; Sami definirajte pojmove, sami uspostavite napetosti i sami ih potkrijepite trenutnim stvarnim primjerima.
tri mini kućišta
Slučaj 1 — Rasprava o nedostatku odgovornosti. Na jednom se seminaru raspravljalo o scenariju u kojem je sustav regrutiranja pokretan umjetnom inteligencijom ostavio grupu u nepovoljnom položaju. Pitajte AI "tko je odgovoran?" Analizirali su pitanje iz različitih okvira; Izlaz je mapirao lanac dizajner-podaci-institucija-operator. Grupa je koristila ovu kartu kako bi razvila vlastito obrazloženo stajalište: zagovarali su odgovornost svake karike kako odgovornost ne bi pala u "prazninu".
Slučaj 2 — Predrasude pokazane živim primjerom. Instruktor je tražio od umjetne inteligencije da napiše isti opis posla s različitim imenima i pokazao je stereotipe u ispisu studentima. Studenti nisu vidjeli algoritamsku pristranost kao apstraktni koncept, već konkretno u rezultatu pred sobom. Lekcija je ukorijenila koncept uz stvarni primjer. Predavač je također naglasio da se radi o jednom ishodu i da su za generalizaciju potrebni sustavni dokazi.
Slučaj 3 — Optimistični trend se stabilizirao. Student je zamolio umjetnu inteligenciju da piše o "utjecaju umjetne inteligencije na društvo"; Rezultati su bili pretežno pozitivni i podcijenjeni su rizici. Student se obratio kritičkim akademskim izvorima, dodao suprotna stajališta i napravio uravnoteženu analizu. Pristranost umjetne inteligencije prema vlastitoj domeni uravnotežena je ljudskom kontrolom.
Slab upit / Jak upit
Slab upit:
Je li umjetna inteligencija etična ili ne? Odgovor.
Ovaj upit svodi kompleksnu filozofsku raspravu na binarni odgovor; AI vraća prosjek, pojmovi ostaju nedefinirani, a pristranost postaje nevidljiva.
Snažan upit:
Vaša uloga: Nepristrani analitičar u području etike umjetne inteligencije. NEMOJTE ME OSUĐIVATI za [Scenarij]. Umjesto toga: 1) Definirajte relevantne pojmove (počinitelj, jaz u odgovornosti, algoritamska pristranost, transparentnost) — sažeto i neutralno. 2) Mapirajte moguću raspodjelu odgovornosti (dizajner, podaci, institucija, operater). 3) Predstavite najmanje dva suprotna etička stajališta, od kojih je svako najjače. 4) Imajte na umu da se ovo područje brzo mijenja i zahtijeva ažurne resurse. Sam ću procijeniti. Scenarij: [napišite scenarij]
Ovaj upit pojašnjava koncepte, uspostavlja višesmjernu raspravu i prepušta odluku vama.
Četiri predloška za kopiranje
1) Pojašnjenje koncepta:
Ukratko i objektivno definirajte sljedeće pojmove u etici umjetne inteligencije: agent/moralni subjekt, jaz odgovornosti, algoritamska pristranost, transparentnost, objašnjivost. Uključite svakodnevni primjer ispod svake definicije. Označite kontroverzna područja kao "različita mišljenja".
2) Mapiranje odgovornosti:
U sljedećem scenariju nacrtajte lanac odgovornosti za štetu koju je proizveo sustav umjetne inteligencije: dizajner, davatelj podataka, distribucijska institucija, korisnik operater, regulator. Zapišite mogući ulog i obranu svakog prstena. Donesite konačan sud. Scenarij: [skripta]
3) Prikaz suprotne pozicije:
Predstavite najmanje dva suprotna etička stajališta o [pitanju etike umjetne inteligencije], svako u svom najsnažnijem i najpoštenijem obliku. Nijednog ne proglasite "pobjednikom". Imenujte vrijednost na kojoj se temelji svaka pozicija. Pitanje: [pitanje]
4) Optimizam/kontrola pristranosti:
Provjerite podcjenjuje li sljedeći tekst o umjetnoj inteligenciji rizike ili izražava optimističko raspoloženje prema tehnologiji. Označite kritične perspektive koje nedostaju i rizike koje je potrebno dodati. Tekst: [zalijepi tekst]
Koncept / tablica napona
koncept
osnovno pitanje
etička napetost
Počinitelj/moralni subjekt
Snosi li AI odgovornost?
Alat ili predmet?
jaz odgovornosti
Tko je odgovoran kada je nastala šteta?
Raspršena odgovornost
algoritamska pristranost
Kome na štetu?
Pravda vs učinkovitost
prozirnost
Zašto ova odluka?
Objašnjivost itd. složenost
autonomija
Koliko ljudske kontrole?
Automatizacija vs. revizija
Uobičajene greške
- Jezik "AI odlučio". Zamagljuje odgovornost; AI proizvodi rezultat, ljudi ga implementiraju, a odgovornost je na ljudima.
- Svođenje rasprave na binarni odgovor. "Etički ili ne?" pitanje uništava pojmovnu dubinu; Postavite napone.
- Ne primjećujući optimističku tendenciju AI. AI može biti nestabilan u pogledu vlastite tehnologije; Dodaj kritični izvor.
- Generaliziranje jednog ishoda. Pristranost u uzorku je upečatljiva, ali sustavna tvrdnja zahtijeva sustavne dokaze.
- Oslanjanje na zastarjele informacije. Ovo polje i njegova uređenja brzo se mijenjaju; Potvrdite činjenice trenutnim izvorom.
Ukratko
Etika umjetne inteligencije jedno je od najživljih suvremenih područja filozofije, a kao etičar vodite i podučavate ovu raspravu. Jasno definirajte ključne koncepte - djelovanje, jaz u odgovornosti, algoritamsku pristranost, transparentnost, autonomiju - i uspostavite napetosti. Umjetnu inteligenciju možete koristiti i kao alat i kao primjer u ovoj raspravi, ali pazite na dvije zamke: AI ima tendenciju biti optimistična u pogledu svoje tehnologije, a njezino znanje može biti zastarjelo. Jezik kao što je "AI odlučio" zamagljuje odgovornost; Strogi konceptualni jezik stavlja odgovornost na pravo mjesto. Ti uvijek donosiš odluku.
Zadatak aplikacije
- Odaberite etički scenarij umjetne inteligencije (npr. algoritamski sustav odlučivanja).
- Sami definirajte i pregledajte ključne pojmove pomoću predloška "pojašnjenje pojma".
- Izdvojite lanac odgovornosti u slučaju štete s predloškom "mapiranje odgovornosti".
- Usporedite najmanje dva etička stajališta s predloškom "predstavljanje suprotnih stajališta".
- Testirajte pristranost u AI tekstu s predloškom "provjera optimizma" i dodajte kritičan izvor.
popis za provjeru
- [ ] Koncepte sam definirao jasno i objektivno.
- [ ] Stavio sam odgovornost na ljudski lanac, a ne na "AI".
- [ ] Raspravu sam strukturirao višestrano, nisam je sveo na binarni odgovor.
- [ ] Provjerio sam AI-jevo optimistično raspoloženje prema svom polju.
- [ ] Potvrdio sam činjenice i propise s trenutnim izvorom.
- [ ] Konačnu presudu i opravdanje donio sam sam.