Ieguvumi:
- Spēja skaidri definēt aģentūras, atbildības plaisas, algoritmiskās neobjektivitātes, caurspīdīguma un autonomijas jēdzienus un radīt spriedzi.
- Atbildības uzlikšana nevis “mākslīgajam intelektam”, bet gan cilvēku ķēdei, kas to izstrādā, izvieto un izmanto
- Spēja vadīt daudzpusējas debates, pārbaudot AI optimistisko neobjektivitāti un novecojušās zināšanas par savu tehnoloģiju
Filozofija un lietišķā ētika ir jomas, kas ne tikai izmanto AI, bet arī pēta AI. Pats mākslīgais intelekts ir viena no dzīvīgākajām tēmām ētikas filozofijā mūsdienās: kurš ir atbildīgs, ja AI sistēma pieņem lēmumu? Ja algoritms ir neobjektīvs, kā šo netaisnību sauc? Vai AI var uzskatīt par "aģentu" (subjektu, kas spēj morāli rīkoties)? Kā ētiķis jūs esat tas, kurš gan vada šīs diskusijas, gan māca. Šajā nodaļā mēs noskaidrosim AI ētikas debašu pamatjēdzienus (piemērotās ētikas nozare, kas izskata morālos jautājumus — atbildību, neobjektivitāti, caurspīdīgumu, autonomiju, taisnīgumu —, ko rada mākslīgā intelekta sistēmu izstrāde un izmantošana) un redzēsim, kā jūs varat labāk analizēt un mācīt šīs debates, izmantojot AI rīkus.
Šeit ir interesanta cilpa: jūs varat izmantot AI kā rīku pat tad, kad apspriežat AI ētiku, taču tieši šajā gadījumā jums ir jābūt īpaši uzmanīgam pret paša AI novirzēm un ierobežojumiem.
Pamatjēdzieni un spriedzes
Aģents un morāles subjekts. Lai būtne uzņemtos morālu atbildību, bieži vien ir nepieciešams nodoms, izpratne, brīvība un seku apzināšanās. Tas, vai AI ir tādi, ir apstrīdams; Lielākā daļa uzskatu, ka AI ir rīks un ka atbildība paliek cilvēkiem, kuri to izstrādā, izvieto un izmanto. Tas atbilst principam, ko modulis uzsver visā: galīgā atbildība gulstas uz cilvēku.
Atbildības plaisa. Ja mākslīgā intelekta sistēma rada kaitējumu, var rasties situācijas, kad atbildība ir izkliedēta (“atstāt tukšumā”): projektētājs, datu sniedzējs, iestāde, kas tos izmanto, galvenais operators? Šī "atbildības plaisa" ir viena no galvenajām mūsdienu AI ētikas problēmām.
Algoritmiskā novirze. AI var mācīties un atkārtot vēsturiskās nevienlīdzības apmācības datos; Šī algoritmiskā novirze (kad sistēma sistemātiski rada rezultātus, kas nelabvēlīgi ietekmē noteiktas grupas) ir diskusiju par godīgumu un diskrimināciju pamatā.
Pārredzamība un izskaidrojamība. Nespēja saprast, kāpēc AI lēmums ir tāds, kāds tas ir (“melnās kastes” problēma), ir ētiska problēma saistībā ar atbildību un tiesībām pārsūdzēt. Izskaidrojamība (sistēmas izvades pamatojuma padarīšana cilvēciski saprotama) arvien vairāk ir kļuvusi par ētisku un juridisku prasību.
Padoms. Apspriežot AI ētiku, skaidri atdaliet jēdzienus: tā vietā, lai teiktu "AI pieņēma lēmumu", sakiet: "AI radīja rezultātu, bet cilvēks to īstenoja". Šī lingvistiskā stingrība noliek atbildību īstajā vietā un pasargā diskusiju no neskaidrības.
AI kā instrumenta izmantošana šajās debatēs
AI pati par sevi ir lielisks ilustratīvs materiāls AI ētikas kursos. Jūs varat likt studentiem atrast neobjektivitāti AI izvadē, parādīt lēmuma nepamatotību un salīdzināt dažādus viedokļus. Taču divi brīdinājumi: (1) AI var būt komerciāls vai optimistisks attiecībā uz savu tehnoloģiju; Noteikti meklējiet arī kritiskus viedokļus. (2) Šis lauks strauji mainās; AI informācija var būt novecojusi. Noteikumus un faktus skatiet pašreizējā avotā.
Uzmanību: jautājot AI: vai AI ir ētisks? Kad jūs uzdodat šādu jautājumu, atbilde ir apmācības datu vidējais rādītājs, nevis filozofiskas diskusijas rezultāts. Izmantojiet šo atbildi kā sākumpunktu; Definējiet jēdzienus paši, izveidojiet spriedzi paši un atbalstiet tos ar pašreizējiem reāliem piemēriem.
trīs mini futrāļi
1. gadījums — diskusijas par atbildības trūkumu. Vienā seminārā tika apspriests scenārijs, kurā ar AI darbināma personāla atlases sistēma atstāja grupu neizdevīgā stāvoklī. Pajautājiet AI "kurš ir atbildīgs?" Viņiem jautājums tika analizēts no dažādiem ietvariem; Izvade kartēja ķēdi dizainers-dati-iestāde-operators. Grupa izmantoja šo karti, lai izstrādātu savu argumentētu nostāju: viņi iestājās par katras saites atbildību, lai atbildība neiekļūtu "tukšumā".
2. gadījums — aizspriedumi parādīti ar dzīvu piemēru. Instruktors lika mākslīgajam intelektam uzrakstīt vienu un to pašu darba aprakstu ar dažādiem nosaukumiem un skolēniem parādīja izdrukā esošos stereotipus. Studenti algoritmisko novirzi redzēja nevis kā abstraktu jēdzienu, bet gan konkrēti viņu priekšā esošajā izvadā. Nodarbība iesakņoja jēdzienu ar reālu piemēru. Lektore arī uzsvēra, ka tas ir vienots rezultāts un vispārināšanai ir nepieciešami sistemātiski pierādījumi.
3. gadījums — optimistiskā tendence ir stabilizējusies. Kāds students lika AI uzrakstīt par tēmu "AI ietekme uz sabiedrību"; Rezultāts pārsvarā bija pozitīvs un nenovērtēja riskus. Students pievērsās kritiskiem akadēmiskiem avotiem, pievienoja pretējus uzskatus un izveidoja līdzsvarotu analīzi. AI aizspriedumus pret savu domēnu līdzsvaro cilvēka kontrole.
Vāja uzvedne / spēcīga uzvedne
Vāja uzvedne:
Vai mākslīgais intelekts ir ētisks vai nē? Atbilde.
Šī uzvedne samazina sarežģītas filozofiskas debates līdz binārai atbildei; AI atgriež vidējo vērtību, jēdzieni paliek nedefinēti un neobjektivitāte kļūst neredzama.
Spēcīga uzvedne:
Jūsu loma: objektīvs analītiķis AI ētikas jomā. NESODNI MANI par [scenāriju]. Tā vietā: 1) definējiet atbilstošos jēdzienus (vainīgais, atbildības trūkums, algoritmu neobjektivitāte, caurskatāmība) — īsi un neitrāli.2) Kartējiet iespējamo atbildības sadalījumu (projektētājs, dati, iestāde, operators).3) Norādiet vismaz divas pretējas ētiskās nostājas, katru no tām spēcīgākajām.4) Ņemiet vērā, ka šī joma strauji mainās. Scenārijs: [uzrakstīt skriptu]
Šī uzvedne precizē jēdzienus, izveido daudzpusēju diskusiju un atstāj lēmumu jūsu ziņā.
Četras kopējamas veidnes
1) Jēdziena precizējums:
Īsi un objektīvi definējiet šādus mākslīgā intelekta ētikas jēdzienus: aģents/morāls subjekts, atbildības plaisa, algoritmiskā neobjektivitāte, caurspīdīgums, izskaidrojamība. Katrā definīcijā iekļaujiet ikdienas piemēru. Atzīmējiet strīdīgās jomas kā "viedokļi atšķiras".
2) Atbildības kartēšana:
Šajā scenārijā izveidojiet atbildības ķēdi par AI sistēmas radītajiem bojājumiem: projektētājs, datu sniedzējs, izplatīšanas iestāde, lietotāja operators, regulators. Pierakstiet katra gredzena iespējamo likmi un aizsardzību. Izdariet galīgo spriedumu. Scenārijs: [skripts]
3) Pretējas pozīcijas prezentācija:
Sniedziet vismaz divas pretējas ētiskas nostājas [AI ētikas jautājumā], katru savā spēcīgākajā un godīgākajā formā. Neatklājiet nevienu par "uzvarētāju". Nosauciet vērtību, uz kuras ir balstīta katra pozīcija. Jautājums: [jautājums]
4) Optimisma/neobjektivitātes kontrole:
Pārbaudiet, vai tālāk tekstā par mākslīgo intelektu nav pietiekami novērtēti riski vai nav optimistiska attieksme pret tehnoloģiju. Atzīmējiet visas kritiskās perspektīvas, kuru trūkst, un riskus, kas jāpievieno. Teksts: [ielīmēt tekstu]
Jēdziens / sprieguma tabula
koncepcija
pamatjautājums
ētiskā spriedze
Vainīgais/morāls subjekts
Vai AI ir atbildīgs?
Instruments vai priekšmets?
atbildības plaisa
Kurš ir atbildīgs, ja tiek nodarīts kaitējums?
Izkliedēta atbildība
algoritmiskā novirze
Trūkums kam?
Taisnīgums pret efektivitāti
caurspīdīgums
Kāpēc šāds lēmums?
Izskaidrojamība utt sarežģītība
autonomija
Cik daudz cilvēku kontrolē?
Automatizācija pret auditu
Biežas kļūdas
- “AI nolēma” valoda. Tas nojauc atbildību; AI rada produkciju, cilvēki to ievieš, un atbildība gulstas uz cilvēkiem.
- Debašu samazināšana līdz binārai atbildei. "Ētiski vai nē?" jautājums iznīcina konceptuālo dziļumu; Iestatiet spriegumus.
- Nepamanot AI optimistisko tendenci. AI var būt nestabils attiecībā uz savu tehnoloģiju; Pievienojiet kritisko avotu.
- Viena rezultāta vispārināšana. Neobjektivitāte izlasē ir pārsteidzoša, taču sistemātiskam apgalvojumam ir nepieciešami sistemātiski pierādījumi.
- Paļaušanās uz novecojušu informāciju. Šī joma un tās kārtība strauji mainās; Apstipriniet faktus ar pašreizējo avotu.
Rezumējot
Mākslīgā intelekta ētika ir viena no dinamiskākajām mūsdienu filozofijas jomām, un kā ētiķis jūs gan vadāt, gan mācāt šīs debates. Skaidri definējiet galvenos jēdzienus — aģentūra, atbildības trūkums, algoritmu aizspriedumi, caurspīdīgums, autonomija — un izveidojiet spriedzi. Šajā diskusijā AI varat izmantot gan kā rīku, gan kā piemēru, taču uzmanieties no divām kļūmēm: AI mēdz būt optimistisks par savu tehnoloģiju, un tās zināšanas var būt novecojušas. Tāda valoda kā “AI nolemts” samazina atbildību; Stingra konceptuālā valoda atbildību noliek pareizajā vietā. Jūs vienmēr pieņemat lēmumu.
Lietojumprogrammas uzdevums
- Izvēlieties AI ētikas scenāriju (piemēram, algoritmisku lēmumu sistēmu).
- Lieciet definēt un pārskatīt galvenos jēdzienus, izmantojot veidni “jēdziena skaidrojums”.
- Izvelciet atbildības ķēdi bojājumu gadījumā, izmantojot veidni "atbildības kartēšana".
- Salīdziniet vismaz divas ētiskās pozīcijas ar veidni “pretējas pozīcijas prezentācija”.
- Pārbaudiet neobjektivitāti AI tekstā, izmantojot veidni “optimisma pārbaude”, un pievienojiet svarīgu avotu.
kontrolsaraksts
- [ ] Es definēju jēdzienus skaidri un objektīvi.
- [ ] Es uzliku atbildību cilvēku ķēdei, nevis “AI”.
- [ ] Diskusiju strukturēju daudzpusīgi, nereducēju uz bināru atbildi.
- [ ] Es pārbaudīju AI optimistisko attieksmi pret savu lauku.
- [ ] Esmu apstiprinājis faktus un noteikumus ar pašreizējo avotu.
- [ ] Es pats sagatavoju galīgo spriedumu un pamatojumu.