Pelnas:
- Gebėjimas aiškiai apibrėžti agentūros, atsakomybės spragos, algoritminio šališkumo, skaidrumo ir savarankiškumo sąvokas bei sukurti įtampą.
- Atsakomybės uždėjimas ne „dirbtiniam intelektui“, o žmonių grandinei, kuri jį kuria, diegia ir naudoja
- Gebėjimas surengti daugiašales diskusijas, patikrinant AI optimistinį šališkumą ir pasenusias žinias apie savo technologiją
Filosofija ir taikomoji etika yra sritys, kuriose ne tik naudojamasi dirbtiniu intelektu, bet ir tiriamas DI. Pats dirbtinis intelektas šiandien yra viena gyviausių etinės filosofijos temų: kas atsakingas, kai dirbtinio intelekto sistema priima sprendimą? Jei algoritmas yra šališkas, kaip ši neteisybė vadinama? Ar AI gali būti laikomas „agentu“ (subjektu, galinčiu veikti moraliai)? Kaip etikas, jūs esate tas asmuo, kuris veda šias diskusijas ir moko. Šiame skyriuje išsiaiškinsime pagrindines DI etikos debatų sąvokas (taikomosios etikos šaką, nagrinėjančią moralinius klausimus – atsakomybę, šališkumą, skaidrumą, autonomiją, teisingumą – iškeliančius kuriant ir naudojant dirbtinio intelekto sistemas) ir pažiūrėsime, kaip geriau išanalizuoti ir išmokyti šias diskusijas naudodamiesi dirbtinio intelekto įrankiais.
Štai įdomi kilpa: AI galite naudoti kaip įrankį net diskutuodami apie AI etiką, tačiau būtent čia turite būti labiausiai atidūs dėl paties AI šališkumo ir apribojimų.
Pagrindinės sąvokos ir įtampa
Agentas ir moralinis subjektas. Norint, kad būtybė prisiimtų moralinę atsakomybę, dažnai reikia ketinimo, supratimo, laisvės ir pasekmių suvokimo. Ar AI tai turi, galima ginčytis; Dauguma nuomonių teigia, kad AI yra įrankis ir kad atsakomybė tenka žmonėms, kurie jį kuria, diegia ir naudoja. Tai atitinka principą, kuris visame modulyje pabrėžiamas: galutinė atsakomybė tenka žmogui.
Atsakomybės spraga. Kai dirbtinio intelekto sistema daro žalą, gali susidaryti situacijos, kai atsakomybė yra išsklaidyta („paliekama tuštumoje“): projektuotojas, duomenų teikėjas, juos naudojanti institucija, galutinis operatorius? Ši „atsakomybės spraga“ yra viena iš pagrindinių šiuolaikinės AI etikos problemų.
Algoritminis šališkumas. AI gali išmokti ir atkartoti istorines mokymo duomenų nelygybes; Šis algoritminis šališkumas (kai sistema sistemingai sukuria tam tikroms grupėms nepalankius rezultatus) yra diskusijų apie sąžiningumą ir diskriminaciją pagrindas.
Skaidrumas ir paaiškinamumas. Nesuvokimas, kodėl AI sprendimas yra toks, koks jis yra ("juodosios dėžės" problema), yra etinė atsakomybės ir teisės apskųsti problema. Paaiškinamumas (sistemos rezultato loginio pagrindimo padarymas žmogiškai suprantamu) vis dažniau tampa etiniu ir teisiniu reikalavimu.
Patarimas: kalbėdami apie dirbtinio intelekto etiką, aiškiai atskirkite sąvokas: užuot sakę „DI priėmė sprendimą“, sakykite: „AI sukūrė produkciją, o žmogus ją įgyvendino“. Šis kalbinis griežtumas nustato atsakomybę tinkamoje vietoje ir apsaugo diskusiją nuo miglos.
AI kaip šios diskusijos įrankio naudojimas
Pati AI yra puiki iliustracinė medžiaga AI etikos kursuose. Galite priversti mokinius rasti šališkumą AI išvestyje, parodyti sprendimo nepagrįstumą ir palyginti skirtingas nuomones. Tačiau du įspėjimai: (1) AI gali turėti komercinį arba optimistinį požiūrį į savo technologiją; Būtinai ieškokite ir kritiškų nuomonių. (2) Šis laukas greitai keičiasi; AI informacija gali būti pasenusi, eikite į dabartinį šaltinį, kad sužinotumėte taisykles ir faktus.
Atsargiai: klausdami AI „Ar AI etiškas? Kai užduodate tokį klausimą, atsakymas yra treniruočių duomenų vidurkis, o ne filosofinės diskusijos rezultatas. Paimkite šį atsakymą kaip atspirties tašką; Apibrėžkite sąvokas patys, patys nustatykite įtampas ir patys paremkite jas dabartiniais tikrais pavyzdžiais.
trys mini dėklai
1 atvejis. Diskusijos dėl atsakomybės trūkumo. Viename seminare buvo aptartas scenarijus, kai dirbtinio intelekto įdarbinimo sistema paliko grupę nepalankioje padėtyje. Paklauskite AI „kas atsakingas? Jie turėjo klausimą išanalizuoti iš skirtingų rėmų; Išvestis susiejo kūrėjo-duomenų-institucijos-operatoriaus grandinę. Grupė naudojo šį žemėlapį, kad sukurtų savo pagrįstą poziciją: jie pasisakė už kiekvienos grandies atskaitomybę, kad atsakomybė nepatektų į „tuštumą“.
2 atvejis – išankstinis nusistatymas parodytas gyvu pavyzdžiu. Dėstytojas liepė dirbtiniam intelektui surašyti tą patį darbo aprašymą skirtingais pavadinimais ir studentams parodė spaudinyje esančius stereotipus. Studentai matė algoritminį šališkumą ne kaip abstrakčią sąvoką, o konkrečiai išvestyje priešais juos. Pamoka įtvirtino koncepciją tikru pavyzdžiu. Dėstytojas taip pat pabrėžė, kad tai yra vienas rezultatas ir norint apibendrinti reikia sistemingų įrodymų.
3 atvejis – optimistinė tendencija stabilizavosi. Studentas turėjo dirbtinį intelektą parašyti apie „AI poveikį visuomenei“; Rezultatas daugiausia buvo teigiamas ir neįvertinta rizika. Studentas pasinaudojo kritiniais akademiniais šaltiniais, pridėjo priešingų požiūrių ir sukonstravo subalansuotą analizę. AI šališkumą savo srities atžvilgiu subalansuoja žmogaus kontrolė.
Silpnas raginimas / Stiprus raginimas
Silpnas raginimas:
Ar dirbtinis intelektas yra etiškas ar ne? Atsakymas.
Šis raginimas paverčia sudėtingą filosofinę diskusiją dvejetainiu atsakymu; AI grąžina vidurkį, sąvokos lieka neapibrėžtos, o šališkumas tampa nematomas.
Galingas raginimas:
Jūsų vaidmuo: nešališkas AI etikos srities analitikas. NETEISKITE manęs pagal [scenarijus]. Vietoj to:1) Apibrėžkite atitinkamas sąvokas (kaltininkas, atsakomybės spraga, algoritminis šališkumas, skaidrumas) – glausti ir neutralūs.2) Nubrėžkite galimą atsakomybės pasiskirstymą (projektuotojas, duomenys, institucija, operatorius).3) Pateikite bent dvi priešingas etines pozicijas, kurių kiekviena yra stipriausia.4) Atkreipkite dėmesį, kad ši sritis keičiasi greitai. Scenarijus: [parašyk scenarijų]
Šis raginimas paaiškina sąvokas, užmezga daugiašalę diskusiją ir palieka sprendimą jums.
Keturi kopijuojami šablonai
1) Sąvokos paaiškinimas:
Trumpai ir objektyviai apibrėžkite šias AI etikos sąvokas: agentas/moralinis subjektas, atsakomybės spraga, algoritminis šališkumas, skaidrumas, paaiškinamumas. Įtraukite kasdienį pavyzdį prie kiekvieno apibrėžimo. Prieštaringas sritis pažymėkite kaip „nuomonės skiriasi“.
2) Atsakomybės žemėlapis:
Pagal šį scenarijų nubrėžkite atsakomybės už AI sistemos padarytą žalą grandinę: dizaineris, duomenų teikėjas, platinanti institucija, naudotojo operatorius, reguliuotojas. Užrašykite galimą kiekvieno žiedo statymą ir gynybą. Padarykite galutinį sprendimą. Scenarijus: [scenarijus]
3) Priešingos pozicijos pristatymas:
Pateikite bent dvi priešingas etines pozicijas [AI etikos klausimu], kurių kiekviena yra stipriausia ir sąžiningiausia. Neskelbkite nė vieno „laimėtoju“. Pavadinkite vertę, kuria grindžiama kiekviena pozicija. Klausimas: [klausimas]
4) Optimizmo / šališkumo kontrolė:
Patikrinkite, ar toliau pateiktame tekste apie dirbtinį intelektą nepakankamai įvertinama rizika arba neperteikiamas optimistiškas požiūris į technologiją. Pažymėkite visas svarbias perspektyvas, kurių trūksta, ir riziką, kurią reikia pridėti. Tekstas: [įklijuoti tekstą]
Koncepcijos / įtampos lentelė
koncepcija
pagrindinis klausimas
etinė įtampa
Kaltininkas/moralinis subjektas
Ar AI prisiima atsakomybę?
Priemonė ar tema?
atsakomybės spraga
Kas atsako padarius žalą?
Išsklaidyta atskaitomybė
algoritminis šališkumas
Trūkumas kam?
Teisingumas prieš efektyvumą
skaidrumas
Kodėl toks sprendimas?
Paaiškinamumas ir tt sudėtingumas
autonomija
Kiek žmogus kontroliuoja?
Automatika vs auditas
Dažnos klaidos
- „AI nusprendė“ kalba. Sutrinka atsakomybė; AI gamina produkciją, žmonės ją įgyvendina, o atsakomybė tenka žmonėms.
- Diskusijos sumažinimas iki dvejetainio atsakymo. – Etiška ar ne? klausimas griauna konceptualų gylį; Nustatykite įtampas.
- Nepastebėti optimistinės AI tendencijos. DI gali būti nestabilus dėl savo technologijos; Pridėkite kritinį šaltinį.
- Apibendrinant vieną rezultatą. Imties šališkumas yra ryškus, tačiau sistemingam teiginiui reikia sistemingų įrodymų.
- Pasikliauti pasenusia informacija. Ši sritis ir jos išdėstymai greitai keičiasi; Patvirtinkite faktus naudodami dabartinį šaltinį.
Apibendrinant
Dirbtinio intelekto etika yra viena ryškiausių šiuolaikinių filosofijos sričių, o kaip etikas jūs ir vedate, ir mokote šias diskusijas. Aiškiai apibrėžkite pagrindines sąvokas – agentūra, atskaitomybės atotrūkis, algoritminis šališkumas, skaidrumas, savarankiškumas – ir sukurkite įtampą. Šioje diskusijoje AI galite naudoti ir kaip įrankį, ir kaip pavyzdį, tačiau saugokitės dviejų spąstų: AI linkęs optimistiškai vertinti savo technologiją, o jo žinios gali būti pasenusios. Tokia kalba kaip „AI nusprendė“ sulieja atsakomybę; Griežta konceptuali kalba nustato atsakomybę į reikiamą vietą. Jūs visada priimate sprendimą.
Taikymo užduotis
- Pasirinkite AI etikos scenarijų (pvz., algoritminę sprendimų sistemą).
- Apibrėžkite ir patys peržiūrėkite pagrindines sąvokas naudodami „sąvokos paaiškinimo“ šabloną.
- Ištraukite atsakomybės grandinę žalos atveju naudodami „atsakomybės žemėlapio“ šabloną.
- Palyginkite bent dvi etines pozicijas su „priešingos pozicijos pristatymo“ šablonu.
- Išbandykite AI teksto šališkumą naudodami „optimizmo patikrinimo“ šabloną ir pridėkite svarbų šaltinį.
kontrolinis sąrašas
- [ ] Sąvokas apibrėžiau aiškiai ir objektyviai.
- [ ] Atsakomybę skyriau žmonių grandinei, o ne „AI“.
- [ ] Diskusiją susisteminau įvairiapusiškai, nesumažinau jos iki dvejetainio atsakymo.
- [ ] Patikrinau optimistišką AI požiūrį į savo sritį.
- [ ] Faktus ir nuostatas patvirtinau dabartiniu šaltiniu.
- [ ] Galutinį sprendimą ir pateisinimą pateikiau pats.