Tehisintellekti eetika arutelu: agentsus, vastutus, erapoolik ja läbipaistvus

Kasu:

• Oskus selgelt määratleda agentuuri, vastutuse lõhe, algoritmilise kallutatuse, läbipaistvuse ja autonoomia mõisted ning tekitada pingeid.
• Vastutuse panemine mitte tehisintellektile, vaid inimahelale, mis seda kavandab, juurutab ja kasutab
• Võimalus pidada mitmekülgset arutelu, kontrollides tehisintellekti optimistlikku eelarvamust ja aegunud teadmisi oma tehnoloogia kohta

Filosoofia ja rakenduseetika on valdkonnad, mis mitte ainult ei kasuta tehisintellekti, vaid uurivad ka tehisintellekti. Tehisintellekt ise on tänapäeval üks elavamaid teemasid eetilises filosoofias: kes vastutab, kui AI-süsteem otsuse teeb? Kui algoritm on kallutatud, kuidas seda ebaõiglust nimetatakse? Kas tehisintellekti võib pidada "agendiks" (subjektiks, kes on võimeline moraalselt tegutsema)? Eetikuna olete inimene, kes nii neid arutelusid läbi viib kui ka õpetab. Selles üksuses selgitame tehisintellektisüsteemide arendamise ja kasutamisega kaasnevaid moraalseid küsimusi (vastutus, erapoolik, läbipaistvus, autonoomia, õiglus) uuriva tehisintellektisüsteemide arendamise ja kasutamisega seotud moraaliküsimusi (vastutus, erapoolik, läbipaistvus, autonoomia, õiglus) põhimõisteid ning vaatame, kuidas saate seda arutelu tehisintellekti vahenditega paremini analüüsida ja õpetada.

Siin on huvitav tsükkel: saate AI-d kasutada tööriistana isegi siis, kui arutlete tehisintellekti eetika üle, kuid just seal peate olema AI enda eelarvamuste ja piirangute suhtes kõige tähelepanelikum.

Põhimõisted ja pinged

Agent ja moraali subjekt. Moraalse vastutuse kandmiseks on olendil sageli vaja kavatsust, mõistmist, vabadust ja tagajärgede teadvustamist. Kas tehisintellektil need on, on vaieldav; Enamik seisukohti on seisukohal, et AI on tööriist ja et vastutus jääb inimestele, kes seda kavandavad, juurutavad ja kasutavad. See on kooskõlas põhimõttega, mida moodul kogu ulatuses rõhutab: lõplik vastutus lasub inimesel.

Vastutuse lõhe. Kui tehisintellekti süsteem kahjustab, võib tekkida olukordi, kus vastutus hajub (“tühjusesse jäetud”): projekteerija, andmete pakkuja, neid kasutav asutus, lõplik operaator? See "vastutuse lõhe" on üks kaasaegse tehisintellekti eetika keskseid probleeme.

Algoritmiline eelarvamus. Tehisintellekt saab õppida ja korrata koolitusandmete ajaloolist ebavõrdsust; See algoritmiline eelarvamus (kui süsteem annab süstemaatiliselt tulemusi, mis seavad teatud rühmad ebasoodsasse olukorda) on õigluse ja diskrimineerimise arutelude keskmes.

Läbipaistvus ja seletatavus. Suutmatus mõista, miks tehisintellekti otsus on selline, nagu see on (nn musta kasti probleem), on vastutuse ja edasikaebamise õiguse seisukohalt eetiline probleem. Seletatavus (süsteemi väljundi põhjenduse inimlikult arusaadavaks muutmine) on üha enam muutunud eetiliseks ja juriidiliseks nõudeks.

Näpunäide: tehisintellekti eetika üle arutledes eraldage mõisted selgelt: selle asemel, et öelda "AId tegi otsuse", öelge: "AI" tegi väljundi, inimene rakendas seda." See keeleline rangus asetab vastutuse õigesse kohta ja päästab arutelu hämarusest.

AI kasutamine selles arutelus tööriistana

AI ise on suurepärane illustreeriv materjal tehisintellekti eetika kursustel. Saate lasta õpilastel leida tehisintellekti väljundis eelarvamusi, näidata otsuse põhjendamatust ja võrrelda erinevaid arvamusi. Kuid kaks hoiatust: (1) AI võib olla oma tehnoloogia suhtes kommertslik või optimistlik; Otsige kindlasti ka kriitilisi arvamusi. (2) See väli muutub kiiresti; Tehisintellekti teave võib olla aegunud, eeskirjade ja faktide leiate praegusest allikast.

Ettevaatust. Kui küsite tehisintellekti kohta "Kas tehisintellekt on eetiline?" Kui esitate sellise küsimuse, on vastuseks treeningandmete keskmine, mitte filosoofilise arutelu tulemus. Võtke see vastus lähtepunktiks; Määratlege ise mõisted, kehtestage ise pinged ja toetage neid ise praeguste reaalsete näidetega.

kolm minikarpi

Juhtum 1 – vastutuse puudujäägi arutelu. Ühel seminaril arutati stsenaariumi, kus tehisintellektil töötav värbamissüsteem jättis rühma ebasoodsasse olukorda. Küsige AI-lt "kes vastutab?" Nad lasid küsimust analüüsida erinevatest raamistikest lähtuvalt; Väljund kaardistas ahela kujundaja-andmed-asutus-operaator. Rühm kasutas seda kaarti oma põhjendatud seisukoha väljatöötamiseks: nad toetasid iga lüli aruandekohustust, et vastutus ei langeks "tühjusesse".

Juhtum 2 – eelarvamust demonstreeritakse elava näitega. Üks juhendaja lasi tehisintellektil kirjutada sama ametijuhendi erinevate nimedega ja näitas õpilastele väljatrükis olevaid stereotüüpe. Õpilased nägid algoritmilist eelarvamust mitte abstraktse mõistena, vaid konkreetselt nende ees olevas väljundis. Tund juurutas kontseptsiooni ehtsa näitega. Samuti rõhutas õppejõud, et tegemist on ühekordse tulemusega ja üldistamiseks on vaja süstemaatilist tõendusmaterjali.

3. juhtum – optimistlik suundumus on stabiliseerunud. Üliõpilane lasi tehisintellektil kirjutada teemal "AI mõju ühiskonnale"; Väljund oli valdavalt positiivne ja riske alahinnatud. Üliõpilane uuris kriitilisi akadeemilisi allikaid, lisas vastakaid seisukohti ja koostas tasakaalustatud analüüsi. AI eelarvamust oma domeeni suhtes tasakaalustab inimkontroll.

Nõrk viip / Tugev viip

Nõrk viip:

Kas tehisintellekt on eetiline või mitte? Vastus.

See käsk taandab keerulise filosoofilise debati binaarseks vastuseks; AI tagastab keskmise, mõisted jäävad määratlemata ja eelarvamus muutub nähtamatuks.

Võimas viip:

Teie roll: erapooletu analüütik tehisintellekti eetika valdkonnas. ÄRGE mõistke minu üle kohut [stsenaariumi] põhjal. Selle asemel:1) Määratlege asjakohased mõisted (kurjategija, vastutuse lünk, algoritmiline kallutatus, läbipaistvus) — lühidalt ja neutraalselt.2) Kaardistage vastutuse võimalik jaotus (projekteerija, andmed, asutus, operaator).3) Esitage vähemalt kaks vastandlikku eetilist seisukohta, kumbki kõige tugevamal kujul.4) Pange tähele, et see valdkond muutub kiiresti. Stsenarist: [kirjutage stsenaarium]

See viip selgitab mõisteid, loob mitmekülgse arutelu ja jätab otsustamise teie teha.

Neli kopeeritavat malli

1) Mõiste selgitus:

Defineerige lühidalt ja objektiivselt järgmised tehisintellekti eetika mõisted: agent/moraalsubjekt, vastutuslõhe, algoritmiline eelarvamus, läbipaistvus, seletatavus. Lisage iga definitsiooni alla igapäevane näide. Märkige vastuolulised valdkonnad kui "arvamused erinevad".

2) Vastutuse kaardistamine:

Joonistage järgmise stsenaariumi korral tehisintellektisüsteemi tekitatud kahju eest vastutusahel: kujundaja, andmepakkuja, levitaja, kasutaja operaator, regulaator. Kirjutage üles iga rõnga võimalik panus ja kaitse. Tehke lõplik otsus. Stsenarist: [stsenaarium]

3) Vastupidine seisukoht:

Esitage [AI eetikaküsimuses] vähemalt kaks vastandlikku eetilist seisukohta, kumbki oma tugevaimas ja ausamas vormis. Ärge kuulutage kedagi "võitjaks". Nimetage väärtus, millel iga positsioon põhineb. Küsimus: [küsimus]

4) Optimismi/kallutatuse juhtimine:

Kontrollige, kas järgnev tehisintellekti käsitlev tekst alahindab riske või väljendab tehnoloogia suhtes optimistlikku suhtumist. Märkige kõik puuduolevad kriitilised perspektiivid ja riskid, mis vajavad lisamist. Tekst: [kleebi tekst]

Mõiste / pingetabel

kontseptsioon

põhiküsimus

eetiline pinge

Tegija/moraalisubjekt

Kas AI kannab vastutust?

Tööriist või teema?

vastutuse lõhe

Kes vastutab kahju tekitamise eest?

Hajus vastutus

algoritmiline eelarvamus

Kellele puudus?

Õiglus vs tõhusus

läbipaistvus

Miks selline otsus?

Seletatavus jne keerukus

autonoomia

Kui palju on inimese kontrolli?

Automatiseerimine vs audit

Levinud vead

• "AI otsustas" keel. See hägustab vastutust; AI toodab väljundit, inimesed rakendavad seda ja vastutus lasub inimestel.
• Arutelu taandamine binaarseks vastuseks. "Eetiline või mitte?" küsimus hävitab kontseptuaalse sügavuse; Seadistage pinged.
• Ei märka tehisintellekti optimistlikku tendentsi. AI võib olla oma tehnoloogia suhtes ebastabiilne; Lisage kriitiline allikas.
• Ühe tulemuse üldistamine. Valimi kallutatus on silmatorkav, kuid süstemaatiline väide nõuab süstemaatilisi tõendeid.
• Tuginedes aegunud teabele. See valdkond ja selle korraldus muutuvad kiiresti; Kinnitage faktid praeguse allikaga.

Kokkuvõttes

Tehisintellekti eetika on üks elavamaid kaasaegseid filosoofiavaldkondi ja eetikuna juhite ja õpetate seda arutelu. Määratlege selgelt põhimõisted – agentuur, vastutuse lünk, algoritmiline eelarvamus, läbipaistvus, autonoomia – ja tekitage pingeid. Saate selles arutelus kasutada tehisintellekti nii tööriista kui ka näitena, kuid olge ettevaatlik kahe lõksuga: AI kipub oma tehnoloogia suhtes optimistlik ja selle teadmised võivad olla aegunud. Sellised keeled nagu „AI otsustas” hägustab vastutust; Range mõistekeel asetab vastutuse õigesse kohta. Otsuse teete alati teie.

Rakenduse ülesanne

1. Valige tehisintellekti eetikastsenaarium (nt algoritmiline otsustussüsteem).
2. Laske võtmemõisted defineerida ja malli „mõiste selgitamine” abil ise üle vaadata.
3. Tõmmake vastutuse ahel välja kahju korral malliga "vastutuse kaardistamine".
4. Võrrelge vähemalt kahte eetilist seisukohta malliga "vastandpositsiooni esitlemine".
5. Testige tehisintellekti teksti kallutatust optimismikontrolli malliga ja lisage kriitiline allikas.

kontrollnimekiri

• [ ] Määratlesin mõisted selgelt ja objektiivselt.
• [ ] Panin vastutuse inimahelale, mitte AI-le.
• [ ] Struktureerisin arutelu mitmekülgselt, ma ei taandanud seda binaarseks vastuseks.
• [ ] Kontrollisin tehisintellekti optimistlikku suhtumist oma valdkonda.
• [ ] Olen faktid ja määrused praeguse allikaga kinnitanud.
• [ ] Lõpliku kohtuotsuse ja põhjenduse esitasin ise.