Voitot:
- Kyky määritellä selkeästi toimivallan, vastuuvajeen, algoritmisen harhan, läpinäkyvyyden ja autonomian käsitteet ja luoda jännitteitä.
- Vastuun asettaminen ei "tekoälylle" vaan ihmisketjulle, joka suunnittelee, ottaa käyttöön ja käyttää sitä
- Kyky käydä monipuolista keskustelua tarkistamalla tekoälyn optimistinen harha ja vanhentunut tietämys omasta teknologiastaan
Filosofia ja soveltava etiikka ovat aloja, jotka eivät vain käytä tekoälyä, vaan myös tutkivat tekoälyä. Tekoäly itsessään on yksi eettisen filosofian vilkkaimmista aiheista nykyään: Kuka on vastuussa, kun tekoälyjärjestelmä tekee päätöksen? Jos algoritmi on puolueellinen, miten tätä epäoikeudenmukaisuutta kutsutaan? Voidaanko tekoälyä pitää "agenttina" (moraaliseen toimintaan kykenevänä subjektina)? Eettikkona olet henkilö, joka sekä johtaa näitä keskusteluja että opettaa. Tässä osiossa selvennämme tekoälyjärjestelmien kehityksen ja käytön aiheuttamia moraalisia kysymyksiä – vastuullisuutta, ennakkoluuloja, läpinäkyvyyttä, autonomiaa, oikeudenmukaisuutta – käsittelevän tekoälyn eettisen keskustelun peruskäsitteitä ja katsomme, kuinka voit analysoida ja opettaa tätä keskustelua paremmin tekoälytyökalujen avulla.
Tässä on mielenkiintoinen silmukka: Voit käyttää tekoälyä työkaluna jopa puhuessasi tekoälyn etiikasta – mutta juuri siellä sinun on oltava valppain tekoälyn omien harhojen ja rajoitusten suhteen.
Peruskäsitteet ja jännitteet
Agentti ja moraalinen subjekti. Aikomus, ymmärrys, vapaus ja seurausten tietoisuus ovat usein tarpeen, jotta olento voi kantaa moraalista vastuuta. Onko tekoälyllä näitä, on kyseenalaista; Useimmat näkemykset ovat sitä mieltä, että tekoäly on työkalu ja että vastuu on ihmisillä, jotka suunnittelevat, ottavat käyttöön ja käyttävät sitä. Tämä on linjassa sen periaatteen kanssa, jota moduuli painottaa kauttaaltaan: lopullinen vastuu on ihmisellä.
Vastuuvaje. Kun tekoälyjärjestelmä aiheuttaa vahinkoa, voi syntyä tilanteita, joissa vastuu hajaantuu ("jätetään tyhjään"): suunnittelija, tiedon toimittaja, sitä käyttävä laitos, lopullinen toimija? Tämä "vastuukuilu" on yksi nykyajan tekoälyn etiikan keskeisistä ongelmista.
Algoritminen harha. Tekoäly voi oppia ja toistaa koulutustiedon historiallisia epätasa-arvoja; Tämä algoritminen harha (kun järjestelmä tuottaa systemaattisesti tuloksia, jotka haittaavat tiettyjä ryhmiä) on oikeudenmukaisuutta ja syrjintää koskevien keskustelujen ytimessä.
Avoimuus ja selitettävyys. Se, että ei ymmärretä, miksi tekoälypäätös on sellainen kuin se on ("mustan laatikon" ongelma) on eettinen ongelma vastuun ja valitusoikeuden kannalta. Selitettävyydestä (järjestelmän tuotoksen perustelujen tekeminen inhimillisesti ymmärrettäväksi) on tullut yhä useammin eettinen ja oikeudellinen vaatimus.
Vinkki: Kun puhut tekoälyn etiikasta, erota käsitteet selkeästi: Sen sijaan, että sanoisit "Tekoäly teki päätöksen", sano "Tekoäly tuotti tuloksen, ihminen toteutti sen." Tämä kielellinen ankaruus asettaa vastuun oikeaan paikkaan ja säästää keskustelun hämärältä.
Tekoälyn käyttäminen työkaluna tässä keskustelussa
Tekoäly itsessään on loistava havainnollistava materiaali tekoälyn eettisillä kursseilla. Voit pyytää oppilaita löytämään harhaa tekoälytuloksesta, osoittamaan päätöksen perusteettomuuden ja vertailla eri mielipiteitä. Mutta kaksi varoitusta: (1) tekoäly voi olla kaupallinen tai optimistinen teknologiansa suhteen; Muista etsiä myös kriittisiä mielipiteitä. (2) Tämä kenttä muuttuu nopeasti; Tekoälyn tiedot voivat olla vanhentuneita, katso säännökset ja tosiasiat nykyisestä lähteestä.
Varoitus: Kun kysytään tekoälyä "Onko tekoäly eettistä?" Kun kysyt tällaisen kysymyksen, saat vastauksen harjoitustietojen keskiarvona, ei filosofisen keskustelun tulos. Ota tämä vastaus lähtökohtana; Määrittele itse käsitteet, luo itse jännitteet ja tue niitä itse ajankohtaisilla tosiesimerkeillä.
kolme minilaukkua
Tapaus 1 – Vastuuvajekeskustelu. Yhdessä seminaarissa keskusteltiin skenaariosta, jossa tekoälyllä toimiva rekrytointijärjestelmä jätti ryhmän epäedulliseen asemaan. Kysy tekoälyltä "kuka on vastuussa?" He analysoivat kysymyksen eri viitekehyksestä; Tulos kartoitti suunnittelija-data-laitos-operaattori-ketjun. Ryhmä käytti tätä karttaa kehittääkseen oman perustellun kantansa: he puolsivat jokaisen linkin vastuullisuutta, jotta vastuu ei joutuisi "tyhjiöön".
Tapaus 2 – Ennakkoluulot osoitettu elävällä esimerkillä. Ohjaaja käski tekoälyä kirjoittamaan saman työnkuvan eri nimillä ja näytti tulosteen stereotypiat opiskelijoille. Opiskelijat eivät nähneet algoritmista harhaa abstraktina käsitteenä, vaan konkreettisesti edessään olevassa tuotoksessa. Oppitunti juurtui konseptiin todellisella esimerkillä. Luennoitsija korosti myös, että tämä oli yksittäinen tulos ja yleistämiseen tarvitaan systemaattista näyttöä.
Tapaus 3 – Optimistinen suuntaus on vakiintunut. Eräs opiskelija pyysi tekoälyä kirjoittamaan "AI:n vaikutuksesta yhteiskuntaan"; Tuotos oli pääosin positiivinen ja riskit aliarvioitu. Opiskelija käytti kriittisiä akateemisia lähteitä, lisäsi vastakkaisia näkemyksiä ja rakensi tasapainoisen analyysin. Tekoälyn ennakkoasenne omaa alaansa kohtaan on tasapainotettu ihmisen ohjauksella.
Heikko kehote / Vahva kehote
Heikko kehote:
Onko tekoäly eettistä vai ei? Vastaus.
Tämä kehote pelkistää monimutkaisen filosofisen keskustelun binaariseksi vastaukseksi; AI palauttaa keskiarvon, käsitteet jäävät määrittelemättömiksi ja harha muuttuu näkymättömäksi.
Tehokas kehotus:
Roolisi: Puolueeton analyytikko tekoälyn etiikan alalla. ÄLÄ TUOMIO MINUA [Skenaariossa]. Sen sijaan:1) Määrittele asiaankuuluvat käsitteet (tekijä, vastuuvaje, algoritminen harha, läpinäkyvyys) – ytimekäs ja neutraali.2) Kartoita mahdollinen vastuun jakautuminen (suunnittelija, data, laitos, operaattori).3) Esitä vähintään kaksi vastakkaista eettistä kantaa, kumpikin vahvimmillaan.4) Huomaa, että tämä ala muuttuu nopeasti. Käsikirjoitus: [kirjoita käsikirjoitus]
Tämä kehote selventää käsitteitä, synnyttää monipuolisen keskustelun ja jättää päätöksen sinun.
Neljä kopioitavaa mallia
1) Käsitteen selvennys:
Määrittele lyhyesti ja objektiivisesti seuraavat tekoälyn etiikan käsitteet: agentti/moraalinen subjekti, vastuuvaje, algoritminen harha, läpinäkyvyys, selitettävyys. Sisällytä jokapäiväinen esimerkki jokaisen määritelmän alle. Merkitse kiistanalaiset alueet "mielipiteet eroavat".
2) Vastuukartoitus:
Piirrä seuraavassa skenaariossa vastuuketju tekoälyjärjestelmän aiheuttamista vahingoista: suunnittelija, tiedon toimittaja, jakelulaitos, käyttäjäoperaattori, sääntelijä. Kirjoita muistiin kunkin renkaan mahdollinen panos ja puolustus. Tee lopullinen tuomio. Käsikirjoitus: [käsikirjoitus]
3) Vastakkaisen kannan esittely:
Esitä ainakin kaksi vastakkaista eettistä kantaa [AI eettiseen kysymykseen], kumpikin vahvimmassa ja rehellisimmässä muodossaan. Älä julista ketään "voittajaksi". Nimeä arvo, johon kukin sijainti perustuu. Kysymys: [kysymys]
4) Optimismi/bias-hallinta:
Tarkista, onko seuraava tekoälyä koskeva teksti aliarvioinut riskejä tai välittääkö optimistinen asenne tekniikkaa kohtaan. Merkitse kaikki puuttuvat kriittiset näkökulmat ja riskit, jotka on lisättävä. Teksti: [liitä teksti]
Konsepti / jännitetaulukko
käsite
peruskysymys
eettistä jännitystä
Tekijä/moraalinen subjekti
Kantaako tekoäly vastuuta?
Työkalu vai aihe?
vastuuvaje
Kuka on vastuussa vahingon aiheuttamisesta?
Hajautettu vastuu
algoritminen harha
Epäkohta kenelle?
Oikeus vs. tehokkuus
läpinäkyvyys
Miksi tämä päätös?
Selittävyys jne. monimutkaisuus
autonomia
Kuinka paljon ihmisen hallintaa?
Automaatio vs. auditointi
Yleisiä virheitä
- "AI päätti" -kieli. Se hämärtää vastuuta; Tekoäly tuottaa tulosta, ihmiset toteuttavat sen, ja vastuu on ihmisillä.
- Keskustelun pelkistäminen binääriseksi vastaukseksi. "Eettistä vai ei?" kysymys tuhoaa käsitteellisen syvyyden; Aseta jännitteet.
- Ei huomaa tekoälyn optimistista taipumusta. AI voi olla epävakaa oman teknologiansa suhteen; Lisää kriittinen lähde.
- Yksittäisen tuloksen yleistäminen. Otoksen harha on silmiinpistävää, mutta systemaattinen väite vaatii systemaattista näyttöä.
- Luotetaan vanhentuneisiin tietoihin. Tämä ala ja sen järjestelyt muuttuvat nopeasti; Vahvista tosiasiat nykyisellä lähteellä.
Yhteenvetona
Tekoälyn etiikka on yksi eloisimmista nykyajan filosofian alueista, ja etiikkana sinä sekä johdat että opetat tätä keskustelua. Määrittele selkeästi keskeiset käsitteet – toimija, vastuullisuusvaje, algoritminen harha, läpinäkyvyys, autonomia – ja luo jännitteitä. Voit käyttää tekoälyä sekä työkaluna että esimerkkinä tässä keskustelussa, mutta varo kahta sudenkuoppaa: tekoäly on yleensä optimistinen teknologiansa suhteen ja sen tieto saattaa olla vanhentunutta. Kieli, kuten "AI päättänyt", hämärtää vastuuta; Tiukka käsitteellinen kieli asettaa vastuun oikeaan paikkaan. Sinä teet aina päätöksen.
Sovellustehtävä
- Valitse tekoälyn eettinen skenaario (esim. algoritminen päätösjärjestelmä).
- Määritä ja tarkista itsesi keskeiset käsitteet "käsitteen selvennys" -mallin avulla.
- Pura vastuuketju vahingon sattuessa "vastuukartoitus" -mallin avulla.
- Vertaa vähintään kahta eettistä kantaa "vastakkaisen kannan esittely" -malliin.
- Testaa tekoälytekstin harhaa "optimismin tarkistus" -mallilla ja lisää kriittinen lähde.
tarkistuslista
- [ ] Määrittelin käsitteet selkeästi ja objektiivisesti.
- [ ] Laitoin vastuun ihmisketjulle, en "AI:lle".
- [ ] Jäsensin keskustelun monipuolisesti, en pelkistänyt sitä binäärivastaukseksi.
- [ ] Tarkistin tekoälyn optimistisen suhtautumisen alaansa.
- [ ] Olen vahvistanut tosiasiat ja määräykset nykyisellä lähteellä.
- [ ] Tein itse lopullisen tuomion ja perustelun.