Eettinen ja vastuullinen tekoäly

Voitot:

• Kyky sitoa vastuulliset tekoälyperiaatteet (oikeudenmukaisuus, avoimuus, vastuullisuus, yksityisyys, ihmisvalvonta, turvallisuus, kestävyys) konkreettisiin päätöksiin
• Kyky testata osapuolia ja puolueellisuutta erottamalla etiikka lainmukaisuudesta ja erottamalla "voimme" ja "meidän pitäisi"
• Mahdollisuus vähentää väärinkäyttöskenaarioita etukäteen sisällyttämällä suunnitteluun läpinäkyvyys, ihmisen valvonta ja vetovoima

Tekoäly startup voi olla teknisesti täydellinen, taloudellisesti kannattava ja laillisesti elinkelpoinen; mutta se voi silti olla väärin. Etiikka on ero "me voimme" ja "meidän pitäisi" välillä. Ylimmälle johtajalle etiikka ei ole koristelu tai suhdetoiminta; Se on perusta, joka ylläpitää laitoksen pitkäaikaista luotettavuutta, mainetta ja sosiaalista legitiimiyttä. Tässä osiossa opit vastuullisen tekoälyn periaatteet (lähestymistapa tekoälyn kehittämiseen ja käyttöön reilulla, läpinäkyvällä, vastuullisella ja ihmisarvoa kunnioittavalla tavalla) ja miten ne heijastetaan päivittäisissä päätöksissä.

Vastuullisen tekoälyn perusperiaatteet

Eri viitekehykset kohtaavat samoilla periaatteilla. Käytännön yhteenveto esimiehelle:

periaatetta

Mitä tarkoitat?

admin kysymys

oikeudenmukaisuutta

syrjimättömyys

Vaikuttaako tämä epäoikeudenmukaisesti johonkin ryhmään?

läpinäkyvyys

olla ymmärrettävää

Voimmeko selittää päätöksen syyn?

vastuullisuus

Vastuuhenkilön tunnistaminen

Kuka on vastuussa, jos virhe tapahtuu?

Yksityisyys

Henkilötietojen kunnioittaminen

Onko meillä oikeus käyttää tietoja?

ihmisen valvonta

Pysy hallinnassa

Voiko joku vastustaa ja pysäyttää sen?

Turvallisuus

älä tee pahaa

Voiko tätä käyttää väärin?

Kestävyys

Ympäristö/sosiaalinen vaikutus

Kenelle asetamme kustannukset?

Nämä periaatteet eivät ole abstrakteja; Jokainen niistä voidaan yhdistää konkreettiseen päätökseen. Esimerkiksi "avoimuus" tarkoittaa asiakkaalle kertomista, että hän puhuu tekoälyn kanssa; "Ihmisvalvonta" tarkoittaa sitä, että lainan epääminen tarkistetaan ja jätetään valitus.

Vinkki: Jokaisen vaikuttavan tekoälypäätöksen yhteydessä kysy yksi kysymys: "Voinko selittää tämän päätöksen selkeästi ja seistä sen takana kielteisimmin kärsivälle henkilölle?" Jos vastaus loukkaa, kyseessä on eettinen ongelma.

Etiikka on eri asia kuin laki

Kriittinen ero: lainmukaisuus (osa 9) on vähimmäisvaatimus; Etiikka on korkeampi linja. Jokin voi olla laillista, mutta epäeettistä. Sovellusta ei esimerkiksi saa kieltää käyttämästä tekoälyä käyttäjien käyttäytymisen manipuloimiseen, mutta se on epäeettistä. Vastuulliset laitokset "onko kiellettyä?" ei "Onko se totta?" hän kysyy.

Askel askeleelta: sisällytä etiikka päätökseen

1. Tunnista osapuolet, joita asia koskee. Ketä tämä aloite koskee? (Asiakas, työntekijä, yhteiskunta, heikossa asemassa olevat ryhmät)

2. Skannaa käytäntöjen avulla. Kyseenalaista aloite kunkin edellä mainitun periaatteen osalta.

3. Testaa harhaa ja haittaa. Vaikuttaako malli epäoikeudenmukaisesti tiettyihin ryhmiin? Mitkä ovat väärinkäyttöskenaariot?

4. Lisää läpinäkyvyyttä ja valvontaa. Ilmoita tekoälyn käytöstä, älä jätä mahdollisuutta ihmisten vastustamiseen.

5. Asiakirjat ja arvostelu. Tallenna eettinen arviointi; Tarkista tilanne säännöllisesti.

kolme minilaukkua

Tapaus 1 – Laillinen mutta väärä. Sovellus käytti tekoälyä luomaan riippuvuutta aiheuttavia ilmoituksia, jotta käyttäjät pysyisivät sovelluksessa pidempään. Ei ollut laillista estettä, mutta kun siitä kerrottiin lehdistössä, maine menetettiin vakavasti; Sen kohdistus erityisesti nuoriin käyttäjiin herätti kritiikkiä. Yritys poisti ominaisuuden. Jos eettinen suodatin olisi ollut alusta asti, tämä riski nähtäisiin.

Tapaus 2 – oikeudenmukaisuustestin arvo. Pankin luottopisteytysmalli antoi systemaattisesti alempia pisteitä suojattujen ryhmien hakemuksiin. Tämä havaittiin oikeustarkastuksessa. Mallia suunniteltiin uudelleen ja testattiin säännöllisesti, jotta sen tulokset olisivat tasapuolisia. Eettinen periaate (oikeudenmukaisuus) muuttui konkreettiseksi kokeeksi ja esti todellisen haitan.

Tapaus 3 – Avoimuus loi luottamusta. Verkkokauppayritys laittoi asiakastuen chatbotin alkuun lauseen "Tekoälyassistentti auttaa sinua, voit ottaa yhteyden ihmisen edustajaan milloin tahansa". Läpinäkyvyys ja ihmisten ulospääsy eivät vähentäneet tyytyväisyyttä; Päinvastoin, se lisäsi luottamusta ja valitukset vähenivät 15 prosenttia. Oikein tehty läpinäkyvyys oli arvo, ei hinta.

Neljä kopioitavaa mallia

1) Eettinen seulonta:

Tehtäväsi: vastuullinen tekoälykonsultti. Etsi tästä aloitteesta seitsemän periaatetta: oikeudenmukaisuus, avoimuus, vastuullisuus, yksityisyys, inhimillinen valvonta, turvallisuus, kestävyys. Kirjoita kullekin periaatteelle yksi riski ja yksi suositus. Aloite: [teksti]

2) Asianomaisen osapuolen analyysi:

Luettele kaikki osapuolet, joihin tämä tekoälyaloite vaikuttaa (asiakas, työntekijä, yhteiskunta, heikossa asemassa olevat ryhmät). Kirjoita ylös mahdolliset positiiviset ja negatiiviset vaikutukset jokaiselle osapuolelle; Merkitse todennäköisimmin loukkaantunut ryhmä. Aloite: [teksti]

3) Väärinkäyttöskenaario:

Luo 5 skenaariota, joissa seuraavaa tekoälyominaisuutta voidaan käyttää väärin (mukaan lukien manipulointi, syrjintä, yksityisyyden loukkaus, petos). Ehdota ennaltaehkäisevää suunnittelupäätöstä jokaiselle skenaariolle. Attribuutti: [teksti]

4) Avoimuus ja valvonta:

Kirjoita läpinäkyvyys- ja inhimillinen valvontasuunnitelma asiakaslähtöiselle tekoälylle, joka: mitä viestitään käyttäjälle ja miten; Miten se voi siirtyä ihmisiin? Miten hän voi vastustaa päätöstä? Käyttö: [teksti]

Heikko kehote / Vahva kehote

Heikko: "Onko tämä tekoäly eettistä?"

Tulos: Pinnallinen "kyllä/ei"; Mikä periaate, ketä se koskee, mikä toimenpide on epäselvä.

Vahva: "Harkitsemme tekoälyn käyttämistä rekrytoinnin esiseulontatyökalussa (ihminen tekee lopullisen päätöksen). Tarkista tämä oikeudenmukaisuuden, avoimuuden, vastuullisuuden ja inhimillisen valvonnan periaatteiden mukaisesti. Kirjoita konkreettisesti, mihin ehdokasryhmiin tämä saattaa vaikuttaa epäoikeudenmukaisesti, mitä puolueellisuustestejä minun on tehtävä ja miten hakijat voivat valittaa päätöksestä."

Tulos: Periaatteisiin perustuva, käytännöllinen arvio, joka tunnistaa asianosaisen ja ehdottaa testausta ja valittamista.

Yleisiä virheitä

• Sekoita etiikka ja lainmukaisuus. Kaikki mikä on laillista ei ole eettistä; Etiikka on korkeampi linja.
• Etiikka jätetään viimeiseksi. "Eettisen hyväksynnän" saaminen suunnittelun jälkeen on liian myöhäistä; etiikka on sisällytettävä suunnitteluun alusta alkaen.
• Ei testata oikeudenmukaisuutta. Oletus, että "mallimme on neutraali" on vaarallinen; ei voi tietää ilman mittausta.
• Läpinäkyvyyden ja kustannusten sekoittaminen. Oikein tehty läpinäkyvyys lisää luottamusta ja arvoa.
• Pidä vahingoittuneet sivut kapeina. Pelkästään asiakkaan ajatteleminen ja työntekijän, yhteiskunnan ja heikommassa asemassa olevien ryhmien huomioimatta jättäminen luo sokean kulman.

Varoitus: Eettisen arvioinnin jättäminen kokonaan tekoälylle on ristiriitaista ja vaarallista. Tekoäly voi auttaa herättämään eettisiä kysymyksiä, mutta arvoarvio, kulttuurinen konteksti ja lopullinen moraalinen vastuu on ihmisellä. Organisaation eettisen asenteen määräävät ihmisten tietoiset valinnat, ei "AI sanoi niin".

Yhteenvetona

Etiikka on ero "voimme" ja "meidän pitäisi" välillä ja suojaa organisaation pitkän aikavälin uskottavuutta. Vastuullinen tekoäly; Se perustuu oikeudenmukaisuuden, avoimuuden, vastuullisuuden, yksityisyyden, inhimillisen valvonnan, turvallisuuden ja kestävyyden periaatteisiin. Nämä periaatteet eivät ole abstrakteja; Se muuttuu konkreettisiksi päätöksiksi, kuten asianomaisten osapuolten tunnistamiseen, puolueellisuuden testaamiseen, avoimuuden tarjoamiseen ja inhimillisen valvonnan lisäämiseen. Etiikka eroaa laista ja on korkeampi linja; Sitä ei voi jättää loppuun, se on upotettava suunnitteluun. Seuraavalla jaksolla keskustelemme vaatimustenmukaisuudesta, joka on eettinen vastine, erityisesti EU:n tekoälylaki ja KVKK.

Sovellustehtävä

Valitse vaikuttava tekoälyn käynnistys. Mallin 2 avulla luettele kaikki osapuolet, joita asia koskee, ja merkitse ryhmä, jolle todennäköisimmin vahinkoa aiheutuu. Etsi mallin 1 avulla aloite seitsemästä periaatteesta. Määrittele konkreettinen toimenpide (oikeudenmukaisuustesti, avoimuusilmoitus, valitusreitti jne.) kahdelle kriittisimmälle eettiselle riskille. Finally, “can I explain this decision to the person most negatively affected?” Vastaa kysymykseen rehellisesti.

tarkistuslista

• [ ] Olen tunnistanut kaikki asianosaiset.
• [ ] Tarkastin startupin seitsemällä vastuullisen tekoälyn periaatteella.
• [ ] Suunnittelin puolueellisuuden/oikeudenmukaisuuden testin.
• [ ] Suunnittelin avoimuuslausuman.
• [ ] En jättänyt tilaa inhimilliselle valvonnalle ja vetoomukselle.
• [ ] Ajattelin väärinkäyttöskenaarioita.
• [ ] "Voinko selittää sen sille, joka kärsii eniten?" läpäisin kokeen.