Eetiline ja vastutustundlik AI

Kasu:

• Võimalus siduda vastutustundlikud tehisintellekti põhimõtted (õiglus, läbipaistvus, vastutus, privaatsus, inimjärelevalve, turvalisus, jätkusuutlikkus) konkreetsete otsustega
• Võimalus testida mõjutatud osapooli ja eelarvamusi, eraldades eetika seaduste järgimisest ja eristades „saame” ja „me peaksime”
• Võimalus kuritarvitamise stsenaariume eelnevalt vähendada, lisades disaini läbipaistvuse, inimeste jälgimise ja atraktiivsuse

AI startup võib olla tehniliselt täiuslik, rahaliselt kasumlik ja juriidiliselt elujõuline; aga see võib ikka viga olla. Eetika on erinevus "saame" ja "me peaksime". Kõrgema juhi jaoks ei ole eetika ilustamise ega suhtekorralduse küsimus; See on sihtasutus, mis hoiab asutuse pikaajalist usaldusväärsust, mainet ja sotsiaalset legitiimsust. Selles üksuses õpid tundma vastutustundliku AI põhimõtteid (lähenemine tehisintellekti arendamisele ja kasutamisele viisil, mis on õiglane, läbipaistev, vastutustundlik ja inimväärikust austav) ning kuidas neid igapäevaste otsuste tegemisel kajastada.

Vastutustundliku AI aluspõhimõtted

Erinevad raamistikud kohtuvad sarnastel põhimõtetel. Praktiline kokkuvõte juhile:

põhimõte

Mida sa sellega mõtled?

admini küsimus

õiglus

mittediskrimineerimine

Kas see mõjutab gruppi ebaõiglaselt?

läbipaistvus

olla arusaadav

Kas saame selgitada otsuse põhjust?

vastutus

Vastutava isiku tuvastamine

Kes vastutab vea ilmnemise eest?

Privaatsus

Austus isikuandmete vastu

Kas meil on õigus andmeid kasutada?

inimeste jälgimine

Kontrolli hoidmine

Kas saab vastu vaielda ja selle peatada?

Turvalisus

ära tee paha

Kas seda saab kuritarvitada?

Jätkusuutlikkus

Keskkonnamõju/sotsiaalne mõju

Kellele me kulud paneme?

Need põhimõtted ei ole abstraktsed; Igaüks neist võib olla seotud konkreetse otsusega. Näiteks "läbipaistvus" tähendab kliendile teada andmist, et ta räägib tehisintellektiga; Inimjärelevalve tähendab seda, et laenu tagasilükkamine vaatab läbi ja jätab selle edasikaebamiseks avatuks.

Näpunäide. Iga suure mõjuga AI-otsuse puhul esitage üks küsimus: "Kas ma saan seda otsust kõige negatiivsemalt mõjutatud inimesele selgelt selgitada ja selle taga seista?" Kui vastus solvab, on tegemist eetilise probleemiga.

Eetika erineb seadusest

Kriitiline erinevus: seaduste järgimine (9. osa) on miinimum; Eetika on kõrgem joon. Midagi võib olla seaduslik, kuid ebaeetiline. Näiteks ei pruugi rakendusel olla keelatud kasutada tehisintellekti kasutaja käitumisega manipuleerimiseks, kuid see on ebaeetiline. Vastutavad asutused "kas see on keelatud?" mitte "Kas see on tõsi?" küsib ta.

Samm-sammult: eetika juurutamine otsusesse

1. Tehke kindlaks mõjutatud osapooled. Keda see algatus puudutab? (klient, töötaja, ühiskond, ebasoodsas olukorras olevad rühmad)

2. Skannige poliitikatega. Seadke algatus kahtluse alla kõigi ülaltoodud põhimõtete osas.

3. Testige erapoolikust ja kahju. Kas mudel mõjutab teatud gruppe ebaõiglaselt? Millised on kuritarvitamise stsenaariumid?

4. Lisage läbipaistvust ja järelevalvet. Teatage tehisintellekti kasutamisest, jätmata inimeste vastuväidetele võimalust.

5. Dokumendid ja ülevaade. Salvestage eetiline hinnang; Kontrollige perioodiliselt tagasi.

kolm minikarpi

Juhtum 1 – seaduslik, kuid vale. Rakendus kasutas tehisintellekti sõltuvust tekitavate märguannete genereerimiseks, et kasutajaid rakenduses kauem hoida. Õiguslikku takistust polnud, aga kui sellest ajakirjanduses juttu tuli, siis oli maine tõsine kaotus; Eelkõige pälvis kriitikat selle sihtimine noortele kasutajatele. Ettevõte eemaldas selle funktsiooni. Kui eetiline filter oleks algusest peale, oleks see risk näha.

Juhtum 2 – õigluse testi väärtus. Panga krediidiskoori mudel andis kaitstud rühmade taotlustele süstemaatiliselt madalama hinde. See tabati justiitsauditi käigus. Mudel kujundati ümber ja seda testiti regulaarselt, et tagada selle tulemuste kontsernidevaheline õiglus. Eetiline printsiip (õiglus) muutus konkreetseks proovikiviks ja hoidis ära tõelise kahju.

Juhtum 3 – läbipaistvus suurendas usaldust. Üks e-kaubandusega tegelev ettevõte pani oma klienditoe vestlusroboti algusesse lause "Tehisintellekti assistent aitab teid, inimese esindajaga saate igal ajal ühenduse luua". Läbipaistvus ja inimlik väljumine rahulolu ei vähendanud; Vastupidi, see suurendas usaldust ja kaebused vähenesid 15%. Õigesti tehtud läbipaistvus oli väärtus, mitte kulu.

Neli kopeeritavat malli

1) Eetiline läbivaatus:

Teie roll: vastutav AI konsultant. Kontrollige seda algatust seitsme põhimõtte jaoks: õiglus, läbipaistvus, vastutus, privaatsus, inimjärelevalve, turvalisus, jätkusuutlikkus. Kirjutage iga poliitika kohta üks risk ja üks soovitus. Algatus: [tekst]

2) Mõjutatud osapoole analüüs:

Loetlege kõik osapooled, keda see AI algatus mõjutab (klient, töötaja, ühiskond, ebasoodsas olukorras olevad rühmad). Kirjutage üles võimalikud positiivsed ja negatiivsed mõjud iga poole jaoks; Märkige rühm, kes saab kõige tõenäolisemalt kahju. Algatus: [tekst]

3) Väärkasutuse stsenaarium:

Looge 5 stsenaariumi, mille puhul võidakse kuritarvitada järgmist AI funktsiooni (sh manipuleerimine, diskrimineerimine, privaatsuse rikkumine, petmine). Soovitage iga stsenaariumi jaoks ennetavat disainiotsust. Atribuut: [tekst]

4) Läbipaistvus ja järelevalve:

Kirjutage kliendile suunatud tehisintellekti läbipaistvuse ja inimliku järelevalve plaan, mis: mida ja kuidas kasutajale edastatakse; Kuidas saab seda inimestele üle kanda? Kuidas saab ta otsusele vastu vaielda? Kasutamine: [tekst]

Nõrk viip / Tugev viip

Nõrk: "Kas see AI on eetiline?"

Tulemus: pealiskaudne "jah/ei"; Milline põhimõte, keda see mõjutab, milline meede on ebaselge.

Tugev: "Kaalume tehisintellekti kasutamist värbamise eelsõeluuringu tööriistas (lõpliku otsuse teeb inimene). Kontrollige seda õigluse, läbipaistvuse, vastutuse ja inimliku järelevalve põhimõtete järgi. Kirjutage konkreetselt, milliseid kandidaatide rühmi võib see ebaõiglaselt mõjutada, milliseid eelarvamuste teste pean tegema ja kuidas kandidaadid saavad otsuse edasi kaevata."

Tulemus: põhimõttel põhinev praktiline hinnang, mis tuvastab mõjutatud osapoole ning soovitab testida ja edasi kaevata.

Levinud vead

• Eetika ja seaduskuulekuse segamine. Kõik, mis on seaduslik, ei ole eetiline; Eetika on kõrgem joon.
• Eetika jätmine kestma. Pärast projekteerimist "eetika kinnituse" saamine on liiga hilja; eetika tuleb algusest peale kujundusse sisse lülitada.
• Ei testi õiglust. Eeldus, et "meie mudel on neutraalne" on ohtlik; ei saa ilma mõõtmiseta teada.
• Segades läbipaistvust kuludega. Õigesti tehtud läbipaistvus suurendab usaldust ja väärtust.
• Hoides kahjustatud küljed kitsad. Ainult kliendile mõtlemine ning töötaja, ühiskonna ja ebasoodsas olukorras olevate rühmade ignoreerimine loob pimeala.

Ettevaatust: eetilise hindamise jätmine täielikult tehisintellekti hooleks on vastuoluline ja ohtlik. AI võib aidata tõstatada eetilisi küsimusi, kuid väärtushinnang, kultuuriline kontekst ja ülim moraalne vastutus lasub inimesel. Organisatsiooni eetilise hoiaku määravad inimeste teadlikud valikud, mitte "AI ütles nii".

Kokkuvõttes

Eetika on erinevus "saame" ja "me peaksime" vahel ning kaitseb organisatsiooni pikaajalist usaldusväärsust. Vastutustundlik AI; See põhineb õigluse, läbipaistvuse, vastutuse, privaatsuse, inimliku järelevalve, turvalisuse ja jätkusuutlikkuse põhimõtetel. Need põhimõtted ei ole abstraktsed; See väljendub konkreetsetes otsustes, nagu mõjutatud osapoolte tuvastamine, eelarvamuste testimine, läbipaistvuse tagamine ja inimliku järelevalve lisamine. Eetika erineb seadusest ja on kõrgem liin; Seda ei saa jätta lõpuni, see tuleb kujundusse põimida. Järgmises üksuses käsitleme vastavust, mis on eetika juriidiline vaste, eriti EL AI seadus ja KVKK.

Rakenduse ülesanne

Valige suure mõjuga AI-käivitus. Malli 2 abil loetlege kõik mõjutatud osapooled ja märkige rühm, kes saab kõige tõenäolisemalt kahju. 1. malli abil kontrollige algatust seitsme põhimõtte jaoks. Määratlege konkreetne meede (õigluse test, läbipaistvuse teatis, edasikaebamise viis jne) kahe kõige kriitilisema eetilise riski jaoks. Lõpetuseks: "Kas ma saan seda otsust kõige negatiivsemalt mõjutatud inimesele selgitada?" Vasta küsimusele ausalt.

kontrollnimekiri

• [ ] Olen tuvastanud kõik mõjutatud osapooled.
• [ ] Kontrollisin startupi seitsme vastutustundliku tehisintellekti põhimõttega.
• [ ] Plaanisin erapooletuse/õigluse testi.
• [ ] Koostasin läbipaistvusavalduse.
• [ ] Ma ei jätnud võimalust inimlikule järelevalvele ja apellatsioonile.
• [ ] Mõtlesin kuritarvitamise stsenaariumidele.
• [ ] "Kas ma saan seda selgitada kõige negatiivsemalt mõjutatud inimesele?" Läbisin testi.