Pelnas:
- Gebėjimas susieti atsakingus AI principus (sąžiningumas, skaidrumas, atskaitomybė, privatumas, žmogaus priežiūra, saugumas, tvarumas) su konkrečiais sprendimais
- Galimybė patikrinti paveiktas šalis ir šališkumą, atskiriant etiką nuo teisės aktų laikymosi ir skiriant „galime“ ir „turėtume“
- Galimybė iš anksto sumažinti piktnaudžiavimo scenarijus, į dizainą įtraukiant skaidrumą, žmogaus stebėjimą ir patrauklumą
DI startuolis gali būti techniškai tobulas, finansiškai pelningas ir teisiškai gyvybingas; bet vis tiek gali būti negerai. Etika yra skirtumas tarp „mes galime“ ir „turėtume“. Vyresniajam vadovui etika nėra pagražinimo ar viešųjų ryšių reikalas; Tai yra pagrindas, išlaikantis ilgalaikį įstaigos patikimumą, reputaciją ir socialinį teisėtumą. Šiame skyriuje sužinosite atsakingo AI (požiūrio į dirbtinio intelekto kūrimą ir naudojimą sąžiningu, skaidriu, atskaitingu ir gerbiu žmogaus orumą) principus ir kaip juos atspindėti priimant kasdienius sprendimus.
Pagrindiniai atsakingo AI principai
Skirtingos sistemos susitinka panašiais principais. Praktinė santrauka vadovui:
principu
ka tu turi omenyje?
admin klausimas
teisingumo
nediskriminavimo
Ar tai nesąžiningai veikia grupę?
skaidrumas
būti suprantama
Ar galime paaiškinti tokio sprendimo priežastį?
atskaitomybė
Atsakingo asmens nustatymas
Kas atsako, jei įvyko klaida?
Privatumas
Pagarba asmens duomenims
Ar turime teisę naudoti duomenis?
žmonių stebėjimas
Kontroliuoti
Ar galima prieštarauti ir tai sustabdyti?
Saugumas
nedaryk žalos
Ar galima tuo piktnaudžiauti?
Tvarumas
Aplinkos/socialinis poveikis
Kam mes apmokestiname išlaidas?
Šie principai nėra abstraktūs; Kiekvienas iš jų gali būti susietas su konkrečiu sprendimu. Pavyzdžiui, „skaidrumas“ reiškia leisti klientui suprasti, kad jis kalbasi su AI; „Žmogaus priežiūra“ reiškia, kad žmogus peržiūrės atsisakymą išduoti paskolą ir paliks jį apskųsti.
Patarimas: priimdami kiekvieną didelį poveikį turintį AI sprendimą, užduokite vieną klausimą: „Ar galiu aiškiai paaiškinti šį sprendimą labiausiai neigiamai paveiktam asmeniui? Jei atsakymas įžeidžia, yra etikos problema.
Etika skiriasi nuo teisės
Svarbus skirtumas: teisės aktų laikymasis (9 skyrius) yra pats minimumas; Etika yra aukštesnė linija. Kažkas gali būti legalu, bet neetiška. Pavyzdžiui, programai negali būti uždrausta naudoti dirbtinį intelektą manipuliuoti vartotojų elgesiu, tačiau tai neetiška. Atsakingos institucijos "ar tai draudžiama?" ne "Ar tai tiesa?" – klausia jis.
Žingsnis po žingsnio: etikos įtraukimas į sprendimą
1. Nurodykite paveiktas šalis. Ką paveiks ši iniciatyva? (Klientas, darbuotojas, visuomenė, nepalankioje padėtyje esančios grupės)
2. Nuskaitykite pagal politiką. Suabejokite iniciatyva pagal kiekvieną iš pirmiau minėtų principų.
3. Patikrinkite šališkumą ir žalą. Ar modelis nesąžiningai veikia tam tikras grupes? Kokie yra piktnaudžiavimo scenarijai?
4. Pridėkite skaidrumo ir priežiūros. Praneškite apie dirbtinio intelekto naudojimą, nepalikdami žmogaus prieštaravimų.
5. Dokumentai ir apžvalga. Išsaugoti etinį vertinimą; Reguliariai tikrinkite.
trys mini dėklai
1 atvejis – teisėtas, bet neteisingas. Programėlė naudojo dirbtinį intelektą, kad generuotų priklausomybę sukeliančius pranešimus, kad vartotojai ilgiau liktų programoje. Nebuvo jokių teisinių kliūčių, bet kai apie tai buvo pranešta spaudoje, buvo rimtai prarasta reputacija; Ypač kritikos sulaukė jo taikymas jauniems vartotojams. Bendrovė pašalino šią funkciją. Jei etinis filtras būtų taikomas nuo pat pradžių, ši rizika būtų matoma.
2 atvejis – teisingumo testo vertė. Banko kredito vertinimo modelis sistemingai suteikdavo žemesnius balus saugomų grupių paraiškoms. Tai buvo užfiksuota atliekant teisingumo auditą. Modelis buvo perkurtas ir reguliariai tikrinamas siekiant užtikrinti, kad jo rezultatai būtų teisingi tarp grupių. Etinis principas (teisingumas) virto konkrečiu išbandymu ir užkirto kelią realiai žalai.
3 atvejis – skaidrumas sukūrė pasitikėjimą. Elektroninės prekybos įmonė savo klientų aptarnavimo pokalbių roboto pradžioje įdėjo frazę „Dirbtinio intelekto asistentas jums padeda, bet kada galite prisijungti prie žmogaus atstovo“. Skaidrumas ir žmogaus išėjimas nemažino pasitenkinimo; Priešingai, tai padidino pasitikėjimą, o skundų sumažėjo 15%. Teisingai atliktas skaidrumas buvo vertė, o ne kaina.
Keturi kopijuojami šablonai
1) Etinis patikrinimas:
Jūsų vaidmuo: atsakingas AI konsultantas. Nuskaitykite šią iniciatyvą pagal 7 principus: sąžiningumas, skaidrumas, atskaitomybė, privatumas, žmogaus priežiūra, saugumas, tvarumas. Prie kiekvienos politikos parašykite vieną riziką ir vieną rekomendaciją. Iniciatyva: [tekstas]
2) Paveiktos šalies analizė:
Išvardykite visas šalis, kurias paveiks ši AI iniciatyva (klientas, darbuotojas, visuomenė, nepalankioje padėtyje esančios grupės). Užrašykite galimą teigiamą ir neigiamą poveikį kiekvienai šaliai; Pažymėkite grupę, kuriai greičiausiai bus padaryta žala. Iniciatyva: [tekstas]
3) Piktnaudžiavimo scenarijus:
Sukurkite 5 scenarijus, pagal kuriuos būtų galima piktnaudžiauti šia AI funkcija (įskaitant manipuliavimą, diskriminaciją, privatumo pažeidimą, apgaulę). Kiekvienam scenarijui pasiūlykite prevencinį dizaino sprendimą. Atributas: [tekstas]
4) Skaidrumo ir priežiūros kontrolė:
Parašykite į klientus orientuoto dirbtinio intelekto skaidrumo ir žmogiškosios priežiūros planą, kuris: apie ką ir kaip bus pranešta vartotojui; Kaip jis gali būti perduotas žmonėms? Kaip jis gali prieštarauti sprendimui? Naudojimas: [tekstas]
Silpnas raginimas / Stiprus raginimas
Silpnas: „Ar tai AI etiška?
Rezultatas: paviršutiniškas „taip/ne“; Kuris principas, kam tai daroma, kokia priemonė – neaišku.
Stiprus: „Svarstome naudoti dirbtinį intelektą išankstinės įdarbinimo atrankos įrankyje (galutinį sprendimą priims žmogus). Įvertinkite sąžiningumo, skaidrumo, atskaitomybės ir žmogiškosios priežiūros principus. Konkrečiai parašykite, kurios kandidatų grupės gali būti nesąžiningai paveiktos, kokius šališkumo testus man reikia atlikti ir kaip kandidatai gali apskųsti sprendimą.
Rezultatas: principais pagrįstas praktinis vertinimas, kuriame identifikuojama paveikta šalis ir siūloma išbandyti bei pateikti apeliaciją.
Dažnos klaidos
- Etikos painiojimas su įstatymų laikymusi. Ne viskas, kas teisėta, yra etiška; Etika yra aukštesnė linija.
- Palikti etiką paskutiniam. Po projektavimo gauti „etinį patvirtinimą“ yra per vėlu; etika turi būti įtraukta į dizainą nuo pat pradžių.
- Nebando teisingumo. Prielaida, kad „mūsų modelis yra neutralus“, yra pavojinga; negali būti žinoma be matavimo.
- Skaidrumo klaidinimas su sąnaudomis. Teisingai atliktas skaidrumas didina pasitikėjimą ir vertę.
- Laikydami paveiktas puses siauras. Galvojant tik apie klientą ir ignoruojant darbuotoją, visuomenę ir nepalankioje padėtyje esančias grupes susidaro akloji zona.
Atsargiai: visiškai palikti etinį vertinimą dirbtiniam intelektui yra prieštaringa ir pavojinga. AI gali padėti kelti etinius klausimus, tačiau vertybių vertinimas, kultūrinis kontekstas ir galutinė moralinė atsakomybė tenka žmogui. Organizacijos etinę poziciją lemia sąmoningi žmonių pasirinkimai, o ne „tai pasakė AI“.
Apibendrinant
Etika yra skirtumas tarp „mes galime“ ir „turėtume“ ir apsaugo ilgalaikį organizacijos patikimumą. Atsakingas AI; Jis grindžiamas teisingumo, skaidrumo, atskaitomybės, privatumo, žmogaus priežiūros, saugumo ir tvarumo principais. Šie principai nėra abstraktūs; Tai reiškia konkrečius sprendimus, pvz., paveiktų šalių nustatymą, šališkumo patikrinimą, skaidrumo užtikrinimą ir žmogiškosios priežiūros papildymą. Etika skiriasi nuo teisės ir yra aukštesnė linija; Jo negalima palikti iki galo, jis turi būti įdėtas į dizainą. Kitame skyriuje aptarsime atitiktį, kuri yra teisinis etikos atitikmuo, ypač ES AI įstatymas ir KVKK.
Taikymo užduotis
Pasirinkite didelio poveikio AI paleidimą. Naudodami 2 šabloną išvardykite visas paveiktas šalis ir pažymėkite grupę, kuriai greičiausiai bus padaryta žala. Naudodami 1 šabloną, nuskaitykite iniciatyvą ir ieškokite septynių principų. Apibrėžkite konkrečią priemonę (sąžiningumo testas, skaidrumo pranešimas, apeliacijos būdas ir kt.) dviem svarbiausioms etinėms rizikoms. Galiausiai, „ar galiu paaiškinti šį sprendimą labiausiai neigiamai paveiktam asmeniui? Sąžiningai atsakykite į klausimą.
kontrolinis sąrašas
- [ ] Nurodžiau visas paveiktas šalis.
- [ ] Paleidimą patikrinau pagal septynis atsakingo AI principus.
- [ ] Suplanavau šališkumo / sąžiningumo testą.
- [ ] Sukūriau skaidrumo pareiškimą.
- [ ] Nepalikau galimybės žmogiškai priežiūrai ir apeliacijai.
- [ ] Galvojau apie piktnaudžiavimo scenarijus.
- [ ] „Ar galiu tai paaiškinti labiausiai neigiamai paveiktam asmeniui? Išlaikiau testą.