Dobički:
- Sposobnost povezovanja odgovornih načel AI (pravičnost, preglednost, odgovornost, zasebnost, človeški nadzor, varnost, trajnost) s konkretnimi odločitvami
- Sposobnost testiranja prizadetih strank in pristranskosti z ločevanjem etike od zakonske skladnosti in razlikovanjem med "lahko" in "morali bi"
- Zmožnost vnaprejšnjega zmanjšanja scenarijev zlorabe z vključitvijo preglednosti, človeškega spremljanja in privlačnosti v zasnovo
Startup z umetno inteligenco je lahko tehnično popoln, finančno donosen in pravno vzdržen; vendar je lahko še vedno narobe. Etika je razlika med "zmoremo" in "moramo". Za višjega menedžerja etika ni stvar olepševanja ali odnosov z javnostmi; Je temelj, ki ohranja dolgoročno zanesljivost, ugled in družbeno legitimnost institucije. V tej enoti se boste naučili načel odgovorne umetne inteligence (pristop k razvoju in uporabi umetne inteligence na način, ki je pošten, pregleden, odgovoren in spoštljiv do človekovega dostojanstva) in kako jih odražati v vsakodnevnih odločitvah.
Temeljna načela odgovorne umetne inteligence
Različni okviri se srečujejo po podobnih načelih. Praktični povzetek za upravitelja:
načelo
kaj misliš
admin vprašanje
pravičnost
nediskriminacija
Ali to nepravično vpliva na skupino?
preglednost
biti razumljiv
Lahko pojasnimo razlog za odločitev?
odgovornost
Prepoznavanje odgovornih
Kdo je odgovoren, če pride do napake?
Zasebnost
Spoštovanje osebnih podatkov
Ali imamo pravico do uporabe podatkov?
človeški nadzor
Ohranjanje nadzora
Ali lahko nekdo ugovarja in ga ustavi?
Varnost
ne škodi
Bi se to dalo zlorabiti?
Trajnost
Okoljski/socialni vpliv
Komu naložimo stroške?
Ta načela niso abstraktna; Vsako izmed njih je mogoče povezati s konkretno odločitvijo. Na primer, "transparentnost" pomeni sporočiti stranki, da se pogovarja z AI; »Človeški nadzor« pomeni človeški pregled zavrnitve posojila in možnost pritožbe.
Namig: Pri vsaki odločitvi umetne inteligence z velikim vplivom postavite eno vprašanje: "Ali lahko osebi, ki je najbolj negativno vpliva, jasno pojasnim in stojim za to odločitvijo?" Če je odgovor žaljiv, obstaja etični problem.
Etika je drugačna od prava
Kritično razlikovanje: skladnost s pravnimi predpisi (enota 9) je nujni minimum; Etika je višja linija. Nekaj je lahko zakonito, a neetično. Na primer, aplikaciji morda ni prepovedano uporabljati umetne inteligence za manipulacijo vedenja uporabnikov, vendar je neetično. Odgovorne institucije "je prepovedano?" ne "Je res?" vpraša.
Korak za korakom: vgrajevanje etike v odločitev
1. Identificirajte prizadete strani. Koga ta pobuda zadeva? (Stranka, zaposleni, družba, prikrajšane skupine)
2. Skeniraj s pravilniki. Podvomite o pobudi v smislu vsakega od zgornjih načel.
3. Preizkusite pristranskost in škodo. Ali model nepravično vpliva na določene skupine? Kakšni so scenariji zlorabe?
4. Dodajte preglednost in nadzor. Poročajte o uporabi umetne inteligence, ne puščajte možnosti za človeško nasprotovanje.
5. Dokumenti in pregled. Prihranite etično oceno; Redno preverjajte.
trije mini kovčki
1. primer – zakonit, a napačen. Aplikacija je uporabila umetno inteligenco za ustvarjanje zasvojenih obvestil, da bi uporabnike obdržala v aplikaciji dlje. Pravne ovire ni bilo, a ko so o tem poročali v tisku, je prišlo do resne izgube ugleda; Njegovo ciljanje na mlade uporabnike je bilo deležno kritik. Podjetje je to funkcijo odstranilo. Če bi bil etični filter od začetka, bi se to tveganje videlo.
Primer 2 – Vrednost testa poštenosti. Model kreditnega točkovanja banke je sistematično dajal nižje ocene vlogam zaščitenih skupin. To je ujela pravosodna revizija. Model je bil preoblikovan in redno testiran, da bi zagotovili enakost rezultatov med skupinami. Etično načelo (pravičnost) se je spremenilo v konkretno preizkušnjo in preprečilo resnično škodo.
Primer 3 – Preglednost je ustvarila zaupanje. Podjetje za e-trgovino je na začetek svojega klepetalnega robota za podporo strankam postavilo besedno zvezo "Pomaga vam pomočnik z umetno inteligenco, kadar koli se lahko povežete s predstavnikom človeka". Preglednost in človeški izstop nista zmanjšala zadovoljstva; Nasprotno, povečala je zaupanje in pritožbe so se zmanjšale za 15 %. Pravilna preglednost je bila vrednost, ne cena.
Štiri predloge za kopiranje
1) Etični pregled:
Vaša vloga: odgovorni svetovalec za AI. Preglejte to pobudo za 7 načel: pravičnost, preglednost, odgovornost, zasebnost, človeški nadzor, varnost, trajnost. Za vsako politiko napišite eno tveganje in eno priporočilo. Pobuda: [besedilo]
2) Analiza prizadete strani:
Navedite vse strani, na katere vpliva ta pobuda AI (stranka, zaposleni, družba, prikrajšane skupine). Za vsako stran zapišite možne pozitivne in negativne učinke; Označite skupino, ki bo najverjetneje oškodovana. Pobuda: [besedilo]
3) Scenarij zlorabe:
Ustvarite 5 scenarijev, v katerih bi lahko prišlo do zlorabe naslednje funkcije AI (vključno z manipulacijo, diskriminacijo, kršitvijo zasebnosti, zavajanjem). Predlagajte preventivno načrtovalsko odločitev za vsak scenarij. Atribut: [besedilo]
4) Preglednost in nadzor nad nadzorom:
Napišite načrt preglednosti in človeškega nadzora za umetno inteligenco, obrnjeno k strankam, ki: kaj bo sporočeno uporabniku in kako; Kako se lahko prenese na ljudi? Kako lahko ugovarja odločitvi? Uporaba: [besedilo]
Šibek poziv/močan poziv
Slabo: "Ali je ta AI etičen?"
Rezultat: površen "da/ne"; Katero načelo, koga zadeva, kateri ukrep, ni jasno.
Strong: "Razmišljamo o uporabi umetne inteligence v orodju za predhodni pregled zaposlovanja (človek bo sprejel končno odločitev). Preverite to glede načel poštenosti, preglednosti, odgovornosti in človeškega nadzora. Konkretno napišite, katere skupine kandidatov so lahko nepravično prizadete, katere teste pristranskosti moram opraviti in kako se lahko kandidati pritožijo na odločitev."
Rezultat: Na načelih temelječa praktična ocena, ki identificira prizadeto stran in predlaga testiranje in pritožbo.
Pogoste napake
- Mešanje etike s spoštovanjem zakonov. Ni vse, kar je zakonito, etično; Etika je višja linija.
- Pustiti etiko, da traja. Pridobivanje "etične odobritve" po oblikovanju je prepozno; etika mora biti vgrajena v oblikovanje že od začetka.
- Brez preizkušanja pravičnosti. Predpostavka, da je "naš model nevtralen", je nevarna; ni mogoče poznati brez merjenja.
- Zamenjajte preglednost s stroški. Pravilna preglednost povečuje zaupanje in vrednost.
- Ohranjanje prizadetih strani ozkih. Razmišljanje samo o stranki in ignoriranje zaposlenega, družbe in prikrajšanih skupin ustvarja slepo pego.
Pozor: popolnoma prepustiti etično vrednotenje umetni inteligenci je protislovno in nevarno. Umetna inteligenca lahko pomaga zastaviti etična vprašanja, vendar so vrednostna presoja, kulturni kontekst in končna moralna odgovornost na človeku. Etično držo organizacije določajo zavestne odločitve ljudi, ne pa "tako je rekla umetna inteligenca".
Če povzamem
Etika je razlika med "zmoremo" in "moramo" in varuje dolgoročno verodostojnost organizacije. Odgovorna umetna inteligenca; Temelji na načelih pravičnosti, preglednosti, odgovornosti, zasebnosti, človeškega nadzora, varnosti in trajnosti. Ta načela niso abstraktna; Prenese se v konkretne odločitve, kot je prepoznavanje prizadetih strani, testiranje pristranskosti, zagotavljanje preglednosti in dodajanje človeškega nadzora. Etika je drugačna od prava in je višja linija; Ni ga mogoče pustiti do konca, treba ga je vgraditi v dizajn. V naslednji enoti bomo obravnavali skladnost, ki je pravna enakovrednost etike, predvsem EU AI Law in KVKK.
Aplikacijska naloga
Izberite zagon z umetno inteligenco z velikim vplivom. S predlogo 2 navedite vse prizadete strani in označite skupino, ki bo najverjetneje oškodovana. S predlogo 1 skenirajte pobudo za sedem načel. Določite konkreten ukrep (preizkus poštenosti, obvestilo o preglednosti, pritožbena pot itd.) za dve najbolj kritični etični nevarnosti. Nazadnje, "ali lahko to odločitev razložim osebi, ki je najbolj negativno prizadeta?" Iskreno odgovorite na vprašanje.
kontrolni seznam
- [ ] Identificiral sem vse prizadete strani.
- [ ] Zagon sem pregledal s sedmimi načeli odgovorne umetne inteligence.
- [ ] Načrtoval sem test za pristranskost/pravičnost.
- [ ] Oblikoval sem izjavo o preglednosti.
- [ ] Nisem pustil možnosti za človeški nadzor in pritožbo.
- [ ] Razmišljal sem o scenarijih zlorabe.
- [ ] »Ali lahko razložim tistemu, ki je najbolj negativno prizadet?« Prestal sem test.