zisky:
- Schopnosť prepojiť zodpovedné princípy AI (spravodlivosť, transparentnosť, zodpovednosť, súkromie, ľudský dohľad, bezpečnosť, udržateľnosť) s konkrétnymi rozhodnutiami
- Schopnosť testovať dotknuté strany a zaujatosť oddelením etiky od dodržiavania právnych predpisov a rozlišovaním medzi „môžeme“ a „mali by sme“
- Schopnosť vopred obmedziť scenáre zneužitia vložením transparentnosti, ľudského monitorovania a príťažlivosti do dizajnu
Startup AI môže byť technicky dokonalý, finančne ziskový a právne životaschopný; ale aj tak sa to môže mýliť. Etika je rozdiel medzi „môžeme“ a „mali by sme“. Pre vyššieho manažéra nie je etika záležitosťou prikrášľovania alebo vzťahov s verejnosťou; Je základom, ktorý dlhodobo udržuje spoľahlivosť, reputáciu a spoločenskú legitimitu inštitúcie. V tejto lekcii sa naučíte princípy zodpovednej AI (prístup k vývoju a využívaniu umelej inteligencie spôsobom, ktorý je spravodlivý, transparentný, zodpovedný a rešpektujúci ľudskú dôstojnosť) a ako ich premietnuť do každodenných rozhodnutí.
Základné princípy zodpovednej AI
Rôzne rámce sa stretávajú na podobných princípoch. Praktické zhrnutie pre manažéra:
princíp
čo tým myslíš?
admin otázka
spravodlivosti
zákaz diskriminácie
Ovplyvňuje to nespravodlivo skupinu?
transparentnosť
byť zrozumiteľný
Môžeme vysvetliť dôvod tohto rozhodnutia?
zodpovednosť
Identifikácia toho, kto je zodpovedný
Kto je zodpovedný, ak sa vyskytne chyba?
Ochrana osobných údajov
Rešpektovanie osobných údajov
Máme právo používať údaje?
ľudský dohľad
Zostať pod kontrolou
Môže jeden namietať a zastaviť to?
Bezpečnosť
neublížiť
Dalo by sa to zneužiť?
Udržateľnosť
Environmentálny/sociálny vplyv
Komu uvalíme náklady?
Tieto princípy nie sú abstraktné; Každý z nich môže byť spojený s konkrétnym rozhodnutím. Napríklad „transparentnosť“ znamená dať zákazníkovi vedieť, že hovorí s AI; „Ľudský dohľad“ znamená, že zamietnutie pôžičky preskúma človek a nechá sa otvorené na odvolanie.
Tip: Pri každom vysokoúčinnom rozhodnutí AI si položte jednu otázku: „Môžem jasne vysvetliť a stáť si za týmto rozhodnutím osobe, ktorá je najviac negatívne ovplyvnená?“ Ak odpoveď uráža, nastáva etický problém.
Etika je iná ako právo
Zásadný rozdiel: dodržiavanie právnych predpisov (jednotka 9) je úplné minimum; Etika je vyššia línia. Niečo môže byť legálne, ale neetické. Aplikácia napríklad nemusí mať zakázané používať umelú inteligenciu na manipuláciu správania používateľov, ale je to neetické. Zodpovedné inštitúcie "je to zakázané?" nie "Je to pravda?" pýta sa.
Krok za krokom: vloženie etiky do rozhodnutia
1. Identifikujte dotknuté strany. Koho sa táto iniciatíva týka? (Zákazník, zamestnanec, spoločnosť, znevýhodnené skupiny)
2. Skenujte pomocou zásad. Spochybniť iniciatívu z hľadiska každej z vyššie uvedených zásad.
3. Test na zaujatosť a poškodenie. Ovplyvňuje model nespravodlivo určité skupiny? Aké sú scenáre zneužitia?
4. Pridajte transparentnosť a prehľad. Nahláste použitie umelej inteligencie a neponechajte žiadny priestor pre ľudské námietky.
5. Dokumenty a recenzie. Uložiť etické hodnotenie; Pravidelne kontrolujte.
tri mini prípady
Prípad 1 – Legálne, ale nesprávne. Aplikácia využívala umelú inteligenciu na generovanie návykových upozornení, aby používatelia zostali v aplikácii dlhšie. Neexistovala žiadna zákonná prekážka, ale keď sa o tom informovalo v tlači, došlo k vážnej strate dobrého mena; Kritiku vyvolalo najmä jej zacielenie na mladých používateľov. Spoločnosť túto funkciu odstránila. Ak by bol etický filter od začiatku, toto riziko by bolo vidieť.
Prípad 2 – Hodnota testu spravodlivosti. Model úverového bodovania banky systematicky dával nižšie skóre žiadostiam od chránených skupín. Toto bolo zachytené v justičnom audite. Model bol prepracovaný a pravidelne testovaný, aby sa zabezpečila rovnosť medzi skupinami vo výsledkoch. Etický princíp (spravodlivosť) sa zmenil na konkrétny test a zabránil skutočnej škode.
Prípad 3 – Transparentnosť vybudovala dôveru. Spoločnosť zaoberajúca sa elektronickým obchodom dala na začiatok svojho chatbota zákazníckej podpory vetu „Asistent umelej inteligencie vám pomáha, kedykoľvek sa môžete pripojiť k ľudskému zástupcovi“. Transparentnosť a ľudský odchod neznížili spokojnosť; Naopak, zvýšilo dôveru a počet sťažností sa znížil o 15 %. Správne vykonaná transparentnosť predstavovala hodnotu, nie náklady.
Štyri kopírovateľné šablóny
1) Etický skríning:
Vaša úloha: zodpovedný konzultant AI. Naskenujte túto iniciatívu na 7 princípov: spravodlivosť, transparentnosť, zodpovednosť, súkromie, ľudský dohľad, bezpečnosť, udržateľnosť. Pre každú politiku napíšte jedno riziko a jedno odporúčanie. Iniciatíva: [text]
2) Analýza dotknutej strany:
Uveďte všetky strany ovplyvnené touto iniciatívou AI (zákazník, zamestnanec, spoločnosť, znevýhodnené skupiny). Zapíšte si možné pozitívne a negatívne účinky pre každú stranu; Označte skupinu, ktorá bude pravdepodobne poškodená. Iniciatíva: [text]
3) Scenár zneužitia:
Vytvorte 5 scenárov, v ktorých by mohla byť zneužitá nasledujúca funkcia AI (vrátane manipulácie, diskriminácie, porušenia súkromia, klamania). Navrhnite preventívne rozhodnutie o návrhu pre každý scenár. Atribút: [text]
4) Kontrola transparentnosti a dohľadu:
Napíšte plán transparentnosti a ľudského dohľadu pre AI orientovanú na zákazníka, ktorý: čo bude používateľovi oznámené a ako; Ako sa to dá preniesť na ľudí? Ako môže namietať proti rozhodnutiu? Použitie: [text]
Slabá výzva / Silná výzva
Slabý: "Je táto AI etická?"
Výsledok: Povrchné „áno/nie“; Aký princíp, koho sa to týka, aké opatrenie nie je jasné.
Strong: "Uvažujeme o použití AI v nástroji predbežného skríningu náboru (konečné rozhodnutie urobí človek). Overte si to z hľadiska princípov spravodlivosti, transparentnosti, zodpovednosti a ľudského dohľadu. Napíšte konkrétne, ktoré skupiny kandidátov môžu byť nespravodlivo ovplyvnené, aké testy predsudkov musím urobiť a ako sa môžu kandidáti proti rozhodnutiu odvolať."
Výsledok: Praktické hodnotenie založené na zásadách, ktoré identifikuje dotknutú stranu a navrhuje testovanie a odvolanie.
Časté chyby
- Zamieňanie etiky s dodržiavaním právnych predpisov. Nie všetko, čo je legálne, je etické; Etika je vyššia línia.
- Ponechať etiku trvať. Získanie „etického schválenia“ po návrhu je príliš neskoro; etika musí byť zakotvená v dizajne od začiatku.
- Netestovať spravodlivosť. Predpoklad, že „náš model je neutrálny“ je nebezpečný; nemožno zistiť bez merania.
- Zamieňanie transparentnosti za náklady. Správne vykonaná transparentnosť zvyšuje dôveru a hodnotu.
- Udržiavanie úzkych postihnutých strán. Myslieť len na zákazníka a ignorovať zamestnanca, spoločnosť a znevýhodnené skupiny vytvára slepé miesto.
Pozor: Ponechať etické hodnotenie úplne na umelú inteligenciu je rozporuplné a nebezpečné. AI môže pomôcť nastoliť etické otázky, ale hodnotový úsudok, kultúrny kontext a konečná morálna zodpovednosť spočíva na človeku. Etický postoj organizácie je určený vedomými rozhodnutiami ľudí, nie tým, „ako to povedala AI“.
V súhrne
Etika je rozdiel medzi „môžeme“ a „mali by sme“ a chráni dlhodobú dôveryhodnosť organizácie. Zodpovedná AI; Je založená na princípoch spravodlivosti, transparentnosti, zodpovednosti, súkromia, ľudského dohľadu, bezpečnosti a udržateľnosti. Tieto princípy nie sú abstraktné; Premieta sa do konkrétnych rozhodnutí, ako je identifikácia dotknutých strán, testovanie zaujatosti, zabezpečenie transparentnosti a pridanie ľudského dohľadu. Etika sa líši od práva a je vyššou líniou; Nemožno to nechať na koniec, treba to zakomponovať do dizajnu. V ďalšej časti si rozoberieme dodržiavanie, čo je právny ekvivalent etiky, najmä zákon EÚ o AI a KVKK.
Aplikačná úloha
Vyberte si spustenie AI s vysokým dopadom. Pomocou šablóny 2 uveďte zoznam všetkých dotknutých strán a označte skupinu, ktorá bude pravdepodobne poškodená. Pomocou šablóny 1 vyhľadajte v iniciatíve sedem princípov. Definujte konkrétne opatrenie (test férovosti, oznámenie o transparentnosti, spôsob odvolania atď.) pre dve najkritickejšie etické riziká. Nakoniec: „Môžem vysvetliť toto rozhodnutie osobe, ktorá je najviac negatívne ovplyvnená? Úprimne odpovedzte na otázku.
kontrolný zoznam
- [ ] Identifikoval som všetky dotknuté strany.
- [ ] Preveril som startup podľa siedmich princípov zodpovednej AI.
- [ ] Plánoval som test na zaujatosť/spravodlivosť.
- [ ] Vyhlásenie o transparentnosti som navrhol ja.
- [ ] Nenechal som žiadnu cestu pre ľudský dohľad a odvolanie.
- [ ] Myslel som na scenáre zneužitia.
- [ ] "Môžem to vysvetliť tomu, kto je najviac negatívne ovplyvnený?" Prešiel som testom.