zisky:
- Schopnost propojit zodpovědné principy AI (spravedlnost, transparentnost, odpovědnost, soukromí, lidský dohled, bezpečnost, udržitelnost) s konkrétními rozhodnutími
- Schopnost testovat dotčené strany a předpojatost oddělením etiky od dodržování právních předpisů a rozlišováním mezi „můžeme“ a „měli bychom“
- Schopnost předem omezit scénáře zneužití vložením transparentnosti, lidského sledování a přitažlivosti do návrhu
Startup AI může být technicky dokonalý, finančně ziskový a právně životaschopný; ale i tak to může být špatně. Etika je rozdíl mezi „můžeme“ a „měli bychom“. Pro vyššího manažera není etika záležitostí přikrášlování nebo vztahů s veřejností; Je základem, který udržuje dlouhodobou spolehlivost, pověst a společenskou legitimitu instituce. V této lekci se naučíte principy odpovědné umělé inteligence (přístup k vývoji a používání umělé inteligence způsobem, který je spravedlivý, transparentní, odpovědný a respektující lidskou důstojnost) a jak je promítnout do každodenních rozhodnutí.
Základní principy odpovědné umělé inteligence
Různé rámce se setkávají na podobných principech. Praktické shrnutí pro manažera:
princip
co tím myslíš?
admin otázka
spravedlnosti
zákaz diskriminace
Ovlivňuje to nespravedlivě skupinu?
transparentnost
být srozumitelný
Můžeme vysvětlit důvod rozhodnutí?
odpovědnost
Identifikace toho, kdo je zodpovědný
Kdo nese odpovědnost, pokud dojde k chybě?
soukromí
Respekt k osobním údajům
Máme právo používat data?
lidský dohled
Zůstat pod kontrolou
Může jeden namítnout a zastavit to?
Bezpečnost
neubližovat
Dalo by se to zneužít?
Udržitelnost
Environmentální/sociální dopad
Komu uvalíme náklady?
Tyto principy nejsou abstraktní; Každý z nich může být spojen s konkrétním rozhodnutím. Například „transparentnost“ znamená dát zákazníkovi vědět, že mluví s AI; „Lidský dohled“ znamená, že odmítnutí úvěru zkontroluje člověk a nechá se otevřené pro odvolání.
Tip: U každého rozhodnutí s velkým dopadem na umělou inteligenci si položte jednu otázku: „Mohu toto rozhodnutí jasně vysvětlit a stát si za tímto rozhodnutím osobě, která je nejvíce negativně ovlivněna?“ Pokud odpověď uráží, nastává etický problém.
Etika je něco jiného než právo
Zásadní rozdíl: dodržování právních předpisů (jednotka 9) je naprosté minimum; Etika je vyšší linie. Něco může být legální, ale neetické. Aplikace například nemusí mít zakázáno používat umělou inteligenci k manipulaci s chováním uživatelů, ale je to neetické. Odpovědné instituce "je to zakázáno?" ne "Je to pravda?" ptá se.
Krok za krokem: zakotvení etiky do rozhodnutí
1. Identifikujte dotčené strany. Koho se tato iniciativa týká? (Zákazník, zaměstnanec, společnost, znevýhodněné skupiny)
2. Skenování pomocí zásad. Zpochybnit iniciativu z hlediska každého z výše uvedených principů.
3. Test na zaujatost a újmu. Ovlivňuje model nespravedlivě určité skupiny? Jaké jsou scénáře zneužití?
4. Přidejte průhlednost a přehled. Nahlaste použití umělé inteligence a neponechejte žádný prostor pro lidské námitky.
5. Dokumenty a recenze. Uložit etické hodnocení; Pravidelně kontrolujte.
tři mini pouzdra
Případ 1 – Legální, ale nesprávné. Aplikace využívala umělou inteligenci ke generování návykových oznámení, aby uživatelé zůstali v aplikaci déle. Neexistovala žádná právní překážka, ale když to bylo oznámeno v tisku, došlo k vážné ztrátě dobrého jména; Kritiku vyvolalo zejména její zacílení na mladé uživatele. Společnost tuto funkci odstranila. Pokud by byl etický filtr od začátku, toto riziko by bylo vidět.
Případ 2 – Hodnota testu poctivosti. Model úvěrového hodnocení banky systematicky dával nižší skóre žádostem od chráněných skupin. To bylo zachyceno justičním auditem. Model byl přepracován a pravidelně testován, aby byla zajištěna rovnost mezi skupinami ve výsledcích. Etický princip (spravedlnost) se proměnil v konkrétní test a zabránil skutečné škodě.
Případ 3 – Transparentnost vybudovala důvěru. Společnost zabývající se internetovým obchodem dala na začátek svého chatbota zákaznické podpory větu „Asistent umělé inteligence vám pomáhá, kdykoli se můžete připojit k lidskému zástupci“. Transparentnost a lidský odchod nesnižovaly spokojenost; Naopak zvýšilo důvěru a stížnosti klesly o 15 %. Správně provedená transparentnost byla hodnota, nikoli náklady.
Čtyři kopírovatelné šablony
1) Etický screening:
Vaše role: zodpovědný konzultant AI. Prohledejte tuto iniciativu 7 principů: spravedlnost, transparentnost, odpovědnost, soukromí, lidský dohled, bezpečnost, udržitelnost. Pro každou politiku napište jedno riziko a jedno doporučení. Iniciativa: [text]
2) Analýza dotčené strany:
Uveďte všechny strany, kterých se tato iniciativa AI týká (zákazník, zaměstnanec, společnost, znevýhodněné skupiny). Zapište si možné pozitivní a negativní účinky pro každou stranu; Označte skupinu, která bude pravděpodobně poškozena. Iniciativa: [text]
3) Scénář zneužití:
Vygenerujte 5 scénářů, ve kterých by mohla být zneužita následující funkce AI (včetně manipulace, diskriminace, porušení soukromí, klamání). Navrhněte preventivní rozhodnutí o návrhu pro každý scénář. Atribut: [text]
4) Transparentnost a kontrola dohledu:
Napište plán transparentnosti a lidského dohledu pro AI orientovanou na zákazníka, který: co bude uživateli sděleno a jak; Jak se to dá přenést na lidi? Jak může podat námitky proti rozhodnutí? Použití: [text]
Slabá výzva / Silná výzva
Slabý: "Je tato umělá inteligence etická?"
Výsledek: Povrchní „ano/ne“; Který princip, koho se to týká, jaké opatření není jasné.
Strong: "Uvažujeme o použití umělé inteligence v nástroji předběžného prověřování náboru (konečné rozhodnutí učiní člověk). Prověřte to z hlediska principů spravedlnosti, transparentnosti, odpovědnosti a lidského dohledu. Napište konkrétně, které skupiny kandidátů mohou být nespravedlivě ovlivněny, jaké testy zkreslení musím udělat a jak se mohou kandidáti proti rozhodnutí odvolat."
Výsledek: Praktické posouzení založené na zásadách, které identifikuje dotčenou stranu a navrhuje testování a odvolání.
Časté chyby
- Záměna etiky s dodržováním právních předpisů. Ne vše, co je legální, je etické; Etika je vyšší linie.
- Ponechání etiky trvat. Získání „etického schválení“ po návrhu je příliš pozdě; etika musí být zakotvena v designu od začátku.
- Netestovat spravedlnost. Předpoklad, že „náš model je neutrální“ je nebezpečný; nelze poznat bez měření.
- Záměna transparentnosti za náklady. Správná transparentnost zvyšuje důvěru a hodnotu.
- Udržujte postižené strany úzké. Myslet pouze na zákazníka a ignorovat zaměstnance, společnost a znevýhodněné skupiny vytváří slepé místo.
Pozor: Přenechat etické hodnocení zcela na umělé inteligenci je rozporuplné a nebezpečné. Umělá inteligence může pomoci nastolit etické otázky, ale posouzení hodnot, kulturní kontext a konečná morální odpovědnost spočívá na člověku. Etický postoj organizace je určován vědomými rozhodnutími lidí, nikoli tím, „jak to řekla AI“.
V souhrnu
Etika je rozdíl mezi „můžeme“ a „měli bychom“ a chrání dlouhodobou důvěryhodnost organizace. Odpovědná AI; Je založen na principech spravedlnosti, transparentnosti, odpovědnosti, soukromí, lidského dohledu, bezpečnosti a udržitelnosti. Tyto principy nejsou abstraktní; Promítá se do konkrétních rozhodnutí, jako je identifikace dotčených stran, testování zkreslení, zajištění transparentnosti a přidání lidského dohledu. Etika se liší od práva a je vyšší linií; Nelze to nechat na konec, musí to být zasazeno do designu. V příštím bloku se budeme zabývat dodržováním předpisů, které je právním ekvivalentem etiky, zejména EU AI Law a KVKK.
Aplikační úkol
Vyberte spuštění AI s vysokým dopadem. Pomocí šablony 2 vypište všechny dotčené strany a označte skupinu, která bude s největší pravděpodobností poškozena. Pomocí šablony 1 vyhledejte v iniciativě sedm principů. Definujte konkrétní opatření (test spravedlivosti, oznámení o transparentnosti, způsob odvolání atd.) pro dvě nejkritičtější etická rizika. Nakonec: „Mohu toto rozhodnutí vysvětlit osobě, která je nejvíce negativně ovlivněna? Odpovězte na otázku upřímně.
kontrolní seznam
- [ ] Identifikoval jsem všechny dotčené strany.
- [ ] Prověřil jsem startup se sedmi principy odpovědné umělé inteligence.
- [ ] Naplánoval jsem test na zaujatost/férovost.
- [ ] Vytvořil jsem prohlášení o transparentnosti.
- [ ] Nenechal jsem žádnou cestu pro lidský dohled a odvolání.
- [ ] Přemýšlel jsem o scénářích zneužití.
- [ ] "Mohu to vysvětlit tomu, kdo je nejvíce negativně ovlivněn?" Prošel jsem testem.