Dobici:
- Sposobnost povezivanja načela odgovorne umjetne inteligencije (poštenost, transparentnost, odgovornost, privatnost, ljudski nadzor, sigurnost, održivost) s konkretnim odlukama
- Sposobnost testiranja pogođenih strana i pristranosti odvajanjem etike od zakonske usklađenosti i razlikovanjem između "možemo" i "trebali bismo"
- Mogućnost smanjenja scenarija zlouporabe unaprijed ugradnjom transparentnosti, ljudskog praćenja i privlačnosti u dizajn
AI startup može biti tehnički savršen, financijski isplativ i pravno održiv; ali ipak bi moglo biti pogrešno. Etika je razlika između "možemo" i "trebali bismo". Za višeg menadžera etika nije stvar uljepšavanja ili odnosa s javnošću; To je temelj koji održava dugoročnu pouzdanost, ugled i društveni legitimitet ustanove. U ovoj jedinici naučit ćete načela odgovorne umjetne inteligencije (pristup razvoju i korištenju umjetne inteligencije na način koji je pravedan, transparentan, odgovoran i poštuje ljudsko dostojanstvo) i kako ih odražavati u svakodnevnim odlukama.
Temeljna načela odgovorne umjetne inteligencije
Različiti okviri susreću se na sličnim principima. Praktični sažetak za menadžera:
princip
kako to misliš
admin pitanje
pravednost
nediskriminacija
Utječe li to nepravedno na grupu?
prozirnost
biti razumljiv
Možemo li objasniti razlog odluke?
odgovornost
Identificirati tko je odgovoran
Tko je odgovoran ako se dogodi greška?
Privatnost
Poštivanje osobnih podataka
Imamo li pravo koristiti podatke?
ljudski nadzor
Održavanje kontrole
Može li se prigovoriti i zaustaviti to?
Sigurnost
ne naškoditi
Može li se to zloupotrijebiti?
Održivost
Ekološki/društveni utjecaj
Kome namećemo trošak?
Ovi principi nisu apstraktni; Svaki od njih može se povezati s konkretnom odlukom. Na primjer, "transparentnost" znači davanje do znanja kupcu da razgovara s umjetnom inteligencijom; "Ljudski nadzor" znači ljudski pregled odbijenice zajma i ostavljanje otvorene za žalbu.
Savjet: Uz svaku odluku umjetne inteligencije koja ima veliki utjecaj, postavite jedno pitanje: "Mogu li jasno objasniti i stajati iza ove odluke osobi koja je najviše negativno pogođena?" Ako je odgovor uvredljiv, postoji etički problem.
Etika se razlikuje od prava
Kritična razlika: zakonska usklađenost (jedinica 9) je minimum; Etika je viša linija. Nešto može biti legalno, ali neetično. Na primjer, aplikaciji možda nije zabranjeno korištenje umjetne inteligencije za manipuliranje korisničkim ponašanjem, ali je neetično. Odgovorne institucije "je li zabranjeno?" a ne "Je li istina?" pita on.
Korak po korak: ugraditi etiku u odluku
1. Identificirajte pogođene strane. Na koga se ova inicijativa odnosi? (Kupac, zaposlenik, društvo, skupine u nepovoljnom položaju)
2. Skeniraj s pravilima. Dovedite u pitanje inicijativu u smislu svakog od gore navedenih načela.
3. Testirajte pristranost i štetu. Utječe li model nepravedno na određene skupine? Koji su scenariji zlostavljanja?
4. Dodajte transparentnost i nadzor. Prijavite korištenje umjetne inteligencije, ne ostavljajući mjesta ljudskim prigovorima.
5. Dokumenti i pregled. Sačuvajte etičku procjenu; Povremeno provjerite.
tri mini kućišta
Slučaj 1 — Legalno, ali pogrešno. Aplikacija je koristila umjetnu inteligenciju za generiranje zaraznih obavijesti kako bi se korisnici dulje zadržali u aplikaciji. Nije bilo zakonske prepreke, ali kada je objavljeno u tisku, došlo je do ozbiljnog gubitka ugleda; Njegovo ciljanje na mlade korisnike posebno je izazvalo kritike. Tvrtka je uklonila značajku. Da je etički filter bio od početka, taj bi se rizik vidio.
Slučaj 2 — Vrijednost testa pravednosti. Bankov model kreditnog bodovanja sustavno je davao niže ocjene zahtjevima zaštićenih skupina. Ovo je uhvaćeno u reviziji pravosuđa. Model je redizajniran i redovito testiran kako bi se osigurala pravednost među grupama u rezultatima. Etičko načelo (pravda) pretvorilo se u konkretan test i spriječilo stvarnu štetu.
Slučaj 3 — Povjerenje izgrađeno transparentnošću. Tvrtka za e-trgovinu stavila je izraz "Asistent za umjetnu inteligenciju vam pomaže, možete se povezati s ljudskim predstavnikom u bilo kojem trenutku" na početku svog chatbota korisničke podrške. Transparentnost i ljudski izlazak nisu umanjili zadovoljstvo; Naprotiv, povećao je povjerenje i pritužbe su se smanjile za 15%. Ispravna transparentnost bila je vrijednost, a ne cijena.
Četiri predloška za kopiranje
1) Etički pregled:
Vaša uloga: odgovorni AI konzultant. Skenirajte ovu inicijativu za 7 načela: pravednost, transparentnost, odgovornost, privatnost, ljudski nadzor, sigurnost, održivost. Za svaku policu napišite jedan rizik i jednu preporuku. Inicijativa: [tekst]
2) Analiza pogođene strane:
Navedite sve strane na koje utječe ova inicijativa umjetne inteligencije (kupac, zaposlenik, društvo, skupine u nepovoljnom položaju). Zapišite moguće pozitivne i negativne učinke za svaku stranu; Označite skupinu koja će najvjerojatnije biti oštećena. Inicijativa: [tekst]
3) Scenarij zlouporabe:
Generirajte 5 scenarija u kojima bi sljedeća AI značajka mogla biti zloupotrijebljena (uključujući manipulaciju, diskriminaciju, povredu privatnosti, prijevaru). Predložite preventivnu odluku o dizajnu za svaki scenarij. Atribut: [tekst]
4) Transparentnost i nadzorna kontrola:
Napišite plan transparentnosti i ljudskog nadzora za AI usmjeren na kupca koji: što će se priopćiti korisniku i kako; Kako se može prenijeti na ljude? Kako se može buniti protiv odluke? Upotreba: [tekst]
Slab upit / Jak upit
Slab: "Je li ovaj AI etičan?"
Rezultat: Površno "da/ne"; Nejasno je koje načelo, tko je pogođen, koja mjera.
Strong: "Razmatramo korištenje umjetne inteligencije u alatu za prethodnu provjeru zapošljavanja (ljudi će donijeti konačnu odluku). Provjerite ovo u pogledu načela pravednosti, transparentnosti, odgovornosti i ljudskog nadzora. Konkretno napišite koje skupine kandidata mogu biti nepravedno pogođene, koje testove pristranosti trebam napraviti i kako se kandidati mogu žaliti na odluku."
Rezultat: Praktična procjena temeljena na načelima koja identificira pogođenu stranu i predlaže testiranje i žalbu.
Uobičajene greške
- Brkanje etike sa zakonskom usklađenošću. Nije sve što je legalno etično; Etika je viša linija.
- Ostavljajući etiku da traje. Dobivanje "etičkog odobrenja" nakon dizajna je prekasno; etika mora biti ugrađena u dizajn od samog početka.
- Ne ispitujući pravdu. Pretpostavka da je "naš model neutralan" je opasna; ne može se znati bez mjerenja.
- Miješajući transparentnost s cijenom. Ispravna transparentnost povećava povjerenje i vrijednost.
- Održavanje zahvaćenih strana uskim. Razmišljanje samo o kupcu i ignoriranje zaposlenika, društva i skupina u nepovoljnom položaju stvara slijepu točku.
Oprez: potpuno prepuštanje etičke evaluacije umjetnoj inteligenciji je kontradiktorno i opasno. Umjetna inteligencija može pomoći u postavljanju etičkih pitanja, ali vrijednosni sud, kulturni kontekst i konačna moralna odgovornost ostaju na čovjeku. Etički stav organizacije određen je svjesnim izborima ljudi, a ne "tako je AI rekla".
Ukratko
Etika je razlika između "možemo" i "trebali bismo" i štiti dugoročnu vjerodostojnost organizacije. Odgovorna umjetna inteligencija; Temelji se na načelima pravde, transparentnosti, odgovornosti, privatnosti, ljudskog nadzora, sigurnosti i održivosti. Ovi principi nisu apstraktni; To se pretvara u konkretne odluke poput identificiranja pogođenih strana, testiranja pristranosti, pružanja transparentnosti i dodavanja ljudskog nadzora. Etika se razlikuje od prava i viša je linija; Ne može se ostaviti do kraja, mora biti ugrađeno u dizajn. U sljedećoj cjelini raspravljat ćemo o usklađenosti, što je pravni ekvivalent etike, posebice EU AI Law i KVKK.
Zadatak aplikacije
Odaberite AI startup s velikim utjecajem. Pomoću predloška 2 navedite sve pogođene strane i označite skupinu koja će najvjerojatnije biti oštećena. Pomoću predloška 1 skenirajte inicijativu za sedam načela. Definirajte konkretnu mjeru (test pravednosti, obavijest o transparentnosti, način žalbe itd.) za dva najkritičnija etička rizika. Konačno, "mogu li objasniti ovu odluku osobi koja je najviše negativno pogođena?" Iskreno odgovorite na pitanje.
popis za provjeru
- [ ] Identificirao sam sve pogođene strane.
- [ ] Provjerio sam startup sa sedam načela odgovorne umjetne inteligencije.
- [ ] Planirao sam test pristranosti/poštenosti.
- [ ] Dizajnirao sam izjavu o transparentnosti.
- [ ] Nisam ostavio nikakav način za ljudski nadzor i žalbu.
- [ ] Razmišljao sam o scenarijima zlostavljanja.
- [ ] "Mogu li to objasniti onome tko je najviše pogođen?" Prošla sam test.