Dobici:
- Sposobnost povezivanja odgovornih AI principa (pravednost, transparentnost, odgovornost, privatnost, ljudski nadzor, sigurnost, održivost) za konkretne odluke
- Sposobnost testiranja pogođenih strana i pristrasnosti odvajanjem etike od poštivanja zakona i razlikovanjem između 'mi možemo' i 'trebali bismo'
- Sposobnost smanjenja scenarija zloupotrebe unaprijed ugrađivanjem transparentnosti, ljudskog nadzora i privlačnosti u dizajn
AI startup može biti tehnički savršen, finansijski isplativ i pravno održiv; ali ipak može biti pogrešno. Etika je razlika između “mi možemo” i “trebali bismo”. Za višeg menadžera, etika nije pitanje uljepšavanja ili odnosa s javnošću; To je temelj koji održava dugoročnu pouzdanost, ugled i društveni legitimitet institucije. U ovoj jedinici naučit ćete principe odgovorne umjetne inteligencije (pristup razvoju i korištenju umjetne inteligencije na način koji je pošten, transparentan, odgovoran i poštuje ljudsko dostojanstvo) i kako ih odražavati u svakodnevnim odlukama.
Osnovni principi odgovorne AI
Različiti okviri susreću se na sličnim principima. Praktični sažetak za menadžera:
princip
Kako to misliš?
admin pitanje
pravda
nediskriminacija
Da li to nepravedno utiče na grupu?
transparentnost
budite razumljivi
Možemo li objasniti razlog odluke?
odgovornost
Identifikacija ko je odgovoran
Ko je odgovoran ako dođe do greške?
Privatnost
Poštovanje ličnih podataka
Imamo li pravo na korištenje podataka?
ljudski nadzor
Održavanje kontrole
Može li se jedan prigovoriti i zaustaviti?
Sigurnost
ne naškodi
Može li se ovo zloupotrijebiti?
Održivost
Uticaj na životnu sredinu/društveni uticaj
Kome namećemo trošak?
Ovi principi nisu apstraktni; Svaki od njih se može povezati sa konkretnom odlukom. Na primjer, “transparentnost” znači da se kupac zna da razgovara sa AI; “Ljudski nadzor” znači da čovjek pregleda odbijenicu zajma i ostavi otvorenu za žalbu.
Savjet: Uz svaku odluku AI s velikim utjecajem, postavite jedno pitanje: „Mogu li jasno objasniti i stati iza ove odluke osobi na koju je to najnegativnije utjecalo?“ Ako odgovor vrijeđa, postoji etički problem.
Etika se razlikuje od zakona
Kritična razlika: zakonska usklađenost (Jedinica 9) je minimum; Etika je viša linija. Nešto je možda legalno, ali neetično. Na primjer, aplikaciji možda nije zabranjeno korištenje umjetne inteligencije za manipuliranje ponašanjem korisnika, ali to je neetično. Odgovorne institucije "je li zabranjeno?" ne "Je li istina?" pita on.
Korak po korak: ugrađivanje etike u odluku
1. Identifikujte pogođene strane. Koga ova inicijativa pogađa? (Kupac, zaposleni, društvo, grupe u nepovoljnom položaju)
2. Skenirajte s politikama. Dovedite inicijativu u pitanje u smislu svakog od gore navedenih principa.
3. Testirajte na pristrasnost i štetu. Da li model nepravedno utiče na određene grupe? Koji su scenariji zlostavljanja?
4. Dodajte transparentnost i nadzor. Prijavite korištenje umjetne inteligencije, ne ostavljajući način za ljudski prigovor.
5. Dokumenti i pregled. Sačuvajte etičku procjenu; Provjeravajte periodično.
tri mini kofera
Slučaj 1 — Zakonit, ali pogrešan. Aplikacija je koristila umjetnu inteligenciju za generiranje obavijesti koje izazivaju ovisnost kako bi duže zadržale korisnike u aplikaciji. Nije bilo pravne prepreke, ali kada je to objavljeno u štampi, došlo je do ozbiljnog gubitka ugleda; Njegovo ciljanje na mlade korisnike posebno je izazvalo kritike. Kompanija je uklonila ovu funkciju. Da je etički filter bio od početka, ovaj rizik bi se vidio.
Slučaj 2 — Vrijednost testa pravednosti. Model kreditnog bodovanja banke sistematski je davao niže ocjene aplikacijama zaštićenih grupa. Ovo je uhvaćeno u reviziji pravde. Model je redizajniran i redovno testiran kako bi se osigurala međugrupna jednakost u svojim rezultatima. Etičko načelo (pravda) pretvorilo se u konkretan test i spriječilo stvarnu štetu.
Slučaj 3 — Transparentnost je izgradila povjerenje. Kompanija za e-trgovinu stavila je frazu "Asistent umjetne inteligencije vam pomaže, možete se povezati s ljudskim predstavnikom u bilo koje vrijeme" na početak svog chat bota za korisničku podršku. Transparentnost i ljudski izlazak nisu umanjili zadovoljstvo; Naprotiv, povećalo je povjerenje, a pritužbe su se smanjile za 15%. Transparentnost urađena ispravno je bila vrijednost, a ne trošak.
Četiri šablona za kopiranje
1) Etički pregled:
Vaša uloga: odgovorni AI konsultant. Skenirajte ovu inicijativu za 7 principa: pravičnost, transparentnost, odgovornost, privatnost, ljudski nadzor, sigurnost, održivost. Za svaku polisu napišite jedan rizik i jednu preporuku. Inicijativa: [tekst]
2) Analiza pogođene strane:
Navedite sve strane na koje utiče ova inicijativa AI (kupac, zaposleni, društvo, grupe u nepovoljnom položaju). Zapišite moguće pozitivne i negativne efekte za svaku stranu; Označite grupu koja će najvjerovatnije biti oštećena. Inicijativa: [tekst]
3) Scenario zloupotrebe:
Generirajte 5 scenarija u kojima bi sljedeća AI karakteristika mogla biti zloupotrebljena (uključujući manipulaciju, diskriminaciju, kršenje privatnosti, obmanu). Predložite odluku o preventivnom dizajnu za svaki scenario. Atribut: [tekst]
4) Kontrola transparentnosti i nadzora:
Napišite plan transparentnosti i ljudskog nadzora za AI okrenutu klijentu koji će: šta će biti saopšteno korisniku i kako; Kako se može prenijeti na ljude? Kako može prigovoriti odluci? Upotreba: [tekst]
Slaba prompt / Jaka prompt
Slab: "Da li je ovo AI etično?"
Rezultat: Površno "da/ne"; Koji princip, ko je pogođen, koja mjera je nejasno.
Snažan: "Razmišljamo o korištenju AI u alatu za prethodnu provjeru zapošljavanja (ljud će donijeti konačnu odluku). Pregledajte ovo prema principima pravičnosti, transparentnosti, odgovornosti i ljudskog nadzora. Napišite konkretno na koje grupe kandidata može biti nepravedno pogođeno, koje testove pristrasnosti treba da uradim i kako se kandidati mogu žaliti na odluku."
Rezultat: praktična procjena zasnovana na principima koja identifikuje pogođenu stranu i predlaže testiranje i žalbu.
Uobičajene greške
- Brkanje etike sa poštivanjem zakona. Nije sve što je legalno etično; Etika je viša linija.
- Ostaviti etiku da traje. Dobivanje "etičkog odobrenja" nakon dizajna je prekasno; etika mora biti ugrađena u dizajn od početka.
- Ne testiram pravdu. Pretpostavka da je “naš model neutralan” je opasna; ne može se znati bez mjerenja.
- Zamijeniti transparentnost sa troškovima. Transparentnost urađena ispravno povećava povjerenje i vrijednost.
- Održavanje zahvaćenih strana uskim. Razmišljanje samo o kupcu i ignoriranje zaposlenika, društva i ugroženih grupa stvara slijepu tačku.
Oprez: potpuno prepustiti etičku evaluaciju umjetnoj inteligenciji je kontradiktorno i opasno. AI može pomoći u postavljanju etičkih pitanja, ali vrednosni sud, kulturni kontekst i krajnja moralna odgovornost ostaju na čovjeku. Etički stav organizacije određen je svjesnim izborima ljudi, a ne "tako je rekao AI".
Ukratko
Etika je razlika između "mi možemo" i "trebali bismo" i štiti dugoročni kredibilitet organizacije. Odgovoran AI; Zasniva se na principima pravde, transparentnosti, odgovornosti, privatnosti, ljudskog nadzora, sigurnosti i održivosti. Ovi principi nisu apstraktni; To se pretvara u konkretne odluke kao što su identifikacija pogođenih strana, testiranje na pristrasnost, pružanje transparentnosti i dodavanje ljudskog nadzora. Etika je drugačija od zakona i viša je linija; Ne može se ostaviti do kraja, mora biti ugrađeno u dizajn. U sljedećoj cjelini ćemo razgovarati o usklađenosti, što je pravni ekvivalent etike, posebno EU AI zakona i KVKK.
Zadatak aplikacije
Odaberite AI startup s velikim utjecajem. Sa šablonom 2 navedite sve pogođene strane i označite grupu za koju postoji najveća vjerovatnoća da će biti oštećena. Sa šablonom 1 skenirajte inicijativu za sedam principa. Definirajte konkretnu mjeru (test poštenja, obavještenje o transparentnosti, način žalbe, itd.) za dva najkritičnija etička rizika. Konačno, “mogu li ovu odluku objasniti osobi na koju je najnegativnije utjecalo?” Odgovorite na pitanje iskreno.
kontrolna lista
- [ ] Identificirao sam sve pogođene strane.
- [ ] Pregledao sam startup sa sedam principa odgovorne AI.
- [ ] Planirao sam test za pristrasnost/fer.
- [ ] Dizajnirao sam izjavu o transparentnosti.
- [ ] Nisam ostavio način za ljudski nadzor i žalbu.
- [ ] Razmišljao sam o scenarijima zlostavljanja.
- [ ] “Mogu li to objasniti onom na koji je najnegativnije utjecalo?” Položio sam test.