Nyereség:
- Képes a felelős mesterséges intelligencia elveit (méltányosság, átláthatóság, elszámoltathatóság, adatvédelem, emberi felügyelet, biztonság, fenntarthatóság) konkrét döntésekhez kötni
- Az érintett felek és az elfogultság tesztelésének képessége az etika és a jogi megfelelés elkülönítésével, valamint a „megtehetjük” és a „kellünk” között.
- Lehetőség a visszaélések forgatókönyveinek előre történő csökkentésére az átláthatóság, az emberi megfigyelés és a vonzerő beágyazásával a tervezésbe
Egy AI startup lehet technikailag tökéletes, pénzügyileg jövedelmező és jogilag is életképes; de attól még lehet baj. Az etika a különbség a „lehet” és a „kellünk” között. Egy felsővezető számára az etika nem a díszítés vagy a PR kérdése; Ez az intézmény hosszú távú megbízhatóságának, hírnevének és társadalmi legitimitásának megőrzése. Ebben a részben megtanulod a felelős mesterséges intelligencia alapelveit (a mesterséges intelligencia méltányos, átlátható, elszámoltatható és az emberi méltóságot tiszteletben tartó módon történő fejlesztésének és használatának megközelítése) alapelveit, valamint azt, hogy hogyan lehet ezeket tükrözni a napi döntésekben.
A felelős mesterséges intelligencia alapelvei
A különböző keretek hasonló elvek alapján találkoznak. Gyakorlati összefoglaló vezetőknek:
elv
hogy érted?
admin kérdés
igazságszolgáltatás
diszkriminációmentesség
Ez igazságtalanul érint egy csoportot?
átláthatóság
legyen érthető
Megmagyarázhatjuk a döntés okát?
elszámoltathatóság
A felelős személy azonosítása
Ki a felelős, ha hiba történik?
Adatvédelem
A személyes adatok tiszteletben tartása
Van jogunk az adatok felhasználására?
emberi megfigyelés
Az irányítás irányítása
Lehet tiltakozni és megállítani?
Biztonság
ne árts
Vissza lehet élni ezzel?
Fenntarthatóság
Környezeti/társadalmi hatás
Kire hárítjuk a költséget?
Ezek az elvek nem absztraktak; Mindegyik konkrét döntéshez köthető. Például az „átláthatóság” azt jelenti, hogy tudatjuk az ügyféllel, hogy az MI-vel beszél; Az „emberi felügyelet” azt jelenti, hogy a kölcsön elutasítását emberi felülvizsgálja, és fellebbezésre nyitva hagyja.
Tipp: Minden nagy hatású mesterségesintelligencia-döntésnél tegyél fel egy kérdést: „El tudom-e világosan megmagyarázni és kiállni a döntés mögött a leginkább negatívan érintett személy előtt?” Ha a válasz sértő, akkor etikai probléma van.
Az etika különbözik a jogtól
Egy kritikus megkülönböztetés: a jogi megfelelés (9. egység) a minimum; Az etika egy magasabb vonal. Lehet, hogy valami legális, de etikátlan. Például lehet, hogy egy alkalmazásnak nem tiltható meg, hogy mesterséges intelligenciát használjon a felhasználói viselkedés manipulálására, de ez etikátlan. Felelős intézmények "tilos?" nem "Igaz?" – kérdezi.
Lépésről lépésre: az etika beágyazása a döntésbe
1. Azonosítsa az érintett feleket. Kit érint ez a kezdeményezés? (Ügyfél, munkavállaló, társadalom, hátrányos helyzetű csoportok)
2. Vizsgálja meg az irányelveket. Kérdezze meg a kezdeményezést a fenti elvek mindegyike szempontjából.
3. Tesztelje az elfogultságot és a kárt. A modell tisztességtelenül érint bizonyos csoportokat? Mik a visszaélések forgatókönyvei?
4. Növelje az átláthatóságot és a felügyeletet. Jelentse be a mesterséges intelligencia használatát, ne hagyjon módot az emberi tiltakozásra.
5. Dokumentumok és áttekintés. Mentse el az etikai értékelést; Időnként nézzen vissza.
három mini tok
1. eset – Jogszerű, de helytelen. Egy alkalmazás mesterséges intelligenciát használt, hogy addiktív értesítéseket generáljon, hogy a felhasználók tovább maradjanak az alkalmazásban. Jogi akadálya nem volt, de amikor a sajtóban megjelent, komoly hírnévveszteség történt; Különösen a fiatal felhasználókat célozta meg a kritika. A cég eltávolította a funkciót. Ha az etikai szűrő a kezdetektől fogva lenne, ez a kockázat látható lenne.
2. eset – A méltányossági teszt értéke. Egy bank hitelbírálati modellje szisztematikusan alacsonyabb pontszámot adott a védett csoportok kérelmeire. Ezt az igazságügyi ellenőrzés során elkapták. A modellt újratervezték és rendszeresen tesztelték, hogy biztosítsák a csoportok közötti egyenlőséget az eredményekben. Az etikai elv (igazságosság) konkrét próbává változott, és megakadályozta a valódi károkat.
3. eset – Az átláthatóság bizalmat épített. Egy e-kereskedelmi cég az ügyfélszolgálati chatbotja elejére azt a mondatot tette, hogy "Egy mesterséges intelligencia asszisztens segít, bármikor csatlakozhatsz egy emberi képviselőhöz". Az átláthatóság és az emberi kilépés nem csökkentette az elégedettséget; Éppen ellenkezőleg, növelte a bizalmat, és 15%-kal csökkent a panaszok száma. A jól végrehajtott átláthatóság érték volt, nem költség.
Négy másolható sablon
1) Etikai szűrés:
Az Ön szerepe: felelős AI-tanácsadó. Vizsgálja meg ezt a kezdeményezést 7 alapelvre: méltányosság, átláthatóság, elszámoltathatóság, adatvédelem, emberi felügyelet, biztonság, fenntarthatóság. Minden szabályzathoz írjon egy kockázatot és egy ajánlást. Kezdeményezés: [szöveg]
2) Érintett fél elemzése:
Sorolja fel az AI-kezdeményezés által érintett összes felet (ügyfél, munkavállaló, társadalom, hátrányos helyzetű csoportok). Írja le a lehetséges pozitív és negatív hatásokat mindegyik fél számára; Jelölje meg azt a csoportot, amelynek a legnagyobb valószínűséggel sérülnek meg. Kezdeményezés: [szöveg]
3) Visszaélési forgatókönyv:
Hozzon létre 5 olyan forgatókönyvet, amelyben a következő AI-funkcióval vissza lehet élni (beleértve a manipulációt, a diszkriminációt, a magánélet megsértését, a megtévesztést). Javasoljon megelőző tervezési döntést minden forgatókönyvhöz. Attribútum: [text]
4) Átláthatóság és felügyelet ellenőrzése:
Írjon átláthatósági és emberi felügyeleti tervet az ügyfelek felé irányuló mesterséges intelligencia számára, amely: mit és hogyan közöl a felhasználóval; Hogyan lehet átvinni az emberre? Hogyan tiltakozhat a döntés ellen? Használat: [szöveg]
Gyenge felszólítás / Erős felszólítás
Gyenge: „Etikus ez a mesterséges intelligencia?”
Eredmény: egy felületes „igen/nem”; Nem világos, hogy melyik elv, kit érint, milyen intézkedés.
Erős: "Fontoljuk a mesterséges intelligencia alkalmazását egy toborzási előszűrési eszközben (az ember hozza meg a végső döntést). Vizsgálja meg ezt a méltányosság, az átláthatóság, az elszámoltathatóság és az emberi felügyelet elvei alapján. Írja le konkrétan, hogy a jelöltek mely csoportjai lehetnek méltánytalanul érintettek, milyen elfogultsági teszteket kell elvégeznem, és hogyan fellebbezhetnek a jelöltek a döntés ellen."
Eredmény: Elvi alapú, gyakorlati értékelés, amely azonosítja az érintett felet, és tesztelést és fellebbezést javasol.
Gyakori hibák
- Az etika összekeverése a jogi megfeleléssel. Nem minden, ami törvényes, etikus; Az etika egy magasabb vonal.
- Hagyjuk az etikát a végsőkig. Az "etikai jóváhagyás" megszerzése a tervezés után már túl késő; az etikát kezdettől fogva be kell ágyazni a tervezésbe.
- Nem az igazságosság próbája. Veszélyes az a feltételezés, hogy „modellünk semleges”; mérés nélkül nem ismerhető meg.
- Az átláthatóság összetévesztése a költségekkel. A jól végrehajtott átláthatóság növeli a bizalmat és az értéket.
- Az érintett oldalak szűk tartása. Ha csak az ügyfélre gondolunk, és figyelmen kívül hagyjuk a munkavállalót, a társadalmat és a hátrányos helyzetű csoportokat, az vakfoltot teremt.
Figyelem: Az etikai értékelést teljesen a mesterséges intelligenciára hagyni ellentmondásos és veszélyes. A mesterséges intelligencia segíthet felvetni az etikai kérdéseket, de az értékítélet, a kulturális kontextus és a végső erkölcsi felelősség az embert terheli. Egy szervezet etikai álláspontját az emberek tudatos döntései határozzák meg, nem pedig az, hogy „az AI mondta”.
Összefoglalva
Az etika a különbség a „lehet” és a „kell” között, és védi a szervezet hosszú távú hitelességét. Felelős mesterséges intelligencia; Az igazságosság, az átláthatóság, az elszámoltathatóság, a magánélet, az emberi felügyelet, a biztonság és a fenntarthatóság elvein alapul. Ezek az elvek nem absztraktak; Konkrét döntéseket hoz, mint például az érintett felek azonosítása, az elfogultság tesztelése, az átláthatóság biztosítása és az emberi felügyelet növelése. Az etika különbözik a jogtól, és magasabb vonal; Nem lehet a végére hagyni, be kell ágyazni a tervezésbe. A következő részben a megfelelésről lesz szó, amely az etika jogi megfelelője, különös tekintettel az EU AI-törvényére és a KVKK-ra.
Pályázati feladat
Válasszon egy nagy hatású AI-indítást. A 2. sablonnal sorolja fel az összes érintett felet, és jelölje meg azt a csoportot, amelynek a legnagyobb valószínűséggel sérelem éri. Az 1. sablonnal vizsgálja meg a kezdeményezést a hét alapelv tekintetében. Határozzon meg egy konkrét intézkedést (méltányossági teszt, átláthatósági értesítés, fellebbezési mód stb.) a két legkritikusabb etikai kockázatra. Végül: „megmagyarázhatom ezt a döntést a leginkább negatívan érintett személynek?” Válaszolj a kérdésre őszintén.
ellenőrző lista
- [ ] Az összes érintett felet azonosítottam.
- [ ] Az indulást a felelős AI hét alapelvével vizsgáltam.
- [ ] Terveztem egy tesztet az elfogultságra/méltányosságra.
- [ ] Az átláthatósági nyilatkozatot én terveztem.
- [ ] Nem hagytam módot emberi felügyeletre és fellebbezésre.
- [ ] Visszaélési forgatókönyvekre gondoltam.
- [ ] „Megmagyarázhatom a leginkább negatívan érintettnek?” átmentem a teszten.