Qligħ:
- Kapaċità li torbot il-prinċipji responsabbli tal-IA (ġustizzja, trasparenza, responsabbiltà, privatezza, sorveljanza umana, sigurtà, sostenibbiltà) ma’ deċiżjonijiet konkreti
- Kapaċità li tittestja l-partijiet affettwati u l-preġudizzju billi tissepara l-etika mill-konformità legali u tiddistingwi bejn 'nistgħu' u 'għandna'
- Kapaċità li tnaqqas ix-xenarji ta' abbuż minn qabel billi tintegra t-trasparenza, il-monitoraġġ uman u l-appell fid-disinn
L-istartjar tal-AI jista 'jkun teknikament perfett, finanzjarjament profittabbli, u legalment vijabbli; iżda xorta jista 'jkun ħażin. L-etika hija d-differenza bejn "nistgħu" u "għandna." Għal maniġer anzjan, l-etika mhijiex kwistjoni ta’ tisbiħ jew relazzjonijiet pubbliċi; Hija l-pedament li żżomm l-affidabbiltà fit-tul, ir-reputazzjoni u l-leġittimità soċjali tal-istituzzjoni. F'din l-unità, int se titgħallem il-prinċipji ta' AI responsabbli (approċċ għall-iżvilupp u l-użu tal-intelliġenza artifiċjali b'mod li jkun ġust, trasparenti, responsabbli u li jirrispetta d-dinjità umana) u kif tirriflettihom fid-deċiżjonijiet ta' kuljum.
Prinċipji fundamentali ta' AI responsabbli
Oqfsa differenti jiltaqgħu fuq prinċipji simili. Sommarju prattiku għal maniġer:
prinċipju
Xi tfisser?
mistoqsija amministrattiva
ġustizzja
non-diskriminazzjoni
Dan jaffettwa b'mod inġust grupp?
trasparenza
tkun tinftiehem
Nistgħu nispjegaw ir-raġuni għad-deċiżjoni?
responsabbiltà
L-identifikazzjoni ta' min hu responsabbli
Min hu responsabbli jekk iseħħ żball?
Privatezza
Rispett għad-data personali
Għandna d-dritt li nużaw id-data?
sorveljanza umana
Nibqgħu fil-kontroll
Jista 'wieħed joġġezzjona u jwaqqafha?
Sigurtà
tagħmel ebda ħsara
Dan jista' jiġi abbużat?
Sostenibbiltà
Impatt ambjentali/soċjali
Lil min nimponu l-ispiża?
Dawn il-prinċipji mhumiex astratti; Kull wieħed minnhom jista' jkun marbut ma' deċiżjoni konkreta. Pereżempju, "trasparenza" tfisser li klijent ikun jaf li qed jitkellem mal-AI; “Sorveljanza umana” tfisser li jkun hemm reviżjoni umana ta’ ċaħda ta’ self u tħalliha miftuħa għall-appell.
Tip: Ma’ kull deċiżjoni ta’ AI b’impatt għoli, staqsi mistoqsija waħda: “Nista’ nispjega b’mod ċar u nżomm din id-deċiżjoni lill-persuna l-aktar affettwata b’mod negattiv?” Jekk ir-rispons joffendi, hemm problema etika.
L-etika hija differenti mil-liġi
Distinzjoni kritika: il-konformità legali (Unità 9) hija l-minimu assolut; L-etika hija linja ogħla. Xi ħaġa tista 'tkun legali iżda mhux etika. Pereżempju, app tista' ma tkunx ipprojbita milli tuża intelliġenza artifiċjali biex timmanipula l-imġiba tal-utent, iżda mhijiex etika. Istituzzjonijiet responsabbli "huwa pprojbit?" mhux "Huwa veru?" jistaqsi.
Pass pass: inkorporazzjoni tal-etika fid-deċiżjoni
1. Identifika l-partijiet affettwati. Min hu affettwat minn din l-inizjattiva? (Klijent, impjegat, soċjetà, gruppi żvantaġġati)
2. Skennja mal-politiki. Mistoqsija l-inizjattiva f'termini ta 'kull wieħed mill-prinċipji ta' hawn fuq.
3. Ittestja għal preġudizzju u ħsara. Il-mudell jaffettwa b'mod inġust ċerti gruppi? X'inhuma x-xenarji ta' abbuż?
4. Żid it-trasparenza u s-sorveljanza. Irrapporta l-użu ta 'intelliġenza artifiċjali, li ma tħalli l-ebda mod għall-oġġezzjoni tal-bniedem.
5. Dokumenti u reviżjoni. Ħlief valutazzjoni etika; Iċċekkja lura perjodikament.
tliet każijiet żgħar
Każ 1 — Legali iżda żbaljat. App użat intelliġenza artifiċjali biex tiġġenera notifiki ta 'vizzju biex iżżomm lill-utenti fl-app għal aktar żmien. Ma kien hemm l-ebda ostaklu legali, iżda meta kien irrappurtat fl-istampa, kien hemm telf serju ta 'reputazzjoni; Il-mira tagħha lejn utenti żgħażagħ b'mod partikolari ġibdet kritika. Il-kumpanija neħħiet il-karatteristika. Kieku l-filtru etiku kien mill-bidu, dan ir-riskju jidher.
Każ 2 — Il-valur tat-test tal-ġustizzja. Mudell ta' punteġġ ta' kreditu ta' bank sistematikament ta punteġġi aktar baxxi lill-applikazzjonijiet minn gruppi protetti. Dan inqabad f'verifika tal-ġustizzja. Il-mudell ġie mfassal mill-ġdid u ttestjat regolarment biex jiżgura ekwità intergrupp fir-riżultati tiegħu. Il-prinċipju etiku (ġustizzja) inbidel f'test konkret u ppreveniet ħsara reali.
Każ 3 — It-trasparenza bnew il-fiduċja. Kumpanija tal-kummerċ elettroniku poġġiet il-frażi "Assistent ta 'intelliġenza artifiċjali jgħinek, tista' tikkonnettja ma 'rappreżentant uman fi kwalunkwe ħin" fil-bidu tal-chatbot tagħha ta' appoġġ għall-klijenti. It-trasparenza u l-ħruġ uman ma naqqsux is-sodisfazzjon; Għall-kuntrarju, żied il-fiduċja u l-ilmenti naqsu bi 15%. It-trasparenza li saret sewwa kienet valur, mhux spiża.
Erba' mudelli li jistgħu jiġu kkupjati
1) Screening etiku:
Ir-rwol tiegħek: konsulent responsabbli tal-AI. Skennja din l-inizjattiva għal 7 prinċipji: ġustizzja, trasparenza, responsabbiltà, privatezza, sorveljanza umana, sigurtà, sostenibbiltà. Għal kull politika, ikteb riskju wieħed u rakkomandazzjoni waħda. Inizjattiva: [test]
2) Analiżi tal-parti affettwata:
Elenka l-partijiet kollha affettwati minn din l-inizjattiva AI (klijent, impjegat, soċjetà, gruppi żvantaġġati). Ikteb l-effetti pożittivi u negattivi possibbli għal kull parti; Immarka l-grupp l-aktar probabbli li ssirilhom ħsara. Inizjattiva: [test]
3) Xenarju ta' abbuż:
Iġġenera 5 xenarji li fihom il-karatteristika AI li ġejja tista' tiġi abbużata (inklużi manipulazzjoni, diskriminazzjoni, ksur tal-privatezza, qerq). Issuġġerixxi deċiżjoni ta' disinn preventiv għal kull xenarju. Attribut: [test]
4) Trasparenza u kontroll tas-sorveljanza:
Ikteb pjan ta' trasparenza u sorveljanza umana għall-AI li tiffaċċja l-klijenti li: x'se jiġi kkomunikat lill-utent u kif; Kif jista 'jiġi trasferit lill-bnedmin? Kif jista’ joġġezzjona għad-deċiżjoni? Użu: [test]
Pront dgħajjef / Pront qawwi
Dgħajjef: "Din l-AI hija etika?"
Riżultat: "iva/le" superfiċjali; Liema prinċipju, min huwa affettwat, liema miżura mhuwiex ċar.
Qawwija: "Qed nikkunsidraw li nużaw l-AI f'għodda ta' skrinjar minn qabel tar-reklutaġġ (il-bniedem se jieħu d-deċiżjoni finali). Skrinja dan għal prinċipji ta 'ġustizzja, trasparenza, responsabbiltà u sorveljanza umana. Ikteb b'mod konkret liema gruppi ta' kandidati jistgħu jiġu affettwati b'mod inġust, liema testijiet ta' preġudizzju għandi bżonn nagħmel, u kif il-kandidati jistgħu jappellaw id-deċiżjoni."
Riżultat: Valutazzjoni prattika bbażata fuq il-prinċipji li tidentifika l-parti affettwata u tissuġġerixxi ttestjar u appell.
Żbalji komuni
- Tħawwad l-etika mal-konformità legali. Mhux dak kollu li hu legali huwa etiku; L-etika hija linja ogħla.
- Inħallu l-etika għall-aħħar. Il-ksib ta' "approvazzjoni tal-etika" wara d-disinn huwa tard wisq; l-etika għandha tkun inkorporata fid-disinn mill-bidu.
- Mhux tittestja l-ġustizzja. Is-suppożizzjoni li "il-mudell tagħna huwa newtrali" hija perikoluża; ma jistax ikun magħruf mingħajr kejl.
- Tiżbalja t-trasparenza għall-ispiża. It-trasparenza li ssir sewwa żżid il-fiduċja u l-valur.
- Inżommu l-ġnub affettwati dojoq. Taħseb biss dwar il-klijent u tinjora l-impjegat, is-soċjetà u l-gruppi żvantaġġati toħloq blind spot.
Attenzjoni: Li titħalla l-evalwazzjoni etika kompletament għall-intelliġenza artifiċjali hija kontradittorja u perikoluża. L-IA tista’ tgħin biex tqajjem mistoqsijiet etiċi, iżda l-ġudizzju tal-valur, il-kuntest kulturali u r-responsabbiltà morali aħħarija huma tal-bniedem. Il-pożizzjoni etika ta 'organizzazzjoni hija ddeterminata mill-għażliet konxji tan-nies, mhux minn "l-AI qalet hekk."
Fil-qosor
L-etika hija d-differenza bejn "nistgħu" u "għandna" u tipproteġi l-kredibilità fit-tul tal-organizzazzjoni. AI responsabbli; Hija bbażata fuq il-prinċipji tal-ġustizzja, it-trasparenza, ir-responsabbiltà, il-privatezza, is-sorveljanza umana, is-sigurtà u s-sostenibbiltà. Dawn il-prinċipji mhumiex astratti; Jissarraf f'deċiżjonijiet konkreti bħall-identifikazzjoni tal-partijiet affettwati, l-ittestjar għall-preġudizzju, il-provvista ta' trasparenza, u ż-żieda tas-sorveljanza umana. L-etika hija differenti mil-liġi u hija linja ogħla; Ma jistax jitħalla għall-aħħar, għandu jkun inkorporat fid-disinn. Fl-unità li jmiss, se niddiskutu l-konformità, li hija l-ekwivalenti legali tal-etika, speċjalment il-Liġi tal-IA tal-UE u l-KVKK.
Kompitu ta' applikazzjoni
Agħżel startup AI b'impatt għoli. Bil-mudell 2, elenka l-partijiet affettwati kollha u mmarka l-grupp l-aktar probabbli li ssirilhom ħsara. Bil-mudell 1, skennja l-inizjattiva għas-seba' prinċipji. Iddefinixxi miżura konkreta (test ta' ġustizzja, notifika ta' trasparenza, rotta ta' appell, eċċ.) għaż-żewġ riskji etiċi l-aktar kritiċi. Fl-aħħarnett, "nista 'nispjega din id-deċiżjoni lill-persuna l-aktar affettwata negattivament?" Wieġeb il-mistoqsija b'mod onest.
lista ta' kontroll
- [ ] Identifikajt il-partijiet kollha affettwati.
- [ ] Skrinjejt l-istartjar b'seba' prinċipji ta' AI responsabbli.
- [ ] Ippjanajt test għall-preġudizzju/ġustizzja.
- [ ] Iddisinjajt id-dikjarazzjoni tat-trasparenza.
- [ ] Ma ħallejt l-ebda mod għas-sorveljanza u l-appell tal-bniedem.
- [ ] Ħsibt dwar xenarji ta' abbuż.
- [ ] “Nista’ nispjegaha lil dak l-aktar affettwat b’mod negattiv?” Għaddejt it-test.