Ieguvumi:
- Spēja saistīt atbildīgus AI principus (taisnīgums, caurspīdīgums, atbildība, privātums, cilvēku uzraudzība, drošība, ilgtspējība) ar konkrētiem lēmumiem
- Spēja pārbaudīt ietekmētās puses un neobjektivitāti, nodalot ētiku no tiesiskās atbilstības un nošķirot “mēs varam” un “mums vajadzētu”
- Iespēja iepriekš samazināt ļaunprātīgas izmantošanas scenārijus, dizainā iestrādājot pārredzamību, cilvēku uzraudzību un pievilcību
AI starta uzņēmums var būt tehniski ideāls, finansiāli izdevīgs un juridiski dzīvotspējīgs; bet tas joprojām var būt nepareizi. Ētika ir atšķirība starp “mēs varam” un “mums vajadzētu”. Augstākajam vadītājam ētika nav izpušķošanas vai sabiedrisko attiecību jautājums; Tas ir pamats, kas uztur iestādes ilgtermiņa uzticamību, reputāciju un sociālo leģitimitāti. Šajā nodaļā jūs apgūsit atbildīga AI principus (pieeja mākslīgā intelekta attīstībai un izmantošanai godīgā, caurspīdīgā, atbildīgā un cilvēka cieņu respektējošā veidā) un to, kā tos atspoguļot ikdienas lēmumos.
Atbildīga AI pamatprincipi
Dažādi ietvari satiekas pēc līdzīgiem principiem. Praktisks kopsavilkums vadītājam:
principu
ko tu ar to domā?
admin jautājums
taisnīgumu
nediskrimināciju
Vai tas negodīgi ietekmē grupu?
caurspīdīgums
būt saprotamam
Vai varam paskaidrot lēmuma iemeslu?
atbildība
Atbildīgā personu noteikšana
Kurš ir atbildīgs, ja rodas kļūda?
Privātums
Cieņa pret personas datiem
Vai mums ir tiesības izmantot datus?
cilvēku uzraudzība
Kontroles saglabāšana
Vai var iebilst un to apturēt?
Drošība
nenodarīt ļaunu
Vai to varētu ļaunprātīgi izmantot?
Ilgtspējība
Vides/sociālā ietekme
Kam mēs uzliekam izmaksas?
Šie principi nav abstrakti; Katru no tiem var saistīt ar konkrētu lēmumu. Piemēram, “caurspīdīgums” nozīmē ļaut klientam zināt, ka viņš runā ar AI; “Cilvēka uzraudzība” nozīmē, ka aizdevuma atteikums tiek pārskatīts un atstāts apelācijas kārtībā.
Padoms. Pieņemot katru ļoti ietekmīgu AI lēmumu, uzdodiet vienu jautājumu: "Vai es varu skaidri izskaidrot un atbalstīt šo lēmumu personai, kuru tas visvairāk ietekmējis?" Ja atbilde ir aizskaroša, pastāv ētiska problēma.
Ētika atšķiras no likuma
Būtiska atšķirība: tiesiskā atbilstība (9. nodaļa) ir minimālais minimums; Ētika ir augstāka līnija. Kaut kas var būt likumīgs, bet neētisks. Piemēram, lietotnei var nebūt aizliegts izmantot mākslīgo intelektu, lai manipulētu ar lietotāju uzvedību, taču tas ir neētiski. Atbildīgās institūcijas "vai tas ir aizliegts?" nevis "Vai tā ir taisnība?" viņš jautā.
Soli pa solim: ētikas iekļaušana lēmumā
1. Identificējiet ietekmētās puses. Kurus skar šī iniciatīva? (Klients, darbinieks, sabiedrība, nelabvēlīgās grupas)
2. Skenējiet ar politikām. Apšaubiet iniciatīvu attiecībā uz katru no iepriekš minētajiem principiem.
3. Pārbaudiet neobjektivitāti un kaitējumu. Vai modelis negodīgi ietekmē noteiktas grupas? Kādi ir ļaunprātīgas izmantošanas scenāriji?
4. Pievienojiet pārredzamību un pārraudzību. Ziņojiet par mākslīgā intelekta izmantošanu, neatstājot iespēju cilvēkiem iebilst.
5. Dokumenti un apskats. Saglabāt ētisko novērtējumu; Regulāri pārbaudiet.
trīs mini futrāļi
1. gadījums — likumīgs, bet nepareizs. Lietotne izmantoja mākslīgo intelektu, lai radītu atkarīgus paziņojumus, lai lietotāji lietotnē būtu ilgāk. Juridisku šķēršļu nebija, taču, kad par to tika ziņots presē, notika nopietns reputācijas zaudējums; Kritiku īpaši izpelnījās tā mērķauditorijas atlase pret jauniem lietotājiem. Uzņēmums noņēma šo funkciju. Ja ētiskais filtrs būtu no paša sākuma, šis risks būtu redzams.
2. gadījums — godīguma testa vērtība. Bankas kredītpunktu noteikšanas modelis sistemātiski piešķīra zemākus punktus aizsargāto grupu pieteikumiem. Tas tika fiksēts tieslietu revīzijā. Modelis tika pārveidots un regulāri pārbaudīts, lai nodrošinātu starpgrupu vienlīdzību tā rezultātos. Ētikas princips (taisnīgums) pārvērtās par konkrētu pārbaudi un novērsa reālu kaitējumu.
3. gadījums — pārredzamība radīja uzticību. E-komercijas uzņēmums sava klientu atbalsta tērzēšanas robota sākumā ievietoja frāzi "Mākslīgā intelekta palīgs jums palīdz, jūs jebkurā laikā varat izveidot savienojumu ar cilvēka pārstāvi". Caurspīdība un cilvēku iznākšana gandarījumu nemazināja; Gluži pretēji, tas palielināja uzticību, un sūdzības samazinājās par 15%. Pareizi veikta pārredzamība bija vērtība, nevis izmaksas.
Četras kopējamas veidnes
1) Ētiskā pārbaude:
Jūsu loma: atbildīgais AI konsultants. Izpētiet šajā iniciatīvā 7 principus: godīgums, caurspīdīgums, atbildība, privātums, cilvēku uzraudzība, drošība, ilgtspējība. Katrai polisei ierakstiet vienu risku un vienu ieteikumu. Iniciatīva: [teksts]
2) Ietekmēto pušu analīze:
Uzskaitiet visas puses, kuras ietekmē šī AI iniciatīva (klients, darbinieks, sabiedrība, nelabvēlīgās grupas). Pierakstiet iespējamo pozitīvo un negatīvo ietekmi uz katru pusi; Atzīmējiet grupu, kurai visticamāk tiks nodarīts kaitējums. Iniciatīva: [teksts]
3) Ļaunprātīgas izmantošanas scenārijs:
Izveidojiet 5 scenārijus, kuros tālāk norādītā AI funkcija varētu tikt ļaunprātīgi izmantota (tostarp manipulācijas, diskriminācija, privātuma pārkāpumi, maldināšana). Iesakiet profilaktisku dizaina lēmumu katram scenārijam. Atribūts: [teksts]
4) Pārredzamības un uzraudzības kontrole:
Uzrakstiet caurspīdīguma un cilvēku pārraudzības plānu klientiem orientētai AI, kas: kas un kā tiks paziņots lietotājam; Kā to var pārnest uz cilvēkiem? Kā viņš var iebilst pret lēmumu? Lietošana: [teksts]
Vāja uzvedne / spēcīga uzvedne
Vājš: "Vai šis AI ir ētisks?"
Rezultāts: virspusējs "jā/nē"; Kurš princips, kurš tiek ietekmēts, kāds pasākums ir neskaidrs.
Strong: "Mēs apsveram iespēju izmantot AI personāla atlases pirmspārbaudes rīkā (galīgo lēmumu pieņems cilvēks). Pārbaudiet to, lai ievērotu godīguma, pārredzamības, pārskatatbildības un cilvēka pārraudzības principus. Konkrēti uzrakstiet, kuras kandidātu grupas var tikt negodīgi ietekmētas, kādi neobjektivitātes testi man jāveic un kā kandidāti var pārsūdzēt lēmumu."
Rezultāts: uz principiem balstīts, praktisks novērtējums, kas identificē ietekmēto pusi un ierosina testēšanu un apelāciju.
Biežas kļūdas
- Ētikas jaukšana ar likumu ievērošanu. Ne viss, kas ir likumīgs, ir ētisks; Ētika ir augstāka līnija.
- Atstājot ētiku uz pēdējo. "Ētikas apstiprinājuma" iegūšana pēc projektēšanas ir par vēlu; ētika ir jāiekļauj dizainā no paša sākuma.
- Nepārbaudot taisnīgumu. Pieņēmums, ka “mūsu modelis ir neitrāls” ir bīstams; nevar zināt bez mērījumiem.
- Sajaucot caurspīdīgumu ar izmaksām. Pareizi veikta pārredzamība vairo uzticību un vērtību.
- Saglabājot skartās puses šauras. Domājot tikai par klientu un ignorējot darbinieku, sabiedrību un nelabvēlīgās grupas, tiek radīta aklā zona.
Uzmanību: ētiskās izvērtēšanas pilnīga atstāšana mākslīgā intelekta ziņā ir pretrunīga un bīstama. AI var palīdzēt izvirzīt ētiskus jautājumus, taču vērtību spriedums, kultūras konteksts un galīgā morālā atbildība gulstas uz cilvēku. Organizācijas ētisko nostāju nosaka cilvēku apzinātas izvēles, nevis "AI teica tā".
Rezumējot
Ētika ir atšķirība starp "mēs varam" un "mums vajadzētu" un aizsargā organizācijas ilgtermiņa uzticamību. Atbildīgs AI; Tas ir balstīts uz taisnīguma, pārredzamības, pārskatatbildības, privātuma, cilvēku uzraudzības, drošības un ilgtspējības principiem. Šie principi nav abstrakti; Tas izpaužas konkrētos lēmumos, piemēram, skarto pušu identificēšanā, neobjektivitātes pārbaudē, pārredzamības nodrošināšanā un cilvēka pārraudzības pievienošanā. Ētika atšķiras no likuma un ir augstāka līnija; To nevar atstāt līdz galam, tam jābūt iestrādātam dizainā. Nākamajā daļā mēs apspriedīsim atbilstību, kas ir ētikas juridiskais ekvivalents, jo īpaši ES AI likums un KVKK.
Lietojumprogrammas uzdevums
Izvēlieties augstas ietekmes AI startēšanu. Izmantojot 2. veidni, uzskaitiet visas ietekmētās puses un atzīmējiet grupu, kurai, visticamāk, tiks nodarīts kaitējums. Izmantojot 1. veidni, pārbaudiet iniciatīvu, lai atrastu septiņus principus. Definējiet konkrētu pasākumu (taisnīguma pārbaude, paziņojums par pārredzamību, pārsūdzības ceļš utt.) diviem vissvarīgākajiem ētiskajiem riskiem. Visbeidzot, "vai es varu izskaidrot šo lēmumu visvairāk negatīvajai personai?" Atbildiet uz jautājumu godīgi.
kontrolsaraksts
- [ ] Esmu identificējis visas ietekmētās puses.
- [ ] Es pārbaudīju starta programmu ar septiņiem atbildīga AI principiem.
- [ ] Es plānoju neobjektivitātes/taisnīguma pārbaudi.
- [ ] Es izstrādāju pārredzamības paziņojumu.
- [ ] Es neatstāju cilvēku pārraudzību un pārsūdzību.
- [ ] Es domāju par ļaunprātīgas izmantošanas scenārijiem.
- [ ] "Vai es varu to izskaidrot visvairāk negatīvi ietekmētajam?" Es nokārtoju testu.