Ieguvumi:
- Saprot, ka dati ir galvenais AI novirzes avots
- Apzinās riskus, ko neobjektivitāte var radīt darba vietā
- Īsteno pasākumus, ko var veikt, lai mazinātu aizspriedumus
AI parādās kā neitrāla, objektīva mašīna; bet patiesība ir daudz sarežģītāka. AI sistēmas apgūst cilvēku aizspriedumus datos, par kuriem tās tiek apmācītas, un dažreiz tos palielina un atveido. Aizspriedumi ir sistēmas tendence sistemātiski dot priekšroku vai izslēgt noteiktus cilvēkus vai grupas. Šajā nodaļā mēs apsvērsim, no kurienes rodas aizspriedumi, kādus konkrētus riskus tie rada darba vietā un ko pret tiem var darīt. Tas nav tikai "ētikas" jautājums; Tā ir praktiska uzņēmējdarbības lieta, kas rada juridisku, komerciālu un reputācijas risku, ja to nepareizi pārvalda.
No kurienes nāk aizspriedumi?
Valodas modeļa informācija nāk no milzīgajiem tekstiem, ko izstrādā cilvēki. Šajos tekstos ir visas zināšanas par cilvēku sabiedrību, kā arī visi tās stereotipi, nelīdzsvarotība un vēsturiskā nevienlīdzība. Modelis neatšķir "labos" un "sliktos" modeļus; Tā uzzina visu, kas ir datos.
Piemērs: ja noteiktas profesijas pagātnes tekstos galvenokārt bija saistītas ar dzimumu (piemēram, "medmāsa" ar sievieti, "inženieris" ar vīrieti), modelis apgūst šo saistību. Viņa, iespējams, mēdz izvēlēties vīriešu vietniekvārdu, pabeidzot teikumu: "Inženieris iegāja birojā, viņš..." Modele nav ļaunprātīga; tas tikai atspoguļo datu nelīdzsvarotību.
Tātad novirze galvenokārt ir saistīta ar datu spoguli, nevis apzinātu programmēšanas kļūdu. Problēmas skaidrošana kā "kāds uzrakstījis sliktu kodu" ir maldinošs; Problēma ir tā, ka nelīdzsvarotība pasaulē tiek pārnesta datos un no turienes modelī.
Materiālie riski darba vietā
apgabalā
Neobjektivitātes risks
iespējamo kaitējumu
darbā pieņemšana
Uzziniet vēsturisko datu tendences un izslēdziet noteiktas grupas
Tiesvedība, spēju zaudēšana
Klientu komunikācija
Stereotipiska vai izslēdzoša valoda
Reputācijas zaudēšana, klienta lidojums
kredīts/risks
Pagātnes nevienlīdzības saglabāšana
Diskriminācija, sankcijas
Darbības novērtējums
Datu neobjektivitātes iekļaušana lēmumā
Negodīga veicināšana/bonuss
Saturs/mārketings
Padariet konkrētu grupu neredzamu
Zīmola bojājumi
Trīs mini futrāļi
1. gadījums — reklāmā tika sašaurināta valoda. Uzņēmums sāka drukāt darba sludinājumus, izmantojot AI. Pēc kāda laika tika pamanīts, ka sludinājumi uzrunā noteiktu profilu ar tādiem izteicieniem kā "jauns un dinamisks", "agresīvs mērķis" un tādējādi samazināja aplikāciju daudzveidību. Komanda pievienoja darbību, kas pārbauda, vai katrā sūtījumā nav iekļauta “iekļaujoša valoda”; Dažu mēnešu laikā pretendentu daudzveidība ir ievērojami palielinājusies.
2. gadījums — slēptā novirze kopsavilkumā. Viens vadītājs licis AI apkopot 30 darbinieku atsauksmes. Šķita, ka kopsavilkumā negatīvie komentāri tika koncentrēti uz vienu konkrētu komandu; tā kā izejas datos situācija bija līdzsvarota. Modelis pārspīlēja vairākus spēcīgus apgalvojumus. Kad vadītājs atgriezās un pārbaudīja neapstrādātos datus, viņš izvairījās no maldiem priekšstatiem.
3. gadījums — iekļaušanas mandāts darbojās. Viena mārketinga komanda standartizēja norādījumus kampaņas kopijā, lai “izmantotu iekļaujošu, nekonkrētu dzimuma/vecuma/grupas valodu un beigās uzskaitiet savus pieņēmumus”. Formulas izteiksmes veidotajos tekstos ir manāmi samazinājušās; komandai nebija manuāli jālabo katrs rezultāts atkal un atkal.
Kāpēc neobjektivitāti ir grūti atpazīt?
Vismānīgākais aizspriedumos ir tas, ka tie bieži vien ir neredzami. Izvade izskatās gluda, profesionāla un saprātīga; Tendence tajā kļūst pamanāma tikai tad, ja rūpīgi aplūko vai novērtē tās ietekmi uz dažādām grupām. Ir maldinoši teikt, ka "šeit nav neobjektivitātes", aplūkojot vienu piemēru; Neobjektivitāte bieži izpaužas nevis atsevišķos piemēros, bet gan vispārējā sistēmas tendencē.
Uzmanību: Bīstams ir pieņēmums, ka "esmu neitrāls, tāpēc arī izmantotais rīks ir neitrāls". Rīka neitralitāte ir atkarīga no apmācības datiem un tā, kā tas tiek pārbaudīts, nevis no jūsu nodoma.
Vāja uzvedne / spēcīga uzvedne
Vāja uzvedne: aprakstiet ideālo kandidātu šim amatam.
Rezultāts: modelis var paļauties uz stereotipiem un parādīt noteiktu profilu kā "ideālu".
Spēcīgs aicinājums: norādiet tikai šajā amatā izmērāmās kompetences, kas patiešām ir saistītas ar darbu. Neizmantojiet nekādas īpašības, kas nav saistītas ar darbu, piemēram, dzimums, vecums, ģimenes stāvoklis, dzimtā pilsēta. Visbeidzot ierakstiet to, ko atstājāt zem virsraksta "pieņēmumi, no kuriem es izvairos".
Rezultāts: Vērtēšana attiecas tikai uz kritērijiem, kas saistīti ar darbu, ir izslēgtas nebūtiskas pazīmes.
Veidnes novirzes samazināšanai
Tālāk esošajā tekstā skatiet iekļaujošo valodu. Atzīmējiet paziņojumus, kas norāda uz dzimumu, vecumu, etnisko izcelsmi, invaliditāti vai noteiktu grupu, un katram piedāvājiet neitrālu alternatīvu. Teksts: [ielīmēt šeit]
Veiciet šo novērtējumu, pamatojoties tikai uz šiem objektīvajiem kritērijiem: [kritēriji]. Neņemiet vērā citu informāciju, izņemot šos kritērijus (vārds, dzimums, vecums).
Atsevišķā virsrakstā beigās uzskaitiet, kādus pieņēmumus izdarījāt sagatavotajā tekstā. Tāpēc es varu redzēt slēptās aizspriedumus.
Novērtējiet šo saturu ar trīs dažādu lasītāju grupu acīm un atzīmējiet visus apgalvojumus, kas var aizskart/aizvainot kādu no viņiem. Saturs: [ielīmējiet šeit]
Biežākās kļūdas
Biežas kļūdas
- Pieņemot "neitrālu" AI izvadi. Pat ja izvade šķiet neitrāla, tajā var būt datu novirze; Nepieciešama aktīva uzraudzība.
- Skatoties uz vienu piemēru un sakot "nav neobjektivitātes". Sistēmas vispārējā tendencē slēpjas aizspriedumi.
- Spēcīgu lēmumu pieņemšana tiek atstāta bez uzraudzības AI. Cilvēka autoritāte ir būtiska tādos lēmumos kā pieņemšana darbā, paaugstināšana amatā un kredīti.
- Aizmirstot pieprasīt iekļautību. Ja jūs to nepārprotami nepieprasāt uzvednē, modelis atgriežas pie noklusējuma modeļiem.
- Tas nozīmē "Mašīna to teica." Persona, kura izmanto lēmumu, ir atbildīga arī par sekām.
Taisnīgums ir ikviena atbildība
Cīņa ar aizspriedumiem nav tikai tehniskās komandas darbs. Katrs darbinieks, kurš izmanto AI izvadi, ir atbildīgs par to, vai šī produkcija ir godīga. “Mašīna man teica” nav attaisnojums; Lēmumu pieņēmējs ir atbildīgs arī par sekām.
Rezumējot
- AI aizspriedumu primārais avots nav ļaunprātība, bet gan esošā nelīdzsvarotība un stereotipi apmācības datos.
- Aizspriedumi; Tas rada reālu juridisku un reputācijas risku tādās jomās kā personāla atlase, komunikācija ar klientiem, finanses un novērtēšana.
- Neobjektivitāte bieži ir neredzama un ir iestrādāta sistēmas vispārējā izvietojumā; Aplūkojot vienu piemēru, tas ir maldinoši.
- Lai samazinātu: esiet informēts, ierobežojiet lēmumu pieņemšanu līdz ar darbu saistītiem kritērijiem, skaidri pieprasiet iekļaušanu, uzdodiet cilvēka kontroli pār lēmumiem, kuriem ir liela ietekme.
- “Mašīna man teica” nav attaisnojums; Par godīgumu ir atbildīgs ikviens, kas izmanto produkciju.
Lietojumprogrammas uzdevums
Pastāstiet AI “aprakstiet ideālu [jebkuru profesiju] strādnieku” un atzīmējiet, kādi (iespējams, nevajadzīgi) pieņēmumi tika izdarīti iznākumā. Pēc tam atkārtojiet to ar iepriekš norādīto “ar darbu saistīto kritēriju” veidni un salīdziniet abus rezultātus godīguma labad.
Kontrolsaraksts
- [ ] Es saprotu, ka primārais novirzes avots ir apmācības dati.
- [ ] Es varu nosaukt konkrētus riskus, ko var radīt neobjektivitāte darba vietā.
- [ ] Es zinu, ka neobjektivitāte bieži ir neredzama un ka skatīšanās uz vienu piemēru ir maldinoša.
- [ ] Es skaidri varu lūgt iekļautības un ar darbu saistītos kritērijus uzvednē.
- [ ] Man ir nepieciešama cilvēka uzraudzība pār ietekmīgiem lēmumiem.