Pelnas:
- Supranta, kad duomenys yra pagrindinis AI šališkumo šaltinis
- Pripažįsta riziką, kurią darbo vietoje gali sukelti šališkumas
- Įgyvendina priemones, kurių galima imtis siekiant sumažinti išankstinį nusistatymą
AI atrodo kaip neutrali, objektyvi mašina; bet tiesa yra daug sudėtingesnė. Dirbtinio intelekto sistemos išmoksta duomenims apie žmonių šališkumą, o kartais juos padidina ir atkuria. Išankstinis nusistatymas – tai sistemos polinkis sistemingai teikti pirmenybę tam tikriems žmonėms ar grupėms arba juos atskirti. Šiame skyriuje mes apsvarstysime, iš kur kyla išankstinis nusistatymas, kokią konkrečią riziką jie kelia darbo vietoje ir ką galima prieš tai padaryti. Tai ne tik „etikos“ reikalas; Tai praktinis verslo reikalas, dėl kurio netinkamai valdoma teisinė, komercinė ir reputacijos rizika.
Iš kur atsiranda išankstinis nusistatymas?
Kalbos modelio informacija gaunama iš didžiulių tekstų, kuriuos sukuria žmonės. Šiuose tekstuose yra visos žmonių visuomenės žinios, visi jos stereotipai, disbalansas ir istorinė nelygybė. Modelis neskiria „gerų“ ir „blogų“ modelių; Jis sužino viską, kas yra duomenyse.
Pavyzdys: jei tam tikros profesijos ankstesniuose tekstuose daugiausia buvo siejamos su lytimi (pvz., "slaugytoja" su moterimi, "inžinierius" su vyru), modelis išmoksta šią sąsają. Ji gali būti linkusi pasirinkti vyrišką įvardį užbaigdama sakinį: „Į biurą įėjo inžinierius, jis...“ Modelis nėra piktybiškas; tai tik atspindi duomenų disbalansą.
Taigi šališkumas dažniausiai atsiranda dėl to, kad tai yra duomenų veidrodis, o ne sąmoninga programavimo klaida. Problemos aiškinimas kaip „kažkas parašė blogą kodą“ yra klaidinantis; Problema ta, kad disbalansas pasaulyje perkeliamas į duomenis, o iš ten į modelį.
Apčiuopiamos rizikos darbo vietoje
plotas
Šališkumo rizika
galima žala
įdarbinimas
Sužinokite apie istorinių duomenų tendencijas ir pašalinkite tam tikras grupes
Teisinė byla, netekimas darbingumo
Bendravimas su klientais
Stereotipinė arba išskirtinė kalba
Reputacijos praradimas, kliento skrydis
kreditas / rizika
Praeities nelygybės įamžinimas
Diskriminacija, sankcijos
Veiklos vertinimas
Duomenų šališkumo įtraukimas į sprendimą
Nesąžininga reklama/premija
Turinys/rinkodara
Padarykite tam tikrą grupę nematoma
Prekės ženklo žala
Trys mini dėklai
1 atvejis – skelbime buvo siaurinama kalba. Įmonė pradėjo spausdinti darbo skelbimus naudodama AI. Po kurio laiko buvo pastebėta, kad skelbimai apeliavo į tam tikrą profilį tokiais posakiais kaip „jaunas ir dinamiškas“, „agresyvus taikinys“ ir taip sumažino aplikacijų įvairovę. Komanda pridėjo veiksmą, kuris patikrina, ar kiekviename skelbime nėra „įtraukiančios kalbos“; Per kelis mėnesius pareiškėjų įvairovė labai išaugo.
2 atvejis – paslėptas šališkumas santraukoje. Vienas vadovas AI apibendrino 30 darbuotojų atsiliepimus. Atrodė, kad santraukoje neigiami komentarai buvo sutelkti į vieną konkrečią komandą; tuo tarpu pirminiais duomenimis situacija buvo subalansuota. Modelis perdėjo kelis stiprius teiginius. Kai vadovas grįžo ir patikrino neapdorotus duomenis, jis išvengė klaidingo supratimo.
3 atvejis – įtraukimo įpareigojimas pasiteisino. Viena rinkodaros komanda standartizavo instrukcijas kampanijos kopijoje: „vartoti įtraukią, nespecifinę lyties / amžiaus / grupės kalbą ir pabaigoje išvardykite savo prielaidas“. Formulių posakių kuriamuose tekstuose pastebimai sumažėjo; komandai nereikėjo rankiniu būdu taisyti kiekvieno išėjimo vėl ir vėl.
Kodėl šališkumą sunku atpažinti?
Pats klastingiausias išankstinio nusistatymo dalykas yra tai, kad jis dažnai yra nematomas. Rezultatas atrodo sklandus, profesionalus ir pagrįstas; Tendencija joje išryškėja tik atidžiai įsižiūrėjus ar įvertinus jos poveikį skirtingoms grupėms. Pažvelgus į vieną pavyzdį yra klaidinga sakyti, kad „čia nėra šališkumo“; Šališkumas dažnai pasireiškia ne pavieniais pavyzdžiais, o bendra sistemos tendencija.
Atsargiai: Prielaida, kad „esu neutrali, todėl mano naudojama priemonė taip pat yra neutrali“, yra pavojinga. Įrankio neutralumas priklauso nuo treniruočių duomenų ir nuo to, kaip jis tikrinamas, o ne nuo jūsų ketinimų.
Silpnas raginimas / stiprus raginimas
Silpnas raginimas: apibūdinkite idealų kandidatą į šią poziciją.
Rezultatas: modelis gali pasikliauti stereotipais ir pateikti tam tikrą profilį kaip „idealų“.
Stiprus raginimas: nurodykite tik išmatuojamas šios pareigybės kompetencijas, kurios tikrai yra svarbios darbui. Nenaudokite jokių su darbu nesusijusių savybių, tokių kaip lytis, amžius, šeimyninė padėtis, gimtasis miestas. Galiausiai antraštėje „prielaidos, kurių vengiu“ parašykite, ką palikote.
Rezultatas: Vertinama tik su darbu susijusiais kriterijais, neįtraukiamos nereikšmingos savybės.
Šablonai šališkumui sumažinti
Žemiau esančiame tekste ieškokite įtraukiančios kalbos. Pažymėkite teiginius, nurodančius lytį, amžių, etninę kilmę, negalią arba konkrečią grupę, ir kiekvienam pasiūlykite neutralią alternatyvą. Tekstas: [įklijuokite čia]
Atlikite šį vertinimą tik pagal šiuos objektyvius kriterijus: [kriterijai]. Neatsižvelgkite į jokią kitą informaciją, išskyrus šiuos kriterijus (vardas, lytis, amžius).
Pabaigoje atskiroje antraštėje išvardykite prielaidas, kurias padarėte savo parengtame tekste. Taigi matau paslėptą šališkumą.
Įvertinkite šį turinį trijų skirtingų skaitytojų grupių akimis ir pažymėkite teiginius, kurie gali įžeisti/įžeisti kurį nors iš jų. Turinys: [įklijuokite čia]
Dažnos klaidos
Dažnos klaidos
- Darant prielaidą, kad AI išvestis yra „neutrali“. Net jei išvestis atrodo neutrali, ji gali turėti duomenų paklaidą; Būtina aktyvi priežiūra.
- Žvelgiant į vieną pavyzdį ir sakant „nėra šališkumo“. Prietarai slypi bendroje sistemos tendencijoje.
- Didelio poveikio sprendimų priėmimas paliekamas neprižiūrimam AI. Žmogaus autoritetas yra būtinas priimant tokius sprendimus kaip įdarbinimas, paaukštinimas ir kreditas.
- Pamiršta reikalauti įtraukties. Jei to aiškiai neprašote ragindami, modelis grįš į numatytuosius šablonus.
- Tai reiškia „Mašina tai pasakė“. Asmuo, kuris naudojasi sprendimu, taip pat yra atsakingas už pasekmes.
Teisingumas yra kiekvieno atsakomybė
Kova su išankstiniu nusistatymu – ne tik techninės komandos darbas. Kiekvienas darbuotojas, kuris naudoja dirbtinio intelekto išvestį, turi suabejoti, ar ta produkcija yra teisinga. „Mašina man pasakė“ nėra pasiteisinimas; Sprendimą priimantis asmuo taip pat atsako už pasekmes.
Apibendrinant
- Pagrindinis DI šališkumo šaltinis yra ne piktybiškumas, o esami disbalansai ir stereotipai mokymo duomenims.
- Išankstinis nusistatymas; Tai sukuria realią teisinę ir reputacijos riziką tokiose srityse kaip įdarbinimas, komunikacija su klientais, finansai ir vertinimas.
- Šališkumas dažnai yra nematomas ir įterptas į bendrą sistemos išdėstymą; Vieno pavyzdžio žiūrėjimas yra klaidinantis.
- Sumažinti: būkite sąmoningi, apsiribokite su darbu susijusiais kriterijais, aiškiai prašykite įtraukties, paveskite žmogaus kontrolę priimant didelio poveikio sprendimus.
- „Mašina man pasakė“ nėra pasiteisinimas; Už sąžiningumą atsako kiekvienas, kuris naudoja produkciją.
Taikymo užduotis
Pasakykite AI „apibūdinkite idealų [bet kokios profesijos] darbuotoją“ ir pažymėkite, kokios (galbūt ir nereikalingos) prielaidos buvo padarytos išvestyje. Tada pakartokite naudodami anksčiau pateiktą „su darbu susijusių kriterijų“ šabloną ir sąžiningumo dėlei palyginkite abu rezultatus.
Kontrolinis sąrašas
- [ ] Suprantu, kad pagrindinis šališkumo šaltinis yra mokymo duomenys.
- [ ] Galiu įvardyti konkrečią riziką, kurią gali kelti šališkumas darbo vietoje.
- [ ] Žinau, kad šališkumas dažnai yra nepastebimas ir kad pažvelgus į vieną pavyzdį yra klaidinga.
- [ ] Galiu aiškiai paprašyti įtraukti ir su darbu susijusių kriterijų raginime.
- [ ] Man reikalinga didelės įtakos turinčių sprendimų žmogiškoji priežiūra.