Voitot:
- Ymmärtää, että data on ensisijainen tekoälyn harhalähde
- Ymmärtää riskit, joita puolueellisuus voi aiheuttaa työpaikalla
- Toteuttaa toimenpiteitä, joilla voidaan vähentää ennakkoluuloja
AI näyttää neutraalilta, objektiivisena koneelta; mutta totuus on paljon monimutkaisempi. Tekoälyjärjestelmät oppivat inhimillisiä ennakkoluuloja datassa, johon ne on koulutettu, ja joskus suurentavat ja toistavat niitä. Ennakkoluulolla tarkoitetaan järjestelmän taipumusta järjestelmällisesti suosia tai sulkea pois tiettyjä ihmisiä tai ryhmiä. Tässä osiossa pohditaan, mistä ennakkoluulo tulee, mitä konkreettisia riskejä se aiheuttaa työpaikalla ja mitä sitä vastaan voidaan tehdä. Tämä ei ole vain "etiikka"; Se on käytännön liiketoiminnallinen asia, johon liittyy oikeudellisia, kaupallisia ja maineeseen liittyviä riskejä, jos sitä hoidetaan väärin.
Mistä ennakkoluulo tulee?
Kielimallin informaatio tulee ihmisten tuottamista valtavista teksteistä. Nämä tekstit sisältävät kaiken tiedon ihmisyhteiskunnasta, samoin kuin kaikki sen stereotypiat, epätasapainot ja historialliset eriarvoisuudet. Malli ei tee eroa "hyvien" ja "huonojen" kuvioiden välillä; Se oppii mitä datassa on.
Esimerkki: Jos tietyt ammatit liitettiin pääasiallisesti sukupuoleen aiemmissa teksteissä (esim. "sairaanhoitaja" naiseen, "insinööri" miehiin), malli oppii tämän assosiaation. Hänellä saattaa olla tapana valita miespronomini, kun hän täydentää lausetta "Insinööri käveli toimistoon, hän..." Malli ei ole haitallinen; se vain kuvastaa tietojen epätasapainoa.
Joten harha johtuu enimmäkseen siitä, että se on tietojen peili, ei tietoinen ohjelmointivirhe. Ongelman selittäminen "joku kirjoitti huonon koodin" on harhaanjohtavaa; Ongelmana on, että maailman epätasapaino kulkeutuu dataan ja sieltä malliin.
Konkreettiset riskit työpaikalla
alueella
Erottelun riski
mahdollista haittaa
rekrytointi
Opi historiallisten tietojen trendi ja poista tietyt ryhmät
Oikeusjuttu, kyvyn menetys
Asiakasviestintä
Stereotyyppinen tai poissulkeva kieli
Maineen menetys, asiakkaan lento
luotto/riski
Menneisyyden epätasa-arvon säilyttäminen
Syrjintä, sanktiot
Suorituskyvyn arviointi
Tietojen vinouttaminen päätökseen
Epäreilu promootio/bonus
Sisältö/markkinointi
Tee tietystä ryhmästä näkymätön
Tuotemerkin vaurioita
Kolme minikoteloa
Tapaus 1 – Mainos rajasi kieltä. Yritys alkoi tulostaa työpaikkailmoituksia tekoälyllä. Jonkin ajan kuluttua huomattiin, että mainokset vetosivat tiettyyn profiiliin ilmaisuilla, kuten "nuori ja dynaaminen", "aggressiivinen kohde" ja vähentävät siten sovellusten monimuotoisuutta. Tiimi lisäsi vaiheen, joka tarkistaa jokaisen julkaisun "kattavan kielen" varalta. Hakijoiden monimuotoisuus on lisääntynyt huomattavasti muutamassa kuukaudessa.
Tapaus 2 – Piilotettu harha yhteenvedossa. Yksi johtaja antoi tekoälylle yhteenvedon 30 työntekijän palautteesta. Kertomus näytti keskittyvän negatiiviset kommentit yhteen tiettyyn joukkueeseen; kun taas raakatiedoissa tilanne oli tasapainoinen. Malli liioitteli useita vahvoja lausuntoja. Kun johtaja palasi tarkistamaan raakatiedot, hän vältti väärän käsityksen.
Tapaus 3 – Osallisuusvaltuutus toimi. Yksi markkinointitiimi standardoi kampanjakopion ohjeen "käytä kattavaa, ei-spesifistä sukupuolen/iän/ryhmän kieltä ja luettele oletuksesi lopussa". Kaavailmaisut tuotetuissa teksteissä ovat vähentyneet huomattavasti; tiimin ei tarvinnut korjata jokaista tulostetta manuaalisesti yhä uudelleen ja uudelleen.
Miksi harhaa on vaikea tunnistaa?
Kaikkein salakavalin asia ennakkoluuloissa on, että se on usein näkymätön. Tulos näyttää sileältä, ammattimaiselta ja kohtuulliselta; Sen sisällä oleva taipumus tulee esiin vasta tarkkaan katsomalla tai mittaamalla sen vaikutusta eri ryhmiin. On harhaanjohtavaa sanoa, että "tässä ei ole puolueellisuutta" katsomalla yhtä esimerkkiä; Bias ei usein ilmene yksittäisissä esimerkeissä vaan järjestelmän yleisessä trendissä.
Varoitus: Oletus, että "olen neutraali, joten käyttämäni työkalu on myös neutraali" on vaarallinen. Työkalun neutraalisuus riippuu harjoitustiedoista ja sen tarkastustavasta, ei tarkoituksestasi.
Heikko kehote / Vahva kehote
Heikko kehote: Kuvaile ihanteellinen ehdokas tähän tehtävään.
Tulos: Malli voi luottaa stereotypioihin ja esittää tietyn profiilin "ihanteelliseksi".
Vahva kehotus: Lista vain tähän tehtävään mitattavissa olevat pätevyydet, jotka ovat todella tärkeitä työn kannalta. Älä käytä ominaisuuksia, jotka eivät liity työhön, kuten sukupuoli, ikä, siviilisääty, kotikaupunki. Kirjoita lopuksi, mitä jätit pois otsikon "oletukset, joita vältän" alle.
Tulos: Arviointi rajoittuu työhön liittyviin kriteereihin, merkityksettömiä ominaisuuksia ei ole huomioitu.
Mallit harhaa vähentämään
Tarkista alla olevasta tekstistä kattava kieli. Ilmoita lausunnot, jotka viittaavat sukupuoleen, ikään, etniseen taustaan, vammaisuuteen tai tiettyyn ryhmään ja ehdottavat neutraalia vaihtoehtoa kullekin.Teksti: [liitä tähän]
Tee tämä arviointi vain näiden objektiivisten kriteerien perusteella: [kriteerit]. Älä ota huomioon muita tietoja kuin nämä kriteerit (nimi, sukupuoli, ikä).
Listaa loppuun erillisen otsikon alle, mitkä olettamukset teit tuottamassasi tekstissä. Joten näen piilotettuja ennakkoluuloja.
Arvioi tätä sisältöä kolmen eri lukijaryhmän silmin ja merkitse kaikki väitteet, jotka voivat loukata/loukkaa heistä. Sisältö: [liitä tähän]
Yleisiä virheitä
Yleisiä virheitä
- Olettaen "neutraalia" AI-lähtöä. Vaikka tulos näyttää neutraalilta, se saattaa sisältää poikkeaman tiedoissa; Aktiivista valvontaa tarvitaan.
- Tarkastellaan yhtä esimerkkiä ja sanotaan "ei ole puoluetta". Ennakkoluulo piilee järjestelmän yleisessä taipumuksessa.
- Vaikuttavan päätöksenteon jättäminen valvomattomalle tekoälylle. Inhimillinen auktoriteetti on olennainen päätöksissä, kuten rekrytointi, ylennys ja luotto.
- Unohtuu vaatia osallisuutta. Jos et nimenomaisesti pyydä sitä kehotteessa, malli palaa oletusmalleihin.
- Se tarkoittaa "kone sanoi sen". Päätöstä käyttävä on myös vastuussa seurauksista.
Oikeus on jokaisen vastuulla
Ennakkoluulojen torjunta ei ole vain teknisen tiimin tehtävä. Jokaisella tekoälyä käyttävällä työntekijällä on vastuu kyseenalaistaa, onko tulos reilua. "Kone kertoi minulle" ei ole tekosyy; Päätöksentekijä on myös vastuussa seurauksista.
Yhteenvetona
- Tekoälyharhan ensisijainen lähde ei ole pahantahtoisuus, vaan harjoitustiedoissa esiintyvät epätasapainot ja stereotypiat.
- Ennakkoluulo; Se luo todellista juridista ja maineriskiä esimerkiksi rekrytoinnin, asiakasviestinnän, rahoituksen ja arvioinnin aloilla.
- Bias on usein näkymätöntä ja se on upotettu järjestelmän yleiseen järjestykseen; Yhden esimerkin katsominen on harhaanjohtavaa.
- Vähennä: ole tietoinen, rajoita päätökset työhön liittyviin kriteereihin, pyydä nimenomaisesti osallisuutta, aseta ihmisen hallintaan vaikuttavia päätöksiä.
- "Kone kertoi minulle" ei ole tekosyy; Oikeudenmukaisuus on kaikkien tulosten käyttäjien vastuulla.
Sovellustehtävä
Kerro tekoälylle "kuvaile ihanteellinen [mikä tahansa ammatti] työntekijä" ja merkitse, mitä (ehkä tarpeettomia) oletuksia tuotoksessa tehtiin. Toista sitten yllä olevan "työhön liittyvät kriteerit" -mallin kanssa ja vertaa kahta tulosta oikeudenmukaisuuden vuoksi.
Tarkistuslista
- [ ] Ymmärrän, että ensisijainen harhalähde on harjoitustiedot.
- [ ] Osaan nimetä konkreettiset riskit, joita puolueellisuus työpaikalla voi aiheuttaa.
- [ ] Tiedän, että harha on usein näkymätöntä ja että yksittäisen esimerkin katsominen on harhaanjohtavaa.
- [ ] Pystyn selvästi pyytämään osallisuutta ja työhön liittyviä kriteerejä kehotteessa.
- [ ] Vaadin inhimillistä valvontaa vaikuttaville päätöksille.