Dobički:
- Sposobnost povzemanja življenjepisov v strukturirani in primerljivi obliki glede na kriterije, povezane z delom
- Sposobnost prepoznati tveganja pristranskosti in diskriminacije pri presejanju, podprtem z umetno inteligenco, in jih zmanjšati s konkretnimi metodami
- Sposobnost vzpostavitve sledljivega procesa, ki zahteva človeški nadzor pri končni odločitvi o izločitvi
Najbolj zamuden, najbolj naporen in tudi najbolj tvegan korak pri zaposlovanju je pregled življenjepisa. Trajalo bi ure, da bi enega za drugim prebrali in primerjali 300 življenjepisov za objavo; Ko se utrujenost poveča, se kakovost odločitve zmanjša in zadnje branje življenjepisa ni ovrednoteno enako skrbno kot prvo branje življenjepisa. Umetna inteligenca (AI) zagotavlja velik pospešek v tem koraku. Toda tu je najnevarnejši del: AI se lahko nauči in reproducira človeške pristranskosti v podatkih, na katerih se usposablja. V tej enoti se bomo naučili, kako povzeti življenjepise na strukturiran način z merili, povezanimi z delom, zmanjšati tveganje pristranskosti s konkretnimi metodami in vzpostaviti sledljiv proces, ki ohranja končno odločitev v rokah ljudi.
Razjasnimo izraze. Pristranskost je sistematično odstopanje od odločitve zaradi lastnosti, ki niso povezane z delovnim mestom (kot so ime, spol, starost, domači kraj, diplomirana šola). Strukturirani povzetek je povzetek vsakega življenjepisa pod istimi naslovi, v istem vrstnem redu; Tako kandidate primerjajo jabolka z jabolki. Slepo preverjanje je postopek preverjanja, ki skriva podatke, ki identificirajo kandidata, vendar nimajo nobene zveze z delovnim mestom. Kriterij glede zaposlitve je v oglasu opredeljena kompetenca, ki je dejansko potrebna za opravljanje tega dela. Nazadnje, halucinacija je, ko AI proizvaja informacije, ki dejansko ne obstajajo (na primer potrdilo, ki ni vključeno v življenjepis).
Zakaj umetna inteligenca povzroča pristranskost?
AI se uči iz milijonov besedil, ta besedila pa vključujejo pretekle človeške odločitve. Če je bila določena skupina v preteklosti diskriminirana, lahko AI ta vzorec zamenja za "normalnega". Poleg tega namigi v življenjepisu, kot so ime, naslov ali šola, dajejo modelu posredne signale o spolu, etnični pripadnosti ali družbenoekonomskem statusu. Znan primer: orodje za pregledovanje, ki ga je veliko tehnološko podjetje usposobilo za zgodovinske podatke življenjepisov, je sistematično poudarjalo kandidatke, ker so v podatkih prevladovali moški, in orodje je bilo ukinjeno. Nauk je jasen: AI ni nevtralen; Nepristranskost vzpostavite z načrtovanjem procesa.
Vloga in omejitve umetne inteligence
Najbolj kritičen stavek te enote je: AI ne izloči življenjepisa, ampak povzema življenjepis. Če umetno inteligenco nastavite kot »samodejno zavrnitev«, ste izpostavljeni pravnemu tveganju (zahtevek zaradi diskriminacije) in tveganju ugleda; Poleg tega lahko naredite, da res dober kandidat izgine iz vidnega polja. Pravilna nastavitev je uporaba umetne inteligence kot pomočnika za hitro branje in strukturiranje.
Varen postopek odstranjevanja po korakih:
- Vnaprej določite kriterije, povezane z delom. Pred začetkom izločanja si zapišite, katerih 5-8 kriterijev je pomembnih (izkušnje, specifično znanje, certifikat, panoga) in jih zaklenite.
- Zakrijte nepomembna področja. Iz vrednotenja izključite polja, kot so ime, fotografija, starost, zakonski stan, kraj rojstva, ime šole.
- Zahtevajte strukturiran povzetek. Natisnite popolnoma enak format za vsak življenjepis.
- Zahtevajte dokaze, ne odločitve. "Je ta kandidat primeren?" namesto "Ali ta kandidat izpolnjuje kriterije, na kateri vrstici življenjepisa temelji?" problem.
- Človek sprejme končno odločitev in jo zabeleži. AI povzema/primerja, ne izloča; Ljudje izbirajo in pišejo svoje razloge.
Vaša vloga: nepristranski analitik pri zaposlovanju. Naslednji življenjepis ocenite SAMO na podlagi naslednjih meril, povezanih z delom. UPOŠTEVAJTE ime, spol, starost, fotografijo, zakonski stan in šolski ugled. Samo poglejte izkušnje in veščine. Merila: 1) 3+ leta izkušenj s prodajo na terenu 2) Uporaba CRM (npr. Salesforce/HubSpot) 3) Izkušnje s prodajo B2B 4) Dokazi o letnem doseganju ciljev (številčni, prednostni) Oblika izhoda (ena vrstica za vsako merilo): - Merila | Ustreza (da/delno/ne) | Dokazi iz CV-ja (odlomek)Sonda: manjkajoče informacije in 2 vprašanji, ki ju je treba postaviti na razgovoru.<cv>[Besedilo CV-ja]</cv>
Pozor: AI je pomembno povedati, da se ne ozira na šolski prestiž. Modeli so se morda naučili diskriminatornih bližnjic, kot je "dobra univerza = dober kandidat"; to je posredna diskriminacija različnih socialno-ekonomskih skupin.
Konkretne metode za zmanjšanje predsodkov
Predsodki niso abstraktna skrb; se lahko meri in zmanjša z:
- Slepo izločanje. Odstranite ime, fotografijo, datum rojstva in ime šole iz življenjepisov.
- Seznam fiksnih kriterijev. Napišite kriterije in jih zaklenite, preden se začne izločanje; Ne spreminjajte ga med postopkom.
- Isti poziv, ista oblika. Ocenite vse življenjepise s povsem enakimi navodili.
- Dokazna kazenska obveznost. Vsak "da" mora temeljiti na citatu; to razkriva halucinacije.
- Dvojno slepi test. Oddajte isti življenjepis z različico "žensko ime" in različico "moško ime" in preverite, ali so se ocene spremenile.
- Navzkrižno preverjanje. Ponovno preberite nekaj življenjepisov z najvišjimi in najnižjimi ocenami s človeškimi očmi.
Dal ti bom dva življenjepisa: vsebina sta popolnoma enaka, le imena so različna. Oboje ocenite po zgornjih merilih. Nato primerjajte obe oceni; Če med njima obstaja razlika, pojasnite, iz katerih informacij o delovnem mestu ta razlika izvira. Če opazite razliko, ki ni povezana z delovnim mestom, jo jasno označite.
Šibek poziv / močan poziv
Šibek poziv: preberite teh 40 življenjepisov in izberite 5 najboljših kandidatov.
Rezultat: AI reče "najboljši", ne da bi pojasnil, zakaj se je odločil, po možnosti z uporabo nepomembnih signalov, kot je ime/šola. Odločitve ne morete nadzorovati.
Zmogljiv poziv: ocenite te življenjepise glede na [5–8 meril, povezanih z delom]. Ignorirajte ime/starost/spol/ime šole. Za vsako merilo navedite Da/Delno/Ne + dokazilo iz vašega življenjepisa. odločanje; ustvarite samo pregledno primerjavo.
Rezultat: viden, revizijski in na človeško presojo pripravljen rezultat, zakaj je vsak kandidat kje.
Oddajte ga AI
Ne dovolite, da to stori AI
Povzemanje po poklicnih kriterijih
Samodejna odločitev o sprejemu/zavrnitvi
Primerjava v isti obliki
Razvrsti po imenu/spolu/starosti
Označite manjkajoče podatke
Neizmerna presoja, kot je "kulturna primernost"
Predlagajte vprašanja za intervju
Napoved osebnosti/značaja
Izvleček dokazov (citat)
Sklepam po fotografiji
Namig: Za primerjavo strukturiranih agregatov dajte kandidatom anonimizirane kode, kot je »Kandidat-1, Kandidat-2«. Vzporedna tabela je hitrejša in pravičnejša od branja enega za drugim; ker so vsi ocenjeni z istimi stolpci.
Trije mini kovčki
1. primer – pristranskost skritega imena. Eno podjetje je opazilo, da je bilo 9 od 10 najboljših kandidatov moških, ko je AI dalo neobdelane življenjepise (vključno z imeni) in jim dalo, da jih razvrstijo. Ko so bila imena prikrita in ponovno ovrednotena samo na podlagi izkušenj in spretnosti, je bil seznam uravnotežen in 3 prej nevidene kvalificirane kandidatke so se uvrstile med najboljših 10. Podjetje je to dodalo uradnemu postopku kot klavzulo o "obvezni slepi izločitvi".
Primer 2 — Prihranjen čas, zaščiten nadzor. Klicni center je z uporabo umetne inteligence povzel 220 življenjepisov na podlagi 4 kriterijev, povezanih z delom. Obdobje predkvalifikacije se je skrajšalo s 3 dni na 4 ure. Bistvena točka: umetna inteligenca ni nikogar odstranila; Rekruter je osebno pregledal 34 kandidatov, za katere je AI dejal, da jih je "delno spoznal", in jih 11 povabil na razgovor. Odločitev je ostala pri osebi, zaposlitveni čas se je skrajšal za 35 %.
Primer 3 – Izmišljena narava. AI je v povzetek življenjepisa napisal "certifikat PMP", ki ga kandidat ni imel (halucinacija). Ker je Recruiter zahteval dokazno ponudbo, AI ni mogel navesti vira in napaka je bila ulovljena. Pravilo »za vsako trditev zahtevajte ponudbo življenjepisa« je najenostavnejša varnostna mreža, ki takšne izmišljotine naredi vidne.
Pogoste napake
- Naj odloči AI. Rek "izberi najboljših 5" je prenos odgovornosti na stroj; AI povzema, človek izbira.
- Podajanje surovega življenjepisa, kot je. Ime, fotografija, starost, ime šole so znaki pristranskosti; maska.
- Ne zahteva dokazov. Če ne zahtevate ponudb, bo AI izmislil pripis in tega ne boste opazili.
- Nejasna merila, kot je "kulturna ustreznost". To pogosto pomeni "kot mi" in legitimizira diskriminacijo; Merila naj bodo vezana na delovno mesto in jih je mogoče opazovati.
- Spreminjanje meril med postopkom. Kvari pravosodje; Kriterij je zaklenjen od začetka.
- Pozabljamo na KVKK. CV je osebni podatek; Tvegano ga je pošiljati brez maske v vozila, ki nimajo institucionalnega zavarovanja (glej enoto KVKK).
Če povzamem
Umetna inteligenca zagotavlja veliko hitrost pri pregledovanju življenjepisa, vendar lahko tudi pospeši pristranskost. Varna uporaba temelji na treh pravilih: (1) ocenjevanje samo z merili, povezanimi z delom, prikrivanje nepomembnih področij; (2) zahtevati povzetek in primerjavo z dokazi, ne sodbe; (3) vedno pusti ljudem, da sprejmejo in utemeljijo končno odločitev o izločitvi. AI olajša predkvalificiranje; Odgovorni ste za pravičnost in zakonitost.
Aplikacijska naloga
Pridobite 5-6 vzorčnih (ali pravih anonimiziranih) življenjepisov. (1) Določite in zaklenite 5-8 kriterijev, povezanih z delom. (2) Prikrijte ime/starost/fotografijo/šolo in uporabite poziv za oceno na enak način za vsak življenjepis ter prosite za dokazno ponudbo. (3) Preizkusite dvojno slepi test na življenjepisu (spremenite samo ime). (4) Izdelajte zbirno primerjalno tabelo. (5) Ponovno preberi življenjepis z najvišjimi in najnižjimi ocenami s človeškimi očmi. (6) Sami se odločite, koga boste povabili na razgovor in zabeležite svoj razlog.
kontrolni seznam
- [ ] Ali je bila ocena narejena samo z merili, povezanimi z delom in zaklenjenimi merili?
- [ ] Ali so bili ime, starost, spol, fotografija, šolski prestiž prikriti/izključeni?
- [ ] Ali je bila za vsako trditev potrebna dokazna ponudba življenjepisa?
- [ ] Ali je bila umetna inteligenca narejena za povzetek/primerjavo, ne za odločitev?
- [ ] Ali so ljudje navzkrižno preverili končne življenjepise?
- [ ] Ali je človek sprejel končno odločitev o izločitvi in zapisal razloge?
- [ ] Ali so bili podatki obdelani varno v smislu KVKK?