Добици:
- Способност сумирања ЦВ-а у структурираном и упоредивом формату према критеријумима везаним за посао
- Способност препознавања ризика од пристрасности и дискриминације у скринингу подржаном вештачком интелигенцијом и смањивање их конкретним методама
- Способност успостављања следљивог процеса који захтева људску контролу у коначној одлуци о елиминацији
Најзахтевнији, најзаморнији и најризичнији корак у запошљавању је провјера биографије. Требало би сатима да се прочита и упореди 300 ЦВ-а за објављивање један по један; Како се замор повећава, квалитет одлуке се смањује и последње читање ЦВ-а се не оцењује са истом пажњом као прво прочитано ЦВ. Вештачка интелигенција (АИ) пружа огромно убрзање у овом кораку. Али ево најопаснијег дела: АИ може да научи и репродукује људске предрасуде у подацима на којима је обучена. У овој јединици научићемо како да сумирамо биографије на структурисан начин са критеријумима који се односе на посао, смањимо ризик од пристрасности конкретним методама и успоставимо процес који се може пратити који држи коначну одлуку у рукама људи.
Хајде да разјаснимо услове. Пристрасност је систематско одступање одлуке због карактеристике која није повезана са послом (као што је име, пол, године, родни град, завршена школа). Структурирани резиме је да сумира сваки ЦВ под истим насловима, истим редоследом; На овај начин кандидати се пореде јабуке са јабукама. Слепи скрининг је процес скрининга који сакрива информације које идентификују кандидата, али немају никакве везе са послом. Критеријум у вези са послом је компетенција дефинисана у огласу која је заправо потребна за обављање тог посла. Коначно, халуцинација је када АИ производи информације које заправо не постоје (на пример, сертификат који није укључен у ЦВ).
Зашто АИ производи пристрасност?
АИ учи из милиона текстова, а ти текстови укључују прошле људске одлуке. Ако је одређена група била дискриминисана у прошлости, вештачка интелигенција може погрешно да сматра овај образац „нормалним“. Поред тога, трагови у ЦВ-у као што су име, адреса или школа дају индиректне сигнале моделу о полу, етничкој припадности или социоекономском статусу. Чувени пример: алатка за скрининг коју је велика технолошка компанија обучила на основу историјских података о биографији систематски је подвлачила кандидате за жене јер су подаци доминирали мушкарцима, а алат је укинут. Поука је јасна: вештачка интелигенција није неутрална; Ви успостављате непристрасност кроз дизајн процеса.
Улога и граница АИ
Најкритичнија реченица ове јединице је: АИ не елиминише ЦВ, она резимира ЦВ. Ако поставите АИ као „аутоматско одбацивање“, носите и правни ризик (тврдња о дискриминацији) и ризик репутације; Штавише, можете учинити да заиста добар кандидат нестане из видокруга. Исправно подешавање је да се АИ користи као помоћник за брзо читање и структурирање.
Корак по корак безбедни процес елиминације:
- Унапред дефинишите критеријуме везане за посао. Пре него што почнете са елиминацијом, запишите којих 5-8 критеријума су важни (искуство, специфична вештина, сертификат, индустрија) и закључајте их.
- Маскирајте небитна подручја. Искључите поља као што су име, фотографија, године, брачни статус, место рођења, назив школе из евалуације.
- Затражите структурирани резиме. Одштампајте потпуно исти формат за сваки ЦВ.
- Тражите доказе, а не одлуке. „Да ли је овај кандидат одговарајући?“ уместо „Да ли овај кандидат испуњава критеријуме, на којој линији биографије се заснива?“ проблем.
- Човек доноси коначну одлуку и бележи је. АИ сажима/упоређује, а не елиминише; Људи бирају и пишу своје разлоге.
Ваша улога: непристрасни аналитичар запошљавања. Процените следећу биографију САМО на основу следећих критеријума у вези са послом. РАЗМОТРИТЕ име, пол, године, фотографију, брачни статус и школски престиж. Само погледајте искуство и вештине.Критеријуми:1) 3+ године искуства у продаји на терену2) Употреба ЦРМ-а (нпр. Салесфорце/ХубСпот)3) Б2Б продајно искуство4) Докази о остварењу годишњег циља (нумерички, преференција) Излазни формат (једна линија за сваки критеријум):- Критеријум | Упознаје (Да/Делимично/Не) | Докази из ЦВ-а (извод) Истраге: недостају информације и 2 питања која треба поставити у интервјуу.<цв>[текст ЦВ-а]</цв>
Опрез: Важно је рећи АИ „не пази на престиж школе“. Модели су можда научили дискриминаторске пречице попут „добар универзитет = добар кандидат“; ово је индиректна дискриминација различитих социоекономских група.
Конкретне методе за смањење предрасуда
Предрасуде нису апстрактна брига; може се измерити и смањити са:
- Слепа елиминација. Уклоните име, фотографију, датум рођења и назив школе из биографија.
- Листа фиксних критеријума. Напишите критеријуме и закључајте их пре него што елиминација почне; Немојте га мењати усред процеса.
- Исти упит, исти формат. Процените све биографије са потпуно истим упутствима.
- Обавеза изрицања доказа. Свако „Да“ мора бити засновано на цитату; ово открива халуцинацију.
- Двоструки слепи тест. Пошаљите исти ЦВ са верзијом „женско име” и верзијом „мушко име” и проверите да ли су се оцене промениле.
- Унакрсна провера. Поново прочитајте неколико биографија са највишим и најнижим резултатима људским очима.
Даћу вам две биографије: садржај је потпуно исти, само су имена различита. Оцените оба према горе наведеним критеријумима. Затим упоредите две оцене; Ако постоји разлика између њих, објасните из којих информација о послу та разлика потиче. Ако нађете разлику која није у вези са послом, јасно је означите.
Слаба порука / јака промпт
Слаб упит: Прочитајте ових 40 биографија и изаберите 5 најбољих кандидата.
Резултат: АИ каже „најбоље“ без објашњења зашто је изабрао, можда користећи небитне сигнале као што су име/школа. Не можете контролисати одлуку.
Снажан упит: Процените ове биографије према [5-8 критеријума везаних за посао]. Занемарите име/старост/пол/име школе. За сваки критеријум наведите да/делимично/не + доказни цитат из ваше биографије. Доношење одлука; само произвести транспарентно поређење.
Резултат: видљиви, ревидирани и спремни за људско просуђивање, о томе зашто је сваки кандидат где.
Препустите га АИ
Не дозволи АИ да то уради
Сумирање по критеријумима везаним за посао
Аутоматско прихватање/одбијање одлуке
Поређење у истом формату
Сортирај по имену/полу/старости
Означите информације које недостају
Немерљив суд као што је "културно уклапање"
Предложите питања за интервју
Предвиђање личности/карактера
Извод доказа (цитат)
Закључујем из фотографије
Савет: За структурисано збирно поређење, дајте кандидатима анонимне кодове као што су „Кандидат-1, Кандидат-2“. Упоредни сто је и бржи и поштенији од читања једног по једног; јер се сви вреднују истим колонама.
Три мини кућишта
Случај 1 — Скривена пристрасност имена. Једна компанија је приметила да су 9 од 10 најбољих кандидата били мушкарци када су дали АИ сирове биографије (укључујући имена) и натерали их да их сортирају. Када су имена маскирана и поново процењена само на основу искуства и вештине, листа је била избалансирана и 3 раније невиђене квалификоване кандидаткиње ушле су у првих 10. Компанија је ово додала у званичну процедуру као клаузулу о „обавезној елиминацији на слепо“.
Случај 2 — Уштеђено време, заштићена контрола. Цалл центар је сумирао 220 ЦВ-а на основу 4 критеријума у вези са послом користећи АИ. Предквалификацијски период је смањен са 3 дана на 4 сата. Кључна тачка: АИ није никога елиминисао; Регрутер је лично прегледао 34 кандидата за које је АИ рекао да су се "делимично упознали" и позвао њих 11 на интервју. Одлука је остала на лицу, време запошљавања је скраћено за 35%.
Случај 3 — Измишљена природа. АИ је у резимеу ЦВ-а написао „ПМП сертификат“, који кандидат није имао (халуцинација). Пошто је Рецруитер тражио доказну понуду, АИ није могао да наведе извор и грешка је ухваћена. Правило „за сваку тврдњу тражите понуду за ЦВ“ је најједноставнија сигурносна мрежа која такве измишљотине чини видљивим.
Уобичајене грешке
- Нека АИ одлучи. Рећи "изаберите најбољих 5" је пребацивање одговорности на машину; АИ сажима, човек бира.
- Давање сировог ЦВ-а какав јесте. Име, фотографија, године, назив школе су сигнали пристрасности; маска.
- Не тражећи доказе. Ако не тражите цитате, АИ ће измислити атрибуцију и нећете приметити.
- Нејасни критеријуми као што је „културно уклапање“. Ово често значи „као ми“ и легитимише дискриминацију; Држите критеријуме везане за посао и видљиве.
- Промена критеријума усред процеса. То квари правду; Критеријум је закључан од почетка.
- Заборављам КВКК. ЦВ је лични податак; Ризично је слати га без маскирања возилима која немају институционално осигурање (погледати јединицу КВКК).
Укратко
АИ пружа велику брзину у скринингу ЦВ-а, али такође може убрзати пристрасност. Безбедна употреба заснована је на три правила: (1) проценити само критеријуме у вези са послом, маскирајући нерелевантне области; (2) тражити сажетак и поређење са доказима, а не пресуду; (3) увек нека људи донесу и оправдају коначну одлуку о елиминацији. АИ олакшава претквалификацију; Ви сте одговорни за правду и законитост.
Задатак апликације
Узмите 5-6 узорака (или правих анонимних) биографија. (1) Дефинишите и закључајте 5-8 критеријума везаних за посао. (2) Замаскирајте име/старост/фотографију/школу и примените упит за евалуацију на исти начин на сваку биографију, тражећи цитат за доказ. (3) Пробајте двоструки слепи тест на биографији (промена само имена). (4) Нека се направи табела збирног поређења. (5) Поново прочитајте животопис са највишим и најнижим оценама људским очима. (6) Сами одлучите кога ћете позвати на интервју и забележите разлог.
контролна листа
- [ ] Да ли је евалуација извршена само са критеријумима везаним за посао и закључаним критеријумима?
- [ ] Да ли су име, године, пол, фотографија, школски престиж били маскирани/искључени?
- [ ] Да ли је за сваку тврдњу била потребна цитат из ЦВ-а?
- [ ] Да ли је АИ направљен да направи резиме/поређење, а не одлуку?
- [ ] Да ли су људи унакрсно проверили биографије на крају?
- [ ] Да ли је човек донео коначну одлуку о елиминацији и забележио разлоге?
- [ ] Да ли су подаци обрађени безбедно у смислу КВКК?