Скринінг CV, узагальнення та ризик упередженості

Прибуток:

• Здатність узагальнювати резюме в структурованому та порівнянному форматі відповідно до критеріїв, пов’язаних із роботою
• Здатність розпізнавати ризики упередженості та дискримінації під час перевірки за допомогою ШІ та зменшувати їх за допомогою конкретних методів
• Здатність встановити відстежуваний процес, який потребує людського контролю для остаточного рішення про усунення

Найбільш трудомістким, найбільш виснажливим, а також найризикованішим етапом підбору персоналу є скринінг CV. Це займе години, щоб прочитати та порівняти 300 резюме для публікації одне за одним; Зі збільшенням втоми якість прийняття рішень знижується, і останнє зчитування CV не оцінюється з такою ж ретельністю, як перше зчитування CV. Штучний інтелект (AI) забезпечує величезне прискорення цього кроку. Але ось найнебезпечніша частина: ШІ може вивчати та відтворювати людські упередження в даних, на яких він навчається. У цьому розділі ми навчимося структуровано підсумовувати резюме з критеріями, пов’язаними з роботою, зменшити ризик упередженості за допомогою конкретних методів і налагодити відстежуваний процес, який залишає остаточне рішення в руках людей.

Давайте уточнимо терміни. Упередження — це систематичне відхилення від рішення через характеристику, яка не пов’язана з роботою (наприклад, ім’я, стать, вік, рідне місто, закінчення школи). Структуроване резюме полягає в тому, щоб підсумувати кожне резюме під однаковими заголовками, в тому самому порядку; Таким чином кандидатів порівнюють яблука з яблуками. Сліпа перевірка — це процес перевірки, який приховує інформацію, яка ідентифікує кандидата, але не має нічого спільного з роботою. Критерій, пов’язаний з роботою, — це компетенція, визначена в оголошенні, яка фактично потрібна для виконання цієї роботи. Нарешті, галюцинація — це коли штучний інтелект створює інформацію, якої насправді не існує (наприклад, сертифікат, якого немає в резюме).

Чому ШІ створює упередження?

ШІ навчається на мільйонах текстів, і ці тексти містять минулі людські рішення. Якщо певна група зазнавала дискримінації в минулому, штучний інтелект може помилково сприйняти цю модель як «нормальну». Крім того, підказки в резюме, такі як ім’я, адреса чи школа, дають моделі непрямі сигнали про стать, етнічну приналежність або соціально-економічний статус. Відомий приклад: інструмент перевірки, який велика технологічна компанія навчила на історичних даних резюме, систематично підкреслював кандидатів-жінок, оскільки в даних переважали чоловіки, і цей інструмент було припинено. Урок зрозумілий: ШІ не нейтральний; Ви встановлюєте неупередженість за допомогою розробки процесу.

Роль і обмеження ШІ

Найбільш критичне речення цього блоку: ШІ не усуває CV, він узагальнює CV. Якщо ви налаштуєте штучний інтелект як «автовідмовник», ви ризикуєте як юридичним (позов про дискримінацію), так і репутаційним ризиком; Крім того, ви можете змусити дійсно хорошого кандидата зникнути з поля зору. Правильна настройка полягає у використанні штучного інтелекту як помічника для швидкого читання та структурування.

Покроковий безпечний процес усунення:

1. Заздалегідь визначте критерії роботи. Перед початком елімінації запишіть, які 5-8 критеріїв важливі (досвід, конкретні навички, сертифікат, галузь) і заблокуйте їх.
2. Замаскуйте нерелевантні ділянки. Виключіть з оцінювання такі поля, як ім’я, фото, вік, сімейний стан, місце народження, назва школи.
3. Запит на структуроване резюме. Роздрукуйте кожне резюме в однаковому форматі.
4. Вимагайте доказів, а не рішень. «Чи підходить цей кандидат?» замість "Чи відповідає цей кандидат критеріям, на якому рядку резюме він ґрунтується?" проблема.
5. Людина приймає остаточне рішення і записує його. ШІ узагальнює/порівнює, а не усуває; Люди вибирають і пишуть свої причини.

Ваша роль: неупереджений аналітик з підбору персоналу. Оцініть наведене нижче резюме ЛИШЕ на основі наступних критеріїв, пов’язаних із роботою. ВЕРНІТЬ до уваги ім’я, стать, вік, фотографію, сімейний стан і престиж школи. Просто подивіться на досвід і навички. Критерії: 1) 3+ роки досвіду продажів на місцях 2) Використання CRM (наприклад, Salesforce/HubSpot) 3) Досвід продажів B2B 4) Свідоцтво досягнення річної мети (числове, уподобання) Формат результату (один рядок для кожного критерію): - Критерії | Відповідає (Так/Частково/Ні) | Докази з CV (витяг) Дослідження: відсутня інформація та 2 запитання, які слід поставити під час співбесіди.<cv>[Текст CV]</cv>

Застереження: важливо повідомити штучному інтелекту «не дбати про шкільний престиж». Моделі, можливо, засвоїли дискримінаційні скорочення на зразок «хороший університет = хороший кандидат»; це непряма дискримінація різних соціально-економічних груп.

Конкретні методи зменшення упереджень

Упередження — це не абстрактна проблема; можна виміряти та зменшити:

• Сліпа елімінація. Видалити ім’я, фото, дату народження та назву школи з резюме.
• Список фіксованих критеріїв. Напишіть критерії та заблокуйте їх перед початком елімінації; Не змінюйте його в процесі.
• Той самий запит, той самий формат. Оцініть усі резюме за однаковими інструкціями.
• Обов'язковість доказового вироку. Кожне «Так» має бути засноване на цитаті; це виявляє галюцинацію.
• Подвійний сліпий тест. Надішліть однакове резюме з версіями «жіноче ім’я» та «чоловіче ім’я» та перевірте, чи не змінилися оцінки.
• Перехресна перевірка. Перечитайте людськими очима декілька резюме з найвищими та найнижчими балами.

Я дам вам два CV: зміст точно такий же, тільки імена різні. Оцініть обидва відповідно до наведених вище критеріїв. Потім порівняйте дві оцінки; Якщо між ними є різниця, поясніть, з якої інформації про роботу ця різниця. Якщо ви виявили різницю, яка не стосується роботи, чітко позначте це.

Слабка підказка / Сильна підказка

Слабка підказка: прочитайте ці 40 резюме та виберіть 5 найкращих кандидатів.

Результат: AI каже «найкращий», не пояснюючи, чому він вибрав, можливо, використовуючи нерелевантні сигнали, як-от ім’я/школа. Ви не можете контролювати рішення.

Потужна підказка: оцініть ці резюме за [5-8 критеріями, пов’язаними з роботою]. Ігнорувати ім'я/вік/стать/назву школи. Для кожного критерію надайте Так/Частково/Ні + доказову цитату зі свого резюме. Прийняття рішень; просто створіть прозоре порівняння.

Результат: видимий, перевірений і готовий до людського судження результат того, чому кожен кандидат знаходиться там.

Передайте це на AI

Не дозволяйте ШІ зробити це

Підбиття підсумків за службовими ознаками

Автоматичне прийняття/відхилення рішення

Порівняння в тому ж форматі

Сортувати за іменем/статтю/віком

Позначити відсутню інформацію

Безмірне судження, таке як "культурна відповідність"

Запропонуйте питання для співбесіди

Прогноз особистості/характеру

Витяг доказів (цитата)

Роблю висновок по фото

Порада: для порівняння структурованих агрегатів надайте кандидатам анонімні коди, наприклад «Кандидат-1, Кандидат-2». Пліч-о-пліч таблиця і швидше, і чесніше, ніж читання їх одне за іншим; тому що всі оцінюються однаковими стовпцями.

Три міні-чохли

Випадок 1 — приховане упередження імені. Одна компанія помітила, що 9 із 10 найкращих кандидатів були чоловіками, коли вони надали штучному інтелекту необроблені резюме (включно з іменами) і попросили сортувати їх. Коли імена були замасковані та переоцінені лише на основі досвіду та навичок, список був збалансований, і 3 раніше невідомі кваліфіковані кандидатки потрапили до 10 найкращих. Компанія додала це до офіційної процедури як положення про «обов’язкове сліпе виключення».

Випадок 2 — Економія часу, захищений контроль. Колл-центр узагальнив 220 резюме на основі 4 критеріїв, пов’язаних із роботою, використовуючи штучний інтелект. Термін попередньої кваліфікації скоротився з 3 днів до 4 годин. Ключовий момент: ШІ нікого не усунув; Рекрутер особисто оглянув 34 кандидати, з якими AI сказав, що «частково познайомився», і запросив 11 з них на співбесіду. Рішення залишилося за людиною, термін набору скорочено на 35%.

Кейс 3 — Вигадана природа. ШІ написав у резюме «PMP сертифікація», якого у кандидата не було (галюцинація). Оскільки Recruiter запросив доказову цитату, AI не зміг процитувати джерело, і помилку було виявлено. Правило «запитувати цитату CV для кожної претензії» є найпростішою запобіжною сіткою, яка робить такі вигадки видимими.

Поширені помилки

• Нехай ШІ вирішує. Сказати «вибери 5 найкращих» означає перекласти відповідальність на машину; ШІ підсумовує, людина вибирає.
• Надання необробленого резюме як є. Ім'я, фото, вік, назва школи є сигналами упередженості; маска.
• Не вимагаючи доказів. Якщо ви не запитуєте цитати, ШІ створить атрибуцію, і ви не помітите.
• Нечіткі критерії, такі як «культурна відповідність». Це часто означає «як ми» і узаконює дискримінацію; Зберігайте критерії, прив’язані до роботи та доступні для спостереження.
• Зміна критеріїв у середині процесу. Це псує правосуддя; Критерій заблоковано з самого початку.
• Забувши КВКК. CV є персональними даними; Відправляти його без маскування в транспортні засоби, які не мають інституційного страхування (див. підрозділ КВКК), ризиковано.

Підсумовуючи

AI забезпечує велику швидкість скринінгу CV, але він також може прискорити упередження. Безпечне використання базується на трьох правилах: (1) оцінюйте лише за критеріями, пов’язаними з роботою, маскуючи нерелевантні області; (2) вимагати короткого викладу та порівняння з доказами, а не вироку; (3) завжди дозволяйте людям приймати та обґрунтовувати остаточне рішення про усунення. AI полегшує попередню кваліфікацію; Ви відповідаєте за справедливість і законність.

Аплікаційне завдання

Отримайте 5-6 зразків (або справжніх анонімних) резюме. (1) Визначте та заблокуйте 5-8 критеріїв, пов’язаних із роботою. (2) Замаскуйте ім’я/вік/фото/школу та застосуйте підказку до оцінки таким же чином до кожного резюме, вимагаючи доказової цитати. (3) Спробуйте подвійний сліпий тест на CV (змінивши лише ім’я). (4) Виготовити зведену порівняльну таблицю. (5) Перечитайте CV з найвищими та найнижчими оцінками людськими очима. (6) Вирішіть самі, кого запросити на співбесіду, і запишіть причину.

контрольний список

• [ ] Чи проводилася оцінка лише за критеріями, пов’язаними з роботою та закріпленими критеріями?
• [ ] Ім’я, вік, стать, фотографія, шкільний престиж були замасковані/виключені?
• [ ] Чи потрібна була цитата для підтвердження резюме для кожної претензії?
• [ ] Чи був штучний інтелект створений для підведення підсумків/порівнянь, а не для прийняття рішення?
• [ ] Чи перевіряли кінцеві резюме люди?
• [ ] Чи людина прийняла остаточне рішення про усунення та записала причини?
• [ ] Чи безпечно оброблялися дані з точки зору КВКК?