Прибыль:
- Умение обобщать резюме в структурированном и сопоставимом формате в соответствии с критериями, связанными с работой.
- Способность распознавать риски предвзятости и дискриминации при скрининге с помощью ИИ и снижать их с помощью конкретных методов.
- Возможность установить отслеживаемый процесс, требующий человеческого контроля при принятии окончательного решения об устранении.
Самый трудоемкий, самый утомительный и одновременно самый рискованный этап подбора персонала — это проверка резюме. Чтобы прочитать и сравнить 300 резюме одно за другим, потребовались бы часы; По мере увеличения утомления качество решений снижается, и последнее чтение резюме не оценивается с той же тщательностью, что и первое чтение резюме. Искусственный интеллект (ИИ) обеспечивает огромное ускорение на этом этапе. Но вот самое опасное: ИИ может учиться и воспроизводить человеческие предубеждения в данных, на которых он обучается. В этом модуле мы научимся структурированно обобщать резюме с использованием критериев, связанных с работой, снижать риск предвзятости с помощью конкретных методов и устанавливать отслеживаемый процесс, в котором окончательное решение остается в руках людей.
Давайте уточним термины. Предвзятость — это систематическое отклонение решения из-за характеристики, не связанной с работой (например, имени, пола, возраста, родного города, окончания школы). Структурированное резюме предназначено для обобщения каждого резюме под одними и теми же заголовками и в том же порядке; Таким образом, кандидатов сравнивают яблоки с яблоками. Слепой отбор — это процесс отбора, при котором скрывается информация, идентифицирующая кандидата, но не имеющая никакого отношения к вакансии. Критерием, связанным с работой, является компетенция, указанная в рекламе, которая фактически необходима для выполнения этой работы. Наконец, галлюцинация — это когда ИИ выдает информацию, которой на самом деле не существует (например, сертификат, которого нет в резюме).
Почему ИИ порождает предвзятость?
ИИ учится на миллионах текстов, и эти тексты включают прошлые человеческие решения. Если определенная группа подвергалась дискриминации в прошлом, ИИ может принять эту закономерность за «нормальную». Кроме того, подсказки в резюме, такие как имя, адрес или школа, дают модели косвенные сигналы о поле, этнической принадлежности или социально-экономическом статусе. Известный пример: инструмент отбора, который крупная технологическая компания обучила на основе исторических данных резюме, систематически подчеркивал внимание кандидатов-женщин, поскольку в данных преобладали мужчины, и этот инструмент был прекращен. Урок ясен: ИИ не нейтрален; Вы обеспечиваете беспристрастность посредством проектирования процессов.
Роль и ограничения ИИ
Самое критическое предложение этого раздела: ИИ не устраняет CV, он суммирует CV. Если вы настроите ИИ в качестве «автоотклонителя», вы столкнетесь как с юридическим риском (иск о дискриминации), так и с репутационным риском; Более того, вы можете заставить действительно хорошего кандидата исчезнуть из поля зрения. Правильная настройка — использовать ИИ в качестве помощника по скорочтению и структурированию.
Пошаговый безопасный процесс устранения:
- Заранее определите критерии, связанные с работой. Прежде чем приступить к отсеиванию, запишите, какие 5-8 критериев важны (опыт, конкретные навыки, сертификация, отрасль) и зафиксируйте их.
- Замаскируйте ненужные области. Исключите из оценки такие поля, как имя, фотография, возраст, семейное положение, место рождения, название школы.
- Запросите структурированное резюме. Распечатайте одинаковый формат для каждого резюме.
- Запрашивайте доказательства, а не решения. «Подходит ли этот кандидат?» вместо «Соответствует ли этот кандидат критериям, на какой строке резюме он основан?» проблема.
- Человек принимает окончательное решение и записывает его. ИИ обобщает/сравнивает, а не исключает; Люди выбирают и пишут свои причины.
Ваша роль: беспристрастный аналитик по подбору персонала. Оценивайте следующее резюме ТОЛЬКО на основе следующих критериев, связанных с работой. УЧИТЫВАЙТЕ имя, пол, возраст, фото, семейное положение и престиж школы. Просто посмотрите на опыт и навыки. Критерии: 1) Опыт продаж на местах более 3 лет 2) Использование CRM (например, Salesforce / HubSpot) 3) Опыт продаж B2B 4) Свидетельства достижения годовых целей (числовые, предпочтения) Формат вывода (одна строка для каждого критерия): - Критерии | Соответствует (да/частично/нет) | Доказательства из резюме (отрывок) Проверка: недостающая информация и 2 вопроса, которые следует задать на собеседовании.<cv>[Текст резюме]</cv>
Внимание: важно сказать ИИ: «не заботьтесь о престиже школы». Модели, возможно, усвоили дискриминационные ярлыки, такие как «хороший университет = хороший кандидат»; это косвенная дискриминация различных социально-экономических групп.
Конкретные методы уменьшения предрассудков
Предрассудки – это не абстрактная проблема; можно измерить и уменьшить следующим образом:
- Слепое устранение. Удалите имя, фотографию, дату рождения и название школы из резюме.
- Фиксированный список критериев. Напишите критерии и заблокируйте их до начала исключения; Не меняйте его в середине процесса.
- Та же подсказка, тот же формат. Оценивайте все резюме по одним и тем же инструкциям.
- Обязательство по предоставлению доказательств. Каждое «да» должно основываться на цитате; это выявляет галлюцинацию.
- Двойной слепой тест. Отправьте одно и то же резюме с версией «женское имя» и версией «мужское имя» и проверьте, не изменились ли оценки.
- Перекрестная проверка. Перечитайте человеческими глазами несколько резюме с наивысшими и наименьшими баллами.
Я дам вам два резюме: содержание абсолютно одинаковое, только имена разные. Оцените обоих по вышеуказанным критериям. Затем сравните две оценки; Если между ними имеется разница, поясните, из каких сведений о вакансии вытекает эта разница. Если вы обнаружите разницу, не связанную с работой, четко отметьте ее.
Слабая подсказка/Сильная подсказка
Слабая подсказка: прочитайте эти 40 резюме и выберите 5 лучших кандидатов.
Результат: ИИ говорит «лучший», не объясняя, почему он выбрал, возможно, используя нерелевантные сигналы, такие как имя/школа. Вы не можете контролировать решение.
Мощная подсказка: оцените эти резюме по [5-8 критериям, связанным с работой]. Игнорируйте имя/возраст/пол/название школы. По каждому критерию укажите Да/Частично/Нет + подтверждающую цитату из вашего резюме. Принятие решений; просто проведите прозрачное сравнение.
Результат: видимый, проверяемый и готовый к суждению вывод о том, почему каждый кандидат находится на своем месте.
Передайте это ИИ
Не позволяйте ИИ сделать это
Подведение итогов по должностным критериям
Автоматическое принятие/отклонение решения
Сравнение в том же формате
Сортировать по имени/полу/возрасту
Отметить недостающую информацию
Неизмеримые суждения, такие как «культурное соответствие»
Предлагайте вопросы для собеседования
Предсказание личности/характера
Извлечение доказательств (цитата)
Я делаю вывод по фото
Совет. Для структурированного совокупного сравнения дайте кандидатам анонимные коды, например «Кандидат-1, Кандидат-2». Сопоставлять таблицы рядом друг с другом быстрее и честнее, чем читать их одну за другой; потому что все оцениваются по одним и тем же столбцам.
Три мини-кейса
Случай 1. Предвзятость в отношении сокрытия имени. Одна компания заметила, что 9 из 10 лучших кандидатов были мужчинами, когда они предоставили ИИ необработанные резюме (включая имена) и попросили их отсортировать. Когда имена были замаскированы и переоценены только на основе опыта и навыков, список оказался сбалансированным, и 3 ранее не встречавшиеся квалифицированные кандидаты-женщины вошли в десятку лучших. Компания добавила это в официальную процедуру как пункт об «обязательном слепом исключении».
Случай 2 — Экономия времени, защищенное управление. Колл-центр с помощью искусственного интеллекта обобщил 220 резюме на основе 4 критериев, связанных с работой. Срок предварительной квалификации сократился с 3 дней до 4 часов. Важнейший момент: ИИ никого не уничтожил; Рекрутер лично осмотрел 34 кандидата, с которыми, по словам AI, «частично познакомился», и пригласил 11 из них на собеседование. Решение осталось за человеком, время набора сократилось на 35%.
Случай 3 — Выдуманная природа. В резюме ИИ написал «сертификат PMP», которого у кандидата не было (галлюцинация). Поскольку Recruiter запросил подтверждающую цитату, AI не смог сослаться на источник, и ошибка была обнаружена. Правило «спрашивать цену резюме по каждой претензии» — это простейшая страховка, которая делает подобные измышления видимыми.
Распространенные ошибки
- Пусть ИИ решает. Сказать «выберите 5 лучших» — значит переложить ответственность на машину; ИИ обобщает, человек выбирает.
- Предоставление сырого резюме как есть. Имя, фотография, возраст, название школы — сигналы предвзятости; маска.
- Не требуя доказательств. Если вы не запросите цитаты, ИИ выдумает авторство, и вы этого не заметите.
- Расплывчатые критерии, такие как «культурное соответствие». Это часто означает «как мы» и узаконивает дискриминацию; Держите критерии привязанными к работе и наблюдаемыми.
- Изменение критериев в середине процесса. Это развращает правосудие; Критерий заблокирован с самого начала.
- Забыв КВКК. Резюме – персональные данные; Рискованно отправлять его без маскировки на транспортные средства, не имеющие институционального обеспечения (см. подразделение КВКК).
В заключение
ИИ обеспечивает высокую скорость проверки резюме, но также может ускорить предвзятость. Безопасное использование основано на трех правилах: (1) оценивать только по критериям, связанным с работой, маскируя нерелевантные области; (2) требовать обобщения и сравнения с доказательствами, а не вынесения вердикта; (3) всегда позволяйте людям принимать и обосновывать окончательное решение об исключении. ИИ упрощает предварительную квалификацию; Вы несете ответственность за справедливость и законность.
Задача приложения
Получите 5-6 образцовых (или реальных анонимных) резюме. (1) Определите и зафиксируйте 5–8 критериев, связанных с работой. (2) Замаскируйте имя/возраст/фото/школу и примените оценочную подсказку одинаковым образом к каждому резюме, запрашивая подтверждающую цитату. (3) Попробуйте двойной слепой тест на резюме (изменив только имя). (4) Подготовьте сводную сравнительную таблицу. (5) Перечитайте резюме с самой высокой и самой низкой оценкой человеческими глазами. (6) Решите сами, кого пригласить на собеседование, и запишите причину.
контрольный список
- [ ] Была ли оценка произведена только с использованием критериев, связанных с работой и фиксированных критериев?
- [ ] Были ли замаскированы/исключены имя, возраст, пол, фотография, престиж школы?
- [ ] Требовалось ли для каждой претензии предоставить подтверждающее резюме?
- [ ] Был ли ИИ создан для подведения итогов/сравнений, а не для принятия решений?
- [ ] Проверялись ли людьми резюме в конце?
- [ ] Принял ли человек окончательное решение об исключении и записал причины?
- [ ] Были ли данные обработаны безопасно с точки зрения KVKK?