В 2019 году группа общественных интересов подала федеральную жалобу США на инструмент найма искусственного интеллекта HireVue за обманные методы найма. Программное обеспечение, которое было принято сотнями компаний, отдавало предпочтение определенным выражениям лица, стилям речи и тонам голоса, что непропорционально ставило в невыгодное положение кандидатов из числа меньшинств.
Информационный центр электронной конфиденциальности заявил, что результаты HireVue были «предвзятыми, недоказуемыми и невоспроизводимыми». Хотя с тех пор компания прекратила использовать распознавание лиц, сохраняется обеспокоенность по поводу предвзятости в других биометрических данных, таких как образцы речи.
Аналогичным образом, как сообщалось в 2018 году, Amazon прекратила использовать свой инструмент подбора персонала с использованием искусственного интеллекта, после того как обнаружила, что он предвзято относится к женщинам. Алгоритм, обученный на резюме, в которых преобладали мужчины, поданные в течение 10 лет, отдавал предпочтение кандидатам-мужчинам, понижая статус заявок, содержащих слово «женские», и наказывая выпускников женских колледжей. Инженеры пытались устранить эти предубеждения, но не смогли гарантировать нейтралитет, что привело к отмене проекта.
Эти примеры подчеркивают растущую озабоченность вопросами найма и отбора: хотя некоторые компании используют ИИ для устранения человеческих предубеждений при приеме на работу, он часто может усиливать и усиливать существующее неравенство. Учитывая быструю интеграцию ИИ в управление человеческими ресурсами во многих организациях, важно повышать осведомленность о сложных этических проблемах, которые он представляет.
Как ИИ может создавать предвзятость
Поскольку компании все чаще полагаются на алгоритмы при принятии важных решений о найме, крайне важно знать о следующих способах, которыми ИИ может создавать предвзятость при найме:
1. Смещение данных обучения. Системы искусственного интеллекта полагаются на большие наборы данных, называемые обучающими данными, для изучения закономерностей и принятия решений, но их точность и объективность настолько хороши, насколько хороши данные, на которых они обучаются. Если эти данные содержат исторические предубеждения при найме, которые отдают предпочтение определенной демографической группе, ИИ примет и воспроизведет те же самые предубеждения. Например, инструмент искусственного интеллекта Amazon был обучен на резюме из отрасли, в которой доминируют мужчины, что привело к гендерной предвзятости.
2. Неверная выборка данных. Ошибочная выборка данных возникает, когда набор данных, используемый для обучения алгоритма, не является репрезентативным для более широкой популяции, для которой он предназначен. В контексте найма это может произойти, если в данных обучения чрезмерно представлены определенные группы — обычно белые мужчины — и недостаточно представлены маргинализированные кандидаты.
В результате ИИ может научиться отдавать предпочтение характеристикам и опыту перепредставленной группы, одновременно наказывая или игнорируя характеристики и опыт недостаточно представленных групп. Например, технологии анализа лица показали более высокий уровень ошибок для расовых людей, особенно расовых женщин, поскольку они недостаточно представлены в данных, используемых для обучения этих систем.
Читать далее: Искусственный интеллект может дискриминировать по признаку расы и пола, а также возраста
3. Предвзятость в выборе функций. При разработке систем искусственного интеллекта разработчики выбирают определенные функции, атрибуты или характеристики, которые будут иметь приоритет или больший вес при принятии решений искусственным интеллектом. Но эти избранные особенности могут привести к несправедливым, предвзятым результатам и увековечить ранее существовавшее неравенство.
Например, ИИ может непропорционально ценить выпускников престижных университетов, которые исторически посещали люди из привилегированных слоев общества. Или он может отдать приоритет опыту работы, который более распространен среди определенных демографических групп.
Эта проблема усугубляется, когда выбранные характеристики являются заменой охраняемых характеристик, таких как почтовый индекс, который может быть тесно связан с расой и социально-экономическим статусом из-за исторической сегрегации в сфере жилья.
(Шаттерсток)
4. Отсутствие прозрачности. Многие системы искусственного интеллекта функционируют как «черные ящики», а это означает, что их процессы принятия решений непрозрачны. Из-за отсутствия прозрачности организациям сложно определить, где может существовать предвзятость и как она влияет на решения о найме.
Без понимания того, как инструмент ИИ принимает решения, трудно исправить предвзятые результаты или обеспечить справедливость. И Amazon, и HireVue столкнулись с этой проблемой; пользователи и разработчики изо всех сил пытались понять, как системы оценивают кандидатов и почему определенные группы были исключены.
5. Отсутствие человеческого контроля. Хотя ИИ играет важную роль во многих процессах принятия решений, он должен дополнять, а не заменять человеческое суждение. Чрезмерная зависимость от искусственного интеллекта без адекватного человеческого контроля может привести к неконтролируемым предубеждениям. Эта проблема усугубляется, когда специалисты по найму доверяют ИИ больше, чем своему собственному суждению, веря в безошибочность технологии.
Преодоление алгоритмической предвзятости при найме
Чтобы смягчить эти проблемы, компании должны принять стратегии, которые отдают приоритет инклюзивности и прозрачности в процессах найма, основанных на искусственном интеллекте. Ниже приведены некоторые ключевые решения для преодоления предвзятости ИИ:
1. Разнообразьте тренировочные данные. Один из наиболее эффективных способов борьбы с предвзятостью ИИ — обеспечить инклюзивность, разнообразие и репрезентативность данных обучения для широкого круга кандидатов. Это означает включение данных о различных расовых, этнических, гендерных, социально-экономических и образовательных группах.
2. Проводить регулярные проверки предвзятости. Необходимо проводить частые и тщательные проверки систем ИИ для выявления моделей предвзятости и дискриминации. Это включает в себя изучение результатов работы алгоритма, процессов принятия решений и его влияния на различные демографические группы.
(Шаттерсток)
3. Внедрить алгоритмы, обеспечивающие справедливость. Используйте программное обеспечение искусственного интеллекта, которое включает ограничения справедливости и предназначено для учета и смягчения предвзятости путем балансирования результатов для недостаточно представленных групп. Это может включать интеграцию показателей справедливости, таких как равные возможности, изменение обучающих данных, чтобы показать меньшую предвзятость, и корректировку прогнозов модели на основе критериев справедливости для повышения справедливости.
4. Повысьте прозрачность. Ищите решения искусственного интеллекта, которые дают представление об их алгоритмах и процессах принятия решений, чтобы упростить выявление и устранение потенциальных предубеждений. Кроме того, обязательно сообщайте кандидатам о любом использовании ИИ в процессе найма, чтобы обеспечить прозрачность с вашими кандидатами на работу и другими заинтересованными сторонами.
5. Поддерживайте человеческий надзор. Чтобы сохранить контроль над алгоритмами найма, менеджеры и руководители должны активно анализировать решения, принимаемые искусственным интеллектом, особенно при принятии окончательного решения о найме. Новые исследования подчеркивают решающую роль человеческого надзора в защите от рисков, связанных с приложениями ИИ. Однако для того, чтобы этот надзор был эффективным и значимым, лидеры должны гарантировать, что этические соображения являются частью процесса найма, и способствовать ответственному, инклюзивному и этичному использованию ИИ.
Предвзятость в алгоритмах найма вызывает серьезные этические проблемы и требует большего внимания к осознанному, ответственному и инклюзивному использованию ИИ. Понимание и устранение этических соображений и предубеждений при найме на основе искусственного интеллекта имеет важное значение для обеспечения более справедливых результатов найма и предотвращения усиления системных предубеждений технологиями.