Алгоритмы Workday обвинили в дискриминации

Компанию Workday обвинили в создании рекрутинговых алгоритмов, которые привели к предвзятому отношению к темнокожим соискателям в возрасте 40 лет. Об этом пишет The Register.

Согласно коллективному судебному иску, фирма «незаконно предлагает основанную на алгоритме систему проверки кандидатов, которая определяет, должен ли работодатель принять или отклонить заявление о приеме на работу в зависимости от расы человека, возраста и/или инвалидности».

Дело основано на предполагаемом опыте Дерека Мобли — темнокожего мужчины старше 40 лет, который страдает тревогой и депрессией. Согласно документам, с 2018 года он подал 80–100 заявок на вакансии в компаниях, которые используют Workday в качестве инструмента проверки найма.

Ему каждый раз отказывали в приеме на работу, несмотря на наличие степени бакалавра финансов и младшего специалиста по администрированию сетевых систем.

«Инструменты отбора Workday позволяют клиентам манипулировать ими и настраивать их дискриминационным образом для найма и адаптации сотрудников. Продукты компании обрабатывают и интерпретируют квалификацию кандидата и рекомендуют, следует ли принять кандидата или отказать ему», — говорится в иске.

Заявители утверждают, что инструменты Workday основаны на субъективных практиках. Они приводят к предвзятости в отношении заявителей-афроамериканцев, лиц старше 40 лет и людей с инвалидностью, говорится в документах дела.

Истицы также заявили, что ИИ-системы компании могут перенять «сознательные и бессознательные» предвзятости людей, которые их разрабатывают.

В Workday назвали иск необоснованным. Разработчики заявили, что «привержены надежному ИИ» и действуют «ответственно и прозрачно» при создании своих сервисов.

«Мы участвуем в процессе проверки на основе рисков на протяжении всего жизненного цикла продукта, чтобы смягчить любые непредвиденные последствия. […] Также мы проводим юридические исследования для обеспечения соблюдения нормативных требований», — сказали в Workday.

Напомним, в мае 2022 года администрация президента США Джо Байдена предупредила об угрозах применения ИИ-инструментов в рекрутинге.