Алгоритмы Workday обвинили в дискриминации

Компанию Workday обвинили в создании рекрутинговых алгоритмов, которые привели к предвзятому отношению к темнокожим соискателям в возрасте 40 лет. Об этом пишет The Register.

Согласно коллективному судебному иску, фирма «незаконно предлагает основанную на алгоритме систему проверки кандидатов, которая определяет, должен ли работодатель принять или отклонить заявление о приеме на работу в зависимости от расы человека, возраста и/или инвалидности».

Дело основано на предполагаемом опыте Дерека Мобли — темнокожего мужчины старше 40 лет, который страдает тревогой и депрессией. Согласно документам, с 2018 года он подал 80–100 заявок на вакансии в компаниях, которые используют Workday в качестве инструмента проверки найма.

Ему каждый раз отказывали в приеме на работу, несмотря на наличие степени бакалавра финансов и младшего специалиста по администрированию сетевых систем.

«Инструменты отбора Workday позволяют клиентам манипулировать ими и настраивать их дискриминационным образом для найма и адаптации сотрудников. Продукты компании обрабатывают и интерпретируют квалификацию кандидата и рекомендуют, следует ли принять кандидата или отказать ему», — говорится в иске.

Заявители утверждают, что инструменты Workday основаны на субъективных практиках. Они приводят к предвзятости в отношении заявителей-афроамериканцев, лиц старше 40 лет и людей с инвалидностью, говорится в документах дела.

Истицы также заявили, что ИИ-системы компании могут перенять «сознательные и бессознательные» предвзятости людей, которые их разрабатывают.

В Workday назвали иск необоснованным. Разработчики заявили, что «привержены надежному ИИ» и действуют «ответственно и прозрачно» при создании своих сервисов.

«Мы участвуем в процессе проверки на основе рисков на протяжении всего жизненного цикла продукта, чтобы смягчить любые непредвиденные последствия. […] Также мы проводим юридические исследования для обеспечения соблюдения нормативных требований», — сказали в Workday.

Напомним, в мае 2022 года администрация президента США Джо Байдена предупредила об угрозах применения ИИ-инструментов в рекрутинге.

Подписывайтесь на ForkLog в социальных сетях

Telegram (основной канал) Discord Instagram
Нашли ошибку в тексте? Выделите ее и нажмите CTRL+ENTER

Рассылки ForkLog: держите руку на пульсе биткоин-индустрии!

*Ежедневная рассылка — краткая сводка наиболее важных новостей предыдущего дня. Чтение занимает не больше двух минут. Выходит в рабочие дни в 06:00 (UTC)
*Еженедельная рассылка — объясняем, кто и как изменил индустрию за неделю. Идеально подходит для тех, кто не успевает за новостным потоком в течение дня. Выходит в пятницу в 16:00 (UTC).

Мы используем файлы cookie для улучшения качества работы.

Пользуясь сайтом, вы соглашаетесь с Политикой приватности.

OK
Exit mobile version