Исследование: алгоритмы Twitter «предпочитают» молодых и стройных девушек

Алгоритм автоматической обрезки фотографий в ленте Twitter отдает предпочтение стройным девушкам. К такому выводу пришел исследователь Федеральной политехнической школы Лозанны в ходе конкурса по выявлению алгоритмической предвзятости в социальной сети.

Аспирант кафедры компьютерной безопасности Богдан Кулинич использовал технику дипфейка для автоматического создания изображений различных лиц. Затем он протестировал алгоритм обрезки фото, чтобы увидеть, как он отреагирует на них.

Демонстрация работы алгоритма обрезки изображений. Данные: Twitter.

Кулинич выяснил, что инструмент кадрирования фотографий выделяет молодых и стройных женщин, оставляя других людей и объекты вне поля зрения.

«По сути, чем стройнее, моложе и женственнее изображение, тем вероятнее ему будет отдаваться предпочтение», — заявил главный научный сотрудник консалтинговой компании BNH и один из членов жюри Патрик Холл.

Исследователь безопасности в OpenAI Ариэль Герберт-Восс считает, что обнаруженные конкурсантами предвзятости алгоритма отражают предубеждения людей, предоставивших данные для обучения модели. По ее словам, тщательный анализ алгоритмов может помочь продуктовым командам устранить проблемы с их ИИ-моделями.

Первый конкурс по обнаружению алгоритмической предвзятости в Twitter проходил с 30 июля по 6 августа 2021 года. Итоги соревнования компания объявила 8 августа в рамках конференции DEF CON AI Village.

Победитель конкурса Богдан Кулинич получил от компании приз в размере $3500.

Напомним, в июне OpenAI сообщила, что смягчила предвзятость и токсичность в языковой модели GPT-3.

В апреле группа студентов пожаловалась на наличие предубеждений у искусственного интеллекта, который следит за тем, чтобы учащиеся не жульничали на экзаменах.

Подписывайтесь на новости ForkLog в Telegram: ForkLog AI — все новости из мира ИИ!

Подписывайтесь на ForkLog в социальных сетях

Telegram (основной канал) Discord Instagram
Нашли ошибку в тексте? Выделите ее и нажмите CTRL+ENTER

Рассылки ForkLog: держите руку на пульсе биткоин-индустрии!

*Ежедневная рассылка — краткая сводка наиболее важных новостей предыдущего дня. Чтение занимает не больше двух минут. Выходит в рабочие дни в 06:00 (UTC)
*Еженедельная рассылка — объясняем, кто и как изменил индустрию за неделю. Идеально подходит для тех, кто не успевает за новостным потоком в течение дня. Выходит в пятницу в 16:00 (UTC).

Мы используем файлы cookie для улучшения качества работы.

Пользуясь сайтом, вы соглашаетесь с Политикой приватности.

OK
Exit mobile version