Исследование: алгоритмы Twitter «предпочитают» молодых и стройных девушек

Алгоритм автоматической обрезки фотографий в ленте Twitter отдает предпочтение стройным девушкам. К такому выводу пришел исследователь Федеральной политехнической школы Лозанны в ходе конкурса по выявлению алгоритмической предвзятости в социальной сети.

Аспирант кафедры компьютерной безопасности Богдан Кулинич использовал технику дипфейка для автоматического создания изображений различных лиц. Затем он протестировал алгоритм обрезки фото, чтобы увидеть, как он отреагирует на них.

Кулинич выяснил, что инструмент кадрирования фотографий выделяет молодых и стройных женщин, оставляя других людей и объекты вне поля зрения.

«По сути, чем стройнее, моложе и женственнее изображение, тем вероятнее ему будет отдаваться предпочтение», — заявил главный научный сотрудник консалтинговой компании BNH и один из членов жюри Патрик Холл.

Исследователь безопасности в OpenAI Ариэль Герберт-Восс считает, что обнаруженные конкурсантами предвзятости алгоритма отражают предубеждения людей, предоставивших данные для обучения модели. По ее словам, тщательный анализ алгоритмов может помочь продуктовым командам устранить проблемы с их ИИ-моделями.

Первый конкурс по обнаружению алгоритмической предвзятости в Twitter проходил с 30 июля по 6 августа 2021 года. Итоги соревнования компания объявила 8 августа в рамках конференции DEF CON AI Village.

Победитель конкурса Богдан Кулинич получил от компании приз в размере $3500.

Напомним, в июне OpenAI сообщила, что смягчила предвзятость и токсичность в языковой модели GPT-3.

В апреле группа студентов пожаловалась на наличие предубеждений у искусственного интеллекта, который следит за тем, чтобы учащиеся не жульничали на экзаменах.

Подписывайтесь на новости ForkLog в Telegram: ForkLog AI — все новости из мира ИИ!