Британец обвинил правительственный ИИ в расизме из-за ошибок определения лиц
Темнокожий активист Джорис Лечен заявил, что предоставленная им фотография на паспорт была отклонена правительственным сайтом Великобритании, потому что искусственный интеллект не смог распознать его «меланистую привлекательность».
@joris_explains Automation is never diversity-friendly. #LearnOnTikTok #diversity #technology #artificialintelligence #ukcitizen #bias
♬ Clock It — Clutch
Мужчина утверждает, что изображение соответствует всем правилам руководства по подаче заявки.
«Но вот эта фотография была отклонена, потому что программное обеспечение искусственного интеллекта не было разработано для людей моего фенотипа», — сказал он.
Лечен поделился скриншотом отправленной им фотографии. На ней молодой человек запечатлен в черной футболке с закрытым ртом на контрастном сером фоне.
Однако правительственный веб-сайт отклонил фотографию, потому что его «рот может быть открыт», а «изображение и фон трудно отличить друг от друга».
«[Программное обеспечение] часто ошибается из-за того, что волосы не падают на лицо, и почему-то принимает их за фон. И у него есть привычка думать, что такие люди как я ходят с открытым ртом», — добавил Лечен.
Напомним, в начале апреля алгоритмы определения лиц программы Proctorio, которая следит за тем, чтобы учащиеся не жульничали на экзаменах, обвинили в предвзятости к темнокожим пользователям.
В начале 2019 года афроамериканец провел десять суток в тюрьме из-за ошибки распознавания лиц. Мужчина намерен судиться с местной полицией за безосновательный арест.
Подписывайтесь на новости ForkLog в Telegram: ForkLog AI — все новости из мира ИИ!