DALL-E 2 интегрировали в программу составления фотороботов

Разработчики Артур Фортунато и Филипе Рейно создали программу на базе ИИ-генератора изображений DALL-E 2 для составления фотороботов подозреваемых. Эксперты заявили, что технология может усугубить существующие расовые и гендерные предубеждения, пишет Motherboard.

Инженеры разработали программу Forensic Sketch AI-rtist в рамках хакатона в декабре 2022 года.

По их словам, цель системы — сократить время, затрачиваемое на создание фоторобота подозреваемого в преступлении.

Разработчики пока не выпустили продукт, поэтому у программы нет активных пользователей.

«Мы все еще пытаемся проверить жизнеспособность проекта в реальных сценариях. Необходимо связаться с полицейскими управлениями и получить от них данные, которые позволят протестировать технологию», — заявили инженеры.

ИИ-исследователи и эксперты по этике считают, что время не является проблемой традиционного способа создания фотороботов.

«Любой криминалистический эскиз подозреваемого уже подвержен человеческим предубеждениям и ненадежности памяти. Нейросети не решат подобных проблем, а эта программа ввиду своего дизайна может только усугубить их», — сказала директор по судебным разбирательствам в Electronic Frontier Foundation Дженнифер Линч.

Forensic Sketch AI-rtist предлагает два способа взаимодействия. Первый включает шаблон для ручного ввода таких данных, как пол, возраст, оттенок кожи, наличие бороды, цвет глаз, форма бровей, носа и челюсти.

Интерфейс Forensic Sketch AI-rtist. Данные: Саша Лучони.

Второй предлагает пользователю описать подозреваемого в форме текстового запроса для ИИ-генератора.

После нажатия на кнопку «создать профиль» DALL-E 2 сгенерирует соответствующий описанию портрет.

«Исследования показали, что люди помнят лица целостно, а не по чертам. Созданный на основе отдельных характеристик фоторобот, как предлагает эта программа, может привести к разительному отличию сгенерированного подозреваемого от фактического», — сказала Линч.

Эксперт по этике из Hugging Face Саша Лучони заявила, что в случае обнародования ИИ-фотороботы способны укрепить стереотипы и расовые предубеждения. Также они могут затруднить расследование, привлекая внимание полиции к людям с эскизов, а не к настоящим преступникам, добавила она.

Напомним, в июле 2022 года OpenAI заявила о снижении предвзятости и улучшении безопасности генератора изображений DALL-E 2.

Подписывайтесь на ForkLog в социальных сетях

Telegram (основной канал) Discord Instagram
Нашли ошибку в тексте? Выделите ее и нажмите CTRL+ENTER

Рассылки ForkLog: держите руку на пульсе биткоин-индустрии!

*Ежедневная рассылка — краткая сводка наиболее важных новостей предыдущего дня. Чтение занимает не больше двух минут. Выходит в рабочие дни в 06:00 (UTC)
*Еженедельная рассылка — объясняем, кто и как изменил индустрию за неделю. Идеально подходит для тех, кто не успевает за новостным потоком в течение дня. Выходит в пятницу в 16:00 (UTC).

Мы используем файлы cookie для улучшения качества работы.

Пользуясь сайтом, вы соглашаетесь с Политикой приватности.

OK
Exit mobile version