Microsoft усилила борьбу с дипфейк-порно в Bing

Корпорация Microsoft объявила о партнерстве с организацией StopNCII для борьбы с дипфейк-порно в поисковой системе Bing. 

Инструменты StopNCII позволяют жертвам дипфейков создавать цифровой отпечаток откровенных изображений на своих устройствах. Затем партнеры организации используют этот хэш для удаления контента со своих платформ.

С StopNCII уже сотрудничают Facebook, Instagram, Threads, TikTok, Snapchat, Reddit, Pornhub и OnlyFans. 

Microsoft сообщила о принятых мерах в отношении 268 899 откровенных изображений в рамках пилотного сотрудничества с базой данных организации. Ранее корпорация применяла инструмент прямой отчетности, но этих усилий оказалось недостаточно. 

«Мы слышали опасения жертв, экспертов и других заинтересованных сторон о том, что одних лишь сообщений недостаточно с точки зрения воздействия и адекватного решения проблемы, связанной с доступностью изображения в поиске», — говорится в блоге Microsoft.

В июле Google активизировал борьбу с дипфейк-порно. Поисковик будет исключать из результатов такой контент и понижать рейтинг сайтов, которые получают много жалоб. Если кто-то удалит изображение из поиска, системы Google автоматически просканируют и уберут дубликаты.

Ранее поисковый гигант столкнулся с критикой от бывших работников и жертв из-за того, что не сотрудничал с StopNCII, пишет Wired. По информации СМИ, с 2020 года пользователи Google в Южной Корее сообщили о наличии 170 000 ссылок на нежелательный сексуальный контент в поисковых запросах и на YouTube. 

Проблема распространения дипфейк-порно обострилась из-за развития искусственного интеллекта, который позволяет генерировать подобного рода контент. Инструменты StopNCII работают только для лиц старше 18 лет, в то время как технология применяется и среди несовершеннолетних.

В сентябре СМИ сообщили о способах использования кастомных версий ChatGPT для создания порнографического контента. 

В феврале Виталик Бутерин составил инструкцию по выявлению дипфейков.

Напомним, в августе офис городского прокурора Сан-Франциско Дэвида Чиу подал иск против владельцев 16 крупнейших в мире веб-сайтов, позволяющих «раздевать» женщин и девочек на фотографиях с помощью ИИ без их согласия.

Как бороться с дипфейком и шантажом, читайте на ForkLog в формате News+: