Facebook разработала алгоритм для распознавания дипфейков, отслеживающий источник подделки

Группа ученых из компании Facebook и Университета штата Мичиган разработали метод обратного инжиниринга дипфейков, который позволяет не только выявить подделку, но и определить создавшую ее модель машинного обучения.

Our researchers have partnered with @michiganstateu to develop a method of detecting and attributing deepfakes that relies on reverse engineering from a single AI-generated image to the generative model used to produce it. Learn more: https://t.co/wdkCkzdncz pic.twitter.com/vkBPReR8xu

— Facebook AI (@facebookai) June 16, 2021

По словам исследователей, система определяет архитектурные особенности неизвестных алгоритмов, отдельно настраиваемых для каждой модели машинного обучения. Они оставляют уникальный отпечаток на готовом изображении, который можно использовать для определения его источника.

В результате алгоритм исследователей не только идентифицирует черты генеративной сети, но и определяет, является ли изображение подделкой, и какая известная модель его создала.

Руководитель исследования Тал Хасснер рассказал, что выявление черт неизвестных моделей важно, так как программное обеспечение для создания дипфейков легко настроить. Это потенциально позволяет злоумышленникам замести следы, если следователи попытаются отследить их действия.

«Теперь мы можем сказать: «Изображение, загруженное здесь и там — все они принадлежали одной и той же модели», — сказал Хасснер.

Он добавил, что имея доступ к компьютеру или ноутбуку злоумышленника, алгоритм может с высокой точностью указать, что подделки генерировались на этом оборудовании.

Исследователь сравнил работу алгоритма отслеживания дипфейков с судебно-медицинскими методами определения модели камеры путем поиска закономерностей на полученном изображении.

«Однако не каждый может создать свою собственную камеру […]. В то время как любой, у кого есть достаточный опыт и стандартный компьютер, может разработать собственную модель для генерирования дипфейков», — сказал Хасснер.

В компании считают, что модель поможет Facebook отслеживать злоумышленников, распространяющих поддельные фото и видео в социальных сетях. Однако пока работа все еще находится на стадии исследования и не готова к развертыванию, заявили разработчики.

Напомним, в конце апреля исследователи из Вашингтонского университета создали алгоритм, который создает реалистичные поддельные спутниковые карты.

В апреле эксперты заявили, что количество дипфейков в интернете удваивается раз в шесть месяцев.

В марте полиция округа Бакс в Пенсильвании арестовала женщину за травлю девушек-подростков с помощью дипфейк-видео. Так она хотела скомпрометировать соперниц своей дочери в группе черлидинга.

Подписывайтесь на новости ForkLog в Telegram: ForkLog AI — все новости из мира ИИ!