Нейросеть научилась обманывать системы идентификации с помощью «универсального» лица

Ученые из Тель-Авивского университета в Израиле разработали способ обойти системы биометрической идентификации с помощью поддельного снимка лица.

Обнаруженный метод использует технологии искусственного интеллекта для создания универсального лицевого шаблона, который может последовательно объединить и разблокировать системы проверки личностей.

По словам исследователей, уязвимость заключается в том, что распознавание лиц использует широкий набор маркеров для идентификации конкретных людей. С их помощью можно создать универсальный шаблон, способный обмануть большой процент систем безопасности.

Ученые предположили, что всего 9 лиц, сгенерированных с помощью алгоритма StyleGAN, смогут соответствовать 40% населения Земли. Они протестировали синтезированный нейросетью снимок на наборе данных из 13 000 изображений и выяснили, что фейковое лицо может имитировать 20% личностей из датасета. Другие тесты показали более высокие результаты.

«Аутентификация по лицу чрезвычайно уязвима, даже если у злоумышленников нет информации о целевой личности», — сообщили исследователи.

Ученые также считают, что уязвимость может сочетаться с дипфейками для имитации проверки «живости», которую часто применяют для удаленного подтверждения личности с помощью выполнения ряда жестов.

Напомним, в июле исследователи сообщили об обнаружении метода незаметного внедрения вредоносного кода в нейросети.

В мае исследователи из Центра кибербезопасности Мэриленда выявили уязвимость в нейронных сетях, увеличивающую их энергопотребление.

Подписывайтесь на новости ForkLog в Telegram: ForkLog AI — все новости из мира ИИ!