Исследователи обнаружили уязвимость в нейронных сетях, увеличивающую их энергопотребление

Новый тип хакерской атаки может увеличить энергопотребление систем искусственного интеллекта. К такому выводу пришли исследователи из Центра кибербезопасности Мэриленда, пишет Technology Review.

Угроза работает по типу DoS-атаки в интернете, стремясь «засорить» нейронную сеть и вынуждая ее использовать больше вычислительных ресурсов и замедлять ее «мыслительный» процесс, говорят специалисты.

Уязвимость касается адаптивных к вводу архитектур с несколькими выходами, которые распределяют задачи в зависимости от сложности их решения и оптимизируют использование вычислительных ресурсов. Добавляя небольшое количество шума к входам, исследователи заставляли сеть воспринимать их как более сложные и увеличивать объем вычислений.

Экспериментальным путем ученые выяснили, что злоумышленник может максимально нагрузить нейросеть, если он имеет полную информацию о ней. Когда ученые предположили, что у хакера нет информации, они смогли замедлить алгоритм и увеличить потребление энергии на 20–80%.

По словам исследователей, это связано с тем, что атаки хорошо передаются через разные типы нейронных сетей.

«Разработать атаку для одной системы классификации изображений достаточно, чтобы нарушить работу многих других», — сказала аспирант и соавтор статьи Йигиткан Кая [Yiğitcan Kaya].

Группа отметила, что уязвимость носит теоретический характер. Адаптивные к вводу архитектуры пока не используются в реальных приложениях. Однако ситуация может измениться в ближайшем будущем под давлением отрасли, которая намерена развертывать более легкие нейронные сети, например, в сфере Интернета вещей.

Напомним, в начале мая 2021 года компания Microsoft представила инструмент с открытым исходным кодом, который помогает разработчикам тестировать безопасность систем искусственного интеллекта.

В апреле Microsoft внедрила технологию обнаружения угроз от Intel для поиска скрытых майнеров в корпоративную платформу безопасности Defender для конечной точки.

В конце 2020 года произошла крупнейшая в истории США хакерская атака через уязвимости в ПО SolarWinds. Она затронула в том числе Госдеп, ряд министерств и частично Пентагон.

Подписывайтесь на новости ForkLog в Telegram: ForkLog AI — все новости из мира ИИ!