Исследователи обнаружили уязвимость в нейронных сетях, увеличивающую их энергопотребление
Новый тип хакерской атаки может увеличить энергопотребление систем искусственного интеллекта. К такому выводу пришли исследователи из Центра кибербезопасности Мэриленда, пишет Technology Review.
Угроза работает по типу DoS-атаки в интернете, стремясь «засорить» нейронную сеть и вынуждая ее использовать больше вычислительных ресурсов и замедлять ее «мыслительный» процесс, говорят специалисты.
Уязвимость касается адаптивных к вводу архитектур с несколькими выходами, которые распределяют задачи в зависимости от сложности их решения и оптимизируют использование вычислительных ресурсов. Добавляя небольшое количество шума к входам, исследователи заставляли сеть воспринимать их как более сложные и увеличивать объем вычислений.
Экспериментальным путем ученые выяснили, что злоумышленник может максимально нагрузить нейросеть, если он имеет полную информацию о ней. Когда ученые предположили, что у хакера нет информации, они смогли замедлить алгоритм и увеличить потребление энергии на 20–80%.
По словам исследователей, это связано с тем, что атаки хорошо передаются через разные типы нейронных сетей.
«Разработать атаку для одной системы классификации изображений достаточно, чтобы нарушить работу многих других», — сказала аспирант и соавтор статьи Йигиткан Кая [Yiğitcan Kaya].
Группа отметила, что уязвимость носит теоретический характер. Адаптивные к вводу архитектуры пока не используются в реальных приложениях. Однако ситуация может измениться в ближайшем будущем под давлением отрасли, которая намерена развертывать более легкие нейронные сети, например, в сфере Интернета вещей.
Напомним, в начале мая 2021 года компания Microsoft представила инструмент с открытым исходным кодом, который помогает разработчикам тестировать безопасность систем искусственного интеллекта.
В апреле Microsoft внедрила технологию обнаружения угроз от Intel для поиска скрытых майнеров в корпоративную платформу безопасности Defender для конечной точки.
В конце 2020 года произошла крупнейшая в истории США хакерская атака через уязвимости в ПО SolarWinds. Она затронула в том числе Госдеп, ряд министерств и частично Пентагон.
Подписывайтесь на новости ForkLog в Telegram: ForkLog AI — все новости из мира ИИ!
Рассылки ForkLog: держите руку на пульсе биткоин-индустрии!