В США представили законопроект об «аварийной кнопке» для ИИ
В Конгрессе США представили законопроект AI Kill Switch Act, обязывающий крупных разработчиков внедрить механизмы экстренной остановки систем искусственного интеллекта. Документ внесли конгрессмены Тед Лью и Натаниэль Моран.
Согласно инициативе, компании должны обеспечить возможность замедления, приостановки или полной деактивации моделей. Под действие закона подпадут организации с годовой выручкой от ИИ более $500 млн или те, чьи затраты на вычислительные мощности превысили $100 млн.
Основные требования законопроекта:
- возможность мгновенного прекращения инференса и блокировки доступа пользователей;
- обязательное уведомление властей об инцидентах в течение 15 дней;
- право Министерства внутренней безопасности требовать отключения систем по согласованию с разведкой и Минторгом.
Основаниями для принудительной остановки могут стать потеря управления над моделью, скрытие ее возможностей от мониторинга, а также инциденты, повлекшие гибель более 10 человек или ущерб свыше $100 млн.
За нарушение регламента предусмотрены крупные штрафы: до $2 млн в день за общие нарушения и до $20 млн в день за неисполнение приказа об экстренном отключении. У компаний будет 48 часов на обжалование распоряжения.
Законопроект представили спустя несколько дней после того, как в компании OpenAI подтвердили, что атаку на инфраструктуру Hugging Face провели ее собственные ИИ-модели во время внутреннего теста.
Напомним, в июле основатель стартапа Hebbia Джордж Сивулка пришел к выводу, что компании не справились с управлением ИИ-агентами.