ИИ-компании договорились о добровольном контроле моделей
29 сентября президент США Дональд Трамп и руководители шести крупных ИИ-компаний подписали добровольное соглашение о контроле за безопасностью передовых моделей. Документ под названием White House Accord on Super Intelligence предусматривает внутренние проверки, независимый внешний аудит и надзор на уровне советов директоров.
Свои подписи под соглашением поставили Трамп, Сундар Пичаи (Google), Дарио Амодеи (Anthropic), Марк Цукерберг (Meta), президент OpenAI Грег Брокман, Илон Маск (SpaceXAI) и Дженсен Хуанг (Nvidia).
Компании согласились внедрить четыре уровня контроля при обучении и развертывании передовых ИИ-моделей:
- Ввести внутренние механизмы для оценки возможностей моделей и их соответствия заданным требованиям, в том числе в сферах кибербезопасности, биобезопасности и химических угроз. Контроль также должен предотвращать непредусмотренный взлом или доступ моделей к техническим системам.
- Создать внутреннюю команду, которая будет следить за работой этих механизмов и устранением выявленных проблем.
- Привлекать независимого внешнего аудитора или оценщика для проверки работы систем контроля.
- Сформировать независимый комитет совета директоров, который будет получать отчеты внутренних и внешних проверяющих и контролировать исправление выявленных недостатков.
Участники также договорились регулярно встречаться для разработки стандартов и лучших практик безопасности.
Соглашение ≠ закон
Документ не вводит юридической ответственности за нарушение перечисленных принципов. В нем также не прописаны единые требования к выбору внешних аудиторов, публикации результатов проверок или санкции за несоблюдение договоренностей.
Трамп назвал соглашение «морально обязательным», пишет Reuters. По его словам, компании способны в значительной степени самостоятельно контролировать развитие технологии.
При этом в тексте допускается переход к более формальному регулированию. Участники отметили, что со временем отдельные положения может иметь смысл закрепить в законах или нормативных актах. Отдельно Трамп заявил, что администрация рассматривает создание комитета примерно из 10 человек для наблюдения за ИИ-отраслью.
«Суперинтеллект»
В тот же день Трамп подписал указ, предписывающий органам исполнительной власти использовать термины Super Intelligence и SI вместо Artificial Intelligence и AI в официальной переписке, публичных коммуникациях, на сайтах, в отчетах и других ненормативных документах, где это допускает закон.
Указ не меняет существующее законодательное определение искусственного интеллекта. В течение 60 дней помощник президента по науке и технологиям должен подготовить предложение о федеральном определении Super Intelligence и возможных поправках к законодательству.
Напомним, в августе СМИ узнали о встрече Meta, Anthropic, Google и OpenAI с администрацией Трампа. Темой якобы стала программа добровольного государственного тестирования безопасности наиболее мощных ИИ-моделей.