Маск и Бутерин поддержали спорный законопроект об ИИ

Илон Маск и Виталик Бутерин выразили поддержку широко обсуждаемому калифорнийскому законопроекту SB 1047, призванному регулировать искусственный интеллект. 

«Более 20 лет я выступаю за регулирование ИИ, так же как мы регулируем любой продукт/технологию, представляющий потенциальный риск для общества», — отметил миллиардер. 

В феврале предложен законопроект «О безопасных и надежных инновациях для передовых моделей искусственного интеллекта», известный как SB 1047. Если его примут, разработчикам потребуется внедрить протоколы безопасности для предотвращения массовых жертв или крупных кибератак, а также ввести возможность «аварийной остановки» ИИ-модели. 

Законопроект также включает требование проводить ежегодные независимые аудиты безопасности ИИ. Правила будут применяться только к крупнейшим моделям, которые стоят не менее $100 млн и используют 10^26 FLOPS для обучения. Они в первую очередь затронут гигантов вроде OpenAI, Google и Microsoft.

Позже калифорнийские законодатели внесли ряд изменений, в основном направленных на снижение полномочий правительства штата для привлечения к ответственности ИИ-лабораторий. Однако документ по-прежнему возлагает на разработчиков ответственность за опасность их моделей.

Пост Илона Маска прокомментировал Виталик Бутерин, отметив, что цель документа — сделать обязательным проведение тестирования на безопасность перед запуском искусственного интеллекта, который «может быть опасен для мира». 

Крупный ИИ-стартап Anthropic поддержал SB 1047, отметив, что «выгоды от законопроекта, вероятно, перевешивают затраты». Правки в первоначальный документ были внесены в том числе по просьбе компании.

Критика

OpenAI выступила против SB 1047, посчитав, что законопроект будет вытеснять таланты из Калифорнии и подавлять инновации. 

«Революция ИИ только начинается, и уникальный статус Калифорнии как мирового лидера в этой области подписывает экономический динамизм штата. SB 1047 поставит под угрозу этот рост, замедлит темпы инноваций и заставит калифорнийских разработчиков и предпринимателей мирового уровня покинуть штат в поисках новых возможностей в других местах», — подчеркнул директор по стратегии OpenAI Джейсон Квон. 

Основатель стартапа Extropic и экс-разработчик Google Гийом Вердон отметил, что «ИИ может быть мощным, но авторитарное правительство с теневым контролем над мощным ИИ — это страшнее».

«Это создает ужасный прецедент на национальном уровне и откроет двери для юридической войны правительства против компаний, которые не предлагают ему “черные ходы” в LLM», — добавил эксперт.

Он сравнил ситуацию с недавним арестом основателя Telegram Павла Дурова и последствиями для свободы слова и децентрализации.

Документ подвергся критике также со стороны Google, Meta, известных экспертов и других лиц. Компания Цукерберга посчитала, что законопроект угрожает сделать регион неблагоприятным для разработки и запуска ИИ.

Когда примут?

В середине августа законопроект поддержал Калифорнийский комитет по ассигнованиям. Он отправлен в зал Ассамблеи Калифорнии для окончательного голосования. Если этап будет пройден, далее состоится голосование в Сенате штата, после чего останется подпись губернатора, который может наложить вето.

Напомним, в августе вступил в силу масштабный закон для регулирования ИИ в ЕС.