Telegram (AI) YouTube Facebook X
En
img-1da56f9649f06b3f-2237198599617648

OpenAI попросила Конгресс разъяснить законность совместного замедления ИИ

Компания OpenAI обратилась к членам Конгресса США с просьбой разъяснить, не нарушит ли скоординированное замедление разработки передовых ИИ-моделей антимонопольное законодательство. Об этом сообщает WIRED со ссылкой на близких к фирме собеседников.

Проблема заключается в том, что OpenAI, Anthropic, Google и другие представители отрасли одновременно являются конкурентами. Договоренность между ними о замедлении темпов разработки теоретически может рассматриваться как совместное ограничение выпуска продукции.

Заместитель директора Австралийской комиссии по конкуренции и защите прав потребителей и экс-исследователь Center for Law & AI Risk Николас Фелстед отметил, что такая координация потенциально способна вступить в противоречие с законом Шермана. При этом юридическая оценка зависит от конкретных условий договоренности.

«Даже если большинство форм сотрудничества в сфере безопасности в итоге выдержат антимонопольную проверку, правовая неопределенность сама по себе может стать мощным сдерживающим фактором», — написал Фелстед.

Не все представители индустрии считают этот аргумент достаточным. Сооснователь OpenAI и главный научный сотрудник Thinking Machines Джон Шульман призвал OpenAI и Anthropic вместе разработать предложение по темпам развития ИИ. По его мнению, антимонопольные нормы запрещают определенные соглашения между конкурентами, но не мешают им совместно подготовить такой механизм.

Исключение для ИИ-компаний

23 июля законодатели от обеих партий представили Collaboration on Adversarial Threats and Security Risks Act. Инициативу внесли сенаторы Адам Шифф и Джим Бэнкс, а также члены Палаты представителей Боб Латта и Джордж Уайтсайдс.

Законопроект предусматривает ограниченное исключение из антимонопольных правил для совместной работы над рисками ИИ. Разработчики смогут обмениваться сведениями об угрозах и координировать меры по их снижению, включая задержку или ограничение развертывания высокорисковых моделей.

При координированном ограничении компании должны заранее уведомить руководителя антимонопольного подразделения Министерства юстиции США и указать конкретный риск и масштабы предлагаемых мер. Исключение не разрешает фиксацию цен, раздел рынков, бойкоты и другие антиконкурентные практики.

Обе версии инициативы пока остаются в юридических комитетах Конгресса. H.R. 9914 направили в юридический комитет Палаты представителей, а S. 5105 — Сената. После внесения 23 июля дальнейших действий по ним не зафиксировано.

OpenAI уже замедляла разработку

6 сентября главный научный сотрудник OpenAI Якуб Пахоцки написал, что ни одна лаборатория пока не решила проблемы выравнивания и мониторинга настолько хорошо, чтобы продолжать масштабирование на максимальной скорости в течение длительного времени.

«Я ожидаю и надеюсь, что добровольные замедления станут обычной практикой до появления общих стандартов безопасности», — отметил он.

По его мнению, международная координация дальнейшего развития ИИ должна стать одним из приоритетов для правительств.

Ранее OpenAI временно замедлила масштабирование новых систем и на две недели приостановила обучение с подкреплением последних моделей, предназначенных для развертывания. Решение последовало после инцидента с Hugging Face и предварительной оценки кибервозможностей Astra.

Позднее исследователи обратили внимание на снижение наблюдаемости Astra. Пахоцки тогда признал эту возможность мониторинга «хрупкой».

Напомним, в сентябре подкомитет Сената США начал проверку действий OpenAI после инцидента с Hugging Face. Законодатели потребовали документы о реакции компании на непредусмотренное поведение ее ИИ-агентов.

До этого в США предложили постоянно запретить разработку искусственного сверхинтеллекта и временно приостановить создание передовых ИИ-систем до появления федеральных стандартов безопасности.

Подписывайтесь на ForkLog в социальных сетях

Telegram (основной канал) Facebook X
Нашли ошибку в тексте? Выделите ее и нажмите CTRL+ENTER

Мы используем файлы cookie для улучшения качества работы.

Пользуясь сайтом, вы соглашаетесь с Политикой приватности.

OK