Регуляторы по всему миру обеспокоились возможностями новой ИИ-модели Anthropic

Финансовые регуляторы Великобритании проводят экстренные переговоры с правительственным агентством по кибербезопасности и крупнейшими банками. Стороны оценивают риски, связанные с новой ИИ-моделью от Anthropic, пишет FT.

Представители Банка Англии, Управления по финансовому регулированию и надзору и Министерства финансов обсуждают вопрос с Национальным центром кибербезопасности. Совместно они планируют изучить потенциальные уязвимости критических важных IT-систем, которые выявила нейросеть.

Издание отмечает, что в ближайшие две недели крупнейшие финансовые учреждения, страховые компании и биржи получат информацию о рисках кибербезопасности, связанных с Claude Mythos.

Страхи перед ИИ

Новая нейросеть оказалась настолько мощной, что создателям пришлось отказаться от ее публичного релиза. Вместо этого стартовал Project Glasswing — инициатива по тестированию инструмента в контролируемой среде при участии AWS, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorgan Chase, Linux Foundation, Microsoft, Nvidia и Palo Alto Networks.

Поводом для беспокойства стало то, что всего за несколько недель Mythos обнаружила тысячи уязвимостей нулевого дня в основных операционных системах и веб-браузерах.

Масштаб потенциальной угрозы вынудил министра финансов США Скотта Бессента и председателя ФРС Джерома Пауэлла созвать экстренное совещание с руководителями Уолл-стрит. Представители властей предупредили топ-менеджеров, среди которых присутствовали глава Citigroup Джейн Фрейзер и CEO Goldman Sachs Дэвид Соломон, что запуск Mythos знаменует новую эру в сфере кибербезопасности.

Банк Канады и крупнейшие финансовые учреждения страны также провели встречу для «оценки системных рисков, связанных с появлением столь продвинутой ИИ-модели. Цель инициативы — «повышение операционной устойчивости критически важного финансового сектора страны».

Раздувание хайпа?

В TechCrunch обратили внимание, что ограничение доступа к Mythos может быть элементом маркетинговой кампании для привлечения внимания к новой ИИ-модели.

В марте глава профильного ИИ-стартапа Irregular Дэн Лахав подчеркнул: хотя автоматизированный поиск уязвимостей играет важную роль, реальная польза от найденной бреши для хакеров зависит от множества факторов.

В Anthropic утверждают, что Mythos способна использовать бреши гораздо шире по сравнению с Opus. Однако пока неясно, действительно ли эта LLM является идеальным решением для киберзащиты.

Стартап Aisle сообщил, что смог воспроизвести большинство достижений Mythos с помощью других нейросетей. По словам представителей фирмы, не существует единой модели для киберебзопасности — выбор инструмента всегда зависит от конкретной задачи.

Одна из причин, по которой ведущие ИИ-лаборатории могут намеренно ограничивать релизы, — возможность заключать эксклюзивные контракты с крупными предприятиями, параллельно затрудняя конкурентам копирование инструментов с помощью дистилляции.

«Это маркетинговая уловка, призванная скрыть тот факт, что топовые модели теперь доступны только по корпоративным соглашениям и больше не предоставляются небольшим лабораториям для тестирования», — отметил CEO exe.dev Дэвид Кроушоу.

Он добавил, что когда Mythos откроют для всех желающих, на рынке появится новая передовая LLM исключительно для корпоративных клиентов. Такой подход позволяет поддерживать приток средств и ограничивать компании, занимающихся дистилляцией алгоритмов.

Anthropic на передовой

За последние несколько месяцев стартап Anthropic значительно расширил свою аудиторию. Решения компании пользуются большим спросом, а выручка экспоненциально растет.

Журналисты TechCrunch сообщили, что на прошедшей в Сан-Франциско конференции HumanX AI тысячи специалистов в области ИИ обсуждали возможности технологии, и Claude упоминали чаще всего в качестве одного из лучших продуктов на рынке.

Anthropic упоминали на многих панельных сессиях. В то же время о ChatGPT практически не говорили. Один из экспертов отметил, что OpenAI «выпала из игры».

Многие участники конференции подчеркнули, что компания Сэма Альтмана потеряла ясный вектор развития. Масла в огонь подлила недавняя статья о главе стартапа — его описали как диктатора и обманщика, который отказался от изначальной благородной миссии.

Рано хоронить OpenAI

Недавний анализ финансовых показателей OpenAI и Anthropic показал, что обе компании являются «самыми быстрорастущими предприятиями в истории».

В этом контексте «падение» детища Альтмана говорит лишь о том, что оно больше не является бесспорным лидером. У фирмы появились конкуренты — это нормально для большинства отраслей, отметили в TechCrunch.

OpenAI явно не намерена терять доминирующее положение. Компания объявила о новом тарифном плане за $100, который предоставляет более широкий доступ к инструменту для программирования Codex.

Напомним, в апреле Anthropic выпустил среду для запуска сложных и длительных агентных задач — Claude Managed Agents.