Telegram (AI) YouTube Facebook X
En
Чат-бот ChatGPT от OpenAI

Ученые раскритиковали OpenAI за подход к публикации математических доказательств

Ряд математиков раскритиковал OpenAI за то, что компания объявляла о решенных с помощью ИИ открытых задачах в блогах и соцсетях, а не в научных статьях. По словам ученых, из-за этого доказательства было сложнее проверить, а вклад других исследователей нередко оставался без упоминания, пишет WIRED.

Материал вышел 6 октября — незадолго до того, как разработчик ChatGPT выложил на GitHub 722 математические рукописи своей внутренней модели.

Что опубликовала OpenAI

Рукописи распределили по 372 «семействам» с основными результатами, следствиями и альтернативными доказательствами. В ходе оценки модели решали около 4000 задач. В среднем на один результат потребовалось около трех часов вычислений в режиме рассуждений ChatGPT Pro.

Часть доказательств формализовали в Lean — языке для компьютерной проверки математических выкладок. В OpenAI признали, что в непроверенных работах могут найтись ошибки.

Среди заявленных результатов — доказательство так называемой квазигипотезы Римана и рациональной гипотезы Ходжа для абелевых многообразий с комплексным умножением. Независимые эксперты эти выводы пока не проверили.

Накануне публикации представитель OpenAI Линдси Маккаллум Реми рассказала WIRED, что 28 августа компания начала обучать новую внутреннюю модель.

По ее словам, помимо задачи Навье — Стокса, система решила более 100 давних открытых проблем почти во всех областях математики.

В чем претензии ученых

По данным WIRED, в августе OpenAI организовала встречу с участием около 40 математиков, чтобы обсудить возможные меры на случай, если ИИ превзойдет человека в математике.

Участники встречи рассказали, что OpenAI намекала на решение сотен давних математических задач и просила совета относительно публикации результатов. По их словам, представители компании обещали не обнародовать их все сразу.

Маккаллум Реми в ответ заявила, что разработчику ChatGPT о таком обещании ничего не известно.

Профессор Северо-Западного университета Брайна Кра отметила, что встреча вызвала у участников смешанные чувства — восторг и опасения, — но стала многообещающим первым шагом. Ученые попросили OpenAI не ограничиваться публикациями в блоге и соцсетях, как в случае с десятью задачами в начале августа, а выпускать статьи с объяснением результатов.

По словам Кра, к этой рекомендации, судя по всему, не прислушались.

«Математика через твиты и пресс-релизы, на мой взгляд, — не способ поддерживать экосистему, которая создала почву для их обучения», — заявила она.

По мнению собеседников издания, математика стала «ареной», где OpenAI и Anthropic демонстрируют возможности своих моделей в преддверии IPO. В этой гонке традиционные практики публикации и указания авторства отошли на второй план, считают они.

В этом году математическое сообщество запустило инструменты для работы с результатами, полученными с помощью машин:

  • Hexagon — репозиторий математических материалов, созданных преимущественно с помощью ИИ;
  • Palomar — реестр машинно проверенных доказательств.

Кра подчеркнула, что OpenAI прямо предлагали ими пользоваться, но компания своего поведения не изменила. Ее действия также расходятся с Лейденской декларацией, которую подписали более 4000 математиков. Кра участвовала в ее подготовке.

В сентябре OpenAI создала консультативную группу по математике и ИИ (AGMAI) при Институте перспективных исследований. Однако заметного прогресса это не принесло, заявили ученые.

29 сентября группа опубликовала рекомендации. В них AGMAI призвала лаборатории прекратить тестировать сложные задачи на закрытых моделях и размещать результаты в репозиториях, которые не контролирует ни одна ИИ-компания.

OpenAI выложила работы в собственном репозитории и сообщила, что продолжает искать площадки под управлением сообщества.

Конфликт вокруг Навье — Стокса

Самым показательным случаем в WIRED назвали сентябрьскую историю с задачей тысячелетия. По данным издания, услышав «слухи» о том, что другие исследователи близки к решению, OpenAI задействовала тысячи ИИ-агентов.

Профессор Нью-Йоркского университета Тристан Бакмастер обвинил компанию в том, что она опередила его неопубликованную работу, написанную в соавторстве с сотрудником Anthropic Левентом Алпеге. В этой работе исследователи использовали инструменты OpenAI.

По словам Бакмастера, во время переговоров об авторстве сотрудник OpenAI Себастьян Бубек дал понять, что Алпеге лучше исключить из статьи; сам Бубек это отрицал.

Согласно заметкам со встречи, с которыми ознакомился WIRED, Бубек также выражал опасения, что Anthropic может бросить все свои вычислительные мощности на решение задачи тысячелетия. Когда Бакмастер пригрозил обратиться к прессе, Бубек намекнул на последствия для его карьеры.

Приглашенный профессор Нью-Йоркского университета Нестор Гильен рассказал, что в сообществе ИИ-компании называют «бандитами». В OpenAI с такой характеристикой не согласились.

«Я чувствую сильную тревогу и все чаще вижу ее у коллег — не из-за ИИ, а из-за ИИ-компаний», — отметил Гильен.

По его мнению, во многом она связана с концентрацией власти в одних руках.

Что ждет математику

По данным собеседников WIRED, некоторые сотрудники OpenAI считают, что их технология уже сделала математику мертвой наукой.

«Мы не думаем, что будущее математики предрешено», — возразила Маккаллум Реми.

На августовской встрече сценарий, в котором ИИ обгоняет людей, представили как гипотетический. Однако участники восприняли его как предупреждение.

Один из них сравнил манеру, в которой компания сообщала о своих прорывах, с тем, как полиция заранее предупреждает родственников, прежде чем объявить о гибели человека в аварии.

Знакомый с позицией Бубека источник утверждает, что тот предсказывает скорое исчезновение профессии математика в нынешнем виде. Сам исследователь заявил в комментарии WIRED, что более мощный ИИ поможет ученым браться за амбициозные вопросы, связывать работу с практическими задачами и сделает дисциплину доступнее.

«Я вижу в этом возможность расширить то, что могут делать математики, и влияние их работы», — сказал Бубек.

Математики признали, что им предстоит адаптироваться, особенно ради подготовки молодых исследователей, но не считают свою область мертвой. По словам Кра, ИИ меняет подход к работе, но позволяет мыслить масштабнее.

«Это пугающее время, но и по-настоящему захватывающее», — заключила она.

Напомним, в сентябре 25 лауреатов Филдсовской премии, включая Теренса Тао и Питера Шольце, выступили против гонки ИИ-компаний за решением сложных математических задач.

Подписывайтесь на ForkLog в социальных сетях

Telegram (основной канал) Facebook X
Нашли ошибку в тексте? Выделите ее и нажмите CTRL+ENTER

Мы используем файлы cookie для улучшения качества работы.

Пользуясь сайтом, вы соглашаетесь с Политикой приватности.

OK