Бывший сотрудник OpenAI предложил притормозить ИИ-гонку до 2040 года
Авторы прогноза о вымирании человечества из-за ИИ выпустили новый сценарий — на этот раз с шансом на спасение. Документ AI 2040: Plan A представили экс-исследователь OpenAI Дэниел Кокотайло и AI Futures Project.
Кокотайло покинул OpenAI в апреле 2024 года. Он ушел из-за разногласий по вопросам безопасности искусственного интеллекта, а в 2025 году основал проект AI Futures Project.
В апреле того же года организация выпустила прогноз AI 2027. В нем говорилось, что ИИ-гонка между США и Китаем может привести к исчезновению человечества или диктатуре. При этом авторы уточнили: вероятность вымирания варьируется в диапазоне от 10% до 30%.
AI 2040: Plan A специалисты назвали рекомендацией: описанным набором шагов, который может снизить риски.
Как это должно работать
Согласно сценарию, в 2029 году США и Китай заключают международное соглашение об отказе от гонки за сверхинтеллектом. Без сделки автоматизация ИИ-разработок произошла бы уже в 2030 году.
Вместо этого страны развивают нейросети постепенно — до уровня лучших экспертов-людей. К 2035 это приостанавливают, чтобы сохранить контроль человека над системами, а в 2040 году паузу снимают, и ИИ достигает уровня сверхинтеллекта.
План опирается на четыре принципа:
- выиграть время для исследований безопасности;
- полностью раскрыть ИИ-разработки;
- распределить искусственный интеллект между разными компаниями и странами;
- сохранить обратимость процесса.
Чтобы стороны доверяли друг другу, Plan A опирается на верификацию. Крупные дата-центры видно из космоса, поэтому их сложно скрыть.
На этом строится первый шаг: страны публично декларируют покупки ИИ-чипов. Дальше вводят временную паузу на новые обучающие прогоны — датчики на дата-центрах подтверждают ее соблюдение. Когда доверие подтверждено, ограничение снимают, но исследования остаются полностью прозрачными: любая страна и компания видит, что делают остальные.
От срыва сделки должно защитить «взаимно гарантированное уничтожение вычислительных мощностей», которое авторы сравнили с логикой ядерного сдерживания. Новые дата-центры Китая по плану строят в Канаде, а объекты США — в Монголии, то есть на территории, которую в случае конфликта проще всего атаковать сопернику.
Если соглашение провалится, принимающая страна попытается захватить чужие мощности на своей территории, а владелец уничтожит их сам, чтобы они не достались противнику.
Экономика плана
По расчетам авторов, мировые вычислительные мощности вырастут с 20 млн H100-эквивалентов в 2026 до 60 млрд к 2034 году. Реальный рост ВВП США в отдельные периоды 2030 годов достигнет 50% в год — против обычных 3%.
Из-за автоматизации занятость в Соединенных Штатах упадет с 62% в 2027 до 12% к 2040 году. Для компенсации потери рабочих мест эксперты предложили ввести «гражданские дивиденды» — выплаты каждому взрослому американцу из доходов, которые государство собирает с компаний за разрешения на вычисления и роботов.
Согласно прогнозам AI Futures Project, в 2032 году дивиденд составит $45 000 на человека. К 2035 он вырастет до $1 млн, а к 2039 году — до $10 млн.
Четыре запасных сценария
Специалисты противопоставили Plan A четырем другим путям развития событий. По их словам, это сюжетные линии одного сценария — иллюстрация того, что произойдет при других решениях властей.
- План B — США создают коалицию союзников и давят на Китай, вплоть до кибератак и точечных ударов по чужим ИИ-проектам. Сценарий заканчивается выбором между потерей контроля над ИИ и войной.
- План C — Вашингтон пытается договориться с Пекином и ввести внутреннее регулирование, но под давлением компаний паузу быстро снимают. Финал несет риск постоянной олигархии небольшой группы, контролирующей сверхинтеллект.
- План D — власти делают ставку на минимальное регулирование и гонку. Риски — потеря контроля над ИИ, крайняя концентрация власти и третья мировая война.
- План S — полная бессрочная остановка передовых ИИ-разработок. Главная опасность — сделка рано или поздно распадется, и гонка возобновится в менее контролируемых условиях.
Напомним, в феврале эксперты Citrini Research предсказали крах экономики из-за искусственного интеллекта.