xAI запустила крупнейшую систему обучения ИИ

Команда ИИ-стартапа xAI запустила кластер по обучению искусственного интеллекта Colossus с применением 100 000 графических процессоров Nvidia H100. Об этом сообщил глава компании Илон Маск. 

This weekend, the @xAI team brought our Colossus 100k H100 training cluster online. From start to finish, it was done in 122 days.

Colossus is the most powerful AI training system in the world. Moreover, it will double in size to 200k (50k H200s) in a few months.

Excellent…

— Elon Musk (@elonmusk) September 2, 2024

«Colossus — самая мощная система обучения ИИ в мире. Более того, через несколько месяцев она удвоится до 200 000 (50k H200). Отличная работа команды, Nvidia и наших многочисленных партнеров/поставщиков», — добавил предприниматель. 

По его словам, кластер развернули за 122 дня. 

В июле Маск рассказал о планах запустить систему из 100 000 процессоров Nvidia H100 для обучения искусственного интеллекта. 

В конце августа xAI обвинили в загрязнении окружающей среды в Мемфисе (штат Теннесси, США) из-за использования газовых турбин для нового центра обработки данных. 

Here is a comparison chart to help everyone understand the magnitude of this. pic.twitter.com/PJys0XlvYo

— Anthony Everywhere (@AnthonyEveryWhr) September 2, 2024

Флагманская модель OpenAI использует 80 000 графических процессоров, Google — 90 000.

Nvidia подчеркнула «прорывную производительность и исключительный прирост энергоэффективности» Colossus.

Exciting to see Colossus, the world’s largest GPU #supercomputer, come online in record time. Colossus is powered by @nvidia's #acceleratedcomputing platform, delivering breakthrough performance with exceptional gains in #energyefficiency.

Congratulations to the entire team! https://t.co/UXHtPCELly

— NVIDIA Data Center (@NVIDIADC) September 2, 2024

Ранее Маск показал новый «гигантский суперкластер» для обучения и работы ИИ, который строится в штаб-квартире Tesla в Остине.

Напомним, в августе xAI представила Grok-2 с генератором изображений без цензуры.