Nvidia представила новое поколение серверных ИИ-чипов
На ежегодной конференции GTC 2022 компания Nvidia анонсировала несколько новых чипов и технологий, призванных увеличить скорость вычислений алгоритмов искусственного интеллекта.
Корпорация представила архитектуру для видеоускорителей нового поколения Hopper и основанный на ней чип H100, предназначенный для задач машинного обучения.
Новинка производится по 4-нм техпроцессу и содержит 80 млрд транзисторов. Это первый графический процессор компании, поддерживающий интерфейс подключения PCle Gen5 и использующий HBM3, что обеспечивает пропускную способность памяти 3 ТБ/с.
В компании заявили, что H100 в три раза быстрее его предшественника A100 при вычислениях FP16, FP32 и FP64 и в шесть раз быстрее при 8-битных вычислениях с плавающей запятой.
«Для обучения гигантских моделей трансформеров H100 оказался в девять раз производительнее, тренируясь всего за несколько дней вместо недель», — сказал старший директор Nvidia по управлению продуктами Пареш Харья.
H100 поступит в продажу в третьем квартале 2022 года.
Nvidia также представила процессор Grace CPU Superchip, основанный на архитектуре ARMv9. В его основе лежат два чипа Grace, объединенных по технологии NVLink, которая обеспечивает скорость передачи данных до 900 ГБ/с.
Grace CPU Superchip содержит 144 ядра ARM и потребляет около 500 Вт энергии. Чип поддерживает память LPDDR5x, которая обеспечивает пропускную способность до 1 ТБ/с.
Grace CPU Superchip будет доступен в первой половине 2023 года.
Помимо оборудования, Nvidia обновила различные программные сервисы искусственного интеллекта, включая SDK для улучшения звука и видео Maxine и набор инструментов для разработки систем обработки естественного языка Rivay.
Компания анонсировала создание нового суперкомпьютера Eos с искусственным интеллектом. Установку оснастят 4600 графическими процессорами H100, что обеспечит производительность в 18,4 экзафлопс. Система будет использоваться только для внутренних исследований компании.
Напомним, в феврале на фоне давления регуляторов США, ЕС и Великобритании Nvidia отказалась от покупки ARM за $40 млрд.
В том же месяце производитель чипов отчитался о падении выручки от продажи видеокарт для майнинга криптовалют.
В январе Meta объявила о создании крупнейшего в мире суперкомпьютера с искусственным интеллектом на базе процессоров Nvidia.
Подписывайтесь на новости ForkLog в Telegram: ForkLog AI — все новости из мира ИИ!
Рассылки ForkLog: держите руку на пульсе биткоин-индустрии!