ИИ-итоги конференции AWS: новое поколение нейросетей, чипы и партнерства

На ежегодной конференции AWS re:Invent компания Amazon представила новое поколение ИИ-моделей Amazon Nova для широкого спектра задач. Нейросети способны обрабатывать текст, изображения и видео.

«[…] Наши новые модели Amazon Nova призваны решить проблемы внутренних и внешних команд, обеспечивая интересный интеллект и генерацию контента, а также значительный прогресс в области задержки, экономичности, персонализации, информационного обеспечения и агентских возможностей», — прокомментировал старший вице-президент ИИ-подразделения в Amazon Рохит Прасад.

В рамках Amazon Nova представлены шесть нейросетей:

• Micro — текстовая модель, обеспечивает минимальную задержку при низкой стоимости;
• Lite — недорогая мультимодальная нейросеть, быстро обрабатывает изображения, видео и текст;
• Pro — высокопроизводительный мультимодальный инструмент, предлагает «лучшее сочетание» точности, скорости и стоимости для широкого спектра задач;
• Premier — наиболее способная нейросеть для сложных задач и рассуждений;
• Canvas — мощная модель для генерации изображений;
• Reel — создает видео.

Последняя способна сгенерировать короткий ролик из изображения.

Micro имеет контекстное окно из 128 000 токенов, Lite и Pro — 300 000 токенов. 

Модели интегрированы в Amazon Bedrock — сервис предлагает высокопроизводительные ИИ-приложения от ведущих компаний через единый API. 

В 2025 году компания планирует представить две дополнительные модели: для работы с речью и универсальный мультимодальный инструмент.

В конце ноября СМИ узнали о новом генеративном ИИ от Amazon и дополнительных инвестициях в Anthropic в размере $4 млрд.

Чипы Amazon для Anthropic и Apple

Amazon запланировала объединение сотен тысяч полупроводников Trainium2 в кластеры, которые обеспечат Anthropic обучение больших языковых моделей. Это решение в пять раз увеличит вычислительную мощность стартапа, сообщила компания на AWS re:Invent.

Фирма начала предлагать чипы 3 декабря. Новый кластер под названием Project Rainier содержит более 100 000 микропроцессоров, отметил работающий над этим направлением Гади Хатт.

Также Apple сообщила об использовании ИИ-чипов Amazon для своих сервисов вроде поиска и оценке перспективы применения нового процессора для обучения моделей Apple Intelligence.

«У нас сложились прочные отношения, а инфраструктура надежна и способна обслуживать наших клиентов по всему миру», — заявил старший директор Apple по машинному обучению и искусственному интеллекту Бенуа Дюпен.

По его словам, компания из Купертино использует AWS более десяти лет для разных сервисов вроде Siri, Apple Maps и Apple Music. Чипы Amazon привели к повышению эффективности на 40%. 

Дюпен предположил, что Apple применит Trainium2 для обучения Apple Intelligence. Компания ожидает роста производительности на 50%.

Апдейт дата-центров

В дополнение к новым чипам Amazon сообщила о ряде решений для повышения эффективности работы центров обработки данных. Они включают в себя улучшенную систему охлаждения, использование дизельного топлива для резервных генераторов и оптимизацию компоновки серверной стойки. 

Для работы самых мощных чипов предусмотрено жидкостное охлаждение, поскольку снизить температуру при помощи одних только вентиляторов невозможно.

Компания планирует потратить $75 млрд на модернизацию.

Борьба с галлюцинациями

На конференции AWS re:Invent облачное подразделение компании анонсировало запуск инструмента для борьбы с галлюцинациями искусственного интеллекта — Automated Reasoning. Сервис проверяет ответы нейросети путем анализа других ссылок на информацию. 

Инструмент похож на функцию коррекции от Microsoft, представленную в сентябре. Google предлагает аналогичный инструмент в рамках платформы Vertex AI.

Automated Reasoning использует «логически точные» и «проверяемые рассуждения», чтобы прийти к выводам. 

Напомним, в ноябре Binance сообщила о внедрении генеративного искусственного интеллекта AWS в свои продукты.