Nvidia переносит конкурентное преимущество в ИИ с GPU на системы оркестрации данных

На этой неделе Nvidia представила новую архитектуру Vera Rubin, которая выводит конкуренцию в сфере ИИ за пределы графических процессоров. В то время как рынок GPU сталкивается с растущей конкуренцией со стороны гиперскейлеров, Nvidia делает ставку на системы оркестрации данных, которые повышают эффективность дата-центров за счет интеллектуального управления трафиком, а не только за счет увеличения вычислительной мощности.

Что происходит

Согласно отчету TechCrunch, Nvidia начала поставки архитектуры Vera Rubin, которая объединяет GPU Rubin с другими компонентами, включая процессор Vera CPU, ускоритель вывода Groq 3 LPX и аналогичные стойки для хранения и сетей. Эти системы предназначены для оптимизации работы всего дата-центра, а не только для обработки токенов.

Ключевой элемент — процессор Vera CPU, который решает проблему оркестрации данных. Как пояснил Джейсон Харди, вице-президент Nvidia по технологиям хранения, «Vera важен, потому что в один сервер или вычислительную платформу можно поместить лишь ограниченный объем памяти». С ростом масштабов вычислений объем памяти также увеличивается, но доставка данных к GPU в нужное время становится нетривиальной задачей.

Почему это важно

Традиционно считалось, что преимущество Nvidia основано на монополии на GPU. Однако теперь, когда гиперскейлеры, такие как Amazon и Google, разрабатывают собственные чипы, конкуренция смещается на уровень системной интеграции. Nvidia утверждает, что ее решения позволяют достичь «более чем трехкратного улучшения операций» благодаря ускорению с помощью Vera CPU. Это позволяет использовать флэш-память на полную мощность без узких мест.

Аналогичный подход применяет OpenAI при разработке своего чипа Jalapeño, который минимизирует перемещение данных, чтобы избежать задержек. В блоге компании говорится: «Мы разработали Jalapeño для минимизации перемещения данных и задержек связи». Это подтверждает общую тенденцию: эффективность достигается за счет интеллектуального управления данными, а не только за счет наращивания вычислительных мощностей.

Контекст

Nvidia столкнулась с опасениями инвесторов по поводу долговечности своего преимущества, поскольку конкуренция на рынке GPU усиливается. Однако новая стратегия компании показывает, что ее лидерство может сохраниться благодаря системам, окружающим GPU. По данным TechCrunch, Nvidia уже имеет значительное преимущество в этой новой области.

Что это значит

Переход к оркестрации данных открывает новый уровень конкуренции в инфраструктуре ИИ. Теперь для успеха недостаточно создать мощный GPU — необходимо обеспечить эффективную работу всей системы. Nvidia, судя по всему, готова к этой борьбе, но ей предстоит конкурировать с другими производителями чипов и гиперскейлерами на новом поле.