Масштабный запуск и архитектурный сдвиг
Компания NVIDIA запустила массовое производство стоек Groq 3 LPX, предназначенных для платформы Vera Rubin. Новое оборудование включает 256 специализированных LPU-чипов (Language Processing Unit), ориентированных на ускорение инференса — процесса работы уже обученной нейросети — с минимальными задержками.
Интеграция Groq 3 LPX в платформу Vera Rubin позволяет эффективно распределять вычислительную нагрузку. Пока классические тензорные ядра заняты тяжелым префиксным контекстом и расчетом матриц, блок LPX берет на себя генерацию токенов (единиц текста, обрабатываемых моделью) с ультранизкой задержкой. Это критически важно для сложных агентов, выполняющих многошаговые задачи в режиме реального времени.
Технические особенности и экономика
Архитектура стоек базируется на использовании ультрабыстрой SRAM-памяти. Она обеспечивает молниеносную передачу данных, однако отличается высокой стоимостью и ограниченным объемом, что делает невозможным хранение всей модели целиком внутри одного блока.
- Высокая производительность: одна стойка генерирует около 3400 токенов в секунду.
- Специализация: LPU-чипы работают под управлением детерминированного компилятора, исключая хаотичные задержки.
- Интерконнект: сложная топология соединений позволяет объединять сотни плат в единый вычислительный кластер.
- Стоимость: цена одного шкафа LPX варьируется от $1.5 до $2.5 млн в зависимости от контракта.
«Для длинных ReAct-петель и ветвящихся деревьев tool-calling (вызова внешних инструментов) это срезает секунды ожидания между шагами агента, превращая многошаговые прогоны в непрерывный поток», — отмечают эксперты отрасли.
Практическая польза для разработчиков
Внедрение таких систем в облачные инфраструктуры, такие как Nebius, меняет правила игры для создателей ИИ-продуктов. Высокая стоимость владения оборудованием вынуждает разработчиков искать способы оптимизации затрат на доступ к топовым нейромоделям. В условиях, когда использование мощностей уровня Rubin NVL72 становится стандартом индустрии, доступ к передовым алгоритмам через эффективные API становится ключевым преимуществом.
Для тех, кто стремится к экономии до 70 000 рублей в месяц на подписках и хочет запускать актуальные модели вроде Claude Opus или GPT-6 из России без блокировок, подробнее можно узнать, как использовать передовые нейросети бесплатно и вступить в закрытый клуб FreeAPI AI.
Источники информации: Telegram-канал Era Agentov, Mignews, 3DNews, Коммерсантъ.