AISubHub/Новости ИИ
Разработка

Подробный разбор · Около 4 мин чтения

NVIDIA расширяет локальное развёртывание ИИ: ёмкость DGX Spark, командные сервисы и этапы ПО

DGX Spark 64GB начнёт поступать23 октября, Model Launcher ожидается позже в этом месяце, DGX Station Windows — в декабре.

Опубликовано здесь
Дата источника
Источник проверен

Обновление NVIDIA от21 октября добавляет ёмкость, управление и планы обслуживания моделей DGX после выпуска ноутбуков RTX Spark. У отдельного пользователя, общей Linux-команды и будущих Windows-систем разные конфигурации и обязанности; единой универсальной цифры скорости нет.

Слушать новости

Прослушайте эту статью или включите новости подряд.

NVIDIA расширяет локальное развёртывание ИИ: ёмкость DGX Spark, командные сервисы и этапы ПО

Подготовка чтения…

Голос устройства

Речь обрабатывает браузер или устройство. AISubHub не отправляет текст в аудио-API. Доступные голоса и работа при заблокированном экране зависят от устройства.

При продолжении короткая фраза может повториться.

Кратко

  • Партнёрские DGX Spark 64GB начнут поступать23 октября. Ручные кластеры уже поддерживают до восьми машин; Sync Model Launcher запланирован позже в октябре.
  • DGX Station Windows ожидается в декабре. Cloud Functions придёт сначала в раннем доступе на Linux-Station, а не как уже общедоступное право облачной подписки.

Нынешняя ёмкость и будущее упрощение настройки — разные этапы

Партнёрские DGX Spark 64GB начнут поступать23 октября. ConnectX-7 соединяет системы, ручная конфигурация уже поддерживает до восьми устройств. Указанный кластер с1ТБ объединённой памяти не означает, что восемь новых машин по64ГБ дают1ТБ. Model Launcher — отдельный программный этап позже в этом месяце: выбор подходящих модели и контейнера, загрузка и подключение к OpenCode. Октябрьское обновление добавляет Wi-Fi Assistant для смены сети в appliance-режиме и эксплуатационные подсказки Spark Skills. Мы разделяем ёмкость и удобство: работающий ручной кластер не подтверждает доступность будущего запускающего инструмента. Больше памяти также не устанавливает задержку, контекст или параллелизм неопределённой модели.

Station добавляет командную эксплуатацию, но часть функций впереди

Station описывается с748ГБ когерентной памяти и до20 петафлопс. Поставщик заявляет обслуживание более30 пользователей на облачно-сопоставимой скорости, но настроек нагрузки недостаточно для общей гарантии. Sync уже соединяет две Linux-Station. Семь интеграций управления включают Absolute Security, Splunk, Fleet, Intune, Puppet, Chef и Tanium. Windows-системы ожидаются от партнёров в декабре; производственные приложения и агентные среды относятся к будущей среде. Cloud Functions придёт в раннем доступе на Linux-Station: регистрация локальных endpoint в общем каталоге за OpenAI-совместимым входом. Совместимость интерфейса не даёт права на модели OpenAI. Команда должна определить, кто вызывает модели и инструменты и кто обслуживает машины.

Показатели эффективности сохраняют точную конфигурацию

Recursive Flint — кодовая MoE-модель с40 млрд общих и2,5 млрд активных параметров. NVIDIA сообщает более220 токенов в секунду на64ГБ RTX Spark, другом продукте, чем DGX Spark 64GB. Рост скорости генерации55% приписан специализированным ядрам без изменения весов, не улучшению правильности кода на55%. Текст указывает Apache 2.0 для весов; скачивание и лицензия не проверялись. Другие цифры различаются: llama.cpp заявляет коэффициент ускорения задач до1,4× для Qwen 3.8 Flash Next на RTX PRO 6000 Blackwell; vLLM — до1,3× для Qwen3.8 27B на DGX Spark, а throughput GLM 5.3 Flash на Station — до1,2 от уровня сравнения. Их нельзя складывать в общее ускорение. FP4-чекпойнты оставляют место KV cache; близость к полной точности не доказывает идентичность ответов.

Локальный endpoint всё равно нужно ответственно обслуживать

Предлагаемый нами пилот фиксирует машину, веса, точность, контекст, права инструментов и одновременные сессии, затем измеряет принятые результаты задач, ожидание, память и сбои. Так различаются модель, помещающаяся в память, и полезный общий сервис. Электричество и обслуживание добавляются к оборудованию и ПО прежде, чем заявлять экономию. У агента проверяют сеть и человеческие разрешения, а не выводят полную приватность из локальной генерации. Референсные робототехнические процессы и будущее ПО не доказывают приёмку безопасности или качества конкретного завода. Ранее представленные RTX Spark и Nemotron остаются фоном без новой даты выпуска. Путь развёртывания конкретнее, но ручная ёмкость, управление, конфигурация и будущая автоматизация требуют отдельных проверок.

Почему это важно

Анализ AISubHub: локальная инфраструктура приближает управление к команде, но размещение весов, обслуживание одновременных пользователей и безопасные права инструментов — отдельные проверки. Сравнивать нужно реальную работу и стоимость эксплуатации.

Ограничения и доступность

Полный текст прочитан без скачивания моделей, проверки ссылочных лицензий, установки или воспроизведения измерений. Даты — планы на21 октября. Цены, наличие по странам и полная совместимость не установлены. Локальный инференс не доказывает отсутствия внешней передачи данных инструментами.

Источники и подтверждения

NVIDIA Blog — Gerardo Delgado

Дата источника: · Источник проверен:

Материалы подготовлены с помощью ИИ и сверены с указанными первоисточниками. Заявления поставщиков атрибутированы; публикация не означает рекомендацию.