AISubHub/Новости ИИ
Модели

Подробный разбор · Около 4 мин чтения

Nemotron 3.5 разделяет мультимодальных агентов и небольшие локальные модели

Super VL со 120B параметров выходит вместе с Bolt 24GB; показатели и доступность зависят от варианта и конфигурации.

Дата источника
Опубликовано здесь
Источник проверен

NVIDIA выпустила Nemotron 3.5 Super VL и Bolt 74B-A9B 24GB 15 октября. Меньший Bolt E4B 4GB намечен на 23 октября и по состоянию на 20 октября ещё не вышел. Это расширение семейства с разными серверными и локальными задачами. Оно не означает, что Super VL со 120B параметров помещается в указанные для Bolt 24GB.

Слушать новости

Прослушайте эту статью или включите новости подряд.

Nemotron 3.5 разделяет мультимодальных агентов и небольшие локальные модели

Подготовка чтения…

Голос устройства

Речь обрабатывает браузер или устройство. AISubHub не отправляет текст в аудио-API. Доступные голоса и работа при заблокированном экране зависят от устройства.

При продолжении короткая фраза может повториться.

Кратко

  • По техническому описанию, Super VL имеет 120 миллиардов параметров и активирует 12 миллиардов на токен. Активные параметры — не вся потребность модели в памяти.
  • Результаты получены при конкретных условиях. Пример Dynamo использует 16 GPU B200 при 50 токенах в секунду на пользователя, а не одну потребительскую видеокарту.

Три варианта отличаются размером и датами

Super VL — смесь экспертов со 120B общих параметров и 12B активных на токен. Это уменьшает вычисления на токен, но не превращает весь checkpoint в загрузку модели с 12B параметров. Одновременно выпущенный Bolt 74B-A9B 24GB предназначен для локальных агентов. Bolt E4B 4GB рассчитан на небольших разговорных и физических агентов и заявлен на 23 октября. Они дополняют Lightning и Ultra. Эти роли и состояния выпуска нужно сохранять при сравнении возможностей и планировании внедрения.

Какие визуальные материалы модель должна понимать

Цель — рабочие OCR, таблицы, графики, веб-страницы, PDF, изображения и видео. Единая модель может сохранять контекст без передачи текстовых и визуальных задач между системами. NVIDIA сообщает 80,8% на CharXiv и 84% при доступной интерпретации Python-кода. Второе число включает инструмент и не означает лучший результат при прежних условиях без инструментов. По нашей оценке, единица проверки — весь процесс: качество документа, доступ к инструментам и проверка ответа определяют пригодность извлечённых сведений для решения.

Настройка включает обучение, а не только промпт

Выпуск включает веса, данные, рецепты обучения и среды обучения с подкреплением. Технический материал описывает контролируемую донастройку и LoRA через NeMo AutoModel и обучение с подкреплением через NeMo RL и Gym. NVIDIA приводит анализ кредитных документов и программирующих агентов как примеры партнёрской настройки. Это не независимое доказательство одинаковой пользы для любого клиента. Профильные данные, контрольные примеры и права использования остаются отдельными условиями; открытая доступность не заменяет чтение каждой применимой лицензии.

Эффективность зависит от конфигурации обслуживания

NVIDIA связывает ускорение с несколькими слоями. NVFP4 использует четырёхбитные веса и активации на Blackwell; вне Blackwell веса четырёхбитные, активации 16-битные. Дистилляция с учётом квантования должна сохранять поведение при меньшей точности. Многотокенное предсказание предлагает кандидатов для проверки, а кэш префиксов повторно использует инструкции, инструменты и историю. Поэтому до пятикратной пропускной способности относительно моделей своего класса — результат обслуживания, а не гарантия такого же сокращения каждой задачи. Мы не проверяли методы и их сочетание на другом оборудовании.

Указание 24GB относится именно к Bolt

Bolt 74B-A9B использует нативное двухбитное квантование и, по описанию, помещается в 24GB памяти для локальных агентов на RTX и DGX Spark. Это конкретная конфигурация модели, не память Super VL и не полная спецификация покупаемого компьютера. E4B имеет обозначение 4GB, но более позднюю дату выхода. Мы рекомендуем проверить длину контекста, параллельные программы и поведение инструментов. Локальный инференс также не делает автоматически автономными веб-поиск и подключённые инструменты агента.

Способы доступа и точно заданный пример Dynamo

Super VL предлагается через Hugging Face, ModelScope, OpenRouter и NIM; Bolt поддерживает llama.cpp, Ollama, LM Studio, Unsloth и vLLM. NIM предоставляет проверенные конфигурации, корпоративная поддержка доступна через NVIDIA AI Enterprise. Технический пример Dynamo использует 16 B200 при 50 токенах в секунду на пользователя: маршрутизация с учётом кэша и выгрузка обслуживают до восьми раз больше пользователей, снижая задержку первого токена на 85%. Эти условия важны. Это не восьмикратное ускорение любого ноутбука и не подтверждение цены или квот подписки.

Почему это важно

Команды получают настраиваемую модель для собственного развёртывания документных агентов и отдельный локальный путь с меньшей памятью. Выбор требует реального процесса, прав инструментов и оборудования, а не одного показателя скорости.

Ограничения и доступность

Мы не запускали модели и не воспроизводили тесты. Источники не подтверждают универсальные коммерческие права, полные требования к системе, цену размещённого API или одинаковое качество всех способов доступа.

Источники и подтверждения

NVIDIA Blog — Kari Briski

Дата источника: 15 окт. 2026 г. · Источник проверен: 20 окт. 2026 г.

Дополнительные материалы

NVIDIA Developer — Nemotron 3.5 Super VL architecture and deployment details

Источник проверен: 20 окт. 2026 г.

Материалы подготовлены с помощью ИИ и сверены с указанными первоисточниками. Заявления поставщиков атрибутированы; публикация не означает рекомендацию.