AISubHub/Notícias de IA
Modelos

Análise aprofundada · Cerca de 4 min de leitura

Nemotron 3.5 separa agentes multimodais de implantações locais menores

Super VL, com 120B parâmetros, chega junto de Bolt 24GB; desempenho e disponibilidade variam conforme modelo e configuração.

Data da fonte
Publicado aqui
Fonte verificada

A NVIDIA lançou Nemotron 3.5 Super VL e Bolt 74B-A9B 24GB em 15 de outubro. Bolt E4B 4GB está previsto para 23 de outubro e, em 20 de outubro, ainda é futuro. A expansão reúne usos distintos de servidor e locais. Não significa que Super VL, com 120B parâmetros, caiba nos 24GB atribuídos a Bolt.

Ouça as notícias

Ouça este artigo ou continue ouvindo as notícias.

Nemotron 3.5 separa agentes multimodais de implantações locais menores

Preparando a leitura…

Voz do dispositivo

O navegador ou dispositivo processa a voz. O AISubHub não envia o texto a uma API de áudio. As vozes e a reprodução com a tela bloqueada variam conforme o dispositivo.

Ao continuar, uma frase curta pode se repetir.

Resumo

  • Segundo a descrição técnica, Super VL possui 120 bilhões de parâmetros totais e ativa 12 bilhões por token. Parâmetros ativos não são o requisito de memória de todo o modelo.
  • Os resultados têm condições específicas. O exemplo Dynamo utiliza 16 GPUs B200 a 50 tokens por segundo por usuário, não uma única placa de consumo.

Três variantes com escalas e datas distintas

Super VL usa mistura de especialistas com 120B parâmetros totais e 12B ativados por token. Isso reduz o cálculo por token, mas não transforma todo o checkpoint em um download de 12B parâmetros. Bolt 74B-A9B 24GB, lançado junto, atende agentes locais. Bolt E4B 4GB se dirige a agentes conversacionais e físicos menores, com disponibilidade anunciada para 23 de outubro. Eles se juntam a Lightning e Ultra. Esses papéis e estados de lançamento devem permanecer claros ao comparar recursos ou planejar implantação.

Que materiais a visão pretende processar

O foco são materiais encontrados no trabalho: OCR, tabelas, gráficos, páginas web, PDFs, imagens e vídeo. Um modelo unificado pode preservar contexto sem encaminhar tarefas entre sistemas de texto e visão. A NVIDIA relata 80,8% no CharXiv e 84% com interpretação de código Python disponível. O segundo número inclui uma ferramenta, não uma melhora na mesma condição sem ferramentas. Para nós, a unidade de avaliação é o fluxo completo: qualidade do documento, permissões e verificação influenciam se a informação extraída sustenta uma decisão.

Personalizar envolve treinamento, não apenas prompts

O lançamento inclui pesos, dados, receitas de treinamento e ambientes de aprendizado por reforço. A explicação técnica descreve ajuste supervisionado e LoRA com NeMo AutoModel, e reforço com NeMo RL e Gym. A NVIDIA cita análise de documentos de crédito e agentes de programação como exemplos de personalização por parceiros. Isso não prova, de forma independente, a mesma melhoria para todo cliente. Dados de domínio, avaliações e direitos de uso continuam sendo requisitos separados; disponibilidade aberta não elimina a leitura de cada licença aplicável.

Por que eficiência depende do ambiente de execução

A NVIDIA atribui ganhos a várias camadas. NVFP4 utiliza pesos e ativações de quatro bits no Blackwell; fora dele combina pesos de quatro bits e ativações de 16. Destilação consciente de quantização busca preservar comportamento com precisão reduzida. Predição de múltiplos tokens propõe candidatos para verificação e cache de prefixos reutiliza instruções, ferramentas e histórico. O throughput até cinco vezes maior que modelos da classe é um resultado de serviço, não redução garantida no tempo de toda tarefa. Não testamos essas técnicas nem sua interação em outro equipamento.

A indicação de 24GB pertence ao Bolt

Bolt 74B-A9B utiliza quantização nativa de dois bits e é descrito como cabendo em 24GB de memória para agentes locais em RTX e DGX Spark. É uma configuração específica, não a memória do Super VL nem uma especificação completa de compra. E4B traz indicação de 4GB, mas mantém a data posterior. Recomendamos verificar contexto pretendido, outros aplicativos e comportamento das ferramentas. Inferência local também não transforma automaticamente buscas web ou ferramentas conectadas de um agente em operação offline.

Rotas de implantação e o exemplo delimitado do Dynamo

Super VL está em Hugging Face, ModelScope, OpenRouter e NIM; Bolt tem rotas como llama.cpp, Ollama, LM Studio, Unsloth e vLLM. NIM oferece configurações validadas, com suporte empresarial via NVIDIA AI Enterprise. O exemplo técnico Dynamo usa 16 B200 a 50 tokens por segundo por usuário: roteamento consciente de cache e descarregamento atendem até oito vezes mais usuários, reduzindo a latência do primeiro token em 85%. As condições importam. Não é oito vezes mais desempenho em qualquer notebook nem evidência de preço ou uso incluído em uma assinatura.

Por que importa

Há uma opção personalizável e auto-hospedável para agentes documentais, além de uma rota local de menor memória. A escolha exige avaliar fluxo, permissões de ferramentas e hardware real, não apenas uma velocidade de destaque.

Limites e disponibilidade

Não executamos os modelos nem reproduzimos benchmarks. As fontes não comprovam direitos comerciais universais, requisitos completos de equipamento, preço de API hospedada ou qualidade idêntica em todos os acessos.

Fontes e evidências

NVIDIA Blog — Kari Briski

Data da fonte: 15 de out. de 2026 · Fonte verificada: 20 de out. de 2026

Leituras complementares

NVIDIA Developer — Nemotron 3.5 Super VL architecture and deployment details

Fonte verificada: 20 de out. de 2026

Conteúdo editorial com apoio de IA, verificado em fontes primárias. Alegações dos fornecedores são atribuídas; inclusão não é recomendação.