Vertiefende Analyse · Etwa 4 Min. Lesezeit
Nemotron 3.5 trennt multimodale Agenten von kleinen lokalen Modellen
Super VL mit 120B Parametern erscheint neben Bolt 24GB; Leistung und Verfügbarkeit hängen von Variante und Konfiguration ab.
- Datum der Quelle
- Hier veröffentlicht
- Quelle geprüft
NVIDIA veröffentlichte Nemotron 3.5 Super VL und Bolt 74B-A9B 24GB am 15. Oktober. Bolt E4B 4GB ist für den 23. Oktober angekündigt und am 20. Oktober noch nicht erschienen. Die Familie umfasst unterschiedliche Server- und lokale Einsätze. Das bedeutet nicht, dass Super VL mit 120B Parametern in die für Bolt genannten 24GB passt.
Nachrichten anhören
Diesen Artikel vorlesen oder mit den Nachrichten fortfahren.
Vorlesen wird vorbereitet…
Gerätestimme
Browser oder Gerät verarbeiten die Sprache. AISubHub sendet den Text nicht an eine Audio-API. Stimmen und Wiedergabe bei gesperrtem Bildschirm hängen vom Gerät ab.
Beim Fortsetzen kann sich ein kurzer Satzteil wiederholen.
Auf einen Blick
- Super VL hat laut NVIDIA insgesamt 120 Milliarden Parameter und aktiviert zwölf Milliarden pro Token. Aktive Parameter sind nicht der vollständige Speicherbedarf.
- Die Ergebnisse gelten unter bestimmten Bedingungen. Das Dynamo-Beispiel nutzt 16 B200-GPUs bei 50 Tokens pro Sekunde und Nutzer, nicht eine einzelne Consumer-Grafikkarte.
Drei Varianten mit unterschiedlichen Größen und Terminen
Super VL ist ein Mixture-of-Experts-Modell mit 120B Gesamtparametern und 12B aktiven Parametern pro Token. Das verringert den Rechenaufwand, macht aber nicht den gesamten Checkpoint zu einem 12B-Download. Der gleichzeitig veröffentlichte Bolt 74B-A9B 24GB richtet sich an lokale Agenten. Bolt E4B 4GB zielt auf kleinere Gesprächs- und physische Agenten und soll am 23. Oktober verfügbar werden. Sie ergänzen Lightning und Ultra. Unterschiede bei Rolle und Veröffentlichung müssen bei Vergleichen und der Einsatzplanung erhalten bleiben.
Welche visuellen Arbeitsmaterialien gemeint sind
Im Mittelpunkt stehen OCR, Tabellen, Diagramme, Webseiten, PDFs, Bilder und Videos. Ein einheitliches Modell kann Kontext bewahren, statt Text- und Bildaufgaben zwischen Systemen weiterzureichen. NVIDIA meldet 80,8% auf CharXiv und 84% mit verfügbarer Python-Codeinterpretation. Der zweite Wert enthält eine Werkzeugbedingung und ist kein höheres Ergebnis in derselben werkzeugfreien Umgebung. Unserer Ansicht nach ist der gesamte Ablauf zu bewerten: Dokumentqualität, Werkzeugzugriff und Antwortprüfung bestimmen gemeinsam, ob extrahierte Informationen eine Entscheidung tragen können.
Anpassung umfasst Training statt nur einer Anweisung
Die Veröffentlichung umfasst Gewichte, Daten, Trainingsrezepte und Reinforcement-Learning-Umgebungen. Die technische Darstellung beschreibt überwachtes Feintuning und LoRA mit NeMo AutoModel sowie Reinforcement Learning mit NeMo RL und Gym. NVIDIA nennt Kreditdokumentanalyse und Programmieragenten als Partnerbeispiele. Das beweist nicht unabhängig denselben Fortschritt für jeden Kunden. Fachliche Daten, Prüffälle und Nutzungsrechte bleiben eigenständige Voraussetzungen. Offene Verfügbarkeit ersetzt nicht das Lesen der jeweils geltenden Lizenz.
Effizienzwerte brauchen ihre Betriebskonfiguration
NVIDIA führt Gewinne auf mehrere Ebenen zurück. NVFP4 verwendet auf Blackwell Vier-Bit-Gewichte und -Aktivierungen; außerhalb von Blackwell Vier-Bit-Gewichte mit 16-Bit-Aktivierungen. Quantisierungsbewusste Destillation soll Verhalten bei geringerer Präzision erhalten. Mehrtokenvorhersage schlägt mehrere Tokens zur Prüfung vor, während Präfix-Caching Anweisungen, Werkzeuge und Verlauf wiederverwendet. Bis zu fünffacher Durchsatz gegenüber vergleichbaren Modellen ist ein Betriebsergebnis, keine garantierte Verkürzung jeder Aufgabe. Wir haben diese Techniken oder ihr Zusammenspiel auf anderer Hardware nicht getestet.
Die 24GB-Angabe gehört zum Bolt-Modell
Bolt 74B-A9B nutzt native Zwei-Bit-Quantisierung und soll für lokale Agenten auf RTX und DGX Spark in 24GB Speicher passen. Das ist eine konkrete Modellkonfiguration, keine Aussage über Super VL oder eine vollständige Kaufempfehlung für ein System. E4B trägt zwar 4GB im Namen, hat aber den späteren Veröffentlichungstermin. Nach unserer Einschätzung müssen Kontextlänge, parallel laufende Programme und Werkzeuge geprüft werden. Lokale Inferenz macht Websuchen oder angebundene Werkzeuge eines Agenten außerdem nicht automatisch offlinefähig.
Zugangswege und ein genau abgegrenztes Dynamo-Beispiel
Super VL gibt es über Hugging Face, ModelScope, OpenRouter und NIM; Bolt unterstützt unter anderem llama.cpp, Ollama, LM Studio, Unsloth und vLLM. NIM liefert validierte Konfigurationen, Unternehmenssupport erfolgt über NVIDIA AI Enterprise. Das technische Dynamo-Beispiel nutzt 16 B200 bei 50 Tokens pro Sekunde und Nutzer. Cache-bewusstes Routing und Auslagern bedienen bis zu achtmal so viele Nutzer bei 85% geringerer Ersttokenlatenz. Diese Bedingungen sind wesentlich. Das bedeutet weder achtfache Leistung auf jedem Laptop noch bestimmte Inklusivmengen oder Preise eines Abonnements.
Warum es wichtig ist
Teams erhalten eine selbst betreibbare, anpassbare Option für dokumentenorientierte Agenten und einen separaten lokalen Pfad mit weniger Speicher. Entscheidend sind Arbeitsablauf, Werkzeugrechte und echte Hardware statt eines einzelnen Geschwindigkeitswerts.
Grenzen und Verfügbarkeit
Wir haben die Modelle nicht ausgeführt oder Benchmarks reproduziert. Die Quellen belegen weder universelle kommerzielle Rechte noch vollständige Hardwareanforderungen, API-Preise oder identische Qualität aller Zugänge.
Quellen und Belege
Datum der Quelle: 15.10.2026 · Quelle geprüft: 20.10.2026
Weiterführende Quellen
Quelle geprüft: 20.10.2026
KI-gestützte redaktionelle Beiträge, anhand der genannten Primärquellen geprüft. Anbieterangaben werden zugeordnet; eine Aufnahme ist keine Empfehlung.