विस्तृत विश्लेषण · लगभग 5 मिनट पढ़ना
Nemotron 3.5 में मल्टीमोडल एजेंट और छोटे स्थानीय मॉडल अलग हैं
120B-पैरामीटर Super VL के साथ 24GB Bolt आया; प्रदर्शन और उपलब्धता मॉडल तथा विन्यास पर निर्भर हैं।
- स्रोत की तारीख
- यहाँ प्रकाशित
- स्रोत जाँचा गया
NVIDIA ने 15 अक्टूबर को Nemotron 3.5 Super VL और Bolt 74B-A9B 24GB जारी किए। छोटा Bolt E4B 4GB 23 अक्टूबर के लिए तय है और 20 अक्टूबर तक भविष्य का संस्करण है। यह एक परिवार का विस्तार है, पर सर्वर और स्थानीय उपयोग अलग हैं। इसका अर्थ यह नहीं कि 120B Super VL भी Bolt के बताए 24GB में समा जाता है।
समाचार सुनें
यह लेख सुनें या समाचार लगातार चलाएँ।
पढ़ने की तैयारी हो रही है…
डिवाइस की आवाज़
वाक् प्रक्रिया आपके ब्राउज़र या डिवाइस में होती है। AISubHub पाठ किसी ऑडियो API को नहीं भेजता। आवाज़ों और लॉक स्क्रीन पर चलने की सुविधा डिवाइस पर निर्भर है।
जारी करने पर छोटा वाक्यांश दोहराया जा सकता है।
मुख्य बातें
- तकनीकी विवरण के अनुसार Super VL में कुल 120 अरब पैरामीटर हैं, जिनमें प्रति token 12 अरब सक्रिय होते हैं। सक्रिय संख्या पूरे मॉडल की मेमोरी जरूरत नहीं है।
- परिणाम विशिष्ट शर्तों के हैं। Dynamo उदाहरण 16 B200 GPU और प्रति उपयोगकर्ता 50 token प्रति सेकंड इस्तेमाल करता है, अकेली उपभोक्ता GPU नहीं।
तीन संस्करणों के आकार और तारीखें अलग
Super VL mixture-of-experts मॉडल है, जिसमें कुल 120B और प्रति token 12B सक्रिय पैरामीटर हैं। इससे token का गणना काम घटता है, लेकिन पूरा checkpoint 12B-पैरामीटर डाउनलोड नहीं बनता। साथ जारी Bolt 74B-A9B 24GB स्थानीय एजेंट काम के लिए है। Bolt E4B 4GB छोटे संवाद और भौतिक एजेंटों के लिए है, जिसकी उपलब्धता 23 अक्टूबर बताई गई है। ये Lightning और Ultra परिवार में जुड़ते हैं। क्षमता तुलना और तैनाती योजना में भूमिकाएं और रिलीज स्थिति अलग रहनी चाहिए।
दृश्य क्षमता किस सामग्री को संभालती है
लक्ष्य काम में मिलने वाली OCR, तालिकाएं, चार्ट, वेबपृष्ठ, PDF, चित्र और वीडियो हैं। एकीकृत मॉडल पाठ और दृश्य कार्य अलग प्रणालियों में भेजे बिना संदर्भ रख सकता है। NVIDIA CharXiv पर 80.8% और Python code interpretation उपलब्ध होने पर 84% बताता है। दूसरा आंकड़ा उपकरण की शर्त जोड़ता है; यह उसी बिना-उपकरण सेटअप का बेहतर परिणाम नहीं। हमारे अनुसार पूरा काम मूल्यांकन इकाई है: दस्तावेज गुणवत्ता, उपकरण पहुंच और उत्तर जांच तय करते हैं कि निकाली जानकारी निर्णय का आधार बन सकती है या नहीं।
अनुकूलन केवल नया prompt नहीं है
रिलीज में weights, datasets, प्रशिक्षण विधियां और reinforcement-learning वातावरण हैं। तकनीकी विवरण NeMo AutoModel से supervised fine-tuning और LoRA तथा NeMo RL और Gym से reinforcement learning बताता है। NVIDIA ऋण दस्तावेज विश्लेषण और coding agents को साझेदार अनुकूलन उदाहरण कहता है। इससे हर ग्राहक को वही सुधार मिलने का स्वतंत्र प्रमाण नहीं बनता। क्षेत्रीय डेटा, मूल्यांकन मामले और डेटा उपयोग अधिकार अलग आवश्यकताएं हैं। खुली उपलब्धता हर लागू लाइसेंस पढ़ने की जरूरत खत्म नहीं करती।
दक्षता का आंकड़ा सेवा विन्यास पर निर्भर
NVIDIA कई परतों को सुधार का कारण बताता है। NVFP4 Blackwell पर चार-bit weights और activations इस्तेमाल करता है; अन्य हार्डवेयर पर चार-bit weights और 16-bit activations होते हैं। Quantisation-aware distillation कम precision में व्यवहार बचाने की कोशिश है। Multi-token prediction कई token प्रस्तावित करके जांचता है, जबकि prefix cache साझा निर्देश, उपकरण और इतिहास दोबारा इस्तेमाल करता है। समान वर्ग के मॉडल से पांच गुना तक throughput एक सेवा परिणाम है, हर काम के समय में उतनी कमी की गारंटी नहीं। हमने ये विधियां दूसरे विन्यास में नहीं जांचीं।
24GB का दावा Bolt के लिए है
Bolt 74B-A9B native दो-bit quantisation से RTX और DGX Spark पर स्थानीय एजेंट काम के लिए 24GB मेमोरी में समाने वाला बताया गया है। यह खास मॉडल विन्यास है, Super VL की मेमोरी या पूरे सिस्टम की खरीद सूची नहीं। E4B का 4GB नाम है, पर उसका बाद वाला रिलीज दिन बना रहता है। हमारे अनुसार नियोजित context length, साथ चलने वाले अनुप्रयोग और उपकरण व्यवहार जांचने चाहिए। स्थानीय inference अपने आप एजेंट की वेब खोज या जुड़े उपकरणों को ऑफलाइन नहीं बनाता।
तैनाती मार्ग और सीमित Dynamo उदाहरण
Super VL Hugging Face, ModelScope, OpenRouter और NIM पर है; Bolt के मार्गों में llama.cpp, Ollama, LM Studio, Unsloth और vLLM हैं। NIM सत्यापित विन्यास देता है और उद्यम सहायता NVIDIA AI Enterprise से है। तकनीकी Dynamo उदाहरण 16 B200 पर प्रति उपयोगकर्ता 50 token प्रति सेकंड में cache-aware routing और offload से आठ गुना तक उपयोगकर्ता तथा first-token latency में 85% कमी बताता है। ये शर्तें जरूरी हैं। यह हर लैपटॉप में आठ गुना सुधार या किसी सदस्यता की शामिल सीमा और कीमत का प्रमाण नहीं है।
यह क्यों अहम है
टीमों को दस्तावेज आधारित एजेंट के लिए स्वयं होस्ट और अनुकूलित करने योग्य विकल्प तथा अलग कम-मेमोरी स्थानीय मार्ग मिलता है। चुनाव असली काम, उपकरण अधिकार और सेवा हार्डवेयर से हो, केवल शीर्षक की गति से नहीं।
सीमाएँ और उपलब्धता
हमने मॉडल चलाए या परीक्षण दोहराए नहीं। स्रोत सार्वभौमिक व्यावसायिक अधिकार, पूरे उपकरण की जरूरत, hosted API कीमत या हर मार्ग पर समान गुणवत्ता प्रमाणित नहीं करते।
स्रोत और प्रमाण
स्रोत की तारीख: 15 अक्टू॰ 2026 · स्रोत जाँचा गया: 20 अक्टू॰ 2026
पूरक पठन
स्रोत जाँचा गया: 20 अक्टू॰ 2026
AI की सहायता से लिखे लेखों को दिए गए प्राथमिक स्रोतों से जाँचा जाता है। प्रदाता के दावों का श्रेय स्पष्ट है; सूची में होना समर्थन नहीं है।