विस्तृत विश्लेषण · लगभग 4 मिनट पढ़ना
NVIDIA ने स्थानीय AI तैनाती बढ़ाई: DGX Spark क्षमता, टीम सेवाएँ और चरणबद्ध सॉफ्टवेयर
DGX Spark 64GB का वितरण23 अक्टूबर से, Model Launcher इस महीने बाद में और Windows DGX Station दिसंबर में अपेक्षित है।
- यहाँ प्रकाशित
- स्रोत की तारीख
- स्रोत जाँचा गया
NVIDIA के21 अक्टूबर अपडेट में पिछले सप्ताह के RTX Spark लैपटॉप लॉन्च से आगे DGX की क्षमता, प्रबंधन और मॉडल सेवा योजनाएँ हैं। व्यक्तिगत उपयोगकर्ता, साझा Linux टीम और आगामी Windows इंजीनियरिंग सिस्टम की जरूरतें अलग हैं; एक सार्वभौम गति अंक इन्हें नहीं समझाता।
समाचार सुनें
यह लेख सुनें या समाचार लगातार चलाएँ।
पढ़ने की तैयारी हो रही है…
डिवाइस की आवाज़
वाक् प्रक्रिया आपके ब्राउज़र या डिवाइस में होती है। AISubHub पाठ किसी ऑडियो API को नहीं भेजता। आवाज़ों और लॉक स्क्रीन पर चलने की सुविधा डिवाइस पर निर्भर है।
जारी करने पर छोटा वाक्यांश दोहराया जा सकता है।
मुख्य बातें
- DGX Spark 64GB पार्टनर सिस्टम23 अक्टूबर से आने लगेंगे। Manual cluster अभी अधिकतम आठ इकाइयाँ संभालता है; Sync Model Launcher अक्टूबर के आगे के हिस्से की योजना है।
- Windows DGX Station दिसंबर में अपेक्षित है। Cloud Functions पहले Linux Station पर early access में आएगा, न कि पहले से सामान्य उपलब्ध cloud-subscription अधिकार के रूप में।
आज की क्षमता और कल की आसान स्थापना अलग पड़ाव हैं
DGX Spark 64GB पार्टनर मशीनें23 अक्टूबर से आने लगेंगी। ConnectX-7 सिस्टम जोड़ता है और manual configuration अभी आठ इकाइयों तक समर्थित है। लेख का1TB unified-memory cluster यह नहीं कहता कि नई64GB की आठ मशीनें मिलकर1TB बनती हैं। Model Launcher अलग software milestone है, इस महीने बाद में: सही model/container चुनना, download करना और OpenCode से जोड़ना। अक्टूबर update में appliance mode के network बदलने हेतु Wi-Fi Assistant तथा Spark Skills से maintenance/troubleshooting guidance भी है। हमारे अनुसार क्षमता और सुविधा अलग हैं। चालू manual cluster भविष्य के launcher की मौजूदा उपलब्धता नहीं सिद्ध करता; अधिक memory किसी अनिर्दिष्ट model की latency, context या concurrency भी स्थापित नहीं करती।
Station टीम संचालन बढ़ाता है, कई सुविधाएँ अभी आगामी हैं
Station में748GB coherent memory और अधिकतम20 petaflops बताए गए हैं।30 से अधिक users को cloud जैसी गति का vendor दावा है, पर workload/service settings अपर्याप्त हैं, इसलिए सार्वभौम गारंटी नहीं। Sync अभी दो Linux Stations जोड़ता है। सात management integrations Absolute Security, Splunk, Fleet, Intune, Puppet, Chef और Tanium हैं। Partner Windows systems दिसंबर में अपेक्षित हैं; manufacturing apps और agent frameworks उसी आगामी वातावरण के लिए हैं। Cloud Functions Linux Station पर early access में आएगा: shared catalogue में local endpoints दर्ज कर OpenAI-compatible entry point से पहुँच। यह interface compatibility है, OpenAI models का अधिकार नहीं। किसे model या tool बुलाने दें और रखरखाव कौन करे, टीम को तय करना होगा।
दक्षता का हर अंक अपनी configuration के साथ पढ़ें
Recursive Flint coding MoE में40B total और2.5B active parameters हैं। NVIDIA64GB RTX Spark पर220 tokens/second से अधिक बताता है—यह DGX Spark 64GB से अलग product है। बिना weights बदले specialized kernels से55% तेज generation का दावा55% बेहतर code correctness नहीं। लेख weights को Apache 2.0 बताता है; हमने download/licence नहीं जाँचे। दूसरे मापन अलग हैं: llama.cpp में RTX PRO 6000 Blackwell पर Qwen 3.8 Flash Next agentic tasks का speedup ratio अधिकतम1.4×; vLLM में DGX Spark पर Qwen3.8 27B का अधिकतम1.3× है। Station पर GLM 5.3 Flash throughput तुलना स्तर का अधिकतम1.2 गुना बताया गया है। इन्हें एक संयुक्त acceleration नहीं बना सकते। FP4 checkpoints KV cache के लिए जगह छोड़ते हैं, मगर near-full-precision का दावा identical answers का प्रमाण नहीं।
स्थानीय endpoint भी जिम्मेदारी से चलने वाली सेवा है
हमारा प्रस्तावित pilot machine, checkpoint, precision, context, tool rights और simultaneous sessions तय कर accepted task outcomes, waiting, memory और failures मापेगा। इससे memory में समाना और उपयोगी shared service अलग होंगे। सस्ता कहने से पहले hardware/software के साथ बिजली और maintenance जोड़ें। Agent के network calls और मानव approvals देखें; local token generation से पूर्ण privacy न मानें। Robotics reference workflows और future software किसी विशेष factory की safety/quality acceptance भी सिद्ध नहीं करते। पुराने RTX Spark और Nemotron releases संदर्भ हैं; दोबारा उल्लेख तारीख नई नहीं बनाता। Deployment path ज्यादा स्पष्ट है, मगर manual scale, management, configuration और future automation अलग जाँचे जाने चाहिए।
यह क्यों अहम है
AISubHub विश्लेषण: टीम के पास संचालन से नियंत्रण बढ़ सकता है, पर weights का memory में समाना, कई उपयोगकर्ताओं को सेवा और सुरक्षित tool permissions अलग परीक्षण हैं। वास्तविक workflow और संचालन लागत की तुलना करें।
सीमाएँ और उपलब्धता
पूरा लेख पढ़ा, पर मॉडल download, linked licence जाँच, installation या benchmark पुनरुत्पादन नहीं किया। तारीखें21 अक्टूबर की vendor plans हैं। कीमत, देशवार stock और पूर्ण compatibility स्थापित नहीं। स्थानीय inference से यह सिद्ध नहीं कि जुड़े tools कभी डेटा बाहर नहीं भेजते।
स्रोत और प्रमाण
स्रोत की तारीख: · स्रोत जाँचा गया:
AI की सहायता से लिखे लेखों को दिए गए प्राथमिक स्रोतों से जाँचा जाता है। प्रदाता के दावों का श्रेय स्पष्ट है; सूची में होना समर्थन नहीं है।