विस्तृत विश्लेषण · लगभग 4 मिनट पढ़ना
DeepSeek Recipe 0.2: एक जैसे API रूप के लिए भी स्पष्ट इन्फरेंस अनुबंध चाहिए
20 अक्टूबर का संस्करण सत्यापन, विशेष टोकन और आउटपुट प्रतिबंध बदलता है। DeepInfer का संदर्भ बताता है कि पूरा सेवा तंत्र अभी अलग काम है।
- यहाँ प्रकाशित
- स्रोत की तारीख
- स्रोत जाँचा गया
आधिकारिक चेंजलॉग deepseek-recipe 0.2.0 की तारीख 20 अक्टूबर देता है। Rust लाइब्रेरी और Python पैकेज का यह असंगत API उन्नयन है; पहला 0.1.0 संस्करण 10 सितंबर का था।
समाचार सुनें
यह लेख सुनें या समाचार लगातार चलाएँ।
पढ़ने की तैयारी हो रही है…
डिवाइस की आवाज़
वाक् प्रक्रिया आपके ब्राउज़र या डिवाइस में होती है। AISubHub पाठ किसी ऑडियो API को नहीं भेजता। आवाज़ों और लॉक स्क्रीन पर चलने की सुविधा डिवाइस पर निर्भर है।
जारी करने पर छोटा वाक्यांश दोहराया जा सकता है।
मुख्य बातें
- आउटपुट प्रतिबंध उपलब्ध होते हैं, पर उन्हें लागू करने का निर्णय बैकएंड का है।
- DeepInfer में DeepSeek-V4.1-Flash, NVIDIA SM100 और Huawei Ascend 950 सूचीबद्ध हैं, लेकिन पूरी सेवा के सभी घटक नहीं हैं।
असल में कौन-सी परत बदली
Recipe अलग API अनुरोधों को साझा वार्तालाप में और मॉडल आउटपुट को संबंधित प्रतिक्रिया प्रोटोकॉल में बदलता है। 0.2 सभी crates तथा Python पैकेज की सार्वजनिक API बदलता है। HTTP endpoint का नाम समान रहने पर भी 0.1 एकीकरण को माइग्रेट करना होगा; चेंजलॉग constructors, streaming types और methods का स्पष्ट मानचित्र देता है।
हमारे विश्लेषण में परिचित नाम से अनुकूलता मानने के बजाय ठोस अनुरोध-प्रतिक्रिया उदाहरण जाँचने और adapter व सेवा एप्लिकेशन की जिम्मेदारी अलग करने की जरूरत है। दस्तावेज नई निजी सदस्यता, मुफ्त होस्टिंग कोटा या तैयार पूर्ण उत्पादन सेवा घोषित नहीं करते।
मॉडल नाम अब व्यवहार चुनता है
रूपांतरण version mapping से मॉडल पहचानता है। मूल नाम DeepSeek-V4-Pro और DeepSeek-V4.1-Flash हैं; अतिरिक्त नाम को alias चाहिए और अज्ञात नाम अस्वीकार होता है। V4 अनुरोध की छवि असमर्थित छवि के पाठ-चिह्न में बदलती है। छवि वाला field स्वीकार होना दृश्य समझ का प्रमाण नहीं है।
Sampling values मॉडल और thinking mode के अनुसार तय होते हैं। thinking में temperature 1.0 है। V4.1 thinking में top_p कम से कम 0.95 करता है और उसके बाहर 1.0 रखता है। ये इस converter के लिखित नियम हैं, अन्य मॉडल के लिए हमारी सलाह नहीं। केवल आने वाला JSON देखना वास्तविक inference setting का बदलाव छिपा सकता है।
प्रतिबंध बताना और लागू करना अलग हैं
रिलीज JSON Schema और regex स्वरूप जाँचती है, schema को prompt में लिखती है और JSON, regex तथा tool-call constraints देती है। मगर चेंजलॉग उनका लागू होना backend पर छोड़ता है। constraint object होने से प्रत्येक उत्पन्न token पर नियंत्रण सिद्ध नहीं होता।
संरचित arguments के साथ अनिवार्य tool call की एक काल्पनिक जाँच में normalized constraint, backend enforcement और parsed response अलग जाँचे जाने चाहिए। यह देखा गया दोष नहीं, परीक्षण का सुझाव है। DeepInfer का grammar-constrained generation अलग दस्तावेजित है; दोनों repositories की सुविधाएँ स्वतः जुड़ी हुई नहीं मानी जा सकतीं।
टोकन सीमाएँ और चित्र का गंतव्य
Recipe स्पष्ट special-token ranges और साधारण message text को अलग करता है। assistant content और reasoning के grounding markers वाले लिखित अपवाद के अलावा, संदेश में special token जैसा पाठ सामान्य text के रूप में encode होता है। इससे content और control की उलझन घटती है, हर prompt injection के विरुद्ध सुरक्षा की गारंटी नहीं मिलती।
नया image-destination filter host, resolved addresses और हर redirect target जाँचता है तथा अस्वीकार होने पर खास error देता है। संचालक को उसका सच में configured होना और error handling जाँचना चाहिए। लाइब्रेरी में सुविधा होने का अर्थ हर downstream ऐप में चालू होना नहीं है; हमने उत्पादन server नहीं परखा।
इंजन के बाहर क्या आवश्यक है
DeepInfer README offline inference, optimized kernels, speculative decoding और scheduling बताता है। Linux, GCC 13 या ऊपर और Python 3.12 चाहिए; NVIDIA SM100 को CUDA 13 और Ascend 950 को CANN 9.2 चाहिए। इसे किसी भी निजी कंप्यूटर पर चलने का वादा नहीं समझना चाहिए।
पूर्ण सेवा के लिए KV-cache system, vision encoder/prefill/decode का विभाजन और data-parallel replicas में load balancing अभी चाहिए। प्रदर्शन विन्यास में prefill के लिए 4 और decode के लिए 64 SM100 अपने scale-up domains में हैं; यह single-GPU गति का दावा नहीं। प्रोटोकॉल माइग्रेशन व आधारभूत संरचना को अलग सत्यापित करें। इससे API दर या सदस्यता अधिकार बदलने का निष्कर्ष नहीं निकलता।
यह क्यों अहम है
AISubHub विश्लेषण: उत्पादन में बदलाव से पहले रूपांतरण, टोकनकरण, डिकोडिंग और संचालन को एक ही अनुबंध के रूप में जाँचना चाहिए।
सीमाएँ और उपलब्धता
हमने परिनियोजन या बेंचमार्क नहीं किया। तारीख Recipe 0.2 की है; पढ़ा गया DeepInfer README उसकी पहली सार्वजनिक रिलीज या सामान्य होस्टिंग कीमत सिद्ध नहीं करता।
स्रोत और प्रमाण
स्रोत की तारीख: · स्रोत जाँचा गया:
पूरक पठन
स्रोत जाँचा गया:
AI की सहायता से लिखे लेखों को दिए गए प्राथमिक स्रोतों से जाँचा जाता है। प्रदाता के दावों का श्रेय स्पष्ट है; सूची में होना समर्थन नहीं है।