संक्षिप्त समाचार · लगभग 1 मिनट पढ़ना
Transformers 5.20.2 में इनपुट प्रकार और विशेषज्ञ ग्रेडिएंट के सुधार
यह रखरखाव पैच मल्टीमोडल कास्टिंग, BF16 ग्रेडिएंट और इनपुट मोडैलिटी घोषणाएँ सुधारता है।
- यहाँ प्रकाशित
- स्रोत की तारीख
- स्रोत जाँचा गया
Hugging Face ने 19 अक्टूबर को Transformers 5.20.2 जारी किया। नोट्स में चार सुधार हैं; यह किसी नए मॉडल की घोषणा नहीं है।
समाचार सुनें
यह लेख सुनें या समाचार लगातार चलाएँ।
पढ़ने की तैयारी हो रही है…
डिवाइस की आवाज़
वाक् प्रक्रिया आपके ब्राउज़र या डिवाइस में होती है। AISubHub पाठ किसी ऑडियो API को नहीं भेजता। आवाज़ों और लॉक स्क्रीन पर चलने की सुविधा डिवाइस पर निर्भर है।
जारी करने पर छोटा वाक्यांश दोहराया जा सकता है।
मुख्य बातें
- जनरेशन में prepare_inputs_for_generation के भीतर मूल इनपुट प्रकार सुरक्षित रहते हैं, जिससे मल्टीमोडल मॉडल की समस्याएँ ठीक होती हैं।
- bfloat16 विशेषज्ञ समानांतरता में ep_size < fsdp_size होने पर शून्य विशेषज्ञ ग्रेडिएंट का सुधार है।
- गलती से केवल टेक्स्ट बताने वाले विज़न-लैंग्वेज मॉडल अब अपनी इनपुट मोडैलिटी घोषित करते हैं।
- eager_mask पथ में होस्ट से डिवाइस पर एक कॉपी से बचा जाता है।
यह क्यों अहम है
रखरखाव करने वाले प्रभावित जनरेशन और वितरित प्रशिक्षण के परीक्षण दोहरा सकते हैं। हमारी व्याख्या में अपग्रेड का आधार संगतता और शुद्धता है, कोई नया क्षमता स्कोर नहीं।
सीमाएँ और उपलब्धता
ये मूल परियोजना के दावे हैं। हमने रिलीज़ नहीं चलाई। नोट्स गति में मापी गई वृद्धि या हर मल्टीमोडल और वितरित कार्य के ठीक होने की गारंटी नहीं देते।
स्रोत और प्रमाण
स्रोत की तारीख: · स्रोत जाँचा गया:
AI की सहायता से लिखे लेखों को दिए गए प्राथमिक स्रोतों से जाँचा जाता है। प्रदाता के दावों का श्रेय स्पष्ट है; सूची में होना समर्थन नहीं है।