विस्तृत विश्लेषण · लगभग 3 मिनट पढ़ना
AWS का GPT-OSS-20B प्रयोग भाषा पालन को तर्क की शुद्धता से अलग करता है
छोटा multilingual fine-tuning अध्ययन SFT और GRPO के लाभ, एक भाषा में गिरावट और सामान्यीकरण की सीमाएं दिखाता है।
- स्रोत की तारीख
- यहाँ प्रकाशित
- स्रोत जाँचा गया
20 अक्टूबर की AWS गाइड HyperPod पर GPT-OSS-20B का LoRA tuning बताती है ताकि generated reasoning और final answer मांगी भाषा में हों। यह customization है, नया base model नहीं। परिणाम output language का है, गणितीय/तथ्य शुद्धता या reasoning fidelity का नहीं।
समाचार सुनें
यह लेख सुनें या समाचार लगातार चलाएँ।
पढ़ने की तैयारी हो रही है…
डिवाइस की आवाज़
वाक् प्रक्रिया आपके ब्राउज़र या डिवाइस में होती है। AISubHub पाठ किसी ऑडियो API को नहीं भेजता। आवाज़ों और लॉक स्क्रीन पर चलने की सुविधा डिवाइस पर निर्भर है।
जारी करने पर छोटा वाक्यांश दोहराया जा सकता है।
मुख्य बातें
- 50 मामलों में reasoning language base के 11/50 से SFT बाद 50/50 हुई। answer language SFT के 31/50 से GRPO बाद 35/50 हुई।
- लाभ 8 percentage points, चार मामले है; Italian 60% से 40% गिरा, इसलिए हर भाषा नहीं सुधरी।
50 मामले असल में क्या मापते हैं
कार्य generated reasoning और final answer को English, French, German, Spanish या Italian में मांगता है। दस math/logic प्रश्न पांच भाषाओं में, कुल 50 मामले हैं। वर्णित dataset में लगभग 949 training और 50 validation उदाहरण हैं। metrics दोनों हिस्सों की भाषा देखते हैं, गणितीय समाधान सही है या नहीं यह नहीं। base reasoning language 22% में सभी English और एक German उदाहरण थे। French, Spanish और Italian में zero observed success इस test की behavior gap है, मॉडल distribution में व्यवहार की संभावना ठीक शून्य होने का प्रमाण नहीं।
SFT चरणों में व्यवहार सिखाता है
run में LoRA rank 8, alpha 16 और 1000 steps हैं; चार ml.g6e.12xlarge पर 16 L40S 48GB GPU, FSDP, bf16 और gradient checkpointing इस्तेमाल हैं। AWS के अनुसार करीब step 200 पर reasoning language 100% होती है; step 1000 पर answer language अभी 62% है। भाषा सीखने का दावा करते समय output segment और evaluation set बताना चाहिए। GPT-OSS का SFT और शुरुआती GRPO TRL इस्तेमाल करते हैं, HyperPod EKS और FSx for Lustre आधार हैं। बाद का Qwen control अलग stack है; ये configurations आपस में बदलने योग्य performance measurements नहीं।
GRPO में aggregate लाभ के साथ trade-off
SFT adapter merge करके नया rank-8 alpha-16 LoRA जोड़ा जाता है, prompt पर आठ generations के साथ। reward answer language को ±5, reasoning को ±1.5 और brevity को छोटा term देता है। GRPO समूह के responses की relative reward तुलना करता है, इसलिए उपयोगी candidate विविधता जरूरी है। चुना परिणाम reasoning 100% रखता और answer 62→70% करता है। French 60→70%, German 60→80%, Spanish 30→60%, English 100% रहता, मगर Italian 60→40% गिरता है। प्रति भाषा दस केस में एक केस दस points बदलता है। यह सीमित aggregate refinement है, सार्वभौमिक multilingual सुधार नहीं।
Control सुधार की जगह जांचता है, सार्वभौमिक सीमा नहीं
AWS veRL, Ray, KubeRay और vLLM पर आंतरिक Qwen2.5-7B-Instruct control भी बताती है। SFT से GRPO answer language 38→44% और reasoning 96→98% होती है। 200 GSM8K मामलों में base और step-30 GRPO दोनों 181/200, यानी 90.5% हैं। लेखक इसे groups में कम relative reward signal से जोड़ते हैं। इससे global quality ceiling या हर दूसरे GRPO setup की विफलता सिद्ध नहीं होती। खर्च से पहले sample diversity, reward और language regressions अलग निर्धारित acceptance set पर जांचें। AISubHub ने model train, manifests run या paid API से reproduction नहीं किया।
यह क्यों अहम है
AISubHub विश्लेषण: व्यवहार की कमी पर तरीका चुनें और हर भाषा व failure देखें। aggregate लाभ के साथ सबसे महत्वपूर्ण product language में regression हो सकता है।
सीमाएँ और उपलब्धता
ये AWS-reported प्रयोग हैं, हमारी measurements नहीं। छोटा language-compliance परीक्षण सामान्य reasoning, व्यापक भाषाएं या training economics सिद्ध नहीं करता। अलग Qwen control repository अभी सार्वजनिक नहीं था।
स्रोत और प्रमाण
स्रोत की तारीख: 20 अक्टू॰ 2026 · स्रोत जाँचा गया: 21 अक्टू॰ 2026
AI की सहायता से लिखे लेखों को दिए गए प्राथमिक स्रोतों से जाँचा जाता है। प्रदाता के दावों का श्रेय स्पष्ट है; सूची में होना समर्थन नहीं है।