تحليل معمق · قراءة نحو 3 دقائق
تفصل تجربة GPT-OSS-20B من AWS الالتزام باللغة عن صحة الاستدلال
توضح دراسة ضبط متعددة اللغات صغيرة دور SFT وGRPO، مع تراجع لغة واحدة وحدود التعميم.
- تاريخ المصدر
- نُشر هنا
- تم التحقق من المصدر
يصف دليل AWS في 20 أكتوبر ضبط GPT-OSS-20B بـLoRA على HyperPod لجعل نص الاستدلال المولد والإجابة يتبعان اللغة المطلوبة. هذا تخصيص لا نموذج أساس جديد. النتيجة تقيس لغة الإخراج، لا صحة الرياضيات أو الحقائق أو وفاء الاستدلال.
استمع إلى الأخبار
استمع إلى هذا المقال أو تابع تشغيل الأخبار.
جارٍ تجهيز القراءة…
صوت الجهاز
يتولى المتصفح أو الجهاز معالجة النطق. لا يرسل AISubHub النص إلى واجهة صوتية. تختلف الأصوات والتشغيل مع قفل الشاشة حسب الجهاز.
قد تتكرر عبارة قصيرة عند المتابعة.
لمحة سريعة
- في 50 حالة، ارتفع التزام لغة الاستدلال من 11/50 في الأساس إلى 50/50 بعد SFT. وارتفعت لغة الإجابة من 31/50 بعد SFT إلى 35/50 بعد GRPO.
- المكسب 8 نقاط مئوية، أي أربع حالات؛ وتراجعت الإيطالية من 60% إلى 40%، فلم تتحسن كل اللغات.
ما الذي تقيسه الحالات الخمسون
تطلب المهمة نص الاستدلال والإجابة بالإنجليزية أو الفرنسية أو الألمانية أو الإسبانية أو الإيطالية. عشرة مسائل رياضيات ومنطق بخمس لغات تعطي 50 حالة. وتضم البيانات الموصوفة نحو 949 مثال تدريب و50 تحقق. تقيس المؤشرات لغة الجزأين، لا صحة الحل الرياضي. سجل الأساس 22% للاستدلال، تشمل الإنجليزية كلها وحالة ألمانية. عدم رصد نجاح بالفرنسية والإسبانية والإيطالية يدل على فجوة في الاختبار، لا على احتمال صفري صارم للسلوك في توزيع النموذج.
يتعلم SFT السلوك على مراحل
يستخدم الضبط LoRA برتبة 8 وalpha 16 عبر 1000 خطوة، مع 16 وحدة L40S 48GB على أربع ml.g6e.12xlarge وFSDP وbf16 وgradient checkpointing. تبلغ AWS عن وصول لغة الاستدلال إلى 100% قرب الخطوة 200، لكن لغة الإجابة عند 1000 تبقى 62%. لذا يتطلب قول تعلم اللغة تحديد جزء الإخراج ومجموعة التقييم. يستخدم SFT وGRPO الأولي لـGPT-OSS مكتبة TRL فوق HyperPod EKS وFSx for Lustre. يستخدم تحكم Qwen اللاحق مكدسًا مختلفًا؛ ليست الإعدادات قياسات أداء قابلة للتبادل.
يحسن GRPO الإجمالي مع مفاضلة
ينطلق من SFT بدمج المحول وإضافة LoRA جديد برتبة 8 وalpha 16، مع ثمانية مخرجات لكل prompt. تعطي المكافأة لغة الإجابة ±5 والاستدلال ±1.5 وحدًا أصغر للاختصار. يقارن GRPO مخرجات المجموعة ويعزز المكافآت الأفضل نسبيًا؛ لذلك يهم التنوع المفيد. تحافظ النتيجة المختارة على الاستدلال 100% وترفع الإجابة 62→70%. الفرنسية 60→70%، الألمانية 60→80%، الإسبانية 30→60%، الإنجليزية ثابتة 100%، لكن الإيطالية 60→40%. بعشر حالات لكل لغة تحرك حالة واحدة عشر نقاط. هذا تحسين إجمالي محدود لا تقدم شامل لكل اللغات.
يختبر التحكم هامش التحسن لا سقفًا عالميًا
تبلغ AWS أيضًا عن تجربة Qwen2.5-7B-Instruct داخلية باستخدام veRL وRay وKubeRay وvLLM. من SFT إلى GRPO ترتفع لغة الإجابة 38→44% والاستدلال 96→98%. على 200 حالة GSM8K يحقق الأساس وGRPO عند الخطوة 30 النتيجة نفسها 181/200 أو 90.5%. يربط المؤلفون غياب المكسب بضعف إشارة المكافأة النسبية في المجموعات. لا يثبت هذا سقف جودة عالميًا أو فشل كل إعداد GRPO آخر. قبل إنفاق الموارد افحص التنوع والمكافأة والتراجعات اللغوية بقبول محدد منفصلًا. لم تدرب AISubHub نموذجًا أو تشغل ملفات التنفيذ أو تدفع API لإعادة النتائج.
لماذا يهم
تحليل AISubHub: حدد فجوة السلوك ثم افحص كل لغة ونوع فشل. قد يتزامن مكسب إجمالي مع تراجع أهم لغة للمنتج.
القيود والتوافر
هذه تجارب تبلغ عنها AWS لا قياساتنا. اختبار الالتزام اللغوي الصغير لا يثبت جودة استدلال عامة أو تغطية واسعة أو اقتصاديات التدريب. ولم يكن مستودع تحكم Qwen المنفصل منشورًا بعد.
المصادر والأدلة
تاريخ المصدر: 20/10/2026 · تم التحقق من المصدر: 21/10/2026
مقالات تحريرية بمساعدة الذكاء الاصطناعي تُراجع مقابل المصادر الأولية المذكورة. تُنسب ادعاءات الشركات إليها، والإدراج لا يعني التوصية.