تحليل معمق · قراءة نحو 6 دقائق
ThinkingBox يحوّل فحص قواعد البيانات إلى مكافآت تدريب مع تراجع التغطية
تقول Microsoft وHugging Face إن 50 خطوة GRPO مع Qwen3.8-27B حسّنت النجاح المتكرر، لكنها قلّلت عدد المهام المحلولة مرة واحدة على الأقل.
- نُشر هنا
- تاريخ المصدر
- تم التحقق من المصدر
في تدوينة تقنية مشتركة بتاريخ 22 أكتوبر، عرضت Microsoft وHugging Face نظام ThinkingBox-Training الذي يكافئ الحالة الفعلية التي يتركها الوكيل في قاعدة البيانات. يورد مقال Tuhin Kundu تحسناً في متوسط النجاح وتكراره مع انخفاض التغطية. هذه نتائج تجارب المؤلفين، وليست إعادة إنتاج من AISubHub أو إصداراً جديداً من نموذج Qwen الأساسي.
استمع إلى الأخبار
استمع إلى هذا المقال أو تابع تشغيل الأخبار.
جارٍ تجهيز القراءة…
صوت الجهاز
يتولى المتصفح أو الجهاز معالجة النطق. لا يرسل AISubHub النص إلى واجهة صوتية. تختلف الأصوات والتشغيل مع قفل الشاشة حسب الجهاز.
قد تتكرر عبارة قصيرة عند المتابعة.
لمحة سريعة
- في 507 مهام جرى اختبار كل منها 20 مرة، زادت المحاولات الناجحة من 5,242 إلى 6,163، والمهام الناجحة في المحاولات العشرين كلها من 38 إلى 107.
- انخفضت المهام المحلولة مرة واحدة على الأقل من 453 إلى 446. مجموعة التدريب ذات 187 مهمة منفصلة عن الاختبار وليست قائمة الأمثلة العامة.
- انخفاض التكلفة المعلن يخص مقارنة تقديرية للاستدلال، ولا يشمل التدريب أو تجارب استكشاف سياسة النموذج.
انتهاء المحادثة لا يضمن صحة السجلات
المشكلة هي أن يعلن الوكيل النجاح بينما يترك سجلات العمل خاطئة. يستخدم المقال حجز فندق اصطناعياً بقيمة 1,450 دولاراً، يتطلب موافقة المدير قبل الانتقال إلى غرفة أدنى. غيّر النموذج الأساسي الحجز دون موافقة في 15 محاولة من أصل 20. بعد التدريب ظل الحجز والدفع دون تغيير في المحاولات العشرين، لكن جميع السجلات المتوقعة تطابقت في 19 فقط. الحفاظ على هاتين الحالتين لا يعني نجاح المهمة كاملة في كل محاولة.
يفحص ThinkingBox الحالة النهائية للواجهة الخلفية والآثار الجانبية، بدلاً من مكافأة شرح مقنع أو تسلسل ثابت لاستدعاء الأدوات. يصف المؤلفون مكافأة ثنائية: النتيجة الصحيحة تنجح؛ والآثار الخاطئة أو الناقصة أو الزائدة تفشل. معظم الفحوص حتمية، لكن أقلية من المتطلبات الضيقة قد تستخدم نموذج لغة حَكَماً. ويرى تحليل AISubHub أن فائدة المكافأة تظل مرتبطة بالنتائج المهمة التي تلتقطها اختبارات الحالة ومعاييرها فعلياً.
اختيار المهام مرة واحدة والتعلّم من تباين النتائج
يجري فرز المرشحين واستكشاف السياسة الأساسية وتصنيف الصعوبة مرة واحدة خارج التدريب، ثم تتكرر الحلقات والتقييم والتحديث على مجموعة ثابتة. عند تسجيل k نجاحات في n تجارب، تستخدم الطريقة توزيع Jeffreys اللاحق، Beta(k + ½, n − k + ½)، وتوزع المهام على خمس فئات بحسب الكتلة الاحتمالية اللاحقة. يحتفظ تدريب جميع المعاملات بالفئات الوسطى من 0.08 إلى أقل من 0.90؛ أما اختيار LoRA الموضح فيستبعد أيضاً فئة المهام كثيرة النجاح، 0.60–0.90. هاتان قاعدتان مختلفتان.
تستخدم التجربة المعلنة لجميع المعاملات 187 مهمة، وGRPO بمتوسط على مستوى الرموز، و50 خطوة. ينتج كل تحديث 18 مجموعة من ثماني حلقات كاملة، أي 144 حلقة، على 24 وحدة H100. المجموعة التي تتلقى أصفاراً فقط أو آحاداً فقط لا توفر أفضلية نسبية لمكافأة المهمة بعد التمركز، بينما توفر النتائج المختلطة تبايناً للتعلم. تُستبدل المجموعات عديمة التباين وتُعوّض أعطال الخلفية منفصلةً دون عدّها أخطاء للوكيل. الحلقات المستبعدة تظل مكلفة. الإعداد المرجعي يستخدم AdamW بمعدل تعلم 1e-6 واضمحلال أوزان صفري.
تحسن التكرار لا يعني اتساع نطاق الحل
يشمل التقييم 507 مهام و20 محاولة لكل مهمة، بإجمالي 10,140 محاولة. يقيس pass@1 لدى المؤلفين متوسط النجاح، وقد ارتفع من 51.70% إلى 60.78%، بزيادة 9.08 نقاط مئوية. ويعدّ observed 20/20 المهام الناجحة في جميع المحاولات المسجلة: ارتفع العدد من 38 إلى 107 من أصل 507، أي من 7.50% إلى 21.10%. هذا رصد لعينة محدودة؛ عشرون نجاحاً لا تضمن موثوقية دائمة أو نجاحاً في مدخل إنتاج جديد.
يسأل pass@20 إن كانت المهمة قد حُلّت مرة واحدة على الأقل. انخفض من 453 مهمة، 89.35%، إلى 446، 87.97%. تحسن متوسط النجاح وobserved 20/20 في المجالات الخمسة، لكن تغطية النجاح مرة واحدة تراجعت في التجزئة والسفر وتأمين السيارات. يدعم ذلك تفسير المؤلفين لسلوك أكثر قابلية للتكرار لكنه أضيق نطاقاً. ولن يحوّل AISubHub مقاييس متعارضة إلى ترتيب موحد لجودة النماذج أو يحذف التغطية المفقودة عند تفسير التحسن.
إتاحة حزمة التدريب لا تكفي لإعادة إنتاج النتائج
تقول التدوينة إن الإصدار يشمل اختيار المهام والحلقات والمكافآت والتكامل مع Verl. قائمة الأمثلة العامة ليست المجموعة الخاصة ذات 187 مهمة التي أنتجت النتائج؛ ويحتاج المستخدم إلى مصدر تدريب مصرح به ومنفصل عن الاختبار. تستهدف الإعدادات الموثقة Linux أو WSL وPython 3.12 وVerl 0.9.0 معدلاً، مع ملفات النموذج ووحدات GPU مناسبة ونقاط اتصال للمستخدم المحاكى والحَكَم. يستخدم التدريب ثلاث عقد، بكل منها ثماني H100؛ أما تقييم نقطة الحفظ التاريخية فيستخدم ثماني A100. قرأنا الأوامر ولم ننفذها أو نفحص المستودع والأدلة المرتبطة.
يقدّر المؤلفون تكلفة الاستدلال لحملة التقييم ذات 20 تكراراً بنحو 925.80 دولاراً قبل التدريب و855.58 بعده. تنخفض تكلفة المحاولة الناجحة من 0.177 إلى 0.139 دولار، وتكلفة الحملة مقسومة على المهام الناجحة 20/20 من 24.36 إلى 8.00 دولارات. هذه تقديرات مقارنة للتشغيل، وليست فواتير أو عروض أسعار سحابية. وهي تستبعد التدريب وتجارب السياسة المستخدمة لاختيار البيانات. لذلك لا يثبت انخفاض النسبة الأخيرة 67.2% انخفاض إجمالي نفقات المؤسسة بالنسبة نفسها.
ما الذي يمكن للمهندسين استخدامه وما حدود الاستنتاج
يخصص المؤلفون ThinkingBox-Bench للتقييم، ويصفون مجالاته وقواعد بياناته ومعظم أدواته بأنها لم تظهر أثناء التدريب. لكن المرحلتين تشتركان في الإطار والمستخدم المحاكى وتقييم الحالة النهائية وبعض الأدوات وأسلوب المهام. يعيد الاختبار العام بناء إجراءات عمل اصطناعية؛ والعملاء ليسوا حقيقيين. هذه أدلة على تجربة نقل محدودة، لا إثبات أمان أي إجراء مؤسسي. تذكر التدوينة تراخيص للكود والبيانات، لكننا لم نتحقق مستقلاً من ملفات الترخيص المرتبطة.
القراءة العملية لدى AISubHub هي قياس التغطية والتكرار معاً، والتحقق من الآثار المهمة، والتأكد من تفسير الاستدلال وأسماء الأدوات ومعاملاتها بالطريقة نفسها أثناء التدريب والتقييم. تحتاج أعطال النظام أيضاً إلى حساب منفصل. وقد تحسّن مكافأة تتجاهل أثراً مهماً الهدف الخطأ بكفاءة. لم نقرأ الورقة المرتبطة أو نعد تشغيل إحصاءاتها؛ كما أن المقارنة لا تعزل اختيار المهام بوصفه السبب الوحيد لكل تحسن. يتطلب الإنتاج تحققاً خاصاً بالمهام الفعلية.
لماذا يهم
يعرض العمل تصميماً ملموساً لتحويل فحوص النتائج القابلة للتنفيذ إلى إشارات تدريب، ويفصل بين إيجاد حل وتكرار النجاح. ولا يثبت موثوقية شاملة أو وفراً إجمالياً.
القيود والتوافر
جميع النتائج منسوبة إلى مؤلفي التدوينة المشتركة. تحدّ المجموعة الخاصة والمستودع والورقة غير المفحوصين والآليات المشتركة والمهام الاصطناعية والتكاليف المستبعدة من إعادة الإنتاج والتعميم. تاريخ المصدر محفوظ بدقة اليوم.
المصادر والأدلة
تاريخ المصدر: · تم التحقق من المصدر:
مقالات تحريرية بمساعدة الذكاء الاصطناعي تُراجع مقابل المصادر الأولية المذكورة. تُنسب ادعاءات الشركات إليها، والإدراج لا يعني التوصية.