تحليل معمق · قراءة نحو 5 دقائق
كلاودفلير تشرح حادثة عزل ذاكرة GLM-5.3 ولماذا لا تكفي الاستجابة الناجحة
إفصاح 26 أكتوبر يميز تعرض البيانات في أغسطس وسبتمبر عن الإصلاحات والعمل غير المكتمل على سلامة الذاكرة.
- نُشر هنا
- تاريخ المصدر
- تم التحقق من المصدر
نشرت كلاودفلير في 26 أكتوبر تقريرًا عن ظهور بيانات طلبات في استجابات طلبات أخرى ضمن نشر GLM-5.3 على Workers AI. وتعزو الحادثة إلى اختلاف سعة الذاكرة مع خلل في معالجة الرفض في SGLang. الخدمة أُصلحت في 9 سبتمبر؛ التقرير لا يصف عطلًا جديدًا ولا يثبت خللًا في جميع عمليات نشر النموذج.
استمع إلى الأخبار
استمع إلى هذا المقال أو تابع تشغيل الأخبار.
جارٍ تجهيز القراءة…
صوت الجهاز
يتولى المتصفح أو الجهاز معالجة النطق. لا يرسل AISubHub النص إلى واجهة صوتية. تختلف الأصوات والتشغيل مع قفل الشاشة حسب الجهاز.
قد تتكرر عبارة قصيرة عند المتابعة.
لمحة سريعة
- تقول الشركة إن 155 استجابة تأثرت بين 27 أغسطس و9 سبتمبر، وجميعها لمدخلات تتجاوز 681,280 tokens. هذا عدد الاستجابات وليس عدد العملاء.
- كان السياق المعلن 1,048,576 tokens، مقابل 681,280 لمجمع prefill. وبعد الإصلاح أصبح نحو 2.04 مليون، مع إصلاح مسار رفض المحرك أيضًا.
- توصي كلاودفلير مشغلي النشر المفصول باستخدام SGLang v0.5.22 أو أحدث. نطاق الكشف مرتبط بالمعمارية، والعمل المستقبلي ليس ضمانًا شاملًا مكتملًا.
تاريخ الإفصاح يختلف عن فترة الحادثة
تحدد كلاودفلير التعرض من إطلاق النموذج على Workers AI في 27 أغسطس حتى 9 سبتمبر. وأبلغ الباحث Gadi Evron من Knostic في 8 سبتمبر. وفي اليوم التالي أُعلنت الحادثة عند 13:22 UTC، وقُيد النموذج عند 14:00، ثم أُعيدت الخدمة العامة عند 19:40 بعد التعديل والتحقق. أما 26 أكتوبر فهو تاريخ النشر المنسق.
حددت الشركة 155 استجابة احتوت مواد من طلبات حديثة لعملاء آخرين إلى النموذج نفسه. وبعد استبعاد اختباراتها واختبارات الباحث، رأت أن التوقيت والحجم ينسجمان مع الاستخدام العادي للسياق الطويل، ولم تجد دليل استغلال متعمد. لا يثبت ذلك أن إساءة الاستخدام لم تقع قط. وتقول أيضًا إن نماذج Workers AI الأخرى لم تتأثر.
نافذة السياق تجاوزت السعة الفعلية
كانت وحدات GPU الخاصة بـprefill تعالج المدخلات وتنقل ذاكرة المفاتيح والقيم عبر Mooncake وRDMA إلى وحدات decode. وكان SGLang يحدد سعة المجمع من الذاكرة المتبقية بعد تحميل الأوزان، بينما يضبط حد السياق بصورة منفصلة. لذلك اجتمعت نافذة 1,048,576 tokens مع مجمع يتسع لـ681,280 فقط.
تقر كلاودفلير بأنها عرفت الاختلاف قبل الإطلاق، لكنها توقعت رفض الطلبات الأكبر بأمان لأن اختبارات السياق الطويل أعادت استجابات ناجحة. ويعترف التقرير بفجوة: فُحصت حالة HTTP والأداء دون تحقق كافٍ من المخرجات. التفسير يتناول تفاعل الإعدادات مع محرك الاستدلال، ولا يقدم دليلًا على باب خلفي في أوزان النموذج.
طلب مرفوض ظل يُعامل كطلب نشط
وسم المجدول الطلب الكبير للرفض واستبدل المدخل بنائب من رمز واحد. لكن القبول في النشر المفصول كان يفحص انتهاء الطلب بدلًا من رفضه. والخطأ المعلق لم يجعل شرط الانتهاء صحيحًا. وهكذا قبل طرفا prefill وdecode طلبًا كان يجب أن ينتهي بخطأ، بدلًا من السماح له بالانتقال إلى التوليد.
يوضح الرسم ثماني صفحات محجوزة: كتب الطلب الجديد صفحة واحدة، بينما أمكن لـdecode قراءة سبع صفحات قديمة معها. هذه أعداد توضيحية وليست إحصاءً للحادثة. كان العميل قد يتلقى HTTP 200 وعدد رموز معقولًا ونصًا مترابطًا يتضمن محتوى سابقًا. نجاح تسليم الاستجابة لم يثبت صحة عزل البيانات.
الإصلاح الفوري جمع الإعدادات والمحرك
تقول كلاودفلير إنها عدلت الإعدادات ليصبح مجمع prefill نحو 2.04 مليون tokens، أعلى من سياق 1,048,576. كما جعلت الرفض المعلق ينهي الطلب عند القبول، قبل تخصيص الذاكرة أو نقلها، وتحققت من التغييرين قبل إعادة الوصول. توسيع المجمع وحده كان سيترك اعتمادًا هشًا على إعدادات الذاكرة المستقبلية.
يميز جدول المشروع بين الإصلاح الأول في v0.5.20، والرفض الأبكر في v0.5.21، والتقوية اللاحقة حتى v0.5.22. وتوصي الشركة مشغلي النشر المفصول بـv0.5.22 أو أحدث، أو نقل التصحيحات المناسبة. هذه توصية لنمط الخدمة ومجموعة الإصلاحات المذكورة، وليست مقارنة أداء أو إثباتًا بأن تثبيت إصدار يجعل كل نشر آمنًا.
الكتابات الجارية تجعل عمر الصفحة مشكلة موزعة
يشرح التقرير فئة مرتبطة من الأخطاء: إلغاء الطلب لا يسترجع كتابات RDMA التي أُرسلت بالفعل. وإعادة تخصيص الصفحات مبكرًا قد تسمح لكتابات متأخرة بإفساد طلب آخر. بخلاف سباق التوقيت هذا، اتبع الطلب المرفوض في الحادثة مسار تسليم خاطئًا بصورة حتمية. وفي الحالتين يلزم تتبع الملكية حتى تنتهي جميع العمليات المشاركة.
تصف كلاودفلير تحريرًا مؤجلًا في الدورين، وحدودًا لدفعات Mooncake، وتغيير تعامل موازن الحمل مع قطع الاتصال، وفحوص النشر. وتوصي بقياس المجمعات الفعلية بعد تغيير الأوزان أو التكميم أو التوازي. ولا يغطي Checksum وKV Canary كل المعماريات بعد؛ يجب التحقق من التغطية بدل افتراض فحص كل طلب لمجرد تفعيل خيار.
عمل السلامة طويل الأجل لم يكتمل
جُرب نموذج أولي لوسوم الصفحات على GLM-5.2 في أغسطس. وتقول كلاودفلير إن كلفة معدل المعالجة وزمن الاستجابة الطرفي كانت أقل من 1% في اختباراتها، لكنها عطلت النموذج بعد ذلك بقليل بسبب مشكلات الموثوقية. الرقم يخص تجربة محدودة، لا حماية منشورة حاليًا أو كلفة عامة. وتصفير الصفحات عند تحريرها ما زال مقترحًا أوليًا.
يتحقق checksum للنقل من التسليم، بينما يوسع فحص ملكية الصفحة التحقق إلى القراءات اللاحقة. وتخطط كلاودفلير أيضًا لنمذجة رسمية لبروتوكول النقل الموزع مع الإقرار بحدود الإثبات. تحليل AISubHub: يجب فحص ثوابت العزل والرفض ودورة الحياة منفصلة، والتمييز بوضوح بين الحماية المطبقة والنماذج الأولية والضمانات المستقبلية.
لماذا يهم
تحليل AISubHub: يحتاج عزل المستأجرين إلى معيار قبول مستقل. قد تبدو حالة HTTP وعدد الرموز والسرعة سليمة رغم خطأ ملكية الذاكرة. لذا تختلف أسئلة اختبار الإعدادات ومسارات الفشل عن أسئلة قياس الأداء.
القيود والتوافر
نطاق الحادثة وإصلاحها وعدم العثور على دليل استغلال متعمد هي رواية كلاودفلير. لم يجر AISubHub تدقيقًا مستقلًا للخدمة أو التصحيحات. ولا يثبت التقرير تأثر كل نشر لـGLM أو حصانة كل إعدادات SGLang من أخطاء دورة حياة الذاكرة المخبأة.
المصادر والأدلة
تاريخ المصدر: · تم التحقق من المصدر:
مقالات تحريرية بمساعدة الذكاء الاصطناعي تُراجع مقابل المصادر الأولية المذكورة. تُنسب ادعاءات الشركات إليها، والإدراج لا يعني التوصية.