تحليل معمق · قراءة نحو 3 دقائق
آبل تشرح توزيع استدلال النماذج بين أجهزة Mac باستخدام MLX وRDMA
يفصل تقرير 15 أكتوبر بين الذاكرة والتهيئة وفك الترميز؛ نتيجة أربعة أجهزة ليست ضمانا عاما للسرعة أو الطاقة.
- تاريخ المصدر
- نُشر هنا
- تم التحقق من المصدر
تجمع آبل الذاكرة الموحدة وRDMA عبر Thunderbolt لتوزيع الاستدلال بين Mac Studio. يحقق Muse Spark Open نحو 36.73 رمزا مولدا في الثانية على أربعة M5 Ultra وسياق 8192 رمزا. هذا اختبار محلي محدد، لا إطلاق جديد لنماذج المثال ولا اشتراك سحابي أو ضمان لكل عمل وكيل.
استمع إلى الأخبار
استمع إلى هذا المقال أو تابع تشغيل الأخبار.
جارٍ تجهيز القراءة…
صوت الجهاز
يتولى المتصفح أو الجهاز معالجة النطق. لا يرسل AISubHub النص إلى واجهة صوتية. تختلف الأصوات والتشغيل مع قفل الشاشة حسب الجهاز.
قد تتكرر عبارة قصيرة عند المتابعة.
لمحة سريعة
- لدى Muse إجمالي 816B ومعلمات نشطة 42B؛ يخفض NVFP4 حجمه إلى نحو 493GB لكن الحسابات الوسيطة تمنع احتواءه في جهاز واحد بذاكرة 512GB.
- يقسم خط الأنابيب الطبقات بحسب العمق، بينما يقسم التوازي الموتر كل طبقة ويحتاج اتصالا متكررا قليل الكمون.
- تحسن TTFT حتى 4.6× يقارن M5 وM3 منفردين مع Qwen وMistral، وليس Muse بخط أساس مستحيل لجهاز واحد.
السعة والسرعة سؤالان مختلفان
تستخدم آبل mlx_lm.benchmark بدفعة واحدة وتولد 128 رمزا بعد سياق 8192 أو 65536 رمزا. تفصل زمن أول رمز ومعدل فك الترميز وذروة الطاقة. تقيم Muse بصيغة NVFP4 وMistral Medium 3.5 بصيغة FP8 وQwen 3.8 بصيغة BF16. قلة المعلمات النشطة في خليط الخبراء تقلل الحساب، لا تعني تحميل أوزان النشطة فقط. تحتاج أوزان Muse وحدها في BF16 إلى أكثر من 1.6TB؛ وحتى 493GB بعد التكميم مع الوسائط لا تتسع في 512GB. يحل التوزيع السعة أولا ولا يسرع التوليد تلقائيا.
ما الذي يغيره نوعا التقسيم
يضع خط الأنابيب على جهازي Mac الطبقات المبكرة على جهاز والمتأخرة على الآخر. يبقى فك الترميز تسلسليا غالبا وبسرعة قريبة من جهاز واحد للنماذج التي تتسع فيه. يمكن لتهيئة السياق الطويل تداخل المقاطع بين المراحل. يحسب التوازي الموتر أجزاء كل طبقة معا لكنه يزيد الاتصالات الصغيرة. تستخدم البيئة macOS 26.2 وRDMA على Thunderbolt 5 وjaccl في MLX 0.30.1 أو أحدث وكابلين لكل رابط. علم مزامنة CPU–GPU السريعة في المثال تجريبي وليس إعدادا افتراضيا عاما.
الأرقام تحتاج خط أساس صحيحا
عند 8192 رمزا في الجدول الظاهر ينتقل Muse من 15.74 رمزا/ثانية بخط أنابيب جهازين إلى 24.99 بتوازي موتر على جهازين ثم 36.73 على أربعة. ليست مقارنة بجهاز واحد. مكسب TTFT حتى 4.6× وفك الترميز بنحو 1.6× يخصان Qwen وMistral على M5 مقابل M3 منفردين. عند 65536 رمزا تتأخر تهيئة Muse الموترية على جهازين عن خط الأنابيب بسبب اتصال تطبيع مخرجات الخبراء؛ أربعة تحسن المفاضلة. وفي تجربة أخرى لأربعة أجهزة وسياق طويل يخفض الكابلان TTFT من نحو 50.5 إلى 40.6 ثانية. لا يجوز حذف شروط السياق والتوصيل.
الوكيل المحلي ما زال يحتاج تقييم النظام
تقدم المقالة أمثلة تشغيل وخادم لربط MLX بعميل برمجة وكيل، لا اختبار كل الأدوات والتزامن والجودة. ذروة نحو 200W على M3 و300W على M5 تخص جهازا منفردا لا مجموع الأربعة. يفصل تحليلنا بين سعة الأوزان ومعالجة المدخل وسرعة المخرج والشبكة. قد تتيح أجهزة إضافية نموذجا أكبر دون تسارع متناسب إذا هيمن الاتصال. التكلفة وطاقة النظام الكامل وموثوقية الخدمة المتزامنة تبقى أسئلة مستقلة.
لماذا يهم
الفائدة طريق موثق لتجاوز ذاكرة جهاز واحد مع مفاضلات السعة والكمون، وقد يساعد تخطيط تجارب خاصة. لم تشغل AISubHub الاختبارات أو تشتر وتعد المجموعة أو تبدأ الخادم أو تقيس وكيلا إنتاجيا.
القيود والتوافر
قرأنا مقالة آبل كاملة والجداول الافتراضية الظاهرة لا إعادة مستقلة للتجربة. تتوقف النتائج على الصيغة والسياق وطول التوليد والبرمجيات والكابلات. لا نحولها إلى إطلاق نموذج أو ترتيب جودة أو حق اشتراك أو استهلاك المجموعة الكامل.
المصادر والأدلة
تاريخ المصدر: 15/10/2026 · تم التحقق من المصدر: 20/10/2026
مقالات تحريرية بمساعدة الذكاء الاصطناعي تُراجع مقابل المصادر الأولية المذكورة. تُنسب ادعاءات الشركات إليها، والإدراج لا يعني التوصية.