تحليل معمق · قراءة نحو 3 دقائق
دليل Beam على AWS يفصل الحساب النشط عن حجم النشر
يشرح دليل 16 أكتوبر المسارات المدارة وHyperPod لنموذج 501 مليار معلمة، دون سعر عام.
- تاريخ المصدر
- نُشر هنا
- تم التحقق من المصدر
تشرح AWS نشر Reflection Beam عبر JumpStart أو HyperPod Inference. الأوزان المفتوحة وقلة المعلمات النشطة لا تلغيان استضافة النموذج الكامل وبيئة تشغيله.
استمع إلى الأخبار
استمع إلى هذا المقال أو تابع تشغيل الأخبار.
جارٍ تجهيز القراءة…
صوت الجهاز
يتولى المتصفح أو الجهاز معالجة النطق. لا يرسل AISubHub النص إلى واجهة صوتية. تختلف الأصوات والتشغيل مع قفل الشاشة حسب الجهاز.
قد تتكرر عبارة قصيرة عند المتابعة.
لمحة سريعة
- يضم Beam 501 مليار معلمة إجمالية و23 مليار نشطة؛ وتعلن Reflection مليون رمز للسياق الفعال. تصف AWS صيغ BF16 وFP8 وNVFP4 تحت Apache 2.0.
- المناطق الأولية لـJumpStart شمال فرجينيا وأوهايو، مع بقاء الصلاحيات والوصول والشروط وسعة GPU مطلوبة.
ماذا يعني الرقمان
Beam خليط خبراء متناثر للكود والأدوات والمهام متعددة الخطوات. تؤثر 501 مليار إجمالية في التخزين وذاكرة الأوزان والتجزئة، بينما تؤثر 23 مليار نشطة في الحساب لكل رمز. لا يصح تقدير السعة كأن النشط هو كل النموذج. طول السياق الفعال البالغ مليون رمز يحتاج أيضاً ذاكرة KV وقدرة تشغيل، وليس حصة مجانية. تقول AWS إن أوزان Hugging Face تحت Apache 2.0 بصيغ BF16 وFP8 وNVFP4. لم ندقق كل ملف أو اعتماده.
العتاد والوصول خاصان بالإعداد
يتطلب الدليل عدة GPU وتخطيط عدة عقد لـBF16 الأعلى ذاكرة. يسرد FP8 على ml.p5.48xlarge مع H100 أو ml.p5e.48xlarge وml.p5en.48xlarge مع H200؛ وNVFP4 على ml.p6-b200.48xlarge مع B200. ليست كل أوزان وتشغيل وتوازٍ قابلة للخلط. شمال فرجينيا وأوهايو منطقتا البداية، لكن السعة والحصص تُراجع منفصلة. يلزم إذن الشبكة والتخزين ووصول النموذج والشروط وAWS CLI وPython 3.11 فأحدث. لا نشر مجاني عام.
ثلاثة ترتيبات تشغيل
يدير endpoint JumpStart النموذج والحاوية والاستدعاء دون تشغيل Kubernetes. يبقي JumpStart على HyperPod الحاوية المدارة مع تحكم عنقود EKS. يتيح SGLang أو vLLM المخصص الصورة والمعاملات والتكميم والتوزيع، مع Inference Operator وإضافات وشبكة ووصول. نموذج endpoint ينشر بحدود ويستدعي باختصار ثم ينظف، وNVFP4 افتراضه. هذا وصف الأداة المنشورة، لا تنفيذنا أو إثبات نجاح مهمة كود طويلة.
قابلية التكرار تشمل الملفات والذاكرة
توصي AWS بتثبيت مراجعة النموذج وبصمة الصورة ومدخلات غير متغيرة وأسرار خارج المستودع. يمكن نسخ أوزان الإنتاج إلى S3 أو FSx؛ ويحمل cache اختياري الأوزان والصور إلى NVMe محلي. يختلف ذلك عن cache KV المتدرج والتوجيه. توافق البوابة مع OpenAI ليس اشتراكاً أو رصيداً منه. مهلة النشر ليست زمن النموذج المقاس. سجل الملفات وحالة cache لتجنب نسب checkpoint مختلف أو بدء دافئ إلى تقدم التشغيل.
تحليل: اختبر النتيجة والفاتورة كاملة
ينبغي للتجربة طلبات كود وأدوات ممثلة بالتزامن المتوقع، مع معايير نجاح وحدود صلاحيات. قِس النجاح ووسيط TTFT وذيله وتأخر الرمز والمدة والإنتاجية، وراجع الجودة بعد تغيير الدقة. هذه أولويات الدليل وليست تجاربنا. تشمل التكلفة السعة الخاملة والتخزين والتحضير؛ المعلمات النشطة ليست سعراً. نظف endpoint والعنقود المخصص والملفات والموازنات والموارد الباقية. تمنح الأوزان المفتوحة تحكماً، لكن الاعتمادية والفاتورة المقبولة تحتاجان أدلة حمل محدد وتشغيلاً مسؤولاً.
لماذا يهم
يمكن اختيار endpoint مدار أو حاوية مدارة على HyperPod أو SGLang/vLLM مخصص، بمسؤوليات مختلفة.
القيود والتوافر
لم نحمل الأوزان أو ننشر AWS أو نقس الجودة والتكلفة. ليس اشتراكاً شخصياً أو ضمان وصول رخيص للجميع.
المصادر والأدلة
تاريخ المصدر: 16/10/2026 · تم التحقق من المصدر: 20/10/2026
مقالات تحريرية بمساعدة الذكاء الاصطناعي تُراجع مقابل المصادر الأولية المذكورة. تُنسب ادعاءات الشركات إليها، والإدراج لا يعني التوصية.