تحليل معمق · قراءة نحو 5 دقائق
AWS تشرح التخزين المؤقت لموجّهات وكلاء Bedrock: بادئات ثابتة وأمثلة تكلفة منفصلة
يجمع الدليل بادئة مشتركة صريحة مع سجل ضمني متنامٍ، ويفصل تغيّر الأدوات والمساعدين والتكلفة النموذجية ومراقبة نقاط النهاية.
- نُشر هنا
- تاريخ المصدر
- تم التحقق من المصدر
يشرح دليل هندسي نشره Claudio Mazzoni لدى AWS في 26 أكتوبر إعادة استخدام الحساب لوكلاء يعملون بنماذج OpenAI على Amazon Bedrock. ليس إعلان نموذج جديد. يستند تحليلنا إلى المقال الكامل ورسوم التكلفة؛ لم ينفّذ AISubHub الشيفرة ولم يقس التكلفة أو التأخير أو التوافر بصورة مستقلة.
استمع إلى الأخبار
استمع إلى هذا المقال أو تابع تشغيل الأخبار.
جارٍ تجهيز القراءة…
صوت الجهاز
يتولى المتصفح أو الجهاز معالجة النطق. لا يرسل AISubHub النص إلى واجهة صوتية. تختلف الأصوات والتشغيل مع قفل الشاشة حسب الجهاز.
قد تتكرر عبارة قصيرة عند المتابعة.
لمحة سريعة
- تحتاج البادئة إلى 1,024 tokens على الأقل. تصف AWS مدة دنيا قدرها 30 دقيقة بعد الكتابة أو إعادة الاستخدام الناجحة، وتكلفة كتابة تساوي 1.25 مرة سعر الإدخال العادي.
- يعرض الشكل 4 تكلفة إدخال نسبية قدرها 0.38 للإعداد الضمني الموضح و0.39 للحدود المتحركة، مقابل 1.00 دون تخزين مؤقت؛ وهي نتائج عبء محدد.
- مثال نموذجي آخر يبدأ ببادئة 8,000 tokens وست جولات تضيف كل منها 2,000 tokens: 0.87 دولار دون تخزين، و0.50 للثابت، و0.32 للحدود المتحركة.
1. إعادة استخدام الحساب لا تنشئ ذاكرة دائمة
يرسل الوكيل عادة تعريفات الأدوات والتعليمات والمحادثات السابقة مع كل طلب. يبني prefill حالة المفاتيح والقيم من الإدخال؛ ثم يعيد التخزين المؤقت استخدام بادئة مطابقة ويعالج اللاحقة الجديدة. يجب تطابق رموز الإدخال، لذا تثبت طريقة تسلسل الأدوات وترتيبها، وتوضع الأوقات والأسماء ومعرّفات الطلب المتغيرة بعد البادئة القابلة لإعادة الاستخدام.
تحدد العلامة الصريحة نهاية مشتركة بعد الأدوات والتعليمات، ويتبع النمط الضمني نهايات محادثة مؤهلة. يمكن جمعهما مع حد أدنى 1,024 tokens. يترك store=False في الأمثلة إدارة السجل للتطبيق ولا يوقف التخزين المؤقت. هذا تحسين للحساب، وليس ذاكرة دائمة للوكيل أو إذنًا بحذف التاريخ الذي يحتاجه الطلب.
2. إبقاء الحدود السابقة مع نمو السجل
تضيف الحلقة مخرجات النموذج ونتائج الأدوات المقابلة، بما فيها الاستدلال المشفر، وتحافظ على الرسائل السابقة. في النمط الصريح وحده تضاف علامة لأحدث مجموعة نتائج وتبقى العلامات القديمة. تعيد الحدود الثابتة وحدها معالجة السجل اللاحق، وقد يفقد نقل علامة وحيدة إلى الجولة الأخيرة إعادة الاستخدام. لا تضمن نهاية ضمنية بعد مهمة وجود نهاية مشتركة أقصر لمهام مختلفة.
يتناول الشكل 4 ست جولات أدوات على GPT-6 Astra مع نحو 2,000 tokens من نتائج الأدوات لكل جولة. التكلفة النسبية 0.38 للإعداد الضمني الموضح، و0.39 للحدود المتحركة، و0.61 للثابت وحده، و0.72 عند تعليم الجولة الأخيرة فقط، مقابل 1.00 دون تخزين. تخص تخفيضات نحو 62% و61% هذه الإعدادات، وليست نسبة 64% للمثال النموذجي المختلف في الشكل 9.
3. تغيير الأدوات القابلة للاستدعاء دون إعادة بناء الفهرس
للأدوات المعروفة يحتفظ الدليل بالقائمة TOOLS المرتبة نفسها، ويغير allowed_tools عبر tool_choice. يتيح auto للنموذج تقرير استدعاء أداة مسموحة، بينما يطلب required استدعاءً مسموحًا واحدًا على الأقل. لا يتغير الفهرس المخزن. يفسر AISubHub ذلك بوصفه تنظيمًا للموجّه، لا دليلًا على أمان صلاحيات التطبيق أو تنفيذ الأدوات.
عند إضافة أدوات أثناء الجلسة تقول AWS إن Runtime وMantle يقبلان additional_tools لنماذج GPT-6 Astra وGPT-6.1 Sol وGPT-5.6 Luna. يضاف المخطط إلى السجل دون تغيير الفهرس الأصلي، ويبقى العنصر في الطلبات التالية. لا يحمل additional_tools نفسه حدًا للتخزين؛ يضع المثال الصريح علامة في input_text لاحق ويحفظ العلامات القديمة. تبدأ الأدوار المختلفة بفهارس مستقرة منفصلة، ولا يعني ذلك توافر كل نموذج أو Region.
4. تهيئة السياق قبل إطلاق المساعدين بالتوازي
يجب أن ينتهي طلب تهيئة عادي قبل بدء الطلبات المتوازية. تضع التهيئة والمساعدون علامة للبادئة المشتركة حتى في النمط الضمني، مع الأدوات والنموذج والمفتاح نفسها، وتتحقق عدادات usage أولًا من نشاط التخزين. يستطيع مساعد التلخيص نسخ سجل الوكيل الأصلي كاملًا وإضافة تعليمته دون تعديل الأصل؛ لا تنشئ التعليمة المضافة تلقائيًا نهاية تخزين جديدة.
تحتاج إعادة الاستخدام إلى النموذج وحساب AWS وRegion والمفتاح والبادئة المطابقة نفسها، مع بقاء الإدخال متاحًا. يفصل مفتاح خاص بالجلسة حتى الجلسات المتطابقة، ويسمح مفتاح مجموعة ثابت بالمشاركة المقصودة. تحدد AWS مدة لا تقل عن 30 دقيقة بعد آخر كتابة أو إعادة استخدام ناجحة، وقد تطول. طلب التحديث نفسه له تكلفة؛ ولا تعني المفاتيح أو المدة حفظًا دائمًا أو ضمان أمان لمجرد الفصل المحاسبي.
5. فصل توفير الإدخال النموذجي عن فاتورة الإنتاج
يمثل الشكل 9 وكيل دعم GPT-6 Astra ببادئة 8,000 tokens وست جولات تضيف كل منها 2,000 tokens. وفق افتراضات التسعير عند الطلب في الدليل، تبلغ تكلفة الإدخال التراكمية 0.87 دولار دون تخزين، و0.50 مع حد ثابت، و0.32 مع حدود متحركة. تخص نسبة 64% هذا المثال النموذجي، لا الشكل 4 ولا نشرًا اختبره AISubHub.
تساوي تكلفة الكتابة 1.25 مرة سعر الإدخال العادي، وتختلف القراءة حسب النموذج. قد لا تعوض المهام القصيرة أو البادئات المتغيرة تكاليف الكتابة والتهيئة. يوصي الكاتب بمقارنة مصروف الكتابة مع توفير القراءة. تستبعد رموز المخرجات من حساب حصص تكلفة الإدخال، لكنها تضاف منفصلة إلى الفاتورة الكلية. هذه أرقام توضيحية وليست عرض سعر حاليًا أو وعدًا بخفض الإنفاق الإجمالي.
6. استخدام عدادات مناسبة مع إبقاء ضوابط الحوكمة
تعرض استجابة usage الحقلين cached_tokens وcache_write_tokens. ويوفر Runtime أيضًا CacheReadInputTokenCount وCacheWriteInputTokenCount في CloudWatch، مع سجلات استدعاء للفحص على مستوى الطلب. يقول الدليل إن مساحة CloudWatch الخاصة بـMantle لا تحتوي حاليًا عدادات تخزين منفصلة، لذا يسجل التطبيق usage. ويمكن فصل القراءة والكتابة والإدخال غير المخزن في Cost Explorer بحسب Usage type.
يحذر الكاتب من تسرب تعريفات الأدوات أو موجّهات النظام أو استغلالها، ويضم التخزين إلى الحوكمة. تفسيرنا أن نطاق المشاركة والصلاحيات والمراقبة تحتاج مراجعات مستقلة؛ لا يثبت المقال حادث تسرب محددًا أو دفاعًا كاملًا. لم نقرأ الوثائق التكميلية المرتبطة بصورة مستقلة ولم ننفّذ الأمثلة. يظل التحقق من النموذج ونقطة النهاية والمنطقة والتكلفة والتأخير مطلوبًا في كل بيئة.
لماذا يهم
التصميم المفيد يفصل البادئة المشتركة الثابتة عن سجل يزداد بالإضافة فقط وعن المشاركة المقصودة مع المساعدين. يعتمد التوفير على صيانة الحدود وقياس القراءة والكتابة الحقيقيتين، لا على تشغيل خيار التخزين وحده.
القيود والتوافر
الأساس هو الدليل الرسمي الكامل ورسومه الضرورية. نتائج عبء AWS والتكاليف النموذجية نوعان مختلفان من الأدلة المنسوبة إلى المصدر. لم تختبر الشيفرة أو الوثائق الإضافية أو الأسعار الحالية أو النشر بصورة مستقلة.
المصادر والأدلة
تاريخ المصدر: · تم التحقق من المصدر:
مقالات تحريرية بمساعدة الذكاء الاصطناعي تُراجع مقابل المصادر الأولية المذكورة. تُنسب ادعاءات الشركات إليها، والإدراج لا يعني التوصية.