深度解读 · 约 6 分钟阅读
AWS 拆解 Bedrock 智能体缓存：稳定前缀、滚动历史与两组成本证据
技术指南将显式共享前缀和隐式历史缓存结合，区分工具变化、子智能体复用、模型化成本及不同端点监控。
- 本站发布
- 原文发布
- 核实时间
AWS 作者 Claudio Mazzoni 于10月26日发布工程指南，解释使用 Amazon Bedrock 上 OpenAI 模型的智能体如何复用提示词计算。这是工作流教程，不是新模型公告。本文依据完整原文及成本图分析；AISubHub 未运行代码，也未独立测量成本、延迟或型号可用性。
听读资讯
朗读当前文章，或连续收听资讯。
正在准备听读…
设备语音
朗读由浏览器或设备处理，AISubHub 不向音频 API 发送文本。可用语音及锁屏播放能力因设备而异。
继续播放时可能重复一小段。
一分钟速览
- 可缓存前缀至少1,024 tokens；AWS说明最短30分钟寿命由成功复用刷新，写缓存按普通输入单价的1.25倍计费。
- 图4中所示隐式方案相对输入成本为0.38、滚动断点0.39，无缓存为1.00；是特定工作负载结果，不是通用节省承诺。
- 另一六轮模型化示例以8,000 tokens前缀起步、每轮增加2,000 tokens：无缓存0.87美元、静态0.50美元、滚动0.32美元。
一、复用计算，不是给智能体永久记忆
智能体通常每次重发工具、指令和既有对话；prefill阶段为输入建立键值状态。指南复用匹配前缀的已存状态，再处理新增后缀，要求输入token相同。因此工具定义的序列化及顺序应稳定，时间戳、姓名、请求编号放在可复用前缀之后。
显式标记在工具和指令之后确定共享终点；隐式模式跟随符合条件的对话结尾，两者可合用，前缀须达到1,024 tokens。示例的store=False让应用自行保留历史，不会关闭提示缓存。这是计算优化，不是持久记忆，也不代表请求可以省掉所需历史。
二、增长历史时保留旧断点
循环追加模型输出及对应工具结果，包括加密推理，并保持此前消息。纯显式模式给最新结果批次增加断点，同时保留旧标记。仅静态断点仍需重复处理后续历史；只把单个断点移到最新轮也可能丢失复用。隐式缓存某任务的结尾，不必然另存跨任务可用的较短共享前缀。
图4是GPT-6 Astra六轮工具循环，每轮约2,000 tokens工具输出。所示隐式方案0.38、滚动断点0.39、纯静态0.61、只标最新轮0.72，无缓存1.00，均为相对输入成本。原文约62%及61%的降幅属于这些配置，不能换成图9另一模型化示例的64%。
三、限制可调用工具，不重写初始目录
已知工具保持同一排序后的TOOLS，通过tool_choice里的allowed_tools改变可调用范围。auto让模型决定是否调用允许工具，required要求至少调用一个；缓存目录本身不变。本站分析将其视为提示组织方式，不能当成应用鉴权或工具执行已获安全保障的证据。
中途新增工具时，指南说明Runtime与Mantle均对GPT-6 Astra、GPT-6.1 Sol、GPT-5.6 Luna接收additional_tools。将定义追加到历史，原目录不改，后续保留该项目。它本身不能承载断点；纯显式示例在后续input_text加标记并保留旧断点。不同角色应选各自稳定目录，不代表全部型号或地区可用。
四、先预热，再在相同复用范围分发
普通预热请求完成后才并行启动助手；预热和助手都标记共享前缀，即使采用隐式模式，也保持工具、模型和key一致，并先查用量确认缓存活动。摘要助手可复制父任务完整历史后追加自身指令，避免改写父历史；追加指令不自动生成新的缓存终点。
复用还须同模型、AWS账号、Region、key及匹配前缀，并且条目仍可用。会话专属key会隔离原本相同的会话，共享组用稳定key。AWS称最新写入或成功复用后至少30分钟、也可能更久；刷新请求本身有成本。key和寿命应服从共享边界，不应承诺永久保留，或把计费分组当安全保证。
五、模型化输入节省与生产账单分开
图9设定GPT-6 Astra客服智能体、8,000 tokens启动前缀及六轮每轮增加2,000 tokens。按指南按需价格假设，累计输入成本无缓存0.87美元、静态断点0.50美元、滚动0.32美元；64%是这个模型化示例的降幅，不是图4，也不是本站实测部署。
写入按普通输入单价1.25倍，读取价格随型号不同；短任务或频繁变化的前缀可能无法摊薄写入和预热成本。作者建议把读取节省与写入开支同时核对。计算输入成本占比要排除输出token，完整账单则另计输出。本站不把这些历史示例金额当当前报价或总支出必降的承诺。
六、按端点监控，并保留治理边界
响应usage提供cached_tokens和cache_write_tokens。Runtime另有CloudWatch的CacheReadInputTokenCount、CacheWriteInputTokenCount，可启用调用日志核查单请求。原文称Mantle的CloudWatch命名空间当前没有独立缓存计数，应由应用记录响应usage；Cost Explorer按Usage type分开读、写及未缓存输入。
作者提醒工具定义和系统提示可能泄漏或被滥用，并要求将缓存纳入治理。本站解读是共享范围、权限和监控仍须独立审查；原文没有证明具体泄漏事件或给出完整防护方案。本站未独立阅读补充文档、执行示例，实际型号、端点、地区、成本和延迟仍须各自核验。
有什么影响
可借鉴的是把稳定共享前缀、只追加的对话历史和助手共享范围分清。是否节省，取决于边界是否保持以及真实读写计数，而不只是开启一个缓存选项。
限制与可用性
依据完整官方指南和必要成本图；AWS工作负载结果与模型化成本属于不同证据，均保留归属。未独立运行代码、阅读链接文档、核当前价格或验收部署。
来源与证据
AI 辅助采编，依据所列一手来源核实。厂商自报结论注明归属，收录不代表背书。