深度解读 · 约 4 分钟阅读
Octave 的 Bedrock 案例：先做租户隔离与检索，再交付 AI 功能
客户介绍投诉分流的共享基础，但总语料、吞吐及生产率数字各有不同分母。
- 原文发布
- 本站发布
- 核实时间
AWS、Octave、Cohere 于 10 月 20 日联合介绍 Reliance 的 AI 基础：按租户准备文档、隔离代理执行，并分层筛查内容。投诉分流是首个纵向用例，助手汇总上下文及历史纠正措施，质量处理人员保留最终决定。这是客户实现报告，不是整个受监管行业的 AI 通用评测。
听读资讯
朗读当前文章，或连续收听资讯。
正在准备听读…
设备语音
朗读由浏览器或设备处理，AISubHub 不向音频 API 发送文本。可用语音及锁屏播放能力因设备而异。
继续播放时可能重复一小段。
一分钟速览
- 平台文档总量超过 20 亿；报告吞吐是每个租户工作负载每 24 小时 140 万份，不能改成一天完成 20 亿份嵌入。
- Octave 称代表性查询下，512 维满足其目标，相比 1536 维减少约 66% 向量存储；并非整个 AI 账单下降 66%。
文档表示是一项本地质量取舍
Reliance 支持超过 650 家企业、40 多个应用；原文另有 Octave 更大范围超过 14000 客户的数字，两者不是同一分母。团队选择 Bedrock 上的 Cohere Embed v4，把不同语言的文本与图像放进同一向量空间，并用自己的质量管理语料检验，而非认为公开榜单可以替代业务评估。代表性查询中，512 维达到其目标，相对 1536 维约省 66% 向量存储。这个结果限于该语料与存储，不证明所有场景都保留准确性，也不代表应用总成本。原文列出弗吉尼亚、爱尔兰、东京的区域内可用性满足其部分要求，同时提醒模型和功能覆盖随地区及时间变化。
隔离与筛查作用于不同边界
案例按租户限定向量检索，每个用户会话在独立 AgentCore microVM 中运行。身份沿执行链传递，通过用户专用令牌处理和 Gateway 的工具、操作、参数级策略控制访问，减少每个功能重复实现全部边界的责任。内容筛查另行执行：附件提取内容嵌入前、检索文档与工具结果进入上下文前、生成简报交付前各检查一次；输入标签把附件视为数据。文档提取沙箱按案例说明无网络出口，也无超出会话的持久化。这些是分层设计，不是跨租户零泄露或普遍阻止提示注入的实证；对已定义策略做形式检查，也不能证明策略覆盖全部业务意图。
大语料不等于一天完成的工作量
文档事件经 SNS、SQS 进入 Step Functions，再编排并行 Lambda 解析、切块和嵌入。块附有租户、文档类型、来源应用、语言及内容哈希。约 4K token 的块批量装入模型 128K 上下文，以减少请求次数。客户报告内部测试 2800 万 token/分钟，并在调优批量后维持每租户工作负载每 24 小时 140 万文档。两者单位和范围不同，都不是 Bedrock 通用额度，也不能证明平台全部 20 亿文档一天完成。格式、OCR、每文档块数、并发及账户容量都会影响实际接入速度。
工作流为处理人员判断提供依据
投诉助手先提取附件，用 Claude 总结记录，再查租户 OpenSearch 中相似投诉与纠正措施，通过独立模型调用给检索候选打分，最后生成简报与建议优先级；不是词汇相似就直接认定根因相同。DynamoDB 缓存完成简报可避免一部分重复模型工作，但不意味着重复请求完全免费。OpenTelemetry 轨迹与模型日志辅助追查，离线评估在变更后用专家标注核查忠实度、前 K 检索精度及完整性。Octave 将每次调查 4–6 小时准备工作归于该流程吸收，并报告新用例部署时间减少 50%。这些是本地客户观察，不是临床结果或独立对照生产率证据。审计准备、事件叙述、预测质量风险属于下一步，最终重要决定仍由质量人员作出。
有什么影响
AISubHub 分析：复用检索、身份及执行控制，可让后续功能继承经过审查的基础；租户边界测试、检索质量和人工决策政策仍不可省，基础设施本身不证明监管合规。
限制与可用性
吞吐数字来自所述内部测试与流水线调优；生产率观察来自案例所述三个月生产期，均为客户自报。本站没有检查系统或复现吞吐、节约、隔离和抗注入效果；后续用例仍是计划。
来源与证据
原文发布: 2026年10月20日 · 核实时间: 2026年10月21日
AI 辅助采编，依据所列一手来源核实。厂商自报结论注明归属，收录不代表背书。