深度解读 · 约 3 分钟阅读
Orca 介绍如何用更小的结构上下文改进 Discovery AI 查询
10 月 13 日案例结合规则匹配、样例检索和验证；900 多个“模型”指云资源结构，而不是大语言模型。
- 原文发布
- 本站发布
- 核实时间
Orca Security 与 AWS 介绍了 Discovery AI：把自然语言安全问题转成 Orca Sonar 结构化过滤条件的界面。按 10 月 13 日案例说法，它自 2026 年 3 月已在生产运行。核心经验是有选择地检索和验证上下文，而不是每次把完整结构说明塞进提示词。
听读资讯
朗读当前文章，或连续收听资讯。
正在准备听读…
设备语音
朗读由浏览器或设备处理，AISubHub 不向音频 API 发送文本。可用语音及锁屏播放能力因设备而异。
继续播放时可能重复一小段。
一分钟速览
- Sonar 覆盖 900 多种云资源和应用结构、18 种运算符；这里的模型是资源类型，不是 900 款基础模型。
- 相对最初基线，Orca 报告可比工作负载的输入 token 减少 93%、整体查询成本减少 90%、端到端延迟减少 75%。
难点在于专用查询契约
Sonar 使用结构化 JSON，要求准确的资源名称、关系和 18 种运算符。早期原型把 900 多种结构定义及样例交给单一大模型，证明了用途，但文章称每个工作负载约消耗 200 万输入 token、耗时约 60 秒，复杂关系仍需修正。文中的云模型对应实例、存储桶等资源类型。若将数量理解成大语言模型目录，就会同时误解技术难点与产品实际提供的能力。
生成前先用规则和相关样例
九阶段流程先加入组织与已连接云环境的上下文。确定性匹配器可直接处理已识别标识符，不必调用语言模型；护栏拒绝不支持或偏离主题的请求。Titan 嵌入先取 20 个候选样例，Cohere Rerank 3.5 再选出 5 个。高置信已有过滤条件可复用，否则只选择相关结构交给生成器。Claude Haiku 4.5 负责结构选择和生成，Nova 2 Lite 处理护栏与验证任务。这是该实现的任务分工，不意味着用户需要购买多个消费者订阅。
验证与专家修正持续存在
工具辅助生成器使用选定结构与重新排序的样例，随后执行静态检查和 Sonar API 验证。无效字段、运算符或关系会以具体错误返回，让生成器修正；重试次数有上限，仍未成功就返回无效过滤条件，而不是假报成功。团队用整理过的问题和参考查询评估变更，按复杂度等维度检查回归。领域专家还通过内部工具标记薄弱样例和纠正输出。这是持续质量管理，不是声称加入检索就能消除错误。
改善数字必须保留原始基线
Orca 报告可比工作负载输入 token 从约 200 万降至 14 万，减少 93%；整体查询成本减少 90%；端到端延迟从约 60 秒降至 15 秒，减少 75%。三者是不同指标，不能相互替换。生产系统每天处理数千次查询，质量通过团队评估流程及客户反馈持续检查。可迁移的思路是联合测试相关样例、结构上下文大小和模型任务分配，而不是把企业案例的改善幅度当成其他组织必然达到的节省目标。
有什么影响
对专用领域查询助手，可借鉴的是提供少量相关样例与结构定义，再以原有查询系统验证。语言看起来合理，不等于已经生成可执行且符合语义的查询。
限制与可用性
结果来自参与企业报告，本站没有复现实验。比较对象是 Orca 重构前的原型，并非所有 Bedrock 模型或所有安全任务；原文也未提供个人订阅权益或通用安全准确率保证。
来源与证据
原文发布: 2026年10月13日 · 核实时间: 2026年10月20日
AI 辅助采编，依据所列一手来源核实。厂商自报结论注明归属，收录不代表背书。