深度解读 · 约 5 分钟阅读
Cloudflare复盘GLM-5.3缓存隔离事故:响应成功为何仍可能串入他人数据
10月26日披露的是8月至9月的历史事故;容量配置、拒绝路径、在途写入与尚未完成的完整性保护需要分别核对。
- 本站发布
- 原文发布
- 核实时间
Cloudflare于10月26日披露,其Workers AI上的GLM-5.3部署曾出现跨请求数据暴露。公司将原因归为缓存容量配置失配与SGLang拒绝处理缺陷叠加。原文说明服务已于9月9日修复恢复,不能把本次披露写成当天新发生的故障,也不能外推所有GLM部署均受影响。
听读资讯
朗读当前文章,或连续收听资讯。
正在准备听读…
设备语音
朗读由浏览器或设备处理,AISubHub 不向音频 API 发送文本。可用语音及锁屏播放能力因设备而异。
继续播放时可能重复一小段。
一分钟速览
- 公司称8月27日至9月9日有155条响应受影响,均对应超过681,280 tokens的提示词;155是响应数,不是客户数。
- 配置的上下文为1,048,576 tokens,预填充缓存池却仅容纳681,280;修复后约204万tokens,并同时修复引擎拒绝路径。
- Cloudflare建议分离式部署运营者使用SGLang v0.5.22或更高版本;检测支持仍取决于架构,长期完整性方案尚非通用保证。
披露时间与事故窗口分开记录
原文将暴露窗口定为8月27日该模型上线至9月9日。Knostic研究员Gadi Evron于9月8日报告问题;9月9日13:22 UTC宣布事故,14:00限制模型访问,完成修改与验证后19:40恢复公开服务。10月26日是协调披露日期。
Cloudflare确认155条响应含有同一模型此前其他客户请求的数据。排除自身及研究员测试后,公司认为时间与数量符合普通长上下文使用,未发现蓄意利用证据。没有发现证据不等于证明从未滥用;其他Workers AI模型未受影响同样是公司调查结论。
标称上下文不等于实际缓存容量
该部署由预填充GPU处理提示词,经Mooncake通过RDMA把键值缓存交给解码GPU生成输出。SGLang按加载权重后剩余显存确定池大小,上下文长度则另行配置,因此出现1,048,576 tokens的窗口配上681,280 tokens缓存池的失配。
公司承认上线前知道容量差异,却因长上下文测试返回成功而假定超量请求会安全失败。原文指出此前重视HTTP状态和性能,没有充分检查输出。这是部署配置与引擎交互问题,材料没有证明模型权重存在后门。
已拒绝状态没有阻断跨节点交接
调度器已标记超量请求待拒绝,并用一个token的占位提示替换正文。但分离式入口检查的是请求是否结束,而非是否被拒绝;待返回错误未令结束判断成立,预填充与解码两端仍接纳了本应失败的请求。
原图用预留8页、实际仅写1页、另7页仍旧的对照解释所有权缺口,页数是示意而非事故统计。客户端可能收到HTTP 200、看似合理的token计数与连贯文本,却混入早先请求内容;交付成功没有证明隔离正确。
即时修复同时覆盖配置和引擎
Cloudflare称调整配置后,预填充池约容纳204万tokens,大于1,048,576的上下文限制;同时令待拒绝请求在入口终止,早于分配与缓存传输。公司表示恢复访问前已验证两项修改。只扩池仍会依赖未来显存配置始终正确。
上游清单区分v0.5.20初始修复、v0.5.21更早拒绝,以及至v0.5.22的后续加固,建议分离式运营者升级到v0.5.22或以上,或适当回移补丁。这是特定服务模式的补丁建议,不是性能比较或安装版本即可绝对安全的证明。
在途写入使释放变成分布式问题
原文还解释相关竞态:请求中止不能撤回已发出的RDMA写入,目标页过早复用会被迟到写入污染。本次已拒绝请求则是确定走错交接路径,不能混为同一随机竞态;二者都要求等参与操作完成后才释放所有权。
公司描述两端延迟释放、限定Mooncake传输批次、调整负载均衡断连处理及部署检查,并建议权重、量化或并行配置变更后实测两端缓存池。Checksum与KV Canary尚不支持所有架构,不能因打开开关就假定每条请求均已检测。
长期完整性方案仍有明确边界
公司8月曾在GLM-5.2测试页面标签原型,自报吞吐与尾延迟开销低于1%,但随后因可靠性问题停用。该数字属于有限实验,不能写成当前保护已上线或通用开销;释放页面时清零仍是草案。
传输校验和验证交接,页面所有权检查拟覆盖后续每次读取。Cloudflare还计划对分布式传输协议作形式化建模,同时承认证明覆盖有缺口。本站分析:应分别验收隔离、拒绝与生命周期不变量,把已部署措施、原型和未来保证明确区分。
有什么影响
本站分析:租户隔离应成为推理服务单独的验收条件。状态码、token计数和速度看似正常,仍可能存在所有权错误;配置核验和失败路径测试解决的问题,与吞吐基准不同。
限制与可用性
影响范围、修复结果及未发现蓄意利用证据均来自Cloudflare自述,本站未独立审计服务或上游补丁。不能据此认定所有GLM部署受影响,也不能认定任何SGLang配置都已免疫缓存生命周期错误。
来源与证据
AI 辅助采编,依据所列一手来源核实。厂商自报结论注明归属,收录不代表背书。