2026年9月,Cloudflare报告其Workers AI上GLM-5.3部署存在跨请求KV缓存泄露:预填充缓存池容量小于配置上下文长度,被拒请求仍进入分离式预填充/解码交接,解码读到未填充的缓存页,可能返回他人会话内容。SGLang修复了准入路径,并引入延迟释放机制:中止时保留槽位,待各预填充节点排空在途RDMA写并确认或超时后再释放,防止迟到写入污染其他请求。建议升级至v0.5.21以上并监控释放指标。
完成下面两步后,将自动完成登录并继续当前操作。