我们在PD分离部署方面取得新进展，KVT模块负责kvcache传输，设计实现零负载。通过解析层、控制层和传输层优化数据传输和容错处理，引入双请求模式以提高调度灵活性，支持多种后端，满足模型需求的演进。