在PD分离中，Prefill实例通过RDMA Write和GDR将数据写入Decode实例，使用阿里云的Barex库实现异步批量写入以确保数据完整性。讨论了GDR的细节及NCCL实现，强调内存顺序和ACK机制的重要性，并提出通过RDMA read确认数据写入完成的解决方案。

本文探讨了基于vllm实现的PD分离方案，重点分析了GDR（GPU-Direct RDMA）的细节及其对解码延迟的影响。实验结果表明，GDR对解码延迟几乎没有影响，且该方案对vllm的引入性低，几乎不需改动现有设施。