随着大语言模型的快速发展，分布式推理中的通信开销成为主要挑战。我们提出了一种新技术Sync-Point Drop（SPD），通过选择性减少注意力输出的同步，降低通信开销。SPD在保持模型准确性的同时，有效缓解了通信瓶颈，实现了约20%的推理延迟减少，准确率下降不足1%。