本研究提出多头潜在注意力（MLA）方法，旨在解决大语言模型的通信瓶颈。通过低秩矩阵缓存压缩KV状态，减少缓存大小并提高推理速度。同时引入TransMLA方法，以增强模型表现力。

本研究评估了梯度压缩方法在分布式深度学习中的有效性，提出了DAGC-R和DAGC-A两种优化方案，以减少通信瓶颈并提高收敛速率，尤其在移动环境中表现突出。