DeepSeek推出FlashMLA，突破H800性能限制，显著降低计算成本。该解码内核专为Hopper GPU优化，支持BF16，提升内存和推理效率。MLA架构通过低秩压缩技术减少存储需求，推理成本大幅降低，受到全球关注。

大型语言模型在自然语言处理中取得进展，但计算负担增加。为解决低秩压缩问题，研究提出新方法，通过协方差矩阵特征分布估计和贝叶斯优化分配低秩维度。在LLaMA-2模型实验中，该方法在相同压缩比下优于现有技术，保持性能。