微软的研究提出了一种名为MInference的稀疏计算方法，可以加速长上下文语言模型（LLM）的预填充阶段，无需修改预训练设置或额外微调，同时保持准确性。MInference通过动态稀疏注意力计算和优化的GPU内核，在单个A100上实现了10倍的推理速度提升。实验结果表明MInference在各种任务和模型下都表现良好。