大型语言模型的压力：内存压缩如何影响人工智能性能

该研究分析了KV缓存压缩对大型语言模型（LLM）性能的影响，测试了不同压缩方法在推理、知识回忆和指令执行方面的效果，并探讨了内存效率与模型能力之间的权衡。