R-KV是一种开源方法，通过实时压缩KV缓存，解决大模型推理中的冗余问题，显存减少90%，吞吐量提升6.6倍，准确率保持100%。该方法通过冗余识别、重要性评估和动态淘汰优化推理过程，适用于边缘设备和强化学习，显著提升性能。