本文介绍了大模型并发推理的显存计算方法，指出KV Cache是显存增长的主要因素。通过7B、32B和70B模型的示例，分析了不同并发数下的显存需求及推荐的GPU配置。建议采用张量并行和专家并行来优化显存使用，以满足系统内存和CPU核心数的需求。