本文介绍大模型缓存技术，涵盖KV Cache、PagedAttention、Prefix/Prompt/Context Cache及Semantic/Response Cache等层级。文章解释各缓存机制、作用阶段、显存估算及工程观测指标，并对比厂商缓存产品形态，强调缓存主要降低重复输入成本，而非输出成本，需结合场景选择策略。