本文探讨了Claude模型中的提示词缓存技术，强调静态前缀与动态后缀的分离如何降低计算成本。通过缓存，Claude实现了92%的命中率和81%的费用节省，避免了重复计算。文章提出三条规则以保持缓存有效性，并建议在设计提示词时将静态内容放在顶部，动态内容放在底部，以优化性能。

OpenAI在10月1日的DevDay大会上推出了四项新工具：实时API、视觉微调、提示词缓存和模型蒸馏。这些工具旨在降低开发成本、提升模型性能和视觉理解能力。