API中的提示缓存

API中的提示缓存

💡 原文英文,约100词,阅读约需1分钟。
📝

内容提要

新推出的提示缓存功能允许开发者重用最近的输入令牌,从而降低成本和延迟,享受50%的折扣和更快的处理速度。

🎯

关键要点

  • 新推出的提示缓存功能允许开发者重用最近的输入令牌。
  • 提示缓存功能可以降低成本和延迟。
  • 开发者可以享受50%的折扣和更快的处理速度。
➡️

继续阅读