API中的提示缓存

📝

内容提要

新推出的提示缓存功能允许开发者重用最近的输入令牌，从而降低成本和延迟，享受50%的折扣和更快的处理速度。

🎯

关键要点

• 新推出的提示缓存功能允许开发者重用最近的输入令牌。

• 提示缓存功能可以降低成本和延迟。

• 开发者可以享受50%的折扣和更快的处理速度。

🏷️

标签

api 处理速度 延迟 成本 提示缓存 输入令牌