Heroku将于2025年12月18日推出自动提示缓存，旨在加速推理和代理的响应速度。该功能默认启用，仅缓存系统提示和工具定义，用户消息不受影响。缓存机制智能添加检查点，重复请求可重用缓存结果，五分钟后自动过期。用户可通过设置HTTP头禁用缓存，以确保敏感工作流的安全性。