DEV Community
·
2025年提示重用策略
💡
原文英文，约800词，阅读约需3分钟。
📝
内容提要
在重复任务中，是否每次发送相同提示取决于系统设计和目标。通常需要每次发送提示，除非使用会话记忆、提示缓存或对模型进行微调。最佳实践是利用系统提示、缓存和动态记忆，以提高效率和降低成本。
🎯
关键要点
- 在重复任务中，是否每次发送相同提示取决于系统设计和目标。
- 通常需要每次发送提示，除非使用会话记忆、提示缓存或对模型进行微调。
- 最佳实践是利用系统提示、缓存和动态记忆，以提高效率和降低成本。
- LLMs 默认是无状态的，除非使用记忆或自己存储历史。
- 系统提示可以在会话期间定义任务，但会话过期后需要重新发送。
- 提示缓存可以节省令牌成本和延迟，建议缓存提示和输入。
- 使用代理记忆可以实现更人性化的上下文工作流程，但需要管理复杂性。
- 对固定任务进行微调或将提示逻辑封装为可重用函数。
- 在快速原型中，每次重新发送完整提示是可行的。
- 在生产应用中，使用系统提示和提示抽象是最佳方法。
- 对于高频重复任务，建议添加提示缓存。
- 在上下文会话中，使用代理记忆可以提高效率。
- 在高规模或重复任务中，微调或将逻辑嵌入为可调用工具是最佳选择。
- 在2025年，最佳的GenAI系统通过设计可重用、基于记忆或功能抽象的工作流程来避免重新发送静态提示。
❓
延伸问答
在重复任务中，是否每次都需要发送相同的提示？
通常需要每次发送提示，除非使用会话记忆、提示缓存或对模型进行微调。
什么是提示缓存，它有什么好处？
提示缓存可以节省令牌成本和延迟，建议缓存提示和输入以提高效率。
如何在生产应用中优化提示发送？
在生产应用中，最佳方法是使用系统提示和提示抽象，以避免每次重新发送静态提示。
什么是代理记忆，它如何提高上下文工作流程？
代理记忆可以实现更人性化的上下文工作流程，但需要管理复杂性。
在高频重复任务中，应该采取什么策略？
建议在高频重复任务中添加提示缓存，以提高效率。
如何通过微调来优化固定任务的提示？
可以对固定任务进行微调，或将提示逻辑封装为可重用的函数，以提高效率。
➡️
