2025年提示重用策略

在重复任务中，是否每次发送相同提示取决于系统设计和目标。

通常需要每次发送提示，除非使用会话记忆、提示缓存或对模型进行微调。

最佳实践是利用系统提示、缓存和动态记忆，以提高效率和降低成本。

LLMs 默认是无状态的，除非使用记忆或自己存储历史。

系统提示可以在会话期间定义任务，但会话过期后需要重新发送。

提示缓存可以节省令牌成本和延迟，建议缓存提示和输入。

使用代理记忆可以实现更人性化的上下文工作流程，但需要管理复杂性。

对固定任务进行微调或将提示逻辑封装为可重用函数。

在快速原型中，每次重新发送完整提示是可行的。

在生产应用中，使用系统提示和提示抽象是最佳方法。

对于高频重复任务，建议添加提示缓存。

在上下文会话中，使用代理记忆可以提高效率。

在高规模或重复任务中，微调或将逻辑嵌入为可调用工具是最佳选择。

在2025年，最佳的GenAI系统通过设计可重用、基于记忆或功能抽象的工作流程来避免重新发送静态提示。