提示工程的基本理念以及如何将这些理念应用于提升大语言模型的性能 [译]
内容提要
本文介绍了提示工程的基本理念和应用于大语言模型的方法，通过实验不同的提示来优化大语言模型的性能。提示词的组成部分包括输入数据、示例、指令、标签和上下文。大语言模型的上下文窗口长度决定了模型能处理的最长序列，可以通过一些方法扩展。提示工程的策略包括建立评估体系、从简单的提示开始、明确具体的描述、利用示例和避免不必要的复杂性。
延伸解读
提示工程为何成为独立学科
大语言模型的文本到文本接口极其简单，用户无需数据科学背景即可使用，这降低了技术门槛。但模型性能高度依赖提示质量，因此提示工程作为一门通过实验优化提示的实证科学应运而生。它强调基于评估的迭代，而非依赖固定规则，这使其区别于传统编程，成为连接用户意图与模型能力的关键环节。
上下文窗口的扩展与局限
上下文窗口决定模型能处理的最长序列，超出可能导致错误输出。Self-Extend和位置插值等方法可扩展窗口，使模型能处理更多信息。但并非所有模型都能完美关注长上下文，需通过“干草堆测试”评估其实际利用能力。这意味着扩展窗口不等于有效利用，读者应关注模型在长上下文中的实际表现，而非仅看理论长度。
从简单到复杂的提示策略
提示工程应遵循实证原则：先建立评估体系，从简单提示开始，逐步增加复杂度。明确具体的指令和利用示例能减少歧义，但应避免不必要的复杂性，除非多步推理等任务确实需要。这种渐进方法有助于识别性能提升是否来自提示优化，而非偶然因素，从而更高效地利用模型。
Q&A
什么是提示工程？
提示工程是一门新兴学科，专注于开发和优化提示，以高效利用语言模型解决各种应用和研究主题中的问题。
提示词的组成部分有哪些？
提示词的组成部分包括输入数据、示例、指令、标签和上下文。
如何扩展大语言模型的上下文窗口？
可以通过方法如Self-Extend和位置插值来扩展大语言模型的上下文窗口。
提示工程的策略有哪些？
提示工程的策略包括建立评估体系、从简单提示开始、明确具体描述、利用示例和避免不必要的复杂性。
大语言模型的上下文窗口长度有什么影响？
上下文窗口长度决定了模型能处理的最长序列，较长的上下文窗口可以让模型处理更多信息，但并非所有模型都能完美关注上下文。
提示工程的实证评估为何重要？
实证评估可以监测对提示策略的调整效果，确保提示工程的有效性和优化。
