上下文工程 - 它是什么，以及需要考虑的技术
原文英文，约2000词，阅读约需8分钟。
📝
内容提要
上下文工程是构建有效AI代理的关键，强调为任务提供相关信息。与提示工程不同，它专注于填充上下文窗口，确保信息的相关性和有效性。文章讨论了上下文的组成部分及其在AI应用中的重要性，并提出了选择合适上下文和优化上下文窗口的策略。
🔎
延伸解读
上下文工程的核心组成
上下文工程的有效性依赖于多个组成部分，包括系统提示、用户输入、短期和长期记忆等。这些元素共同构成了AI代理在执行任务时所需的背景信息。理解这些组成部分的作用，有助于优化AI系统的表现，确保信息的相关性和有效性。
选择合适的知识库和工具
在上下文工程中，选择合适的知识库和工具至关重要。不同的应用场景可能需要访问多个知识库或工具，以获取最相关的信息。确保AI代理能够正确选择资源，可以显著提升其任务执行的效率和准确性。
上下文排序与压缩的挑战
上下文窗口的限制要求在信息的排序和压缩上进行精细化处理。有效的上下文排序不仅能提高信息的相关性，还能避免信息过载。采用总结和排序技术，可以在有限的上下文空间内最大化信息的利用率。
❓
Q&A
什么是上下文工程，它的主要目标是什么？
上下文工程是构建有效AI代理的关键，旨在为任务提供相关信息，以确保信息的有效性和相关性。
上下文工程与提示工程有什么区别？
上下文工程专注于填充上下文窗口，确保信息的相关性，而提示工程则侧重于提供正确的指令给LLM。
上下文的组成部分有哪些？
上下文包括系统提示、用户输入、短期记忆、长期记忆、知识库信息、工具定义、工具响应和结构化输出。
在上下文工程中，选择合适的上下文面临哪些挑战？
主要挑战包括选择合适的上下文和优化上下文窗口，以适应有限的上下文空间。
长期记忆在上下文工程中有什么重要性？
长期记忆用于存储和检索持续对话中的信息，对于需要持续交互的应用至关重要。
如何优化上下文窗口以避免信息过载？
可以通过上下文排序、压缩和使用结构化输出等技术来优化上下文窗口，确保信息的有效利用。
🏷️
