上下文工程 | Chris Loy
内容提要
上下文工程是一种提升大语言模型（LLM）决策能力的新方法。通过动态和结构化的信息输入，LLM能够更有效地理解和生成回答。与传统的提示词工程不同，该方法更注重上下文管理和设计模式的应用，使LLM更像分析师而非神谕。
关键要点
-
上下文工程是一种提升大语言模型（LLM）决策能力的新方法。
-
该方法通过动态和结构化的信息输入，使LLM更有效地理解和生成回答。
-
上下文窗口是LLM能处理的词元数量的上限，影响其推理能力。
-
聊天格式的引入使得LLM更适合进行对话，提升了指挥的灵活性。
-
提示词工程的局限性促使了上下文工程的出现，强调了上下文管理的重要性。
-
上下文学习允许LLM根据新的结构生成输出，而不仅仅依赖于训练数据。
-
上下文的“大膨胀”增加了LLM的复杂性和出错风险，需要精妙的上下文搭建。
-
上下文工程将LLM重新定位为任务解决器，而非神秘的神谕。
-
通过上下文工程，可以更准确地获取实时数据和外部知识。
-
RAG（检索增强生成）是一种有效的上下文工程技术，用于注入外部知识。
-
设计模式在上下文工程中起到重要作用，促进了系统的灵活性和可维护性。
-
多智能体系统的演进使得不同AI智能体可以专注于特定任务，提升整体效率。
-
上下文工程是一个新兴领域，借鉴软件工程的设计模式来提高模块化和可理解性。
延伸问答
什么是上下文工程，它的主要目的是什么？
上下文工程是一种提升大语言模型（LLM）决策能力的新方法，主要目的是通过动态和结构化的信息输入，使LLM更有效地理解和生成回答。
上下文窗口在上下文工程中有什么重要性？
上下文窗口是LLM能处理的词元数量的上限，影响其推理能力，决定了模型在生成回答时能考虑的信息量。
上下文学习与传统的提示词工程有什么区别？
上下文学习允许LLM根据新的结构生成输出，而不仅仅依赖于训练数据，强调了动态信息输入的灵活性，而传统提示词工程则依赖于固定的提示词。
上下文工程如何提高LLM的决策能力？
上下文工程通过提供更丰富和结构化的信息，使LLM能够更准确地获取实时数据和外部知识，从而提升其决策能力。
RAG技术在上下文工程中起什么作用？
RAG（检索增强生成）是一种有效的上下文工程技术，用于在推理时注入外部知识，帮助LLM生成更准确的回答。
上下文工程如何影响多智能体系统的设计？
上下文工程促进了多智能体系统的演进，使不同AI智能体能够专注于特定任务，通过工程化管理上下文来提升整体效率。
