LangChain Blog
·
上下文工程的崛起
💡
原文英文，约1400词，阅读约需5分钟。
📝
内容提要
上下文工程是构建动态系统，以提供适当的信息和工具，帮助大型语言模型（LLM）有效完成任务。关键在于提供正确的上下文和信息，确保LLM成功执行。随着应用复杂性增加，理解和实施上下文工程变得更加重要。
🎯
关键要点
- 上下文工程是构建动态系统，以提供适当的信息和工具，帮助大型语言模型（LLM）有效完成任务。
- 当代理无法可靠执行时，通常是因为没有向模型传达适当的上下文、指令和工具。
- LLM应用正在从单一提示演变为更复杂的动态代理系统，因此上下文工程变得尤为重要。
- 上下文工程是一个系统，复杂代理可能从多个来源获取上下文。
- 上下文工程是动态的，最终提示的构建逻辑也需要动态调整，而不是静态的提示。
- 提供正确的信息是关键，LLM无法读取思维，必须提供必要的上下文。
- 提供正确的工具同样重要，LLM可能需要额外的工具来完成任务。
- 格式也很重要，如何与LLM沟通会影响其响应效果。
- 上下文工程的重要性在于，LLM的错误往往源于上下文不当，而非模型本身的缺陷。
- 上下文工程与提示工程的区别在于，前者关注提供完整和结构化的上下文，而后者则侧重于如何巧妙地构建提示。
- 上下文工程的例子包括工具使用、短期和长期记忆、提示工程和动态信息检索。
- LangGraph旨在成为最可控的代理框架，完美支持上下文工程。
- LangSmith是LLM应用可观察性和评估解决方案，能够追踪代理调用，帮助调试上下文。
- 上下文工程并不是一个新概念，但它是一个越来越重要的技能，相关工具（如LangGraph和LangSmith）能够有效支持这一过程。
❓
延伸问答
什么是上下文工程？
上下文工程是构建动态系统，以提供适当的信息和工具，帮助大型语言模型（LLM）有效完成任务。
上下文工程与提示工程有什么区别？
上下文工程关注提供完整和结构化的上下文，而提示工程则侧重于如何巧妙地构建提示。
为什么上下文工程在LLM应用中变得越来越重要？
随着应用复杂性增加，提供正确的上下文和信息变得至关重要，很多错误源于上下文不当而非模型本身的缺陷。
如何确保LLM获得正确的信息和工具？
需要提供适当的上下文、指令和工具，确保LLM能够有效完成任务。
LangGraph和LangSmith在上下文工程中有什么作用？
LangGraph提供可控的代理框架，支持上下文工程；LangSmith则帮助追踪代理调用，调试上下文。
上下文工程的动态性如何影响LLM的表现？
上下文工程是动态的，最终提示的构建逻辑需要根据实时信息调整，以确保LLM能够有效响应。
➡️
