Martin Fowler
·
使用大型语言模型的函数调用
💡
原文英文，约3300词，阅读约需12分钟。
📝
内容提要
Kiran在Thoughtworks担任首席工程师，专注于数据和AI。他利用函数调用使大型语言模型与外部系统交互，开发智能购物代理，解析用户意图并执行相关操作。该代理使用Python编写，能够处理用户请求并提供产品搜索和详细信息。
🎯
关键要点
- Kiran是Thoughtworks的首席工程师，专注于数据和AI。
- 他利用函数调用使大型语言模型与外部系统交互，开发智能购物代理。
- 该代理能够解析用户意图并执行相关操作，使用Python编写。
- 函数调用使LLM能够超越简单文本生成，通过与外部工具和实际应用交互。
- 购物代理能够处理用户请求，提供产品搜索和详细信息。
- 代理会根据用户输入和对话历史选择下一步行动，并执行相关操作。
- 在实现过程中，编写单元测试以验证功能，确保代理按预期工作。
- 使用OpenAI的API和GPT模型来决定下一步行动并提取必要参数。
- 系统提示为LLM提供上下文，定义其角色和期望输出格式。
- 需要限制代理的操作空间，以防止潜在的安全风险。
- 构建用户代理时，需考虑对抗性行为，防止恶意输入。
- 行动类作为LLM决策与实际系统操作之间的桥梁，执行具体操作。
- 使用Pydantic对象简化实现，减少冗余代码，提高可维护性。
- LLM驱动的推理可以替代传统规则引擎，提供更灵活的决策能力。
- 工具调用是LLM与外部世界交互的现代术语，涵盖更广泛的能力。
- 模型上下文协议（MCP）为LLM应用与外部世界交互提供标准化结构。
- MCP允许代理在运行时动态发现可用工具，增强灵活性和可扩展性。
❓
延伸问答
大型语言模型如何与外部系统交互？
大型语言模型通过函数调用与外部系统交互，生成描述调用的数据结构，并将其传递给单独的程序执行。
智能购物代理的主要功能是什么？
智能购物代理能够解析用户意图，执行相关操作，如产品搜索和获取产品详细信息。
如何确保购物代理的安全性？
需要限制代理的操作空间，并对用户输入进行清洗，以防止潜在的安全风险和恶意输入。
使用大型语言模型的函数调用有什么优势？
函数调用使大型语言模型能够超越简单文本生成，通过与外部工具和实际应用交互，提供更灵活的决策能力。
如何实现购物代理的单元测试？
通过编写单元测试来验证代理的功能，确保其按预期工作，例如测试下一步行动的决策。
模型上下文协议（MCP）在大型语言模型应用中有什么作用？
MCP为大型语言模型应用与外部世界交互提供标准化结构，允许代理在运行时动态发现可用工具，增强灵活性和可扩展性。
➡️
