Martin Fowler
·
使用大型语言模型的函数调用
内容提要
Kiran在Thoughtworks担任首席工程师，专注于数据和AI。他利用函数调用使大型语言模型与外部系统交互，开发智能购物代理，解析用户意图并执行相关操作。该代理使用Python编写，能够处理用户请求并提供产品搜索和详细信息。
关键要点
-
Kiran是Thoughtworks的首席工程师，专注于数据和AI。
-
他利用函数调用使大型语言模型与外部系统交互，开发智能购物代理。
-
该代理能够解析用户意图并执行相关操作，使用Python编写。
-
函数调用使LLM能够超越简单文本生成，通过与外部工具和实际应用交互。
-
购物代理能够处理用户请求，提供产品搜索和详细信息。
-
代理会根据用户输入和对话历史选择下一步行动，并执行相关操作。
-
在实现过程中，编写单元测试以验证功能，确保代理按预期工作。
-
使用OpenAI的API和GPT模型来决定下一步行动并提取必要参数。
-
系统提示为LLM提供上下文，定义其角色和期望输出格式。
-
需要限制代理的操作空间，以防止潜在的安全风险。
-
构建用户代理时，需考虑对抗性行为，防止恶意输入。
-
行动类作为LLM决策与实际系统操作之间的桥梁，执行具体操作。
-
使用Pydantic对象简化实现，减少冗余代码，提高可维护性。
-
LLM驱动的推理可以替代传统规则引擎，提供更灵活的决策能力。
-
工具调用是LLM与外部世界交互的现代术语，涵盖更广泛的能力。
-
模型上下文协议（MCP）为LLM应用与外部世界交互提供标准化结构。
-
MCP允许代理在运行时动态发现可用工具，增强灵活性和可扩展性。
延伸问答
大型语言模型如何与外部系统交互？
大型语言模型通过函数调用与外部系统交互，生成描述调用的数据结构，并将其传递给单独的程序执行。
智能购物代理的主要功能是什么？
智能购物代理能够解析用户意图，执行相关操作，如产品搜索和获取产品详细信息。
如何确保购物代理的安全性？
需要限制代理的操作空间，并对用户输入进行清洗，以防止潜在的安全风险和恶意输入。
使用大型语言模型的函数调用有什么优势？
函数调用使大型语言模型能够超越简单文本生成，通过与外部工具和实际应用交互，提供更灵活的决策能力。
如何实现购物代理的单元测试？
通过编写单元测试来验证代理的功能，确保其按预期工作，例如测试下一步行动的决策。
模型上下文协议（MCP）在大型语言模型应用中有什么作用？
MCP为大型语言模型应用与外部世界交互提供标准化结构，允许代理在运行时动态发现可用工具，增强灵活性和可扩展性。
