编译程序
·
LLM的Function Calling(Tools)基本用法
内容提要
本文介绍了大语言模型（LLM）中的工具调用（Function Calling）基本用法，强调了不同平台间的兼容性问题。工具调用是构建LLM应用的重要组成部分，通过上下文生成结构化输出。文中详细说明了工具结构的组成，包括函数名、描述和参数类型，并提供了调用示例，最后讨论了返回结果的处理方式。
关键要点
-
工具调用是构建大语言模型应用的重要组成部分，通过上下文生成结构化输出。
-
工具结构包括函数名、描述和参数类型，必须提供具体的结构描述。
-
支持的参数类型包括字符串、数字、布尔类型、整数、对象、数组和枚举。
-
调用函数时需要将工具加入请求结构，并可以选择调用参数。
-
返回结果中包含tool_calls参数，应用程序需解析内容并调用相应函数。
延伸解读
工具调用的兼容性问题
在使用不同大语言模型平台时，工具调用的兼容性问题可能导致输出内容的差异和解析失败。尽管文档中声称兼容OpenAI API，但实际使用中仍需谨慎，确保所用平台支持所需的功能。
结构化输出的重要性
工具调用不仅是函数的调用，更是将自然语言转化为结构化输出的过程。这种输出格式化有助于提高数据处理的准确性，尤其在需要精确参数时，使用结构化输出可以减少错误。
参数设置的注意事项
在调用函数时，必须明确每个工具的结构描述，包括参数类型和必需参数。特别是additionalProperties参数的设置，当前OpenAI模型不支持自动提取键值，因此需谨慎配置以避免潜在问题。
延伸问答
什么是大语言模型中的工具调用？
工具调用是构建大语言模型应用的重要组成部分，通过上下文生成结构化输出。
工具调用的结构包括哪些部分？
工具结构包括函数名、描述和参数类型，必须提供具体的结构描述。
在调用函数时需要注意哪些参数？
调用函数时需要将工具加入请求结构，并可以选择调用参数。
支持的参数类型有哪些？
支持的参数类型包括字符串、数字、布尔类型、整数、对象、数组和枚举。
如何处理返回的结果？
返回结果中包含tool_calls参数，应用程序需解析内容并调用相应函数。
Function Calling的主要作用是什么？
Function Calling主要用于生成结构化输出，而最终的函数调用由应用程序层来处理。
