在SimpleRAG中使用SiliconCloud快速测试Function Calling
内容提要
函数调用允许将模型与外部工具和系统连接,为AI助手赋能,建立深度集成。通过GitHub上的开源项目实现函数调用,适用于国产大模型。在SimpleRAG中使用SiliconCloud快速测试函数调用,SiliconCloud提供多种开源大语言模型及图片生成模型,推理速度快。只需在SimpleRAG项目中填入模型名称即可。学习并掌握函数调用后,可以开发更多有趣的功能。
延伸解读
通用函数调用方法的实现思路
文章介绍了一种基于提示工程和Semantic Kernel本地函数调用原理的通用方法,通过修改提示词为中文,使其更适用于国产大模型。该方法源自GitHub开源项目UniversalLLMFunctionCaller,解决了国产大模型在Semantic Kernel中自动函数调用不好用的问题。
SiliconCloud平台在测试中的优势
SiliconCloud提供多种开源大语言模型和图片生成模型,兼容OpenAI格式,推理速度快,且部分模型可免费调用。这些特点使其成为快速测试函数调用的理想平台,开发者只需在SimpleRAG的配置文件中填入模型名称即可体验。
已验证可用的模型列表
作者测试了SiliconCloud上的多个模型,确认以下模型适用于该方法:Llama-3.1-405/70/8B、Llama-3-70/8B-Instruct、DeepSeek-V2-Chat、deepseek-llm-67b-chat、Qwen2-72/57/7/1.5B-Instruct、Qwen2-57B-A14B-Instruct、Qwen1.5-110/32/14B-Chat、Qwen2-Math-72B-Instruct、Yi-1.5-34/9/6B-Chat-16K、internlm2_5-20/7b
Q&A
什么是函数调用,它有什么用?
函数调用允许将模型与外部工具和系统连接,主要用于为AI助手赋能和实现深度集成。
如何在SimpleRAG中使用SiliconCloud进行函数调用测试?
用户只需在SimpleRAG项目中填入自己的API Key和模型名称,即可快速体验函数调用。
SiliconCloud提供哪些模型供测试?
SiliconCloud提供多种开源大语言模型和图片生成模型,包括Qwen、DeepSeek、GLM等,用户可自由切换。
使用SiliconCloud的优势是什么?
SiliconCloud提供高性价比的GenAI服务,推理速度快,兼容OpenAI格式,降低开发成本。
如何学习和掌握函数调用以开发新功能?
通过学习函数调用的原理和实践,开发者可以创造更多有趣的功能,提升应用的能力。
在GitHub上可以找到哪些与函数调用相关的资源?
GitHub上有一个开源项目提供函数调用的方法,适用于国产大模型,地址是https://github.com/Jenscaasen/UniversalLLMFunctionCaller。