想利用大模型驱动真实业务系统?基于Semantic Kernel 接入讯飞星火 Function Call 调用本地方法!...
原文中文,约1500字,阅读约需4分钟。发表于: 。继续上周末基于 Semantic Kernel 对接星火大模型之后,我还想继续对接它的function call能力。而我们作为大模型应用开发者,最核心的需求就是将大模型应用到我们的日常业务场景中,参与到企业应用的方方面面。而大模型的function call能力就是实现这一目标的关键。本文将介绍利用Sk和星火大模型的function call调用C#的本地方法(注意这里说的“本地”是跟“远程”区...
本文介绍了利用Semantic Kernel和星火大模型的function call能力调用C#的本地方法的实现方法。通过在消息中带上可调用的函数描述,大模型可以根据上下文分析是否匹配某个函数,并返回函数名和参数值。作者在本地写了一个简单的方法,并通过自定义特性AntSkFunction精确找到该方法。然后通过扫描程序集和读取注释获取方法和参数的描述。在构建Kernel实例时,可以使用CreateFunctionFromMethod方法传入MethodInfo或委托来构建KernelFunction。在构建星火大模型客户端时,可以通过kernel.Plugins.GetFunctionMetadata()方法获取所有配置的sk function,并构建星火sdk的函数参数。最后,通过SkFunction.InvokeAsync方法调用sk的函数,并将结果反馈到UI。作者还提到了递归的处理方式,以及下一步的计划。