c#中ollama ToolCall为什么比较“笨“

📝

内容提要

使用qwen30b-a3b模型直接使用阿里百炼永远比ollama部署的模型toolcall效果要更好。对于方法调用参数的定义非常的奇怪如果参数是引用类型或者存在嵌套的情况则上下文会完全丢失参数细节。如果你也遇到类似的问题可以考虑转用Microsoft.Extensions.AI.OpenAI。最近在做一些端侧部署一些小参数模型来进行一些自动化操作的尝试发现一个有意思的地方。c#调用ollam...

🏷️

标签

➡️

继续阅读