c#中ollama ToolCall为什么比较“笨“
💡
原文中文，约400字，阅读约需1分钟。
📝
内容提要
在端侧部署小参数模型时，qwen30b-a3b模型效果优于ollama模型。使用C#调用ollama模型时，参数定义存在问题，引用类型或嵌套会导致上下文丢失。建议使用Microsoft.Extensions.AI.OpenAI，ollama部分兼容OpenAI格式请求。
🎯
关键要点
- 在端侧部署小参数模型时，qwen30b-a3b模型效果优于ollama模型。
- 使用C#调用ollama模型时，参数定义存在问题，引用类型或嵌套会导致上下文丢失。
- 建议使用Microsoft.Extensions.AI.OpenAI，ollama部分兼容OpenAI格式请求。
➡️
