SemanticKernel之LLama3案例
💡
原文中文,约2100字,阅读约需5分钟。
📝
内容提要
本文介绍了如何在SK中使用开源模型LLama3。首先引入Nuget包,然后下载LLama3模型并运行。通过LLamaSharpChatCompletion进行聊天,可以准确回答专业问题。效果很好,且不需要key,轻松跑。
🎯
关键要点
- 本文介绍了如何在SK中使用开源模型LLama3。
- 使用LLamaSharp包和对应的CPU包来运行模型。
- 下载LLama3模型,扩展名为gguf。
- 通过LLamaSharpChatCompletion进行聊天,可以准确回答专业问题。
- 模型运行效果良好,无需API密钥,使用方便。
🏷️
标签
➡️