SemanticKernel之LLama3案例

💡 原文中文,约2100字,阅读约需5分钟。
📝

内容提要

本文介绍了如何在SK中使用开源模型LLama3。首先引入Nuget包,然后下载LLama3模型并运行。通过LLamaSharpChatCompletion进行聊天,可以准确回答专业问题。效果很好,且不需要key,轻松跑。

🎯

关键要点

  • 本文介绍了如何在SK中使用开源模型LLama3。
  • 使用LLamaSharp包和对应的CPU包来运行模型。
  • 下载LLama3模型,扩展名为gguf。
  • 通过LLamaSharpChatCompletion进行聊天,可以准确回答专业问题。
  • 模型运行效果良好,无需API密钥,使用方便。
🏷️

标签

➡️

继续阅读