使用 C# 和 ONNX 來玩转Phi-3 SLM - 张善友
原文中文,约3500字,阅读约需9分钟。发表于: 。LLM 席卷世界刷新 AI 的认知之后,由于 LLM 需要的硬件要求实在太高,很难在普通设备上运行,因此 SLM 逐漸受到重視,Phi-3 SLM 是由 Microsoft 所开发的模型,可以在你的电脑、手机等设备来运行,小型语言模型 (SLM) 和 ONNX 的结合改变了 AI 互操作性的游戏规则
Phi-3 SLM 是微软开发的 AI 模型,可以在计算机和手机等设备上运行。它与 ONNX 结合,实现 AI 的互操作性,并为 ONNX Runtime 提供优化的模型。C# 开发人员可以在本地 AI 开发中利用 ONNX,以简化模型部署并提高性能。HuggingFace 提供了各种 Phi-3 模型供下载,具有不同的令牌长度。Phi-3 Cookbook 仓库展示了如何在 .NET 应用程序中使用 ONNX 模型来执行问答和图像分析等任务。