dotnet 基于 DirectML 控制台运行 Phi-3 模型
原文中文，约8500字，阅读约需21分钟。
📝
内容提要
本文介绍了如何在C# dotnet的控制台应用中使用DirectML运行Phi-3模型。通过DirectML可以方便地在用户机器上部署Phi-3模型，并利用机器设备资源。文章提供了具体的代码示例，并建议将模型文件放入项目输出文件夹中以便其他人使用。
❓
Q&A
如何在C# dotnet控制台应用中使用DirectML运行Phi-3模型？
可以通过创建dotnet控制台项目，安装Microsoft.ML.OnnxRuntimeGenAI.DirectML库，并加载Phi-3模型文件来实现。
Phi-3模型的特点是什么？
Phi-3模型是一个小型语言模型，体积小且运行速度快，可以在用户设备上运行。
如何下载Phi-3模型文件？
需要从指定链接下载Phi-3模型，并使用git lfs工具进行下载。
使用DirectML的优势是什么？
DirectML简化了模型部署，支持在多种机器上运行，包括不支持GPU的设备，并能充分利用机器资源。
如何处理用户输入并生成模型输出？
通过创建Tokenizer对象将用户输入转换为token，然后使用Generator对象生成模型输出。
如何将模型文件分享给其他人？
可以将模型文件放入项目输出文件夹，以便其他人使用和运行。
🏷️
