本文介绍了使用C#和ONNX来玩转Phi-3 SLM LLM的方法,Phi-3 SLM是由Microsoft开发的模型,可以在普通设备上运行。ONNX是一个开放的标准,用于操作机器学习模型,并在不同的框架间进行互操作。文章还介绍了如何下载LLM模型和使用ONNX模型的示例控制台应用程序。最后,提到了使用Phi-3和Phi-3 Vision进行问答和图像分析的示例项目。
微软推出了两款新的人工智能模型:Phi Silica SLM和Phi-3-Vision。Phi Silica SLM适用于NPU驱动的设备,体积小,参数只有3.3B,可以在本地运行并通过减少延迟提高响应速度。Phi-3-Vision模型参数为4.2B,提供视觉支持,可以分析图片、图表和进行表格推理。这些模型可以通过Microsoft Azure调用。
完成下面两步后,将自动完成登录并继续当前操作。