在Copilot+ PC上进行AI开发？还不行
内容提要
微软推出的Copilot+ PC搭载Arm CPU和内置神经处理单元，适合Arm应用开发。尽管硬件性能优越，工具链仍需完善，开发流程复杂。AI工具包可帮助开发小型语言模型，但缺乏从模型到代码的简便路径。未来版本有望整合更多功能，以提升AI应用开发效率。
延伸解读
硬件性能与开发适配
Copilot+ PC搭载Arm CPU和NPU，性能出色，续航优秀，Arm原生基准测试甚至优于部分Intel/AMD硬件，可与苹果M2/M3竞争。对于Arm应用开发，Visual Studio和VS Code都有Arm64版本，无需Prism模拟，能加速现有Arm应用的开发流程。但若仅需此功能，与早期Windows on Arm设备差异不大，主要优势是硬件来源更广。
NPU的潜力与当前局限
内置NPU提供至少40 TOPs算力，支持本地推理和小语言模型，微软展示了实时字幕和视频滤镜等应用。然而，NPU仅用于推理，不支持微调，且模型游乐场无法调用NPU，难以评估实际性能。此外，Recall AI索引工具因安全问题正在重新开发。这些限制意味着NPU的潜力尚未完全释放。
AI开发工具链的现状
AI Toolkit for VS Code可帮助试验和调优小语言模型，支持Arm64，提供Phi-3和Mistral 7b等模型。但工具链碎片化严重：无法直接从模型跳转到代码编辑，需手动设置ONNX运行时和QNN执行提供程序。C#开发者可通过NuGet使用QNN ONNX工具，但仅支持量化模型。整体流程复杂，缺乏端到端体验。
未来展望与实用建议
尽管当前工具链不完善，但未来AI Toolkit有望捆绑QNN ONNX运行时，并通过DirectML简化.NET开发。在改进之前，建议开发者暂时使用Copilot Runtime和内置Phi-Silica模型及其API。本地AI推理对减少Azure数据中心负载很重要，微软和高通需尽快填补工具缺口，以充分发挥硬件潜力。
Q&A
Copilot+ PC的主要硬件特点是什么？
Copilot+ PC搭载Arm CPU和内置神经处理单元，适合Arm应用开发。
使用Copilot+ PC进行AI开发有哪些挑战？
尽管硬件性能优越，但工具链仍需完善，开发流程复杂。
AI工具包在Copilot+ PC上能做什么？
AI工具包可帮助开发小型语言模型，但缺乏从模型到代码的简便路径。
未来的Copilot+ PC版本可能会有哪些改进？
未来版本有望整合更多功能，以提升AI应用开发效率。
如何在Copilot+ PC上安装AI Toolkit？
安装过程快速，可以使用内置的Marketplace工具进行安装。
Copilot+ PC的NPU有什么特别之处？
NPU提供至少40 TOPs的计算能力，支持小型语言模型和其他机器学习功能。
