DeepSeek R1 登陆 Copilot+ PC
💡
原文中文，约400字，阅读约需1分钟。
📝
内容提要
微软推出了优化的DeepSeek R1模型，适用于搭载骁龙处理器的Copilot+ PC。该模型在短提示下的首字响应时间低于70毫秒，吞吐速率可达40令牌/秒，性能受输入长度和任务复杂度影响。
🎯
关键要点
- 微软推出了经过ONNX优化的DeepSeek R1模型，适用于搭载骁龙处理器的Copilot+ PC。
- 该模型在短提示场景下的首字响应时间低于70毫秒，吞吐速率最高可达40令牌/秒。
- 首字响应时间与输入提示长度呈正相关，输入内容越长，响应时间增加。
- 吞吐速率根据提示任务的复杂度波动，通常介于25-40令牌/秒之间，长文本生成任务更容易达到高吞吐速率。
- 用户可以通过VS Code安装AI Toolkit扩展快速部署使用该模型。
- 该优化版本专为Copilot+ PC的NPU设计，采用低比特量化技术和Transformer架构实现计算资源的最优平衡。
➡️
