微软亚研院开源T-MAC技术，高效部署大语言模型，无需反量化，支持混合精度矩阵乘，性能超过NPU，适合低比特模型，具有功耗优势。

手机跑大模型提速4-5倍！微软亚研院开源新技术，有CPU就行
量子位
量子位 ·
👤 个人中心
在公众号发送验证码完成验证