微软亚洲研究院推出了数据编译器Ladder和算法T-MAC,支持低比特量化技术在硬件设备上的运行。Ladder转换数据类型指令,提高DNN计算效率;T-MAC通过查找表操作实现低比特混合精度矩阵乘法,提高CPU推理速度。研究员设计了LUT Tensor Core硬件架构,为人工智能硬件提供新思路。创新技术使大模型在资源受限设备上高效运行,推动人工智能应用。
完成下面两步后,将自动完成登录并继续当前操作。