微软亚研院开源T-MAC技术，高效部署大语言模型，无需反量化，支持混合精度矩阵乘，性能超过NPU，适合低比特模型，具有功耗优势。

T-MAC是一种基于查找表的低位量化方法，旨在提高大型语言模型的推断效率。通过FlattenQuant方法，模型在使用4位和8位权重时实现了显著的速度提升和内存减少，且准确度损失微小。此外，研究还提出了LUT-Q训练方法和BiQGEMM矩阵乘法，进一步优化了深度神经网络的性能和计算需求。