本研究提出了一种准无重量变压器(QuWeiT)方法,旨在解决变压器模型推理中的高计算和内存需求问题。QuWeiT通过扩展有限差分法学习查找表网络,显著提高了能效和计算效率。在CIFAR-10数据集上,QuWeiT实现了95.64%的准确率,替代了约55%的乘法运算,能效提升达到2.2倍。
完成下面两步后,将自动完成登录并继续当前操作。