本研究提出了SoftmAP方法，以解决大语言模型在资源受限设备上的计算和内存开销问题。该方法通过内存计算硬件实现低精度Softmax，显著提高能量延迟产品，增强模型的可部署性。

本文调查了低功耗和高能效的深度神经网络的最新进展，提高了可部署性而不牺牲准确性。技术分为神经网络压缩、网络架构搜索和设计、编译器和图优化三类。调查了卷积和变换器深度神经网络的低功耗技术，并总结了其优点、缺点和研究中的问题。