本研究提出了一种虚拟机，解决了低精度计算方法对非二进制权重位宽的支持问题，显著提升了大语言模型（LLM）服务的性能。该虚拟机能够处理任意位宽的低精度数据类型，实验结果表明其性能优于现有低精度内核，推动了LLM应用的可行性。

本文介绍了针对低精度计算的开源FPGA实现的算术计算，支持Open Compute Project MX标准中的格式和算术运算，展示了在FPGA上使用非原生支持格式的MX具有良好效果，使得FPGA在灵活性和占用面积方面具有优势。