新型4位训练方法在保持准确性的同时将AI模型内存使用减少一半

本文介绍了一种新型FP4量化方法，能够在保持模型准确性的同时，将大型AI模型的内存使用减少50%，支持4位精度，最高可实现2倍内存节省。