滑铁卢大学的实习生Joshua Hill在三个月内开发出一种新型量化算法,显著提升了大模型的压缩效率和性能,超越了英伟达的ModelOpt。该算法通过全局优化模型层的依赖关系,缩短搜索时间,提高压缩率,解决了量化中的信息损失问题。这一突破将降低AI服务成本,提高用户体验,推动行业进步。
完成下面两步后,将自动完成登录并继续当前操作。