DeepZero是一个基于ZO优化的深度学习框架，实现了与一阶优化相当的性能。其优点包括坐标梯度估计在训练准确性和计算效率上的优势，利用模型剪枝方法扩展稀疏DL先验信息的ZO训练协议，并通过特征重用和前向并行化方法提高ZO训练的实际实施。