本文介绍了VFBL框架及其三种新算法VF-B2-SGD、SVRG和SAGA，实验证明这些算法在强凸和非凸条件下具有收敛速率的理论结果，并证明了VF-B2的安全性。

通过调整乘法系数来控制SVRG强度，并线性衰减该系数，研究表明SVRG可优化深层网络，随训练减弱。新方法alpha-SVRG在实验中优于基准，有助于深度学习方差减少技术研究。

本研究首次提出了针对随机近端点算法的方差缩减技术研究，介绍了SVRG、SAGA和其变种的随机近端版本，并提供了多个收敛结果。实验结果表明，近端方差缩减方法在选择步长方面具有更好的稳定性。