本文综述黑盒变分推断（BBVI）的进展，包括评分匹配变分推断及高斯解法GSM-VI（比BBVI更快更准）、蒙特卡罗变分推断的收敛性保证，以及类前向-后向BBVI算法、偏置重要性采样、BiSM、SIVI-SM、Boosting VI等改进方法，旨在提升后验近似的精度与效率。

该文综述随机逼近与变分推断的优化方法：黑盒变分推断采用序列样本平均与拟牛顿线搜索解决步长选择；SSUM通过最小化近似集合平均扩展随机梯度法；并分析Nesterov对偶平均稀疏优化、Riemann流形零阶随机逼近、Markov噪声下非线性随机逼近及矩阵草图正则化，这些方法均具有更快收敛速度和更优复杂度。