高维系统高效推理的高斯集成置信传播
内容提要
本文综述信念传播（BP）系列算法进展：GaBP用于线性方程组分布式迭代求解；高斯因子图将训练与预测统一为推理，支持深度网络和连续学习；EnKF改进GPSSM变分推断；DABP融合图注意力实现自监督；预测BP统一潜变量图学习；GTBP用于大规模组目标跟踪；计数BP利用对称性加速推理；SBP降低计算与通信复杂度。
延伸解读
从线性求解到深度学习的统一推理框架
文章梳理了信念传播（BP）算法从解决线性方程组（GaBP）到高斯因子图学习的演进。高斯因子图将训练与预测统一为推理问题，所有变量视为随机变量，更新局部化，为分布式和异步训练提供可能。这一框架可扩展到深度网络，并支持连续学习：用当前任务的参数边缘作为下一任务的先验。
提升高斯过程状态空间模型训练效率的新思路
针对高斯过程状态空间模型（GPSSM）的变分推断，文章介绍了利用集成卡尔曼滤波器（EnKF）近似隐藏状态后验分布的方法。该改进在学习和推断性能上优于现有方法，为GPSSM的高效训练提供了新途径。
自监督与统一学习：BP的现代扩展
DABP模型将BP、门控循环单元和图注意力网络整合，通过自监督学习推断权重和阻尼因子，避免了对昂贵标签的依赖。预测BP则将硬参数学习简化为一系列监督学习问题，统一了不同潜变量图模型的学习框架，在合成和真实数据集上表现更优且计算更快。
大规模跟踪与计算加速的专用BP变体
针对大规模组目标跟踪，GTBP联合推断目标存在、组结构、数据关联和状态，具有良好可扩展性。计数BP利用图模型对称性构建压缩图，提升推理效率；随机信念传播（SBP）通过自适应随机消息传递降低计算和通信复杂度，并具有收敛性理论保证。
Q&A
高斯置信传播（GaBP）算法能解决什么问题？
GaBP用于解决线性方程组问题，实现迭代解法，从而支持分布式消息传递求解。
高斯因子图方法如何统一训练和预测？
它将所有相关量（输入、输出、参数、潜变量）视为随机变量，把训练和预测视为具有不同观察节点的推理问题，通过信念传播高效求解。
DABP模型有什么特点？
DABP将信念传播、门控循环单元和图注意力网络整合进消息传递框架，能推断优化后的权重和阻尼因子，无需昂贵训练标签即可自我监督学习，并显著优于现有基线。
预测信念传播算法的主要贡献是什么？
它将硬参数学习问题简化为一系列监督学习问题，并将学习不同种类的潜变量图模型统一到一个局部最优、统计一致的学习框架中，在合成和真实数据集上显著优于前人方法且计算更快。
计数BP算法如何提高推理效率？
计数BP利用图模型中存在的对称性，通过构建压缩图模型的方式实现更高效的模型推理，在动态关系模型和布尔模型计数等任务中取得显著效率提升。
随机信念传播（SBP）算法有什么优势？
SBP是一种自适应随机的BP信息传递版本，减少了计算复杂度和通讯复杂度，并在各种图形模型中证明了收敛性和计算复杂度降低的理论格局。
