高斯过程网络中的贝叶斯因果推断
内容提要
该文综述了高斯过程网络与因果结构学习，涵盖贝叶斯结构学习、DAG-GP多任务因果模型、生成后验网络、GPRN回归框架、CNPs神经模型及链图模型，用于不确定性估计与因果推断，并在基因表达等数据集上验证了优越性能。
延伸解读
从结构学习到因果推断的方法演进
文章梳理了高斯过程网络在因果推断中的发展脉络：早期工作聚焦于贝叶斯结构学习，利用MCMC方法抽样网络结构后验；随后DAG-GP将因果结构嵌入多任务高斯过程，处理干预下的函数相关性；生成后验网络则借助未标记数据直接逼近后验分布，提升高维认识不确定性估计。这些方法逐步从单纯的结构恢复转向兼顾预测与不确定性量化的因果建模。
GPRN：融合贝叶斯神经网络与高斯过程的回归框架
GPRN是文中重点介绍的回归框架，它结合贝叶斯神经网络的结构特性和高斯过程的非参数灵活性，能适应多响应变量间输入相关的信号与噪声相关性，并具备输入相关的长度尺度和振幅以及重尾预测分布。该模型通过MCMC和变分贝叶斯进行推断，在1000维基因表达数据集等多任务基准上优于八种流行多任务高斯过程模型和三种多元波动性模型。
神经模型与链图模型在因果推断中的角色
文章还提及CNPs等神经模型，将深度神经网络与高斯过程结合以做出精确预测；链图模型则针对干预和传染网络数据提供简洁参数化，并已应用于美国最高法院案例数据以推断社交网络中的集体决策。这些方法扩展了因果推断的工具箱，但文章未详细比较它们与高斯过程网络方法的直接优劣，读者需注意其适用场景差异。
Q&A
高斯过程网络（GPNs）的贝叶斯结构学习是什么？
高斯过程网络（GPNs）的贝叶斯结构学习是指对GPNs的网络结构进行贝叶斯推断，即学习网络结构的后验分布。本文提出基于蒙特卡罗和马尔可夫链蒙特卡罗（MCMC）方法的抽样算法，用于从后验分布中抽样，并在模拟实验中证明该方法在恢复网络图形结构和提供准确后验分布方面优于现有算法。
DAG-GP模型是什么？它有什么特点？
DAG-GP是一种多任务因果高斯过程模型，用于学习在有向无环图（DAG）上定义的一组干预函数的相关结构。该模型能够捕捉不同维度输入空间中的函数之间的相关性，并在实验中测试了其预测质量和校准不确定性。
生成后验网络（GPN）如何估计认识不确定性？
生成后验网络（GPN）是一种生成模型，利用未标记的数据来估计高维问题中的认识不确定性。它通过对网络进行正则化以从先验中采样，直接逼近后验分布。理论上证明该方法确实逼近了贝叶斯后验，实验证明它在认识不确定性估计和可扩展性方面优于比较方法。
GPRN回归框架有什么优势？
GPRN（高斯过程回归网络）结合了贝叶斯神经网络的结构特性和高斯过程的非参数灵活性，可以适应多个响应变量之间的输入相关信号和噪声相关性，具有输入相关的长度尺度和振幅以及重尾预测分布的特点。它提供了有效的MCMC和变分贝叶斯推断过程，在多输出回归和多元波动性模型中，在基准数据集上明显优于八个流行的多任务高斯过程模型和三种多元波动性模型，包括一个1000维基因表达数据集。
CNPs神经模型是什么？它结合了哪些方法？
CNPs（条件神经过程）是一系列神经模型，结合了深度神经网络和高斯过程两种方法，旨在对给定数据集做出精确预测。
链图模型在因果推断中有什么应用？
链图模型是一种简洁的参数化方法，用于干预和传染网络数据的因果推断。它通过使用美国最高法院在1994年至2004年之间的案例数据和模拟数据，对社交网络中的集体决策进行因果推断。
