基于分数的因果表示学习：线性和一般变换
内容提要
该文综述因果表征学习，旨在从低级观测数据中恢复高级潜在变量及其因果关系，涵盖非参数因果模型、高斯潜在分布、弱约束观测混合、不变因果表征等方法，利用干预、多环境数据与加性噪声模型实现可识别性，并在合成与真实数据集上优于基线。
延伸解读
可识别性的条件与代价
文章指出，因果表示学习的可识别性通常需要额外假设或数据条件。例如，通过每个潜在节点的两个硬干预、利用多环境数据、或借助加性噪声模型，才能实现可识别性。这些条件在现实中可能难以满足，因此实际应用时需权衡数据收集成本与模型可靠性。
方法演进与统一视角
从2021年到2023年，该领域方法不断演进：早期关注多环境下的可识别性，随后出现弱约束观测混合、不变因果表示学习（iCaRL）以及因果成分分析（CauCA）等框架。这些方法试图在更弱假设下实现可识别性，并统一独立成分分析与因果表示学习。
实际应用中的挑战
尽管在合成和真实数据集上优于基线，但方法仍面临潜在混杂因素和因果循环等挑战。例如，iCaRL声称对潜在混杂因素和因果循环具有鲁棒性，但其他方法可能依赖无环假设。读者需注意模型假设与数据实际生成过程的匹配程度。
Q&A
因果表示学习的目标是什么？
因果表示学习的目标是从观察到的低级数据中恢复高级潜在变量及其之间的因果关系。
在什么条件下可以实现因果表示学习的可识别性？
可识别性可以通过多种条件实现，例如：使用潜在因果图中每个节点的两个硬解耦干预；潜在分布为高斯分布且混合函数完全一般化；利用弱约束和观测混合；访问多个环境生成的观测数据；使用加性噪声模型等。
iCaRL方法有什么特点？
iCaRL是一种不变因果表示学习方法，通过利用广义指数族分布得出数据表示，可以在非线性场景中实现超出分布的泛化，并发现目标的全部直接原因，在合成和真实数据集上性能优于基线方法。
Causal Component Analysis (CauCA) 是什么？
CauCA是一个将独立成分分析（ICA）和因果表示学习（CRL）泛化的问题，专注于学习解混函数和因果机制，并通过多个数据集的干预方法以及利用基于概率流的似然方法来确定其可识别性。
如何利用加性噪声模型进行无监督表示学习？
利用加性噪声模型实现无监督表示学习，并通过潜在分布的Hessian构建损失函数以鼓励潜在空间遵循因果排序。
在非参数因果模型中，需要多少干预才能实现可识别性？
在非参数因果模型中，两个有关变量的观察分布和一次干预足以提供可识别性。
