内容提要
《为什么》读书笔记指出,作者借助因果图、do算子、后门/前门调整等工具,主张因果推断超越统计相关,可处理干预与反事实。笔记肯定该框架的价值,同时批评作者未严格定义因果、依赖常识偷渡概念,且仅解决“给定模型如何推断”,未回答“模型为何可信”。
延伸解读
因果定义依赖常识,框架根基存疑
笔记指出,作者未对“因果”下严格定义,而是依赖日常语言中“听从”等未定义原词,类比几何学中的点线。这导致概念可能被非法偷渡,即用常识理解替代形式化定义。读者需注意,该框架的严谨性建立在未言明的文化共识上,若脱离语境,因果判断可能失去可操作标准。
do算子与后门调整的实用边界
do算子通过取消指向X的箭头来模拟干预,后门准则则阻断后门路径以去干扰。但笔记提醒,条件化并非越多越好,且后门调整需同时阻断多个节点时,如何结合条件化未明确,可能遭遇维度诅咒。前门调整虽适用于数据缺失,但要求X与Y间无直接箭头,这一限制原书未强调,需参考更专业的教材。
反事实推断的割裂与假设问题
反事实部分与因果图语言明显割裂,前者源自Neyman-Rubin模型。笔记质疑,要求模型处理反事实,相当于要求函数能合理插值外推,而作者批评统计方法偷换概念时,自身也引入了概率分布相同的假设。读者应意识到,反事实推断无法完全避免假设,关键在于假设是否合理且被明确表述。
模型可信度与数据局限
本书主要解决“给定因果模型后如何推断”,而非“如何仅凭观察数据证明模型正确”。作者承认数据对因果“ profoundly dumb”,需结合领域知识。笔记进一步指出,即使先定义问题再解决,研究质量也不一定高。读者需区分:do-calculus能识别因果效应,但因果图本身的合理性需来自实验设计、科学理论等外部证据。
Q&A
《为什么》这本书的核心主张是什么?
《为什么》主张因果推断超越统计相关,借助因果图、do算子、后门/前门调整等工具,可以处理干预与反事实问题。
do算子是什么?它在因果推断中起什么作用?
do算子是对贝叶斯网络的一种变换:do(X=x)将所有指向X节点的箭头取消,并给X变量赋特定值x。它用于定义因果干扰项,并区分观察与干预。
后门调整和前门调整分别适用于什么情况?
后门调整用于阻断所有后门路径以去除干扰;前门调整适用于缺少必要数据、后门路径无法阻断的情况,通过前门路径计算P(Y|do(X))。
这本书的局限性有哪些?
作者未严格定义因果,依赖常识偷渡概念;仅解决“给定模型如何推断”,未回答“模型为何可信”;因果图本身的可信度需要实验设计、领域知识等额外证据。
反事实在因果阶梯中处于什么位置?为什么不能直接用do表达式表示?
反事实位于因果阶梯第三层,高于介入(第二层)。可以证明无法以do表达式呈现反事实概率,如P(Y_{X=0}=0 | X=1, Y=1)。
作者对强AI和因果推理的关系有什么看法?
作者认为因果推理是让机器以人类语言沟通、谈论政治、实验、解释、责任等话题,并最终做出道德决策的关键。