因果推断是统计学和数据科学中的一个领域，专注于从数据中得出关于因果关系的严谨结论，区分相关性与因果性。它提供了一套正式语言和工具，用于回答诸如“如果我们改变X，同时保持其他一切不变，会发生什么？”这类问题。这与描述性或预测性建模有根本区别，后者寻求模式和关联，而不一定理解潜在机制。该领域在哲学、统计学和流行病学中有着深厚的根源，但已日益成为现代Machine learning以及公共卫生、经济学和技术政策等领域决策制定的核心。
因果推断的基础问题是反事实：如果个体或系统接受了不同的处理或暴露，会发生什么。由于反事实从未被直接观察到，因果推断方法依赖假设、研究设计和统计技术来近似它们。随机实验，也称为随机对照试验，是黄金标准，因为随机分配打破了处理与其他混杂因素之间的联系。在观察性环境中，当随机化不可能或不道德时，研究人员使用倾向评分匹配、工具变量和双重差分等技术来控制混杂并估计因果效应。由Judea Pearl等人开创的框架，包括do-演算和因果图，提供了一种将因果假设转化为可检验统计含义的正式方法。
历史发展
现代因果推断时代始于20世纪统计学家和流行病学家的研究。1923年，Jerzy Neyman引入了随机实验的潜在结果框架，后来由Donald Rubin在1970年代扩展为Rubin因果模型。该框架将因果效应形式化为不同处理下潜在结果的比较。1980年代，James Robins开发了g方法，用于从具有时变处理的纵向数据中估计因果效应。反事实方法通过Judea Pearl的工作进一步获得关注，他在1990年代引入了图模型和完整的因果推断演算，使研究人员能够确定因果效应是否可从观察数据中识别。
核心概念与方法
一个核心概念是因果图，这是一种有向无环图（DAG），编码了关于哪些变量导致哪些其他变量的假设。使用图形准则，如后门准则，可以识别需要调整的变量集，以无偏地估计因果效应。相比之下，潜在结果框架依赖于无混杂性（没有未测量的混杂因素）和积极性（每个个体接受任何处理的概率非零）等假设。关键方法包括倾向评分方法，用于平衡处理组和未处理组；工具变量分析，利用一个影响处理但不直接影响结果的变量；以及断点回归设计，使用截断点来模拟随机化。自然实验，如政策变化或自然灾害，也提供了准实验杠杆。
在人工智能中的应用
在Artificial intelligence和Machine learning中，因果推断越来越多地用于使模型更稳健和可操作。基于相关性的预测模型在分布偏移或用于决策时往往失败，因为它们可能捕获虚假关联。因果方法旨在学习可泛化到新环境的不变机制。例如，在Deep learning中，研究人员构建了因果生成模型来回答反事实问题，例如医学图像在不同疾病条件下会是什么样子。在强化学习中，因果推断有助于信用分配和离线策略评估。像Google DeepMind和OpenAI这样的公司已探索因果表示学习，以分离数据中的独立变化因素。
挑战与当前研究
一个主要挑战是因果假设的验证。在观察性数据中，未测量的混杂因素永远无法完全排除。敏感性分析有助于量化结论对假设违反的稳健程度。另一个前沿是将因果推断与Large language model和Transformer (architecture)系统集成。这些模型可以生成文本并推理因果关系，但它们的输出本质上不是因果性的；它们是模式关联机器。研究人员正在研究将因果约束纳入模型架构和训练的方法，例如通过使用鼓励不变表示的辅助目标。Generative AI的兴起也引发了对因果幻觉的担忧，即模型产生看似合理但不正确的因果陈述。
近期发展与未来方向
在2020年代，因果推断引起了机器学习社区的极大兴趣，出现了专门的会议和研讨会，如CausalML。在因果发现方面有活跃的研究，即从数据中自动学习因果图的任务，使用结合机器学习与忠实性和无环性等假设的方法。将深度学习与结构因果模型相结合，在模拟和医疗保健领域产生了有前景的结果。Python中的因果推断框架（如DoWhy、EconML）等工具使这些方法对从业者更易用。展望未来，因果推断可能在构建可信AI系统方面发挥关键作用，特别是在医学、金融和公共政策等高风险决策中。随着Artificial intelligence系统更深入地融入社会，可靠地回答“如果”问题的能力将对问责制和安全至关重要。