因果AI与LLM因果推理可视化实验室
从do-算子到LLM因果推断——把因果推理与AI融合的核心机制以可交互SVG呈现。
01
因果AI全景
因果推理的三级阶梯（关联→干预→反事实）、Pearl因果框架的核心概念，以及因果AI为什么对下一代智能系统至关重要。
关联层
P(Y|X) 观察到的
统计相关性·被动观察
干预层
P(Y|do(X)) 做到的
因果效应·主动干预
反事实层
P(Y_x|X',Y') 想到的
如果当时…会怎样
Pearl框架
SCM + do-算子
结构因果模型的形式化
02
因果发现
PC算法、FCI、LiNGAM等经典因果发现方法，以及如何从观测数据中自动发现因果图结构。
PC算法
约束式发现
条件独立性检验→DAG
FCI
处理隐混杂
可发现不可识别的因果方向
LiNGAM
非高斯假设
利用非高斯性确定因果方向
评分方法
GES/BGe评分
贪心搜索最优DAG结构
03
LLM因果推理
LLM进行因果推断的能力、提示驱动的因果推理、基于世界知识的因果判断，以及当前局限性。
因果推断
LLM做因果判断
零样本因果方向识别
提示因果
CoT因果链
思维链分解因果推理步骤
知识因果
世界知识驱动
预训练中的因果知识提取
局限性
幻觉与偏差
统计模式vs因果机制
04
因果表征学习
因果变量发现、解耦表征学习、不变性预测原理，以及逆向强化学习中的因果结构。
变量发现
从数据到因果变量
高维观测→低维因果因子
解耦表征
独立因果机制
每个因子可独立干预
不变性预测
跨分布稳定
IRM/PICP不变风险最小化
IRL因果
奖励的因果结构
从行为推断因果奖励
05
反事实推理
结构因果模型(SCM)的反事实推理、反事实生成、what-if分析，以及因果责任分配。
结构因果模型
SCM形式化
外生→内生→结构方程
反事实生成
"如果当时…"
回溯+前推三步法
What-if分析
假设场景推演
改变输入观察结果变化
责任分配
因果归因量化
PN/PS/PNS概率度量
06
因果强化学习
因果bandit、离策略评估中的因果推断、干预策略学习，以及Causal RL的完整框架。
因果Bandit
因果上下文bandit
利用因果结构加速探索
离策略评估
因果推断评估
用do-算子修正选择偏差
干预策略
因果感知策略
学习因果效应而非相关性
Causal RL
因果+强化学习
泛化性+可解释性+样本效率
07
因果基准评估
CauseNet、CRAB、CausalBench等因果推理基准，评估维度，以及不同模型的因果能力对比。
CauseNet
大规模因果知识
从网络提取因果关系
CRAB
因果推理基准
多任务因果评估套件
CausalBench
因果发现基准
结构学习算法评测
评估维度
多维度量化
发现/推断/反事实/干预
08
因果AI前沿
因果大模型、神经符号因果推理、因果发现的缩放定律，以及因果AI的未来发展方向。
因果大模型
Causal LLM
因果感知的预训练目标
神经符号
Neuro-symbolic因果
神经网络+符号因果推理
缩放定律
因果发现规模化
更大数据→更好因果图
未来方向
因果AGI路径
因果理解作为智能基础