机械可解释性可视化实验室

注意力头的功能解构：QK 电路决定“关注谁”，OV 电路决定“写入什么”。点击查看不同电路模式（诱导头、名字探测头）。

超位置假设：模型用近正交方向叠加远多于维度的特征。点击切换视角观察特征叠加、近似正交与解耦过程。

SAE 用过完备字典把叠加的激活解耦为单义特征：编码器 → 稀疏瓶颈 → 解码器重建。点击训练 SAE 观察特征逐步单义化。

线性 / 非线性探针探测模型内部表征是否编码了某概念。点击执行探测，观察探针准确率随层深变化与信息瓶颈。

激活修补：把“干净”样本的激活拷贝到“腐败”样本运行中，定位因果关键路径。点击执行干预动画。

激活转向：沿概念向量加减偏置，直接操控模型行为（情绪、安全、诚实）。点击转向表征观察输出变化。

缩放 SAE、跨模型对齐、自动化电路发现（ACDC）与未来挑战。点击查看趋势演进。