推理时计算可视化实验室
从Chain-of-Thought到o1的隐式推理——把2026年大模型推理时计算(Test-Time Compute)如何提升推理能力的核心机制以可交互SVG呈现。
01
训练时 vs 推理时计算
传统模型在训练时投入大量计算，推理时直接输出；推理模型通过RL训练推理策略，在推理时进行多步搜索。对比图展示计算分配的范式转移。
传统模型
训练 >> 推理
System-1 快思考
推理模型
训练 + 推理均重
System-2 慢思考
范式转移
推理时 Scaling
计算从训练侧移至推理侧
02
思维链 (Chain-of-Thought)
CoT推理过程：问题→分解步骤1→步骤2→...→答案。动画逐步展示推理链的生成过程，每个步骤用气泡框显示。
Zero-Shot CoT
"让我们一步步思考"
单次提示触发推理链
Few-Shot CoT
示例引导推理
提供推理链范例
Auto-CoT
自动构建示例
零人工标注
03
思维树 (Tree-of-Thought)
树形搜索推理：从问题出发，分支生成多个思路，评估每个分支的价值，剪枝低分分支，进行深度优先/广度优先搜索。
分支策略
BFS / DFS
广度或深度优先搜索
评估函数
LLM 打分 0-1
评估每个节点价值
剪枝阈值
score < 0.3
低分分支直接剪除
04
思维图 (Graph-of-Thought)
图结构推理：节点是推理步骤，边是逻辑关系，支持合并、回溯、循环。网络图布局展示推理图的生成过程。
合并节点
多路径汇聚
融合不同推理链的结论
回溯边
放弃→重来
发现死路时返回上一节点
循环边
迭代优化
反复验证同一推理步骤
05
自洽性与多数投票
Self-Consistency：同一问题生成N条推理路径，对最终答案进行多数投票。多条并行路径动画展示，最后汇聚到投票统计。
路径数 N
5-40 条
温度采样生成多样性
投票策略
多数投票
选择出现频次最高的答案
准确率提升
+5-18%
相比单路径 CoT
06
推理 Scaling Laws
推理计算量(FLOPs)与准确率的关系曲线。X轴推理计算量，Y轴准确率。不同任务(AIME/MATH/GPQA)的scaling曲线展示。
AIME
数学竞赛
推理收益最大，+76%
MATH
数学推理
起点高，提升平缓
GPQA
研究生级QA
知识密集，推理收益有限
关键发现
对数线性增长
准确率随log(计算量)线性提升
07
o1 / o3 推理架构
o1模型的隐式CoT架构：输入→隐藏推理Token→输出。流程图展示训练阶段(SFT+RL)和推理阶段。推理token消耗的动态变化。
训练阶段
SFT + RL (策略梯度)
学习何时该深入推理
推理阶段
隐式 CoT
推理token不暴露给用户
推理深度
动态自适应
简单问题少算，复杂问题多算
08
推理预算控制
动态分配推理计算预算：简单问题少算、复杂问题多算。仪表盘展示推理预算分配策略，包括early stopping、置信度阈值、最大深度限制。
简单问题
120 tokens
Early stop @ 95% 置信度
中等问题
450 tokens
深度限制 8 步
复杂问题
800 tokens
用满预算上限
平均消耗
456 tokens
动态分配效率 2.3x