优化算法可视化实验室
从一阶 SGD 到二阶 BFGS，从学习率调度到梯度裁剪——通过 8 个交互式 SVG 模块，直观观察各类优化算法在损失地形上的行为差异、收敛特性与超参敏感性。每个模块均为可调参、可回放的真实数值模拟。
SGD 与动量
在病态条件数的二次损失地形上，对比标准 SGD、带动量 SGD 与 Nesterov 加速梯度的收敛路径。观察动量如何穿越沟壑、Nesterov 如何"向前看"减少 overshoot。
Adam / AdamW
拆解 Adam 的一阶矩（动量）、二阶矩（RMS）与偏差校正，理解逐参数自适应学习率如何成形。对比 Adam 的 L2 正则与 AdamW 的解耦权重衰减在收敛路径上的差异。
Lion 优化器
Lion 用符号函数取代幅度——更新方向由 sign(动量插值) 决定，步长恒定。对比 Lion 的符号更新与 Adam 的幅度更新，观察符号一致性与更省内存的优势。
学习率调度
学习率并非一成不变。对比阶跃衰减、余弦退火、Warmup+Cosine、指数衰减与多项式衰减五种调度曲线，并实时观察每种调度对一维损失收敛的影响。
梯度裁剪
梯度爆炸是训练不稳定的主因。对比范数裁剪（整体缩放）与数值裁剪（逐分量截断），观察裁剪前后梯度分布与范数的变化，理解两种策略对方向的影响差异。
损失地形
损失函数的几何形状决定优化难度。切换碗形、鞍点、沟壑与平台四种地形，观察等高线热图、梯度箭头与优化器路径，并读取 Hessian 特征值与曲率（条件数）。
二阶方法
二阶信息利用曲率加速收敛。对比一阶 SGD、Newton（精确 Hessian）与 BFGS（拟牛顿近似），观察 Newton 一步到位、BFGS 超线性收敛，以及二阶方法的方向质量与计算代价。
优化器对比
同一损失地形，五名选手同场竞速：SGD、Momentum、Adam、AdamW、Lion。切换地形与学习率，观察收敛速度排名、最终损失与稳定性差异。