// SEQUENCE MODEL VISUALIZATION LAB

序列模型可视化实验室

交互式探索从 RNN 到 Mamba、RWKV 的序列建模架构演进。8 个模块涵盖循环网络、注意力机制、状态空间模型与长序列建模，每个模块均提供实时 SVG 可视化与参数调控。

8可视化模块

0外部依赖

SVG交互式渲染

100%单文件

RNN / LSTM / GRU 基础

循环神经网络通过隐藏状态在时间步间传递信息。LSTM 引入门控机制解决长程依赖，GRU 以更简结构实现类似效果。切换架构观察展开图与门控结构的差异。

双向 RNN 同时从正反两个方向处理序列，将两个方向的隐藏状态合并以获得更丰富的上下文表示。观察正反方向并行处理后汇聚输出的过程。

Beam Search 在解码时保留多条候选路径并行扩展，每步仅保留得分最高的 top-k 路径并剪枝其余。调整 beam 宽度观察搜索树的展开与剪枝过程。

Mamba 基于选择性状态空间模型，通过输入依赖的参数实现动态序列建模。状态更新遵循 h'(t) = A·h(t) + B·x(t)，输出 y(t) = C·h(t)。切换选择机制观察差异。

RWKV 融合 RNN 的线性推理与 Transformer 的并行训练。Time-mixing 通过 WKV 机制实现时间维混合，Channel-mixing 在通道维度做非线性变换。切换 mixing 类型观察计算流程。

标准注意力复杂度为 O(n²)，线性注意力通过核函数分解将复杂度降至 O(n)。Performer 使用随机特征进一步近似。切换类型对比计算模式与复杂度差异。

处理超长序列需要特殊策略：滑动窗口、分块处理、层次化聚合与稀疏注意力各有取舍。切换方法观察不同策略对长序列的处理范围与内存特征。

RNN、Transformer、Mamba、RWKV 四大架构在推理速度、内存占用、长序列能力、并行度与生成质量上各有优劣。切换对比维度查看雷达图与综合评分。