扩散语言模型可视化实验室

前向扩散逐步向文本嵌入添加高斯噪声，T 步后变为纯噪声。点击启动逐步加噪动画。

反向去噪从纯噪声出发，逐步恢复清晰文本。点击观看去噪生成完整句子的动画。

扩散模型支持任意位置同时生成，打破自回归的左到右限制。点击切换不同的生成顺序模式。

扩散语言模型将离散 token 映射到连续空间进行扩散，再映射回离散 token。点击查看映射过程。

扩散模型天然支持文本+图像+视频联合生成，统一在连续扩散空间中。点击切换联合生成视图。

不同采样步数和策略影响生成质量与速度。点击对比 DDPM、DDIM、 ancestral 等采样器。

扩散语言模型 vs 自回归模型在质量、速度、长度、一致性等维度的全面基准对比。