Natural Language Processing · 可视化实验室
用交互式可视化理解自然语言处理的核心流程
从子词分词到 RAG 检索增强，8 个模块以可交互的方式呈现 NLP 中最关键的算法与数据流。每个模块都包含可视化、可调参数与实时统计。
8 个模块
零 依赖
SVG 矢量渲染
主色 #a78bfa
violet 主题
MODULE 01
分词与编码
BPE / WordPiece 子词分词。将文本拆分为子词单元，通过合并规则逐步构建词表，缓解未登录词（OOV）问题。
输入
MODULE 02
词嵌入
Word2Vec 将词语映射为稠密向量。Skip-gram 用中心词预测上下文，CBOW 用上下文预测中心词。近邻词在向量空间中距离更近。
目标词
近邻 k
4
MODULE 03
命名实体识别 (NER)
BIO 序列标注：B-X 标记实体首字，I-X 标记实体内部，O 为非实体。CRF 通过转移约束解码，SPAN 直接预测实体片段。
句子
MODULE 04
依存句法分析
Shift-Reduce 移进归约解析器维护栈与缓冲区：SHIFT 移入词，LEFT-ARC / RIGHT-ARC 建立依存弧，最终生成依存树。
栈操作
0 / 0
MODULE 05
Transformer 编码器
BERT 双向自注意力：Query 与所有 Key 计算点积，经 softmax 归一化为注意力权重，再对 Value 加权求和。多头机制关注不同子空间。
注意力头
H1
Query 词
可视化
MODULE 06
机器翻译
Encoder-Decoder 架构：编码器将源语言编码为上下文向量，解码器逐步生成目标语言。注意力对齐矩阵揭示源-目标词的软对齐关系。
例句
Beam 宽度
2
MODULE 07
语言模型采样
比较不同解码策略：Greedy 取最大概率、Beam Search 保留多候选、Top-k 截断前 k 个、Top-p (Nucleus) 截断累积概率达 p 的最小集合，Temperature 调节分布锐度。
策略
温度
1.0
k
3
p
0.80
MODULE 08
RAG 检索增强生成
检索增强生成管道：用查询检索相关文档，经重排模型精排，将 Top 文档作为上下文送入生成模型，缓解幻觉并提供可溯源性。
查询
Top-k
3