小语言模型设计可视化实验室

如何在小参数量下注入更多知识：教材质量数据、合成数据增强、课程学习、知识蒸馏。数据管线展示知识打包流程。

参数量 vs 性能的 scaling law：不同参数量在 MMLU / HumanEval / GSM8K 上的表现，标注收益递减点。

SLM 特有的架构创新：深度-宽度权衡、共享参数、分组查询注意力（GQA）、滑动窗口注意力。对比图展示创新点。

"教科书即一切"理念：数据质量 > 数据数量、合成数据生成、数据过滤与去重、课程学习排序。漏斗图展示数据精炼过程。

不同 SLM 在边缘设备上的推理速度：tokens/s、首次响应延迟、内存占用。分组柱状图对比不同模型在不同设备上的表现。

雷达图对比 SLM（3B）vs LLM（70B）在知识 / 推理 / 编码 / 数学 / 创意 / 指令遵循上的能力差异，标注 SLM 适用场景与局限。

网格图展示 SLM 典型应用：本地助手、代码补全、文档摘要、实时翻译、IoT 交互、隐私查询。每个应用标注推荐模型大小和延迟要求。