← TW HubTW/万亿参数MoE与开源大模型生态可视化实验室VIZ LAB / 357
TRILLION MOE / OPEN SOURCE LLM

万亿参数MoE 开源大模型生态 可视化实验室

从GPT-4的稀疏MoE到Kimi K3的2.8万亿参数开源——系统呈现万亿参数MoE架构演进、开源模型生态崛起与训练推理基础设施全景。覆盖专家路由、负载均衡、超节点算力、投机解码、社区生态与未来范式,解构开源大模型从架构到部署的完整技术栈。