MINIMAX-M1 · LIGHTNING ATTENTION · 1M CONTEXT · APACHE 2.0

MiniMax-M1 实验室 · 线性注意力与长链推理 · 可视化实验室

首个大规模开源 Lightning Attention MoE · 456B/45.9B · 100 万 token 输入 · CISPO 强化学习 · 长上下文 agent 专精 · 中国大模型 IPO 第一股的技术答卷

Lightning Attention 456B/45.9B MoE 1M token 输入 CISPO 算法 混合线性/Softmax Apache 2.0 RL 200K 上下文 TAU-bench 强
WHY IT MATTERS
「把线性注意力做进千亿 MoE」· M1 证明了长上下文不只靠堆 KV,还能换数学
MiniMax-M1(2025-06 发布,权重+API 双开)是首个把 Lightning Attention(线性注意力)规模化落地的开源 MoE:456B 总参、45.9B 激活,约 60% 注意力层用线性形式、其余保留 Softmax 精读,直接把输入窗口推到 100 万 token —— 开源之最。后训练用自研 CISPO(裁剪重要性采样权重)在 200K 长上下文上做大规模 RL,工具调用与长程推理成为主打能力,TAU-bench 等代理评测进入开源第一梯队。配套的 MiniMax-M2(2025-11,230B-A10B)转向轻量 agent 优先,与 M1 形成「长上下文 + 快 agent」双线。
总参 / 激活
456B/45.9B
输入窗口
1M
RL 算法
CISPO
注意层配比
60% 线性
许可证
Apache 2.0
模块标签
图例说明
关键信息