WHY IT MATTERS
「大而不强」的反面 · 小模型用数据质量与架构巧劲追赶巨兽
2025 年小模型赛道全面爆发：Google Gemma 3（2025-03）以 27B 之力在 LMArena 排进前十、1B 档就支持 128K 上下文；Gemma 3n（2025-05）用 MatFormer 弹性架构与 Per-Layer Embeddings 做到手机端 E2B/E4B 运行。微软 Phi-4（2024-12）14B 在数学推理上直逼更大的开源旗舰，其秘密武器是「教科书级合成数据课程」—— 证明了数据工程可以部分替代参数规模。当云端 API 越来越强，小模型反而以隐私、离线、零边际成本三张牌开辟了不可替代的端侧市场。