WHY IT MATTERS
「训练用 GPU、推理用专用加速器」的分工叙事,第一次由 NVIDIA 自己来收口
2026 年 8 月 24 日,NVIDIA 宣布 Groq 3 LPX 专用推理加速器全面量产。这条产品线继承 LPU 的核心思路:不做通用图形处理器,而做只服务推理的确定性数据流芯片 —— 计算图在编译期静态调度、执行期零分支猜测,配合大容量片上 SRAM 规避 HBM 带宽墙。官方口径下,第三代 Groq LPX 在主流推理负载上的吞吐与每瓦 token 数相对同级 GPU 取得显著领先,首 token 延迟进入个位数毫秒区间,适合高并发在线推理与实时语音场景。全量产意味着不再只是参考设计与样片:云端实例、机架一体机、边缘卡三种形态同步交付,产能爬坡与生态迁移同时开跑。本页按惯例以「官方口径 / 定性」标注事实层级,重点看三件事:专用架构到底省在哪里、量产之后软件栈接不接得住、GPU 与专用加速器的市场边界怎么重新划。