NVIDIA GROQ 3 LPX · NVIDIA · DEDICATED INFERENCE ACCELERATOR · 2026-08-24

NVIDIA Groq 3 LPX 实验室 · 专用推理加速器全量产 · 可视化实验室

NVIDIA 于 2026-08-24 宣布 Groq 3 LPX 专用推理加速器进入全量产:第三代 LPU 血统的推理专用芯片 · 确定性数据流架构 + 大容量片上 SRAM · 官方口径下推理吞吐与每瓦 token 数相对同级 GPU 显著领先 · 首 token 延迟进入个位数毫秒区间 · 云端实例、机架一体机与边缘卡三形态同步铺货

专用推理 · 非 GPU 确定性数据流 片上 SRAM 首 token 个位数毫秒 每瓦 token 领先 全量产 · 三形态 编译器栈开放
WHY IT MATTERS
「训练用 GPU、推理用专用加速器」的分工叙事,第一次由 NVIDIA 自己来收口
2026 年 8 月 24 日,NVIDIA 宣布 Groq 3 LPX 专用推理加速器全面量产。这条产品线继承 LPU 的核心思路:不做通用图形处理器,而做只服务推理的确定性数据流芯片 —— 计算图在编译期静态调度、执行期零分支猜测,配合大容量片上 SRAM 规避 HBM 带宽墙。官方口径下,第三代 Groq LPX 在主流推理负载上的吞吐与每瓦 token 数相对同级 GPU 取得显著领先,首 token 延迟进入个位数毫秒区间,适合高并发在线推理与实时语音场景。全量产意味着不再只是参考设计与样片:云端实例、机架一体机、边缘卡三种形态同步交付,产能爬坡与生态迁移同时开跑。本页按惯例以「官方口径 / 定性」标注事实层级,重点看三件事:专用架构到底省在哪里、量产之后软件栈接不接得住、GPU 与专用加速器的市场边界怎么重新划。
全量产宣布
2026-08-24
产品世代
第 3 代
芯片定位
推理专用
首 token 延迟
个位数 ms
交付形态
3 种
模块标签
图例说明
关键信息