英伟达当地时间周一宣布,Groq 3 LPX机架已进入全面量产阶段,标志着该公司史上最大规模收购所获技术正式实现商业化落地。
英伟达高级总监迪翁·哈里斯向媒体表示,Groq机架将与Vera中央处理器和Rubin图形处理器一同部署在云服务商Nebius平台,整套系统将于今年晚些时候正式上线。
此次量产的Groq 3 LPX技术源自英伟达去年12月的一笔重磅交易——以200亿美元(约1357亿元人民币)收购芯片初创公司Groq相关资产,创下公司历史收购金额最高纪录。Groq架构在芯片裸片内集成500MB高速SRAM,从底层降低数据传输中的内存瓶颈。其中Groq芯片由三星代工,英伟达GPU则由台积电生产。
硬件配置上,单台LPX机架集成256颗Groq 3芯片,第三方机构Artificial Analysis基准测试显示,整套系统每秒可处理3400个Token。
英伟达全力推进Groq芯片产能爬坡与交付,凸显AI产业对低延迟推理的需求正在快速攀升。低延迟推理是保障AI智能体快速响应用户操作的核心基础,在代码生成等对响应速度要求极高的场景中价值尤为突出。哈里斯表示,云服务商可针对这类高实时性Token服务收取更高溢价。
低延迟芯片并不取代GPU主力地位。GPU可同时执行训练与推理,具备足够灵活性适应新技术和新模型;Groq这类芯片主要聚焦模型服务中的“解码”阶段。哈里斯称:“这不是要取代GPU,而是针对工作负载的不同环节,使用价格合适、处理能力合适的处理器。”
英伟达目前正同步加快Vera Rubin系统出货,该系统已于今年早些时候启动量产。今年3月发布会上,英伟达CEO黄仁勋预测,到2027年Blackwell芯片与Vera Rubin系统累计销售额将达到1万亿美元。黄仁勋还透露,将把数据中心用于编码类应用的四分之一空间分配给Groq芯片。