英伟达降规新品L40S 将绕过CoWoS

前沿科技
分享至
评论

  据悉AI教父将介绍NVIDIA的最新技术突破,包括获奖研究、应用场景描述之进展以及AI驱动的内容生成解决方案。主要聚焦在生成式AI等话题,预计黄仁勋也将持续发挥业务本色,大力推销自家产品。

  SIGGRAPH在图形图像技术,以及电脑绘图等方面有着相当的影响力。市场传出,黄仁勋本次预计将推出一款推理卡产品L40S,主要用于小参数模型推理及训练微调。据悉该产品不需使用CoWoS先进封装制程、及HBM内存,旨要作为替代A800打入中国市场。

  据业者指出,L40S为L40系列的迭代特规版,专门提供小参数模型推理及训练微调,与A/H系列存在较大差异,除了替代上一代的L40,及取代T系列推理卡,补足小模型训练产品线,预估性能将再逊于A800。

  不过也因此,在制程上也不需要复杂的先进封装,直接跨过台积电产能瓶颈。

  对此,台积电仅表示,现有产能计划并无改变,不评论市场传闻及客户业务。

  而在内存部分,L40系列也将不会采用第三代高带宽内存(HBM3),而是采用GDDR6(图形用双倍资料传输)内存。

  人工智能目前的现状是,极度缺货的人工智能芯片,市场纷纷抢购英伟达的最新AI芯片H100。近期GPT5已经进行商标注册,根据马斯克预计,GPT-5可能需要3万至5万个H100。加上META、Tesla、Stability AI等公司,生成式AI爆发仍旧没有放缓,反而对算力提出了更高的要求。

  根据业界推算,各大公司GPU需求,约43万张的H100,该算力规模,相当于上一代模型成长了近10倍,提供英伟达相当强劲的业绩支撑,英伟达将于8月23日公布上季财报,目前市场多给予乐观的预估,受惠生成式AI成长,明后年也将持续强劲。

THE END

数码评测