英伟达新服务器提升中国AI模型性能十倍 MoE架构成关键

前沿科技
分享至
评论

英伟达近日公布测试数据,其新一代AI服务器在运行部分中国热门时,可实现高达十倍的性能提升。此次测试特别针对采用“专家混合”(MoE)架构的模型,包括中国公司Moonshot AI的Kimi K2 Thinking模型及DeepSeek模型。

英伟达新服务器提升中国性能十倍 MoE架构成关键

MoE技术通过将任务拆分并由模型内不同“专家”处理以提高效率,此前因DeepSeek推出训练所需芯片远少于同级别产品的开源模型而受到广泛关注。目前,该技术已被OpenAI、法国Mistral及中国多家公司采用。

英伟达强调,尽管此类模型在训练阶段可能减少对其芯片的依赖,但在实际部署与服务阶段,其硬件仍是支撑模型运行的核心。新一代服务器通过集成72颗旗舰芯片并以高速互联,实现了性能的大幅跃升,公司将此视为其目前领先于竞争对手的关键优势。

随着AI产业重心从训练向应用阶段转移,英伟达正面临来自AMD、Cerebras等公司的竞争。AMD也表示正在开发类似的多芯片高性能服务器,最快将于明年上市。

THE END

数码评测