3月5日,在巴塞罗那举办的MWC25期间,华为正式发布了面向AI大模型场景的新一代AI存储产品——OceanStor A800。该产品作为业界首款具备“长记忆”能力的存储设备,采用多级KV缓存机制,将中间Token持久化保存,实现高速数据吞吐与毫秒级推理响应。
据悉,OceanStor A800单框可达2400万IOPS与500GB/s带宽,训练集加载效率是业界8倍,断点续训速度提升4倍;长记忆功能使大模型推理时延降低78%,单卡吞吐量提升67%,有效提升AI训练算力利用率,满足金融、医疗、投研等多行业应用需求。
华为表示,凭借以存代算及内生向量知识库等创新技术,OceanStor A800将为AI大模型训练和推理提供坚实数据支撑,助力企业跨越数据孤岛,构建高效智能计算平台,推动数智时代全面升级。