华为首次展出“算力核弹”!昇腾384超节点获评WAIC 2025镇馆之宝

内容摘要快科技7月28日消息,日前,2025世界人工智能大会(WAIC)在上海开幕,华为首次展出被称为 算力核弹 的昇腾384超节点真机,即Atlas 900 A3 SuperPoD。华为表示,昇腾384超节点被评选为本次WAIC 2025镇馆之宝

联系电话:400-962-3929

快科技7月28日消息,日前,2025世界人工智能大会(WAIC)在上海开幕,华为首次展出被称为 算力核弹 的昇腾384超节点真机,即Atlas 900 A3 SuperPoD。

华为表示,昇腾384超节点被评选为本次WAIC 2025镇馆之宝。

昇腾384超节点通过高速互联总线,突破互联瓶颈,让超节点像一台计算机一样工作。

华为首次展出“算力核弹”!昇腾384超节点获评WAIC 2025镇馆之宝

相比传统集群,主要有以下3大优势:

超大带宽

超节点内任意两个AI处理器之间通信带宽,相较于传统架构提升15倍,超节点内单跳时延降低10倍。

超低时延

昇腾超节点支持全局内存统一编址,具备更高效的内存语义通信能力。通过更低时延指令级内存语义通信,可满足大模型训练/推理中的小包通信需求,提升专家网络小包数据传输及离散随机访存通信效率。

昇腾384超节点是业界唯一突破Decode时延15ms的方案,满足实时深度思考下的用户体验需求。

超强性能

经过实际测试,在昇腾超节点集群上,LLaMA3等千亿稠密模型训练性能可达传统集群的2.5倍以上。

在通信占比更高的Qwen、DeepSeek等多模态、MoE模型上,可以达到3倍以上的提升。

据了解,昇腾384超节点首创将384颗昇腾NPU和192颗鲲鹏CPU通过全新高速网络Matrixlink全对等互联,形成一台超级 AI服务器 ,其算力总规模达300Pflops,是英伟达NVL72的1.7倍。

网络互联总带宽达269TB/s,比英伟达NVL72提升107%;内存总带宽达1229TB/s,比英伟达NVL72提升113%;单卡推理吞吐量跃升到2300 Tokens/s。

华为首次展出“算力核弹”!昇腾384超节点获评WAIC 2025镇馆之宝

华为首次展出“算力核弹”!昇腾384超节点获评WAIC 2025镇馆之宝

华为首次展出“算力核弹”!昇腾384超节点获评WAIC 2025镇馆之宝

 
举报 收藏 打赏
今日推荐
浙ICP备19001410号-1

免责声明

本网站(以下简称“本站”)提供的内容来源于互联网收集或转载,仅供用户参考,不代表本站立场。本站不对内容的准确性、真实性或合法性承担责任。我们致力于保护知识产权,尊重所有合法权益,但由于互联网内容的开放性,本站无法核实所有资料,请用户自行判断其可靠性。

如您认为本站内容侵犯您的合法权益,请通过电子邮件与我们联系:675867094@qq.com。请提供相关证明材料,以便核实处理。收到投诉后,我们将尽快审查并在必要时采取适当措施(包括但不限于删除侵权内容)。本站内容均为互联网整理汇编,观点仅供参考,本站不承担任何责任。请谨慎决策,如发现涉嫌侵权或违法内容,请及时联系我们,核实后本站将立即处理。感谢您的理解与配合。

合作联系方式

如有合作或其他相关事宜,欢迎通过以下方式与我们联系: