天游国际

祝贺天游国际资源荣登动脉网《年度医疗康健财务照料机构榜单》！| 天游国际声誉

2025年5月9日

稳经济稳就业政策出台，，，，，药监局宣布高端医疗器械立异生长行动 | 天游国际月报

2025年5月20日

从华为CM384超节点，，，，，看中国AI的生长启示 | 天游国际分享

4月中旬，，，，，华为宣布了AI基础设施架构的新希望，，，，，推出了全球最大规模超节点——基于昇腾 910C 打造的 CloudMatrix 384。。。。。我们援引了SemiAnalysis对此的数据和剖析，，，，，并将其主要内容在后文分享。。。。。从中，，，，，我们窥见了中国AI可能的叙事情化：

①从单兵到集群，，，，，互联的主要性凸显：受限于先进制程与HBM，，，，，昇腾910C难以在单卡性能上同英伟达Blackwell匹敌，，，，，但依附强盛的通讯互联手艺积累，，，，，华为实现了系统级的立异和领先；；；；；；②基于国家资源禀赋的立异：超大规模集群的价钱是重大功耗，，，，，但中国能源网络的蓬勃水平为全球之最，，，，，相较于北美高昂的能源本钱，，，，，中国能源的较量优势得以施展。。。。。

以下，，，，，enjoy：

?一、华为CM384与NVL72比照?

华为CloudMatrix 384 由 384 块 Ascend 910C 芯片组成，，，，，通过全对全拓扑结构毗连。。。。。其背后的思绪很简朴：虽然每块GPU 性能仅为Nvidia Blackwell 的三分之一，，，，，但五倍于NVL72的Ascend数目填补了系统级的性能差别。。。。。完整的CloudMatrix 系统现在甚至可以提供300 PFLOP 的 BF16 盘算能力，，，，，险些是 GB200 NVL72 的两倍。。。。。依附凌驾3.6 倍的总内存容量和2.1 倍的内存带宽，，，，，中国现在可能拥有逾越Nvidia 的AI 系统能力。。。。。

天游国际(中国区)-官方网站

其唯一的弱点是，，，，，它需要4.1 倍 GB200 NVL72 的功率，，，，，每 FLOP 的功率差 2.5 倍，，，，，每 TB/s 内存带宽的功率差 1.9 倍，，，，，每 TB HBM 内存容量的功率差 1.2 倍。。。。。

但能耗对中国并不是一个焦点的限制因素。。。。。中国拥有最大的太阳能、水电和风电装机容量，，，，，现在在核电安排方面也处于领先职位，，，，，而美国仅维持着上世纪70年月安排的核电规模。。。。。中国自2011年以来，，，，，新增的电网容量已相当于整个美国电网规模。。。。。

天游国际(中国区)-官方网站

?二、系统级互联的构建?

1.Scale Up：

天游国际(中国区)-官方网站

差别Nvidia，，，，，华为SuperPod的Scale Up互联接纳了去铜全光的计划。。。。。每个GPU用7个400G LPO Sipho光模�？？？？樘峁┑�2800Gbit/s带宽来实现Scale Up互联，，，，，合计384张GPU一共通过4个CloudEngine Switch的单层扁平拓扑实现互联。。。。。

Scale Up所用LPO光模�？？？？橛昧亢霞拼�5376只。。。。。从GPU侧出发，，，，，一共有384张GPU*7个LPO模�？？？？�/张=2688个LPO光模�？？？？椤�。。。。Switch侧的用量与GPU侧一对一匹配，，，，，也是2688只LPO光模�？？？？椤�。。。。

可是，，，，，5000余个光模�？？？？橛糜诶┱构婺＝⒖煽啃晕侍�，，，，，且需要高质量的容错训练软件来应对云云多的光模�？？？？椤�。。。。别的，，，，，假设每个400G LPO光模�？？？？楸厩畘200美元、功耗~0.5W，，，，，那么超等节点的扩展网络的TCO约莫会是NVL72机架的8倍，，，，，功耗则将抵达后者的10倍。。。。。

2.Scale Out：

天游国际(中国区)-官方网站

在Scale Out网络，，，，，CM384接纳了二层优化拓扑。。。。。Leaf层，，，，，每个Leaf Switch拥有768个400G光模�？？？？槎丝�，，，，，其中384个端口向下毗连到384张GPU，，，，，向上的384个端口毗连到Spine Switch。。。。。Spine层，，，，，每个Spine Switch匹配GPU的数目是Leaf Switch的0.5倍。。。。。

因此Scale Out互联中，，，，，每个SuperPod一共将用到384*1（GPU侧）+384*2（Leaf侧）+384*2*0.5（Spine侧）=1536只光模�？？？？椤�。。。。

综合两部分的估算可以获得，，，，，在整个CM384的系统级互联中，，，，，每个CloudMatrix Pod的LPO光模�？？？？樽苡昧康执锪司说�6912只。。。。。

?三、单卡组成的拆解?

为包管重大的系统级互联得以实现，，，，，每张基板上均需要大宗的互联元件。。。。。单张基板合计8张910C GPU、2张鲲鹏CPU、8张Thor-2后端网卡、8*7只Scale Up 400G LPO光模�？？？？椋空臛PU对应7只）、1*8只Scale Out 400G LPO光模�？？？？椤�2张200G前端网卡及2个前端200G光模�？？？？椤�。。。。

由于制程和HBM限制，，，，，910C单卡性能仅有Nvidia GB200的三分之一。。。。。但超大规模的集群填补了单兵作战能力的缺乏，，，，，基于强盛的通讯手艺积累，，，，，华为用互联填补了算力的缺口。。。。。

天游国际(中国区)-官方网站

?四、结论?

Semi Analysis对整个CloudMatrix384系统的功耗举行了详细预计。。。。。由于纵向扩展与横向扩展网络大规模接纳光模�？？？？�，，，，，整个包括384张GPU的集群功耗极高。。。。。即便接纳了功耗更低的线性直驱LPO光模�？？？？榧苹�，，，，，总功耗仍然令人受惊。。。。。单个CM384超节点功耗超500千瓦，，，，，是英伟达GB200 NVL72机架的4倍以上。。。。。但同时，，，，，整个超节点也提供了凌驾NVL72超节点70%的算力。。。。。

天游国际(中国区)-官方网站

我们以为，，，，，一方面，，，，，半导体工业系统性瓶颈导致的制程和先进芯片问题可以通过系统级互联来填补（无论是基于全光计划，，，，，照旧基于铜），，，，，对算力缺乏问题实现“曲线救国”。。。。。另一方面，，，，，特另外用度和电力是中国为了追平西方的盘算能力所需的须要本钱，，，，，相较于国家清静和AI竞争身位的主要性，，，，，能源的价钱对中国相对更低。。。。。

基于强盛互联能力的手艺优势，，，，，和基于国家禀赋的能源优势，，，，，将在未来扩大数据中心节点规模和速率的历程中，，，，，成为中国公司可使用的要害要素。。。。。

原文链接：

https://semianalysis.com/2025/04/16/huawei-ai-cloudmatrix-384-chinas-answer-to-nvidia-gb200-nvl72/

【网站地图】