昇腾960提前就绪 华为剑指Agentic AI
华为进一步摊开了AI算力的技术版图。
9月17日,在华为全联接大会2026上,华为副董事长、轮值董事长汪涛集中展示了面向AI基础设施的新一轮技术进展:昇腾960研发进度提前,NPO光互联产品Hi-ONE即将规模量产,采用NPO技术的昇腾960超节点正式发布;同时围绕计算、互联、存储和管理,华为还首次完整展示了支撑超节点集群的11颗关键芯片。
相比一年前强调“超节点+集群”的算力路线,今年华为进一步将目标指向Agentic AI(智能体AI)。
智能体持续工作时间变长、上下文持续增长以及多智能体并发,使得AI基础设施面对的不再只是NPU算力问题。CPU需要同时处理大量推理任务,存储系统要存储不断扩大的KV缓存,数千乃至数万颗芯片之间还要进行高速通信。AI基础设施已经开始从单一芯片竞争,转向计算、互联、存储协同的系统工程。
汪涛表示,华为AI战略的核心仍是算力,将继续围绕“超节点+集群”进行系统架构创新。截至目前,昇腾910C超节点已经部署超过1000套,昇腾950超节点开始规模商用。
如果说过去几年华为试图回答的是“如何在单芯片之外获得更大的系统算力”,今年给出的进一步答案则是:通过一整套芯片、光互联、存储和软件生态,把越来越大的AI计算系统进一步连接起来。
图片来源:IC photo
11颗关键芯片组成算力“全家桶”
超大规模AI集群越来越像一台复杂的计算机。
汪涛提到,目前万亿参数级MoE模型持续迭代,10万卡规模的算力集群正在成为前沿模型训练的重要基础设施。但将10万张AI加速卡放在一起,并不意味着10万张卡的算力能够简单相加。
其中最大的损耗之一来自通信。
根据华为测算,在由传统八卡服务器组成的10万卡集群中,模型训练期间芯片之间通信所消耗的时间可能超过全部训练时间的40%,而衡量AI集群有效算力的重要指标MFU(模型浮点算力利用率)每提升一个百分点,都可能缩短模型迭代周期。
在华为常务董事、ICT BG CEO杨超斌看来,AI基础设施的瓶颈正转向互联。他表示,随着模型参数增大、集群规模扩大,一个典型MoE模型在10万卡集群上的MFU可能不到20%;与此同时,Prefill(预填充)、Decode(解码)等阶段的计算和访存特征开始分化,CPU和NPU之间的配比也随不同场景发生变化。计算系统需要支持异构算力协同、内存池化和分级缓存。
华为超节点的思路,是利用灵衢UnifiedBus统一连接系统中的不同组件,支持跨物理服务器统一内存编址,使多个物理节点在逻辑上更接近“一台计算机”。
围绕这一架构,华为此次进一步亮出了11颗关键芯片“全家桶”,包括鲲鹏CPU、昇腾NPU等计算芯片,面向Scale-Out(横向扩展)的大容量交换芯片,面向Scale-Up(纵向扩展)的低时延交换芯片和高速光互联芯片;存储侧则包括介质控制芯片以及专门面向AI KV缓存设计的Smart Storage Unit,此外还有承担系统协调和管理功能的芯片。这11颗关键芯片共同支撑超节点和集群,覆盖计算、互联、存储和管理等主要环节。
其中最核心的仍然是昇腾。
汪涛透露,昇腾960研发进展快于预期。其中,昇腾960DT支持2 PFLOPS FP8、4 PFLOPS FP4算力,最大支持288GB HBM,访存带宽达到9.6TB/s,计划于2027年一季度准备就绪,比原计划提前三个季度;昇腾960PR的FP4算力达到8 PFLOPS,计划于2027年三季度准备就绪,比原计划提前一个季度。
未来,华为仍会维持“一年一代”的昇腾芯片演进节奏,2028年、2029年陆续推出昇腾970和980。
这也意味着,在先进制造工艺受到限制的背景下,华为仍在延续此前的技术路线:一方面提升单颗芯片能力,另一方面通过互联和系统架构,将更多芯片组成更大的计算系统,持续突破AI算力瓶颈。
NPO光互联进入超节点
随着超节点规模不断扩大,另一个瓶颈开始出现:连接数千颗NPU的铜缆正在逼近物理极限。
汪涛指出,当SerDes(串行器/解串器)速率达到224G以上后,铜缆的传输能力会快速下降;随着NPU数量增加,传统可插拔光模块也难以满足系统对互联密度的需求。
华为因此将光互联进一步导入算力基础设施中,此次推出NPO(Near-Packaged Optics,近封装光学)光互联产品Hi-ONE,其核心思路与CPO类似,都是尽量缩短高速电信号传输距离、尽早将电信号转换为光信号,但不同之处在于,NPO没有将光器件和电芯片完全封装在一起,而是保留独立光引擎。
华为称,Hi-ONE是业界首个实现量产的NPO产品,单引擎传输容量达到7.2T。目前,它也是行业内唯一采用内置光源设计的NPO产品。
光互联能力已经被用于华为新一代超节点。基于Hi-ONE,华为正式发布昇腾960超节点,单个超节点最大支持4096张昇腾卡,可提供8 EFLOPS FP8算力以及最高1PB HBM容量。
根据华为测算,昇腾960超节点使用约5500个Hi-ONE模块,可以替代原方案约4.8万个800G光模块,系统功耗降低超过550千瓦,无故障运行时间提升一倍,可用度达到99.8%。
从技术路径看,AI基础设施竞争正在快速从芯片性能扩展到芯片互联层面。
英伟达持续以NVLink和NVSwitch推进Scale-Up,AMD、博通等厂商也在围绕高速互联展开布局。对于华为而言,自研昇腾芯片只是其中一部分,灵衢、交换芯片以及NPO光互联共同决定着数千张甚至数万张卡能否真正形成一套高效率AI算力系统。
剑指Agentic AI
在华为看来,Agent兴起还会进一步改变数据中心内部的计算结构。
传统的大模型交互主要发生在人和模型之间,而多Agent系统需要频繁创建沙箱(给每个Agent任务临时创建的隔离运行环境)、搜索长期记忆,并反复调用模型,这让过去主要围绕GPU或NPU建设的AI基础设施,同时面临来自CPU、内存和存储的压力。
例如,多Agent系统可能需要实现数十万个沙箱的秒级启动,并完成大量向量检索,华为因此把超节点架构进一步扩展至通用计算。
升级后的鲲鹏超节点采用灵衢全光组网,最大支持4096个节点,并形成最高256TB的统一内存池。根据华为测试,在十万级沙箱启动场景中,其速度相比传统服务器方案提升30倍,沙箱密度提升25%;在百亿级千维向量检索场景下,系统吞吐最高达到30万TPS。
存储同样成为Agent时代的一大瓶颈。
随着上下文从4K延伸至百万Token,以及Agent与模型交互频率持续增加,单张AI加速卡对应的KV缓存容量可能达到TB级。仅依靠芯片上的HBM和服务器DRAM已经难以承载,因此需要在集群层面建设PB级KV缓存。
华为此次推出OceanStor M900,通过灵衢让算力卡可以直接访问全局KV缓存,相比传统方案大幅降低数据搬运次数,并大幅提升性能。
最终,昇腾超节点、鲲鹏超节点、KV缓存和互联网络被进一步组合成华为所称的“Agentic超节点集群”。
硬件之外,华为也在继续补齐软件生态。截至目前,CANN外部开发者占比已经达到61%,社区月活开发者超过5200人;基于昇腾和CANN原生训练的模型超过40个,CANN已覆盖PyTorch、Triton、vLLM等90多个主流第三方框架及社区,适配超过200个开源大模型。
这也是华为近年来AI算力战略的主线:AI算力的竞争,已经不只是单颗芯片之间的较量,当单颗芯片难以支撑大模型对规模算力的需求时,便转向系统级创新——从芯片到超节点,再到万卡、数十万卡乃至百万卡集群,并进一步覆盖CPU、存储、网络与软件生态。
(作者:彭新 编辑:孔海丽,张明艳)
南方财经全媒体集团及其客户端所刊载内容的知识产权均属其旗下媒体。未经书面授权,任何人不得以任何方式使用。详情或获取授权信息请点击此处。
