让10万卡级集群协同运转，腾讯AI平台获广东科技进步特等奖

南方财经记者谭砚文

在腾讯的数据中心里，一个AI大模型训练任务正同时调动数万张GPU卡，24小时不间断运行。让这些卡保持协同的，是腾讯自研的超大规模跨模态人工智能应用平台，它把散落各地的算力聚合起来、按需调度。

10月27日，2025年度广东省科学技术奖揭晓。由腾讯科技（深圳）有限公司、中山大学、北京大学等作为主要完成单位的“超大规模跨模态人工智能应用平台关键技术与产业化应用”项目，获科技进步奖特等奖。日前，南方财经记者采访了团队成员腾讯技术委员会主任王巨宏、腾讯数据中心网络架构师何春志、中山大学副教授杨建权。

据了解，这套平台的核心作用，是把万卡级乃至10万卡级集群里不同厂商的算力卡连通起来，并统一调度。当前，该平台不仅是元宝、WorkBuddy等腾讯自有应用的底座，也通过腾讯云服务各类企业。 

从左到右依次为：中山大学副教授杨建权、腾讯技术委员会主任王巨宏、腾讯数据中心网络架构师何春志

把算力连起来、用起来

南方财经：请介绍一下什么是超大规模跨模态人工智能平台？主要解决什么问题？

王巨宏：大家平时听到的多是大模型平台，而我们这个平台是AI研发和应用的基础设施。如果应用软件是一辆跑车，我们就是整套高速公路的后勤保障系统。最核心的优势在于两层：一是网络层，解决芯片与芯片之间的连接，把几十万张卡以最高带宽连起来；二是框架层，解决计算、通信、存储和调度，把算力用起来。

这个平台要支撑万卡级、10万卡级的算力集群，参数从千亿级升到万亿级，多模态数据达到PB级；同时文字、图像、视频、语音等多种形态的数据，要在同一套体系里完成计算，模态越多，数据量级和计算挑战越大。

它主要解决两件事：一是把不同厂商、不同类型、互不兼容的算力卡连起来并调度好；二是把成本和效率做到最优，让上层的AI应用和产业应用都能跑得起来。

南方财经：这个项目最初是基于怎样的业务需求启动的？

王巨宏：这个平台一直是业务驱动的。2014年，腾讯的用户量级已经达到10亿，传统计算框架满足不了业务需求。其中，最早的诉求来自广告系统——腾讯要运营海量的广告素材，又要在数百毫秒内为用户匹配出最合适的一条，传统的计算框架已经满足不了，我们由此把整套系统作为一个分布式系统来搭建，做数据更新、调度优化，这也是整套分布式系统的起源。

同时，无论网络层还是框架层，我们都要求有一定的前瞻性和预测性。2019年左右，我们支持百亿级稀疏模型参数的Angel平台就已经正式对外推出，那时大模型才刚起步。所以在那个时间点上，我们的网络是有一定超前性的，这也是腾讯业务发展的需要。

南方财经：项目如何实现关键技术自主可控、突破国外算力限制？

何春志：IB网络（InfiniBand）在高带宽、低时延的高性能领域是公认的标杆，但它是私有的，而且非常昂贵。我们改用以太网这样的开放方案并做了技术突破，效率与IB基本齐平，成本约为它的30%，也就是降低70%。这张网只在数据中心内部，把几十万张卡以最高带宽连起来，与运营商覆盖城市之间的广域网不是一回事。目前，我们建成了业内首批实现10万卡级、3.2T单机互联带宽的网络与计算框架系统。

南方财经：这套平台打通了AI产业和创新链条上的哪些堵点？

何春志：平台打通的第一个堵点是故障定位。几万张卡里只要有一张慢卡，原本三天完成的任务可能拖到十天，靠上层框架一台台排查要一天甚至几天。我们从网络流量特征入手，开发出面向GPU实时训练的定位系统GOA，能把慢卡揪出来，排查时间缩短到几分钟。

另一个堵点是不同厂商的GPU卡生态不兼容，我们用跨平台算子编译技术，让互不认识的卡在这一层互通。

王巨宏：除此之外，还有算力怎么分配的问题。我们做异构混合计算，按需求调度：要高性能算力就给高性能卡，简单任务用相对低端的卡，并通过腾讯云把能力交付给中小企业。 

把能力交到产业一线

南方财经：这套平台的能力如何输出给企业？

王巨宏：主要通过两条路径。一是开源，Angel平台在GitHub上开源并捐赠给Linux基金会，需要的企业都能免费下载、商业化使用；另一条是通过腾讯云，把网络层、框架层和训练能力打包成PaaS服务，算力和核心算法一起开放，中小企业、大型企业都在用。

拓竹科技就是一个例子。它用平台能力做设计建模，3D建模效率相比人工提升80倍以上，2025年产值从10亿元做到了百亿元。此外，还有很多玩具、潮玩定制厂商，开模、设计都能通过腾讯云调用我们的PaaS服务。

南方财经：在大模型时代，企业作为创新主体有哪些核心优势？腾讯是如何发挥这些优势的？

王巨宏：企业作为创新主体，第一个优势在于拥有海量数据和国民级产品。以腾讯为例，拥有10亿用户的产品，每天都会产生大量真实问题。这要求我们构建一套系统，并把它打磨成最好、最柔性的系统，从海量问题中提炼出需要系统性解决的命题。

第二个优势在大模型时代更为突出。企业作为商业群体，能够投入更多的卡和算力去支撑科学训练。我们与多所高校合作，不少项目的落地验证就是在我们的系统和算力上完成的，这是大模型时代企业特有的优势。

南方财经：在合作研发的过程中，中山大学团队发挥了什么作用？

杨建权：中山大学与腾讯都植根大湾区，双方长期联合开展技术攻关与人才培养，先后得到国家、省、市各级重大科研项目资助。

团队在AI的一些关键技术点上取得突破，并转化到产业实践中。有两项较有代表性：一是AI可信推理技术，AI和人一样会犯错，我们让大模型能够感知自己有没有错、错在何处、程度如何以及如何纠错，解决了犯错不自知和反复犯错的问题；二是AI安全防御技术，AI在训练和应用中可能被投毒、被欺骗，导致泄露用户隐私或生成有害内容，团队研发了数据安全、模型安全、内容安全技术，为AI应用安全提供支撑。 

南方财经：这种校企合作，为什么在广东能跑通？

杨建权：校企紧密合作是大湾区AI产业生态的一个鲜明特色。关键在于双方优势互补、各展所长。中山大学植根大湾区、服务大湾区，与同处湾区的腾讯深度携手，正是高校对接区域产业发展需求的生动体现。企业研发更贴近市场与效益，倾向于把资源集中在确定性高、能快速落地的应用方向；而高校肩负人才培养与基础研究的使命，鼓励自由探索，对探索过程中的不确定性有更高的包容度。同时，高校也能依托合作项目，引导学生在真问题、硬骨头中打磨能力、积累经验，这种成长本身就是育人的核心价值，也让基础探索能够持续深耕。

因此，高校与企业其实是在AI创新链上自然互补的伙伴：高校侧重前沿探索与人才供给，企业侧重技术落地与产业转化，各自把擅长的事做到极致，共同把大湾区AI产业生态做实做强。

王巨宏：产业界提出问题，学术界帮我们找到理论依据，再回到工程系统验证、大规模上线，形成一个闭环。这次获奖，正是对我们持续做基础性工作的认同。 

南方财经：平台下一步将聚焦哪些领域重点突破？

王巨宏：当前AI应用不只是日新月异，而是“日新日异”。对团队来说，核心仍是支撑AI的研发和应用，因此要解决两件事。

一是更大规模。未来全球用户都可能使用AI，规模会剧增，模态也更丰富，视频生成、广告系统等场景的数据量越来越大，从计算、通信到存储都要讲效率。

二是降低成本。使用量增长会带动算力大幅扩张，因此必须在保证效率的前提下把成本降下来。所以我们一方面要紧跟应用需求，另一方面要把计算、通信、存储等每个环节持续优化，再整合成整体最优的体系。