算力新基建④丨大模型入口“铺路人”云计算厂商正掀起一场新变革

21世纪经济报道记者 张赛男 上海报道

ChatGPT在全球市场的成功，引爆了全球主要科技公司在AI领域进行军备竞赛，作为“云计算第一股”的优刻得（688158.SH）正深切地感受到这种市场变化。

“前端的订单确实非常多。”近日，优刻得新兴产业事业部总经理韩畅在接受21世纪经济报道记者专访时表示，“AIGC的概念是从去年10月开始升温，于今年年初开始火爆。AI对算力的需求发生了翻天覆地的变化，一是算力规模的扩大，二是高性能算力需求的增长，三是对数据中心的需求呈现出一些具体的变化。”

在市场人士看来，云计算的核心是通过云端提供海量算力，从这个角度来说，拥有云基础设施就有了跑通AI算力、AI大模型和生成式AI应用的入场券，云计算厂商也就成为了大模型入口处的“铺路人”。

据IDC预测，到2025年，支撑云计算的硬件、软件和云服务，以及云相关的专业和管理服务市场空间到2025年将超过万亿元人民币，云计算在中国具有巨大的潜在空间。

面对这个火热的市场，云计算厂商在感到兴奋的同时，也在思考一系列的问题：如何找通过替代方案来降低GPU等设备成本，当下数据中心配置能否满足海量的数据运算需求？

算力需求极速增长

韩畅负责的新兴产业事业部在优刻得属于前端业务部门，今年接触了很多前沿的AI产业。

从客户反馈来看，她直观地感受到AI带给云计算行业的变化。

“首先是算力规模呈现出非常大的提升。比如，以前个别客户有一些小型的训练或推理需求会租用我们的设备，按卡的数量来说，大致是一两百张的规模。但大模型兴起之后，参数量达到百亿或千亿的模型，需要的GPU训练卡的数量就是数百张甚至数千张的规模，对GPU卡需求量在大大地增加。”韩畅说。

其次，客户对GPU卡的性能也有了明显不一样的需求。“以前比如用英伟达T4或者V100就可以满足客户需求。但大模型兴起后，客户就想用A800以及未来的H800来做模型训练。这两种GPU显卡相比于以前的版本，运算性能大幅提升。”她对记者表示。

记者整理公开数据发现，英伟达V100芯片NVLink互联速率为300GB/S，拥有7TFlops FP64双精度、14TFlops FP32单精度计算能力；GPU显存为32/16 GB HM2e，显存带宽为900GB/s。而A800芯片NVLink互联速率达到400GB/S，拥有9.7TFlops FP64双精度、19.5TFlops FP32单精度计算能力；GPU显存为80GB HBM2e，显存带宽达到了1935GB/s。

而作为搭载GPU等设备的物理载体，数据中心的运行也在发生细微变化。

韩畅介绍，“大模型兴起之后，对于单机架的电力要求也变得非常大。”她向记者举了一个例子，“以一台A800的GPU服务器为例，需要30安的机柜，如果升级到H800，就需要50安的机柜。同时用户又要进行集群训练，那就需要在数据中心部署很多台 CPU设备，单台机柜的电力也相应提高，云计算服务商的资金投入也会相应提高。”

作为算力基础设施的重要组成部分，数据中心正成为人工智能产业化进一步发展的关键。据了解，优刻得已在国家“东数西算”枢纽自建的乌兰察布数据中心部署了多款GPU高性能计算产品，上线了英伟达的V100S、A800等多款显卡；此外，该数据中心还部署了新一代归档存储产品US3、提供海量训练数据存储服务。

总的来说，为满足市场上对算力的需求，优刻得通过自建的数据中心和多年云计算运营经验，更能进行机柜、网络、服务器等算力相关设施的定制。据了解，优刻得除了对GPU这种算力资源芯片进行了升级，对网络也进行了升级，让IB网络具有更大的互联带宽，实现更低延时、更高吞吐以及更智能的网络连接，从而大大提升大模型的训练效率。在存储方面，公司实现对数据生命周期管理、将冷热数据分层，从而降低80%的存储成本。算法方面，则是对硬件性能优化来进行加速。

制约算力的关键环节

回到产业链条上，算力是制约国内大模型发展的重要因素。

“虽然这不是唯一的制约因素，但确实非常重要，如果算力不足的话，很难在相对可控的时间内来满足训练和部署大模型的需求。”韩畅说。

进一步梳理AI 算力产业链，其涉及的基础设施包括AI芯片及服务器、交换机及光模块、IDC机房及上游产业链等。从上述变化来看，GPU等关键硬件设备又是制约算力发展的关键环节。

韩畅坦言，算力的底层基础设施特别重要，就目前的情况来看，国内的产业链仍很大程度上依赖英伟达的显卡去做大模型训练。此外，在算法优化、数据流通上也面临着挑战。

据记者了解，英伟达显卡在市面上几乎“一卡难求”，一位业内人士曾对记者表示，用来作大模型训练的芯片需求强劲，价格翻了数倍。

“现在国内GPU厂商也在不断壮大，大模型的兴起对他们而言是一个非常大的利好。但就应用而言，二者还是有一些差距。”她说，“（差距）更多的体现在性能上，要知道，硬件性能的优化是需要软件的兼容性去适配的，整个生态体系的建设需要时间。国内的GPU厂商正在努力追赶英伟达的脚步，需要更多的产业链环节一起参与进来。”

韩畅认为，首先需要大模型公司的参与；其次，云厂商作为一个基础设施提供商也要参与进来；另外，一些应用大模型的细分赛道的客户也应投身其中。“在产业链的共同努力下，相信未来国内算力芯片也能达到AI大模型发展需求。”

实际上，从大模型训练的基础——数据来看，也面临着流通的问题。“国内还需要高质量、稀缺性、合规的数据流通渠道，目前来说，我们在与大模型公司的沟通中，他们对一些行业数据的需求其实是非常迫切的，而大量高质量数据的缺乏，也一定程度上限制了大模型的发展。”韩畅指出。

就当前优刻得的客户分类而言，也能看出国内大模型的发展阶段。“大模型先要进行不断地训练，之后再转入推理，也就是用大模型为不同行业提供服务。目前我们的客户还是以训练阶段为主。”韩畅说。

她向记者举了一个例子：“某个客户训练卡和推理卡数量的配比大致是5:1，也就是仍属于前期阶段，随着之后商业化推进，训练和推理的配比会从5:1降到3:1降到1:1、1:5，甚至更多，大量的训练会转到推理上，对算力又会涌现巨大的需求。”