天垓300实测对标H200：国产GPU跨过“好用”这道坎

21世纪经济报道记者 张赛男

国产GPU“能用但不好用”的刻板印象，正在被一组实测数据打破。

10月28日，天数智芯（09903.HK）举办媒体开放日，首次面向媒体开放天垓300实机演示。天垓300的AFD分离方案、IXL144超节点方案，以及天数智算软件栈、彤央端侧算力终端同台亮相。

第三方机构今年完成的实测显示，在典型PD（Prefill与Decode）分离部署下，天垓300折算单卡整体端到端吞吐达到英伟达H200的1.05倍。据天数智芯介绍，这是国内首个实测性能达到H200水平的通用GPU。

H200是大模型推理和复杂计算领域具有代表性的高水平GPU，其性能是衡量先进AI算力的重要标杆。天垓300在真实业务测试中达到这一水平，意味着国产通用GPU迈过了一道具有重要意义的性能门槛：从解决“能不能用”的问题，转向比拼实际产出、运行效率和经济价值。

（多并发下天垓300与H200性能对比）

实测对标H200

对标H200的看点，在于测试所对应的真实业务。前述第三方机构对比的不是理论峰值，而是在特定模型和部署条件下，整条推理链路的实际输出能力。

天数智芯性能实验室的实测进一步覆盖典型业务场景：在64K长上下文下，天垓300的Attention性能为H200的1.05倍；GLM-5.3模型64K规模时，在同等用户体验下，MoE（混合专家模型）吞吐为H200的1.15倍；8K至128K长上下文场景下Agent首字延迟较H200降低约10%—30%；多模态生成推理吞吐相较H200提升约2%—5%；在搜索、广告、推荐等在线业务中，推荐推理吞吐提升21%，轻量计算时延降低26%。

这些指标各自对应着用户能够感知的体验。长上下文处理关系到长文档分析和复杂Agent能否高效运行；MoE吞吐影响同等服务要求下系统承接请求的能力；首字延迟则直接关系到用户发出请求后的等待时间。

上述实测说明，天垓300已在多类关键负载上进入与国际主流高水平GPU直接比较的区间。

天垓300还提供开放、可组合的异构计算平台解决方案。以通用GPU为底座，支持混合训练、PD分离与AFD分离等多种部署形态，可与其他厂商的加速卡、专用芯片协同。

“未来的AI算力系统，不一定由一种芯片包打天下。”天数智芯AI与加速计算负责人单天逸表示，“关键是如何把它们高效组织起来，让整个系统发挥更大的价值。我们希望通过开放的异构计算能力，让客户充分利用已有算力资产，以更灵活的方式构建适合自身业务的计算系统。”

在规模化交付侧，天垓300已形成从加速卡、一机8卡服务器到超节点的完整系统方案。天垓300 IXL144超节点在单个标准机柜内集成144颗GPU、聚合约10.1TB显存。天数智芯称，这是目前业界密度最高的单机柜GPU超节点。

硬件性能达到可用区间之后，另一道门槛在于开发者能否真正用好。新模型不断出现，部署、适配和性能调优往往需要经验丰富的工程师投入大量时间。如果这些环节仍然复杂，硬件性能就很难及时转化为业务价值。

天数智芯副总裁石加圣围绕“易于使用、易于优化、易于开发”三个层次，首次展示天数智算软件栈全面拥抱Agentic AI的系统性布局：基于多年GPU研发、模型适配和性能调优积累，将软件栈、专业工具与工程经验同Agent技术结合，让一线开发者能够围绕场景目标和服务约束，直接调用工具、复用经验、开展优化。

云端能力下沉端侧

端侧算力一直存在两个争议：一是标称算力好看，实际跑起大模型却容易“露怯”，稀疏峰值与真实稠密算力之间往往差距不小；二是端侧只能做演示，训练和复杂任务仍要上云，数据安全与云端调用成本难以兼顾。简单任务上云是浪费，复杂任务一律下沉也不经济，算力到底该放在哪一层，成为端侧落地的核心焦点。

“云端GPU厂商做端侧，不是把芯片做小，而是把能力下沉。”天数智芯彤央产品市场负责人宋远盈表示。天数智芯将云侧积累的模型压缩、量化、蒸馏和软硬协同能力，连同通用GPU架构、编译器、算子库和性能工具带到边端。

彤央TY1200端侧算力终端标称300 TOPS稠密算力，而非行业惯用的稀疏峰值；在Qwen3.8-27B、Qwen3.6-35B-A3B等LLM模型实测中，TY1200性能达到Thor T5000的1.2倍。

在物理AI场景下，据天数智芯介绍，TY1200首次在国产端侧产品上实现基于MuJoCo-Warp的GPU加速物理仿真，机器人动作学习所需的大规模并行仿真可在本地终端完成；在Cosmos-R2-2B和Cosmos-R2-8B测试中，其实测性能分别达到Thor T5000的158%和180%。

性能最终要落实到真实任务中。在储能电芯研究案例中，TY1200支持科研智能体自动采集、治理实验数据，并可在约2分钟内生成报告；在应急视觉识别案例中，端侧CV与多模态大模型交叉验证，将识别准确率由70%提升至95%；搭载TY1200的陪诊机器人，已在上海市阳光康复中心服务视障人士，负责导诊、分诊与带路。

活动现场，天数智芯还预告下一代端侧产品彤央TY2000，标称算力将达600TOPs，把云端能力下沉的边界再向前推进一步。