头豹研究院_2026年AI异构算力平台行业研究：异构算力加速渗透，适配平台市场规模有望迎来三倍扩容_20260525.pdf

头豹研究院2026-05-25查看原文

摘要

1报告指出AI异构算力平台通过统一调度CPU/GPU等多元算力，解决生态割裂问题。

2预计2030年中国市场规模达1,371亿元（CAGR 32.9%），较2025年扩容三倍。

3云厂商占60%份额，国产芯片加速落地推动混合部署成主流。

4金融、政务采纳率超40%。

5政策驱动算力互联互通，存算一体与云边端协同为发展趋势。

![](page=0,bbox=[111, 41, 509, 205])

2026年

AI异构算力平台行业研究：异构算力加速渗透，适配平台市场规模有望迎来三倍扩容

AI Heterogeneous Chip Computing Power Platform industry

AI異種チップ計算力プラットフォーム

概览标签：AI异构算力平台、异构算力、国产替代

![](page=0,bbox=[793, 1377, 2254, 1795])

报告提供的任何内容（包括但不限于数据、文字、图表、图像等）均系头豹研究院独有的高度机密性文件（在报告中另行标明出处者除外）。未经头豹研究院事先书面许可，任何人不得以任何方式擅自复制、再造、传播、出版、引用、改编、汇编本报告内容，若有违反上述约定的行为发生，头豹研究院保留采取法律措施，追究相关人员责任的权利。头豹研究院开展的所有商业活动均使用“头豹研究院”或“头豹”的商号、商标，头豹研究院无任何前述名称之外的其他分支机构，也未授权或聘用其他任何第三方代表头豹研究院开展商业活动。

研究目的&摘要

01 研究目的

本报告旨在梳理中国AI异构算力平台行业的市场参与者、发展及应用现状，同时深度解析AI异构算力平台市场发展空间及未来发展趋势。

AI异构算力平台指什么？有什么优势？

02 研究问题

AI异构算力平台有哪些参与者？发展现状如何？

AI异构算力平台市场规模及未来发展空间如何？

01 AI异构算力平台定义

AI异构算力平台指面向多元AI算力需求构建的异构融合适配平台。该平台通过对各类异构算力的统一协同管理，充分释放整体计算效能，为多样化AI应用场景提供高性能、高可靠、高灵活的算力支撑。与其他相似技术对比，其具备支持按需扩缩容以适配不同任务需求、智能动态调度可实现资源最优利用等优势。

02 AI异构算力平台发展现状

AI异构算力平台市场参与者可分为云厂商（如阿里云）、硬件芯片厂商（如华为昇腾）、独立第三方厂商（如无问芯穹）和系统集成商（如浪潮信息）四类，其中云厂商凭借全栈服务能力及资源弹性度大等优势，占据约 60%的份额。商业化方面，AI异构算力平台收费模式多种多样，计时收费、按算力收费、订阅收费、项目制收费各占据约 50%、20%、15%和 10%的市场份额。

03 AI异构算力平台市场规模

2025年，中国AI异构算力平台市场规模为330亿元，预计到2030年，相关市场将增至1,371亿元，CAGR达 32.9%。从需求看，因更适配高性能计算场景，不同品牌 GPU混合部署已成市场主流。

![](page=1,bbox=[1438, 1669, 1634, 1750])

目录 CONTENTS

◆ AI异构算力平台行业概览 4

• 异构算力定义 5

• 异构算力常见类型 6

• AI异构算力平台定义 7

• AI异构算力平台与其他技术对比 9

◆ AI异构算力平台产业分析 10

• AI异构算力平台产业图谱 11

• 基础软硬件发展现状 12

• AI异构算力平台发展现状 16

• AI异构算力平台应用现状 19

◆ AI异构算力平台市场空间 20

• AI异构算力平台市场规模 21

• AI异构算力平台发展驱动因素 22

• AI异构算力平台发展趋势 25

◆ AI异构算力平台典型企业 27

• 典型企业一：阿里云 28

• 典型企业二：无问芯穹 29

◆ 联系我们 30

◆ 方法论与法律声明 31

![](page=3,bbox=[4, 1, 2393, 1800])

第一部分

AI异构算力平台

行业概览

异构算力定义

异构算力指在同一计算系统集成两种及以上不同类型或架构的计算单元（CPU、GPU、FPGA、ASIC等）通过充分发挥不同硬件资源优势，提升整体计算性能、能效比和灵活性，以便更有效执行各类任务

主流AI芯片对比

维度

CPU

GPU

FPGA

ASIC

架构特点

通用计算单元，具有强大的逻辑控制和任务调度能力，适合处理复杂串行任务和多样化工作负载

大规模并行计算单元，拥有数千个计算核心，适合执行高吞吐量任务，是AI训练和推理的主流选择

可编程硬件，具有硬件可重构特点，用户可根据特定应用需求自定义硬件逻辑，实现高度优化的计算加速

专用集成电路，可针对特定应用进行优化，适合大规模、固定场景应用

性能

单线程性能强，但并行能力有限

并行能力强，适合大规模数据处理

性能介于CPU和ASIC之间，延迟低

专为特定任务设计，性能最优

灵活性

高度灵活，可运行各种软件

灵活性中等，需依赖并行算法

灵活性高，可通过重新配置适应不同任务

无灵活性，只能执行固定功能

功耗

功耗高，尤其在高性能运算时

功耗较高，单位计算能耗优于CPU

功耗较低，但比ASIC高

功耗最低，专为效率优化

开发成本

开发成本低，成熟工具链

开发成本中等，需掌握并行编程技术

开发成本较高，需硬件设计知识

开发成本最高，需大量前期投入

升级与迭代

易于升级，只需更换软件

需重新设计算法，但硬件兼容性较好

可通过重新编程升级，硬件无需更换

无法升级，需重新制造

大模型场景下适用情况

适合任务调度和逻辑控制

适合大规模并行训练

适合特定算法加速

适合高能效推理

更高灵活性

更强性能

异构算力指在同一计算系统集成两种或多种不同类型和架构的计算单元（如CPU、GPU、FPGA、ASIC等），通过充分发挥不同硬件的优势，提升整体计算性能、能效比和灵活性，以满足AI大模型多样化算力需求。异构算力硬件体系由不同类型的计算单元组成，主要包括CPU、GPU、FPGA、ASIC等，各具特色，适用于不同应用场景。（1）CPU作为通用计算单元，具备强大的逻辑控制和任务调度能力，适合串行任务；（2）GPU拥有数千个计算核心，适合大规模并行训练；（3）FPGA支持自定义硬件逻辑，适合特定算法加速；（4）ASIC可针对特定应用优化，适合高能效推理场景。

来源：头豹研究院

异构算力常见类型

随着AI技术快速迭代与应用场景日趋复杂多元，推动异构算力的普及率提升至 85%。从部署类型看，不同品牌GPU混合部署、CPU+GPU混合部署是当前最主流的两大异构算力组合模式

AI算力技术路线，2026

![](page=5,bbox=[103, 433, 3077, 1159])

注：不同品牌的GPU或CPU架构通常不同；HPC指高性能计算芯片，通常用于AI训练/推理、科学研究、云计算及其他具有高计算要求任务的数据中心。

CPU+GPU

最常见的不同类型异构计算组合，这类组合充分利用GPU在并行计算方面的优势，尤为适合大模型训练等计算密集型任务。

来源：联想、头豹研究院

GPU+ASIC

GPU并行计算能力和ASIC高效计算能力结合，兼顾通用性、性价比、性能，是AI、算力中心、视频处理等场景主流异构方案。

GPU+FPGA

GPU承接高复杂度数据处理任务， FPGA根据特定需求进行硬件编程，提供灵活性和降低延迟，适合需要算法迭代+高实时性的场景。

随着AI技术快速迭代与应用场景日趋复杂多元，单一架构的计算单元已难以覆盖全场景需求，推动异构算力普及率达到 85%。从部署类型来看，不同品牌GPU混合部署、CPU+GPU混合部署是当前最主流的两大异构算力组合模式。

AI异构算力平台定义（1/2）

AI异构算力平台指面向多元AI算力需求构建的异构融合适配平台。该平台通过对各类异构算力的统一协同管理，充分释放整体计算效能，为多样化AI应用场景提供高性能、高可靠、高灵活的算力支撑

AI异构算力平台架构

![](page=6,bbox=[86, 419, 3112, 1248])

AI异构算力平台是指面向多元AI算力需求构建的异构融合适配平台，可实现硬件性能与计算要求的有效对接、异构算力与用户需求有效适配、异构算力在节点间灵活调度、多元算力智能运营与开放共享。该平台通过对各类异构算力的统一协同管理，充分释放整体计算效能，为多样化AI应用场景提供高性能、高可靠、高灵活的算力支撑。该平台架构主要包括：【1】硬件支撑平台：基于融合架构，实现CPU、GPU等多种硬件资源的虚拟化和池化；【2】异构AI算力适配平台：连接上层算法应用于底层异构算力设备的核心平台，驱动异构软硬件算力工作的核心平台，提供覆盖AI算力全流程适配服务；【3】异构AI算力调度平台：实现异构算力在计算节点间的灵活调度，满足高性能和高可扩展性，形成标准化和系统化设计方案；【4】智能运营开放平台：提供软硬一体融合解决方案，面向全行业，建立开放、共享、智能的异构AI算力支撑体系和开发环境。

来源：中国信通院、头豹研究院

AI异构算力平台定义（2/2）

异构算力协同是AI异构算力平台核心能力落地的关键支撑，该协同体系通过四个核心维度的统一化，实现不同类型/架构芯片的算力无感知调用、通信无障碍互通、资源无闲置调度和性能无差异评测

异构算力协同体系

统一计算

高性能算子加速库

跨架构编译

统一通信

统一集合通信库

统一调度

智算网络互联优化

异构高速互联总线

跨域异构算力调度

异构算力芯片

分布式推理调度

分布式训练调度

CPU

统一评测

统一计算

异构算力协同的基础能力，旨在解决异构芯片生态割裂导致的“算力碎片化”问题，构建底层异构硬件的统一抽象模型，从而实现各类异构算力资源的一体池化。

统一通信

异构算力协同的必要功能，旨在解决打破异构硬件间协议壁垒导致的 “数据孤岛”困境，构建跨厂商跨架构的确定性传输基座，实现异构算力间的高速、无损传输。

统一调度

异构算力协同的智能决策中枢，旨在解决多任务资源争用引发的“效率下降”难题，构建全局最优的资源编排范式实现对异构算力集群的全维度精细化调度。

统一评测

衡量异构算力综合能力的手段，旨在解决异构算力度量标准不一致而无法全方位对比的难题构建全栈测评规范，能有效破解面对多元异构算力时的选型困境。

来源：全球计算联盟、头豹研究院

异构算力协同体系是AI异构算力平台能力实现的核心。为打破异构算力生态之间的壁垒，完整的异构算力协同生态体系主要包括统一计算、统一通信、统一调度和统一评测四方面，通过上述四个核心维度的统一化，实现CPU、GPU、FPGA、ASIC等不同架构芯片的算力无感知调用、通信无障碍互通、资源无闲置调度和性能无差异评测，解决硬件差异带来的适配难、调度难、利用率低等问题。依托这一核心体系，AI异构算力平台才能完成算力资源的动态分配、任务负载的智能分发、多节点间的高效协同，最终将分散的异构算力整合为统一、弹性、可共享的算力服务能力，为AI在多场景、多行业的应用提供稳定高效的算力支撑。

AI异构算力平台与其他技术对比

与传统单一算力平台、云计算平台、边缘计算平台、高性能计算等技术对比，AI异构算力平台在多个关键维度展现独特优势，如支持按需扩缩容以适配不同任务需求；智能动态调度可实现资源最优利用

AI异构算力平台关键优势

对比维度

AI异构算力平台

传统单一算力平台

云计算平台

边缘计算平台

高性能计算

计算框架

多种硬件，动态分配

单一硬件，架构简单

多种硬件，静态分配

单一硬件，本地部署

高性能硬件，集中式架构

调度能力

异构芯片智能化动态调度

无动态调度

静态/半静态调度

就近计算，离线自治

大规模并行调度

实时性

中等延迟，可结合边缘计算实现低延迟

中等延迟

高延迟（公网访问）

极低延迟

中低延迟（内网高速互联）

性能与成本

性能高，成本适中

性能有限，成本低

性能中等，成本适中

性能有限，成本低

性能高，成本极高

扩展性

高弹性，支持算力按需扩缩容

无弹性，硬件固定

极高弹性，扩缩容速度快

弱弹性，边缘节点资源固定

低弹性，集群规模固定

能效

能效高

能效低

能效中等

能效高

能效低

设计目标

专为AI训练、推理、大模型调度优化

通用计算，无AI专项优化

通用算力租赁，弹性交付

本地低时延、弱网环境运行

超大规模并行浮点运算

计算架构：

多元化硬

件支持

度算法

智能化调

调度能力：

满足不同任务需求

来源：头豹研究院

实现资源最优利用

实时性：

通过云-边

协同架构

兼顾大规模计算与

低延迟

成本性能：

性能与经

济性平衡

适合企业级应用

能效：合

理分配能

效更高的

芯片

符合绿色计算趋势

![](page=9,bbox=[1, 1, 2397, 1800])

第二部分

AI异构算力平台

产业分析

AI异构算力平台产业图谱

![](page=10,bbox=[78, 243, 3126, 1575])

![](page=10,bbox=[638, 1550, 813, 1602])

来源：头豹研究院

基础软硬件发展现状：AI芯片

国产AI芯片迎来历史性突破：产能释放显著，高端产品进入规模化商用阶段；产品性能与海外差距逐步缩小，自主可控能力进一步提升；产业集群已形成，多企业协同突破，共同助力国产算力基建加速

国产AI芯片发展现状

量产加速，高端产品从战略投资阶段进入规模化商用阶段。一方面，国产AI芯片量产规模持续扩大，产能释放显著。目前，至少有9家中国AI芯片公司的出货量或订单量超过1万卡，如华为昇腾2025年出货量预估达70万片；燧原科技年度出货量预计超10万片；寒武纪2025年智能芯片及板卡生产量约12.8万片，同比增长超 400%。另一方面，国产高端AI算力芯片正从战略投资阶段进入量产阶段，商业化落地取得重大进展。例如：2026年初，华为昇腾910B芯片正式进入大规模量产阶段，同时华为正式发布搭载昇腾950PR处理器的Atlas350AI训练推理加速卡，该加速卡单卡算力达英伟达H20的2.87倍，HBM容量达112GB，为H20的1.16倍，是中国首款支持FP4低精度计算的商用推理产品，这也标志着国产AI高端AI推理算力进入规模化商用阶段。

性能与海外差距缩小，自主可控能力提升。从性能看，高端AI训练芯片的算力已接近英伟达A100芯片，推理芯片的性能则能达到或超过英伟达H10芯片。从功耗看，国产AI芯片通过优化架构设计，功耗较海外同类产品降低20%-30%，更符合中国市场算力中心绿色化发展需求。从成本看，国产AI芯片生产成本较海外同类产品低30%-40%，性价比优势明显。在自主可控方面：国产AI芯片核心技术国产化率持续提升，如芯片设计环节，已掌握自主架构设计技术，摆脱了对海外架构依赖；晶圆制造环节，中芯国际、华虹公司等先进工艺持续成熟；封装测试环节，已具备高端封装测试能力。此外，头部云厂商、传统服务器厂商以及AI芯片厂商正纷纷布局超节点，基于自身优势制定差异化竞争策略，以形成体系化算力输出。

量产规模持续扩大

自主可控能力提升

产业集群形成，协同突破

AI芯片领域呈现“龙头引领、多点开花”的产业格局。中芯国际作为晶圆代工龙头，为国产AI芯片提供先进制造工艺支撑，其7nm工艺良率已突破 90%，能够满足AI芯片量产需求（7nm以下先进制程良率每提升1%，单晶圆成本可降低超2,000美元）；通富微电、长电科技等封装测试企业，为国产AI芯片提供高效封装测试服务（如2.5D/3D封装、Chiplet等先进技术可将芯片性能提升 40%以上，功耗降低 30%，完美契合AI芯片的高性能需求）。与此同时，AI芯片初创企业加速崛起。例如：清微智能作为中国“非GPU”新型架构AI芯片的代表企业，其研发的可重构AI芯片保留GPU通用性的同时，通过算子的动态重构，趋近TPU等专用AI芯片的能效优势，目前该可重构芯片累计出货量已超3,000万颗。

来源：头豹研究院

基础软硬件发展现状：软件生态

与英伟达CUDA对比，国产AI芯片软件生态完善度有限，整体发展趋势为在不牺牲自研指令集与硬件架构创新空间的前提下，尽可能在API设计与工具链形态上补齐CUDA生态的使用习惯，从而降低迁移门槛

国产AI芯片软件生态完善度

企业

基础支撑层

核心工具层

框架适配层

管理监控层

整体评价

华为昇腾

CANNDriver/Runtime

ATC编译器、AOL算子库、HCCL通信库

MindSpore原生后端，torch_npu插件

Npu-smi，MindStudio，Atlas Scheduler

主流Linux发行版与容器镜像均已支持，日常使用中驱动安装和升级流程相对规范；覆盖常见CNN、Transformer等模型的主流算子和分布式通信路径，但新模型结构和长尾算子仍需依赖厂商支持或自行扩展；MindSpore提供原生后端，通过插件适配PyTorch等主流框架，但与CUDA相比，三方库支持度、社区教程数量仍偏少；支持对算子耗时、带宽利用率等进行定位，整体可对标nvidia-smi+Nsight组合，但生态中尚缺少更多由社区驱动的调优脚本与可视化工具适合对长期生态建设、自主可控要求较高、能够接受一定迁移投入的大型项目或公共算力平台，工具链较为齐全，但与CUDA相比，开发者积累与第三方生态厚度等方面仍处于扩展阶段

摩尔线程

MUSADriver/Runtime

MUSA编译器、muBLAS、muDNN

Torch-MUSA插件

mthreads-smiMUSA Dashboard

以“兼容CUDA开发体验”为目标，支持主流x86 Linux发行版，并提供muDNN等库的官方容器镜像，基础安装与运行环境配置相对可控；现有C++/CUDA扩展在较小改动下即可迁移至MUSA平台，但在某些高阶算子、长序列Transformer等场景的优化经验仍在积累；PyTorch通过torch_musa后端可以完成主流训练和推理，日常开发者主要通过“更换后端+安装插件”的方式完成迁移，相比CUDA，第三方框架和工具链的适配覆盖仍不完善；提供基础设备状态查询与资源监控能力，但在细粒度性能分析、自动化调优脚本和集群级调度工具方面仍处于建设阶段延续C++/CUDA开发习惯，适合存量CUDA代码资产较多、希望在图形+AI复合场景中平滑引入国产GPU的用户，在大规模训练与精细化运维场景，其软件栈支持不足

寒武纪

NeuWareDriver/Runtime

MagicMind编译器，CNNL算子库、CNCL通信库

torch_mlu插件，TensorFlow后端

Cnmon、MLUDiagnostics

在推理场景成熟度较高，训练侧生态相对有限；推理模型（尤其是CV方向）的性能调优工具和最佳实践文档相对丰富，而训练相关库与工具侧相对薄弱；提供torch_mlu等PyTorch扩展，以及TensorFlow等后端适配，主流推理工作流可通过官方容器与示例工程较快跑通，但在前沿模型和多框架协同方面与CUDA有明显差距；在集群级监控与资源调度软件上仍相对依赖上层通用平台更适合算子形态相对稳定、批量推理需求明确的业务场景，对于需要高频迭代模型结构的大模型训练任务，仍需要在迁移与调优层投入更多工程建设

来源：湖南大学、头豹研究院

基础软硬件发展现状：软件生态（接上页）

国产AI芯片软件生态完善度（接上页）

企业

基础支撑层

核心工具层

框架适配层

管理监控层

整体评价

沐曦股份

MXMACA Driver/Runtime

MXMACA编译器、MXNN算子库、MCCL通信库

PyTorch-MXMACA插件

mx-smi

基于MXMACA异构计算平台构建软件栈，目标是同时覆盖通用计算与AI训练/推理；MXMACA Driver/Runtime为曦思N、曦云C等产品提供统一驱动与运行时抽象，支持虚拟化、多实例划分等数据中心场景，基本满足通用GPU的部署需求；已覆盖主流训练与推理算子，并在数据中心场景支持端到端数据处理流程，与CUDA相比，文档完备度和长尾算子支持不够充分，高级调优工具持续完善中；提供与PyTorch对接的插件和示例工程，能在单卡完成中大模型推理，但整体生态规模与CUDA有明显差距；设备监控与资源管理能力基本可用，但在大规模集群调度与一体化运维平台上仍处于建设期适合“通用GPU+大模型推理/训练”，随着文档、示例与工具链持续完善，上手门槛有望进一步降低

海光信息

DCU Driver/Runtime(兼容HIP)

HIP编译器、FFT数学库

PyTorch插件、TensorFlow插件

hy-smi

采用GPU类通用加速器架构，支持CPU-DCU异构部署，在并行度较高的科学计算任务中可以一定程度上替代传统GPU工作负载；既有HIP/ROCm应用在较小改动下即可迁移，但面向大模型训练的专用算子库和高阶性能调优工具仍相对有限；已完成对PyTorch、Paddle等主流深度学习框架适配，并新增DCU侧的Profiling等功能，能支撑常见训练与推理任务，与CUDA相比，公开的最佳实践、调优案例和大规模分布式训练经验仍较少；管理监控层在国产生态中相对成熟，但整体效果受制于云原生与容器平台的演进；

适合已有HPC基础、希望逐步引入AI工作负载的机构，在“统一调度异构设备、兼顾HPC与AI”方面具有一定优势，但面向大模型常见的专用工具链和实战经验仍有限

壁仞科技

BIRENSUPA Driver/Runtime

BRCC编译器、suDNN算子库、SCCL通信库

PyTorch插件

暂未公开

偏向“深度合作+厂商支持”模式；能满足数据中心部署需求，但具体支持的OS、虚拟化形态等细节暂未形成完全公开的技术文档；API细节和算子覆盖度的公开资料较少，开发者需要依赖厂商支持的SDK与示例进行适配；提供面向PyTorch的插件和若干行业应用示例，可支撑基础训练与推理流程，但与CUDA相比，公开的大型模型适配案例和第三方框架支持仍有限；管理监控层主要依赖厂商内部工具和合作方平台

契合具备较强工程能力、愿意与厂商建立紧密合作关系的用户，对希望主要依托公开资料/社区完成迁移的团队，支持有限

燧原科技

云燧Driver/Runtime

TopsCompiler编译器、ENCCL通信库

PyTorch插件、TensorFlow插件

暂未公开

围绕云端推理场景做较深的纵向优化；公开资料更聚焦具体解决方案而非底层接口细节；算子类型和应用场景更集中；完整的训练支持相对有限；整体更多依赖于合作云平台或自建监控系统，尚未形成统一工具体系

适合已有成熟模型、重点关注云端推理成本与吞吐的场景，在“训练+通用计算”方向支持有限

天数智芯

DayChipDriver/Runtime

DayCompile编译器、DayOP算子库

PyTorch-DayChip插件、TensorFlow-DayChip插件

ixsmi、ixManager

围绕DeepSeek软件生态构建通用GPU平台，重点发力AI推理与行业应用落地；配套安装包与系统镜像主要面向数据中心与边缘服务器场景；核心工具层在推理场景的功能密度较高，但通用训练工具链和面向复杂大模型的专用优化能力相对薄弱；覆盖CV、NLP、语音等模型示例，降低推理部署上手门槛，但模型数量、更新频率、社区维护规模等有限；针对大规模集群场景的生产级监控与调度能力有待进一步完善

适用于对成本敏感、希望在国产GPU上快速落地多领域推理任务的用户，在训练和高性能科学计算等方向支持能力有限

来源：湖南大学、头豹研究院

基础软硬件发展现状：异构算力规模

2025年，中国异构算力市场规模达450亿元，预计2030年将超1,500亿元，CAGR达27.3%。而随着国产AI芯片加速落地及生态栈持续完善，将带动异构算力国产化率稳步提升至45%左右

中国异构算力市场规模，2024-2030E

![](page=14,bbox=[101, 402, 3093, 1643])

来源：头豹研究院

AI异构算力平台发展现状：厂商类型

AI异构算力平台市场参与者可分为云厂商、硬件芯片厂商、独立第三方厂商和系统集成商四类，其中云厂商凭借全栈服务能力及资源弹性度大等优势，占据约 60%的份额

部分主流AI异构算力平台

厂商类型

厂商

平台

平台特点

云厂商和科研院所

阿里云

PAI灵骏

大规模高密度计算服务，提供高性能AI训练、计算所需的异构计算算力服务，主要面向图形图像识别、自然语言处理、搜索广告推荐、通用大模型等大规模分布式AI研发场景，适用于自动驾驶、金融风控、药物研发、科学智能、元宇宙、互联网等行业（按AI训练所消耗的资源付费）

支持万张GPU规模的资源弹性，单集群网络容量高达4Pbps，时延低至2微秒，资源利用率提升3倍，并行计算效率提升90%以上；支持AI+HPC场景算力的统一分配和融合调度（支持PyTorch、TensorFlow、Caffe、Keras、XGBoost、Mxnet等多种训练框架），实现无缝连接

百度智能云

百度百舸

高性能云原生AI计算平台，适配英伟达、昇腾、昆仑芯等多种异构芯片混训，万卡单任务有效训练时长可达99.5%以上，训练性能提升60%，训练平台仅支持PyTorch、MPI框架任务提交

计费项： $\textcircled{1}$ 以百舸节点的形式提供，包括CPU、内存和GPU，收取节点规格费用（包年包月、按量付费）； $\textcircled{2}$ 百舸云盘提供安全可靠的高性能存储服务，按容量和类型收费（按量收费）

上海人工智能实验室

DeepLink

致力于加速国产芯片产业化进程的开放平台，支持国产多芯片异构、跨域的训推一体化工具链（实现对昇腾、沐曦、平头哥、壁仞等多款芯片混合调度和协同管理，跨平台兼容率90%），与单一芯片方案对比，推理时延TTFT最大可优化34.5%，推理吞吐提升32%

智源研究院

众智FlagOS

面向多种AI芯片的开源系统软件栈。在硬件适配上，已完成天数智芯、沐曦、寒武纪、海光、摩尔线程、昆仑芯六款主流AI芯片的端到端训练验证；在规模化训练层面，实现同构与异构千卡集群训练，先后在海光、沐曦、摩尔线程三款芯片上完成同构千卡端到端大模型训练，并在沐曦与英伟达、天数智芯与英伟达组成的两大异构千卡集群上实现混合训练

硬件芯片厂商

华为昇腾

CANN

专为支持华为自研的昇腾系列NPU芯片构建，是华为针对AI场景推出的异构计算架构，对上支持多种AI框架，对下服务AI处理器与编程，发挥承上启下的关键作用，是提升昇腾AI处理器计算效率的关键平台

内置高性能算子库与自研NB2.0通信算法，通过算子融合、内存优化等技术，提升算力利用率30%以上

独立第三方厂商

无问芯穹

Infini-AI

异构分布式混合训练系统，千卡异构混合训练集群算力利用率最大达97.6%；支持单任务千卡规模异构芯片混合训练，具备万卡扩展性，支持包括AMD、华为昇腾、天数智芯、沐曦、摩尔线程、英伟达六种异构芯片在内的大模型混合训练

清昴智能

玄武

面向国产硬件环境，提供一套轻量化、无依赖、开箱即用的大模型部署与运营平台；玄武CLI从底层设计上优先支持国产AI芯片，包括华为昇腾、寒武纪、昆仑芯、摩尔线程、沐曦、燧原等主流硬件平台；面向智算中心、大型企业等规模化算力应用需求，推出玄武智算平台（集群版），将华为昇腾、寒武纪、昆仑芯等10余款主流国产AI芯片纳入调度体系，实现异构算力的集约化管理

来源：头豹研究院

AI异构算力平台发展现状：厂商类型（接上页）

部分主流AI异构算力平台（接上页）

厂商类型

厂商

平台

平台特点

独立第三方厂商

灵镜云

LjyunCSP

全面兼容NVIDIA、华为昇腾、海光、昆仑芯、寒武纪、天数智芯等国内外主流厂商的GPU、NPU、FPGA芯片，资源利用率提升40%以上为提升异构算力使用效率，平台配套内置镜像仓库与常用AI工具链，实现“开箱即用”，大幅缩短异构算力部署与国产化迁移周期，让企业无需额外投入大量技术成本整合适配，即可充分发挥GPU、NPU、FPGA等不同异构算力的性能优势，高效支撑模型训练、推理部署、科学计算等多元场景需求；此外，平台内置用户注册、实例创建、计费方式配置（包月、按量）和账单结算等运营闭环功能

北电数智

前进AI异构计算平台

面向多种芯片生态构建的高性能智能算力底座，融合多元异构算力、高性能调度与工程化能力，可实现算力使用效率20%以上提升多维度计量计费、资源透视、弹性交付，实现从供给到收益的闭环

博云

AIOS

强调“算力管理+训推平台+AI运行时”的一体化能力，旨在为AI应用提供稳定、高效、极简的底层支撑能力支持英伟达、华为昇腾、海光、天数智芯、登临科技、寒武纪等多款AI芯片

系统集成厂商

浪潮信息

AI Station

实现对30余款国产芯片的无缝适配，支持独享、共享、弹性等多种算力供给，算力资源利用率提升20%；通过集群拓补感知能力提升算力效率，千卡规模下GPU加速比高达90%；针对资源故障等异常情况，自动进行容错处理，有效训练时长占比达90%

![](page=16,bbox=[120, 961, 998, 1501])

AI异构算力平台主要类型，2025

AI算力异构平台市场参与者包含四类：【1】以阿里云、百度智能云为代表的云厂商和以上海人工智能实验室、智源研究院为代表的科研院所平台，占据市场 60%左右的份额（以云厂商为主）。其中，云厂商主要优势在于规模化稳定、弹性调度、全栈产品化与企业服务成熟，适配多芯片且开箱即用，劣势是成本偏高、数据存在上云顾虑、深度定制能力有限；上海人工智能实验室、智源研究院等科研院所平台技术前沿性强，聚焦超大规模训练与国产芯片深度适配，科研与大模型验证能力突出，但商业化成熟度低、运维与稳定性不足、企业级场景适配薄弱。【2】华为昇腾、寒武纪等芯片厂商具备硬软全栈协同优化、自主可控供应链安全优势，训推一体化适配性强等优势，占据市场 20%左右的份额，但生态成熟度不足、模型迁移成本高、平台化调度能力较弱。【3】灵镜云、无问芯穹、清昴智能等独立第三方厂商平台中立开放、异构芯片兼容度与调度利用率极高，轻量化部署灵活、成本更优，但其品牌与规模效应不足、服务覆盖有限、整体生态有待完善，目前占据市场约 15%的份额。【4】浪潮信息、中科曙光等系统集成商平台在高密度硬件工程、大规模智算集群交付、本地化定制与国产芯片落地经验上优势显著，适合自建智算中心、定制化能力强，但其软件层异构调度与模型优化能力偏弱、云化弹性不足、项目制交付周期长且成本较高。

来源：头豹研究院

AI异构算力平台发展现状：商业模式

商业化方面，AI异构算力平台收费模式多种多样，计时收费（使用时长）、按算力收费（算力性能/规模）、订阅收费（包年包月）、项目制收费（定制化）各占据约 50%、20%、15%和 10%的市场份额

AI异构算力平台收费模式

计时收费

按照时间周期收费。客户成功购入AI资源的时刻，就开始计费，账单金额 =节点规格单价（CNY/分钟）购买数量使用时长（分钟），适合短期测试。

按算力收费

按算力等级/规模收费：根据芯片性能强弱划分算力档位，再结合卡数与集群规模综合计价，性能越强、规模越大，收费标准越高，大规模采购通常有阶梯折扣，适合长期性模型服务。

订阅收费

针对整机、集群，采取包年/包月订阅收费模式。账单金额=节点规格单价（CNY/分钟）X购买数量X购买时长（分钟），适合对算力有长期稳定需求的客户，灵活性高。

项目制收费

根据客户对硬件、网络、模型、安全部署环境等专属需求，单独制定服务方案、开发、适配、运维，并按项目整体收费的模式，适合大型企业、政企/智算中心等。

![](page=17,bbox=[2388, 473, 2885, 962])

计时收费按算力收费订阅收费项目制收费其他

来源：头豹研究院

从商业模式看，AI异构算力平台收费模式多样：【1】以计时收费为主，占比 50%左右，即按照使用时长收费，适合短期测试。【2】按算力规模及等级收费占 20%左右，即根据算力性能及集群规模等综合计价，性能越强、规模越大，收费标准越高，适合长期性模型服务。【3】包年/包月订阅收费占 15%左右，适合对算力有稳定需求的客户。【4】定制化占比 10%左右，适合大型企业。

AI异构算力平台应用现状

从AI异构算力平台采纳率看，金融、政务、教育三大行业已超40%，处于领先水平，制造和医疗也突破 30%，进入快速普及阶段；从方式看，当前多数企业倾向于使用成熟第三方平台以降低门槛和缩短周期

各行业AI异构算力平台部署情况

行业

采纳率

部署进度

制造

31%

金融

43%

政务

42%

教育

43%

医疗

35%

流通业

27%

来源：联想、头豹研究院

已使用成熟的第三方平台管理算力

正在试点，尚未部署到生产环境

已自主研发并正式投入使用

正在研究，计划在未来1年内引入

暂不考虑使用

随着多模态成标配、智能体技术成熟落地，企业对异构算力的需求持续增长。从AI异构算力平台的部署情况看，金融、政务、教育领域的采纳率均超 40%；制造、医疗等领域的部署渗透率也突破 30%，正进入快速普及阶段。从部署模式看，当前绝大多数企业倾向于采用成熟的第三方AI异构算力平台，以降低技术门槛、缩短建设周期并提升资源利用效率；仅政务、金融、制造等对数据安全、自主可控要求较高的行业，有部分头部企业选择通过自主研发算力管理平台的方式，实现算力资源的定制化部署与精细化管控。

![](page=19,bbox=[4, 2, 2392, 1800])

第三部分

AI异构算力平台

市场空间

AI异构算力平台市场规模

2025年，中国AI异构算力平台市场规模为330亿元，预计到2030年，相关市场将增至1,371亿元，CAGR达 32.9%。从需求看，因更适配高性能计算场景，不同品牌GPU混合部署已成市场主流

中国AI异构算力平台市场规模，2024-2030E

![](page=20,bbox=[113, 399, 3099, 1397])

来源：头豹研究院

AI异构算力平台发展驱动因素：需求（1/2）

一方面，AI算力需求井喷及各行业多样化应用场景，推动算力异构化成必然趋势；另一方面，随着大模型从训练转向推理，异构算力平台可精准满足其低延迟、高吞吐的核心诉求，同时显著降低推理成本

全球算力需求分布

![](page=21,bbox=[98, 448, 1381, 1573])

算力需求行业分布，2025

来源：中国信通院、头豹研究院

![](page=21,bbox=[1443, 443, 2179, 950])

![](page=21,bbox=[2303, 456, 2987, 890])

全球智算规模按类型分布，2026E

近年来，AI大模型技术迎来爆发式发展，模型参数规模从亿级快速攀升至万亿级，算力需求呈现逆摩尔定律增长态势——全球AI算力需求每3-4个月即实现翻番。叠加各行业多元化应用场景落地与绿色计算发展要求，单一架构算力已难以满足能效最优需求，算力异构化成为必然趋势。与此同时，智能算力凭借对海量数据的处理分析能力与复杂计算执行效率，已成为适配AI发展的核心算力形态。随着大模型应用从训练阶段全面转向规模化推理，推理算力需求迎来井喷。预计2026年，全球推理算力规模在智能算力中的占比将提升至 75%以上，广泛覆盖AIGC、智能体、行业模型微调等主流场景。异构算力平台可通过专用芯片选型、动态调度优化等方式，精准满足推理业务对低延迟、高吞吐的核心诉求，同时显著降低算力成本。相关实测案例显示：在“英伟达算力+国产算力”异构协同推理方案中，DeepSeek671B大模型在多场景下实现集群总吞吐提升 30%~72%、并发能力提升2倍；在同等吞吐标准下，异构算力组合可使推理成本最高下降 42%。

AI异构算力平台发展驱动因素：需求（2/2）

国产AI芯片加速落地量产，但在算力密度、生态等方面仍与海外存在差距，因此兼容国产异构、国内外混编算力成刚需，AI异构算力平台能打通异构算力集群的协同壁垒，是衔接上述需求的关键纽带

中国AI芯片国产化率及国产AI芯片最需突破的瓶颈

![](page=22,bbox=[118, 487, 1088, 1629])

来源：与非网、头豹研究院

以昇腾、寒武纪、海光信息、昆仑芯等为代表的国产AI芯片厂商，在单卡性能上持续加速追赶英伟达，同时通过兼容CUDA生态与自研生态两种路径布局产业生态。例如：华为于2025年Q1推出昇腾910C芯片，其FP16稠密算力约800TFLOPS，接近英伟达H100算力的80%，同时还通过超节点架构创新，与英伟达机架级解决方案展开竞争；寒武纪MLU590芯片性能可对标英伟达A100，基本满足主流云端算力需求。与此同时，国产AI芯片厂商正加快攻克晶圆代工等供应链瓶颈，沐曦、摩尔等二线AI芯片厂商也完成产品打磨，快速迈向规模化落地阶段，推动国产AI芯片批量放量。例如：2025年，昇腾910系列芯片出货量从50.7万片提升至80.5万片；平头哥芯片累计交付量突破47万片，年化营收规模迈入百亿级别；截至2025年8月，沐曦AI芯片累计销量已超2.5万卡；曦望、清微智能等AI芯片公司2025年出货量或订单规模达1万卡以上。此外，叠加美国对高性能AI芯片出口管制收紧的外部因素，中国AI芯片国产化率逐年稳步提升，从2023年的15%上升至2025年的41%。然而，在推进国产异构芯片协同推理的同时，因大模型技术快速迭代、多模态AI应用全面普及，催生指数级增长的算力缺口，且国产芯片在极致单卡性能、生态成熟度、大模型适配优化等细节维度，仍与英伟达顶级产品存在一定差距，难以完全满足头部企业的极致算力需求，导致企业在构建AI推理平台时考虑昇腾/寒武纪等国产AI芯片与英伟达GPU混合部署架构。在此背景下，兼容国产异构算力、国内外异构算力成为市场核心需求，而AI异构算力平台凭借强大的跨芯片适配能力、统一算力调度能力等，能够完美适配英伟达、AMD等海外主流芯片，以及华为昇腾、寒武纪等全系列国产芯片，打通异构算力集群的协同壁垒，成为衔接国产替代与算力刚需的关键纽带。例如：上海AI实验室发布的DeepLink混推方案，首次实现包括昇腾、沐曦、平头哥和壁仞在内的多款国产芯片的深度混合调度与协同推理，加速国产异构芯片的大规模应用，且其正逐步构建“训练+推理”全方位算力赋能体系，在计算资源有限的场景下，通过运用不同性能芯片的灵活组合，摆脱高算力芯片“扎堆”式部署，有效降低特定硬件的路径依赖；无问芯穹Infini-AI平台支持英伟达、AMD、华为昇腾、海光、寒武纪等10余种计算卡。

AI异构算力平台发展驱动因素：政策

近年来，国家大力推进异构算力调度、算力并网等关键技术研发与算力互联互通体系建设，旨在将分散的算力资源整合转化为统一、高效、普惠、绿色的智算服务，以支撑AI产业长期可持续发展

AI异构算力平台发展相关政策

政策名称

颁布主体

颁布时间

AI异构算力平台发展趋势：存算一体化

传统冯·诺依曼架构因“存储墙”“功耗墙”问题难以满足AI算力需求，行业正通过架构、技术路线、器件与介质、计算模式、系统级等维度创新实现存算一体化，以突破内存瓶颈和提升能效比

突破算力瓶颈的主要技术，2025

稀疏计算加速 13%

光电融合， 16%

架构范式创新

技术路径：将计算操作直接嵌入存储器内部或极度靠近存储单元优劣势：从源头极大减少数据搬运，实现数量级能效提升和延迟降低；但需对传统架构进行重新设计

存算一体， 23%

器件与介质创新

技术路径：SRAM与先进制程兼容好，速度快，精度高；Flash非易失性，容量密度大，成本低；新型存储器（如RRAM/MRAM）兼具高速、高密度、非易失性

异构集成， 48%

优劣势：SRAM适合大算力，但容量密度低，静态功耗大；Flash适合低功耗端侧推理，但工艺制程存在瓶颈；新型非易失存储器目前大多数处于从研发向产业化过渡阶段

典型代表：SRAM有后摩智能、苹芯科技；Flash有知存科技、恒烁半导体；新型有苹芯科技、后摩智能

![](page=24,bbox=[1498, 448, 2103, 1301])

技术路线创新

核心思想：根据融合程度，分为“近存”与“存内”两条路径

计算模式创新

核心思想：分为数字和模拟两种计算模式，在精度、能效和设计复杂度之间权衡

技术路径：数字存算指以数字信号形式进行计算；模拟存算指直接利用模拟信号（如电流/电压）进行计算

核心思想：从单点技术突破迈向系统级解决方案

优劣势：数字存算计算精度高、抗干扰性强、设计流程成熟，易于实现通用计算，但能效提升相对有限；模拟存算能效极高，契合AI乘加运算，但对噪声敏感，精度控制难，设计难度大典型代表：数字存算有后摩智能、亿铸科技；模拟存算有知存科技、恒烁半导体

系统级创新

技术路径： $ \textcircled{1} $ Chiplet/3D堆叠：将存算芯粒与其他功能芯粒集成，实现异构计算； $ \textcircled{2} $ 软件工具链成熟化：开发专用编译器，实现AI模型到存算硬件高效映射优劣势：Chiplet/3D堆叠提升系统灵活性，降低大规模量产和研发成本，但存在先进封装技术、互联标准和测试挑战；软件工具链成熟化能充分发挥硬件性能，降低开发门槛，吸引生态，但与传统CUDA等成熟生态存在兼容性问题

来源：与非网、头豹研究院

典型代表： $ \textcircled{1} $ Chiplet/3D堆叠：阿里达摩院通过混合键合3D堆叠技术实现、后摩智能； $ \textcircled{2} $ 工具链成熟化：后摩智能、知存科技均推出自有工具链

AI异构算力平台发展趋势：云边端一体化

智能体使用率已超 60%，构建云边端一体化的全域协同算力基础设施，成为支撑其规模化落地的必然选择；其中，低成本实现多芯片适配、破解边端算力孤岛等问题，是云边端算力全域协同的核心突破方向

各行业智能体使用及部署方案选择情况，2026

![](page=25,bbox=[114, 428, 3081, 1053])

![](page=25,bbox=[92, 1157, 1435, 1567])

云边协同主要瓶颈，2025

2026年，教育、政务两大行业智能体使用率已突破 80%，制造、金融、流通业等行业智能体渗透率也超 60%，智能体已转变为企业核心生产工具，而其自主推理、跨系统协同执行的能力推动算力需求从脉冲式消耗转向持续性爆发。然而，传统集中式算力架构已难以适配智能体多元场景对低时延、高并发和数据隐私的严格要求，因此，构建云边端一体化的全域协同算力基础设施，已成为支撑智能体规模化落地的必然选择一一云端处理非实时大数据分析与模型训练，边缘节点承接低时延、高并发的实时推理任务，终端设备则完成数据采集与即时响应。未来，低成本实现多芯片适配、破解边缘算力碎片化孤岛问题，将成为云边端算力全域化协同的核心突破方向。

来源：联想、头豹研究院

![](page=26,bbox=[3, 1, 2403, 1800])

第四部分

AI异构算力平台

典型企业

典型企业一：阿里云

阿里云PAI灵骏智算服务产品架构

![](page=27,bbox=[100, 259, 2694, 1656])

来源：头豹研究院

阿里云PAI灵骏智算服务产品的主要优势： $ \textcircled{1} $加速AI创新：全链路性能提速，计算密集型项目迭代效率可以提升2倍以上。 $ \textcircled{2} $最大化ROI：高效的池化异构算力调度技术，确保每一份算力投入都能得到充分利用，资源利用率可提升3倍。 $ \textcircled{3} $无惧规模挑战：轻松应对大模型和大规模工程仿真的算力需求，让创新不受算力限制。 $ \textcircled{4} $可视又可控：简单地管理异构算力分配，并持续地监控和优化。

典型企业二：无问芯穹

无问芯穹Infini-Al架构

![](page=28,bbox=[42, 262, 2697, 1671])

来源：头豹研究院

无问芯穹Infini-AI产品的主要优势： $ \textcircled{1} $ “M*N”AI基础设施新范式可连接多种大模型和多元芯片，通过异构算力适配技术，实现单任务千卡规模异构算力混合训练，集群资源利用率平均可达 90%。 $ \textcircled{2} $ 提供一站式AI开发平台和大模型服务平台，覆盖从数据托管、代码开发、模型训练、模型部署到推理服务的全生命周期。平台内置主流框架镜像，支持分布式训练、断点续训实时监控等，降低开发门槛。

头豹业务合作

会员账号

可阅读全部原创报告和百万数据，提供PC及移动端，

方便触达平台内容

定制报告/词条

行企研究多模态搜索引擎及数据库，募投可研、尽调、IRPR等研究咨询

定制白皮书

对产业及细分行业进行现状梳理和趋势洞察，输出全局观深度研究报告

招股书引用

研究覆盖国民经济19+核心产业，内容可授权引用至上市文件、年报

市场地位确认

对客户竞争优势进行评估和证明，助力企业价值提升及品牌影响力传播

行研训练营

依托完善行业研究体系，帮助学生掌握行业研究能力，丰富简历履历

深圳办公室

广东省深圳市南山区粤海街道华润置地大厦E座4105室

邮编：518057

上海办公室

上海市静安区南京西1717号会德丰国际广场2701室

邮编：200040

南京办公室

江苏省南京市栖霞区经济开发区兴智科技园B栋401

邮编：210046

![](page=29,bbox=[2423, 400, 2523, 522])

报告作者

袁栩聪首席分析师

![](page=29,bbox=[2422, 605, 2524, 728])

![](page=29,bbox=[1317, 1668, 1853, 1793])

付淑芳行业分析师

业务咨询

service@leadleo.com

客服电话：400-072-5588

官方网站：www.leadleo.com

方法论

头豹研究院布局中国市场，深入研究19大行业，532个垂直行业的市场变化，已经积累了近100万行业研究样本，完成近10,000多个独立的研究咨询项目。

研究院依托中国活跃的经济环境，研究内容覆盖整个行业的发展周期，伴随着行业中企业的创立，发展，扩张，到企业走向上市及上市后的成熟期，研究院的各行业研究员探索和评估行业中多变的产业模式，企业的商业模式和运营模式，以专业的视野解读行业的沿革。

研究院融合传统与新型的研究方法，采用自主研发的算法，结合行业交叉的大数据，以多元化的调研方法，挖掘定量数据背后的逻辑，分析定性内容背后的观点，客观和真实地阐述行业的现状，前瞻性地预测行业未来的发展趋势，在研究院的每一份研究报告中，完整地呈现行业的过去，现在和未来。

研究院密切关注行业发展最新动向，报告内容及数据会随着行业发展、技术革新、竞争格局变化、政策法规颁布、市场调研深入，保持不断更新与优化。

研究院秉承匠心研究，砥砺前行的宗旨，从战略的角度分析行业，从执行的层面阅读行业，为每一个行业的报告阅读者提供值得品鉴的研究报告。

法律声明

本报告著作权归头豹所有，未经书面许可，任何机构或个人不得以任何形式翻版、复刻、发表或引用。若征得头豹同意进行引用、刊发的，需在允许的范围内使用，并注明出处为“头豹研究院”，且不得对本报告进行任何有悖原意的引用、删节或修改。

本报告分析师具有专业研究能力，保证报告数据均来自合法合规渠道，观点产出及数据分析基于分析师对行业的客观理解，本报告不受任何第三方授意或影响。

本报告所涉及的观点或信息仅供参考，不构成任何证券或基金投资建议。本报告仅在相关法律许可的情况下发放，并仅为提供信息而发放，概不构成任何广告或证券研究报告。在法律许可的情况下，头豹可能会为报告中提及的企业提供或争取提供投融资或咨询等相关服务。

本报告的部分信息来源于公开资料，头豹对该等信息的准确性、完整性或可靠性不做任何保证。本报告所载的资料、意见及推测仅反映头豹于发布本报告当日的判断，过往报告中的描述不应作为日后的表现依据。在不同时期，头豹可发出与本报告所载资料、意见及推测不一致的报告或文章。头豹均不保证本报告所含信息保持在最新状态。同时，头豹对本报告所含信息可在不发出通知的情形下做出修改，读者应当自行关注相应的更新或修改。任何机构或个人应对其利用本报告的数据、分析、研究、部分或者全部内容所进行的一切活动负责并承担该等活动所导致的任何损失或伤害。

![](page=30,bbox=[1314, 1669, 1853, 1792])

本站所有资讯是用户利用其本地Agent获取并分享，均为公开信息，如需删除请联系我们。