全球计算联盟智能计算产业发展委员会近日发布了《异构算力协同白皮书》,这份报告深入探讨了人工智能技术快速发展背景下,异构算力协同的重要性和挑战,并系统性梳理了算力产业的发展现状、异构算力协同体系架构、关键技术、解决方案与实践,以及未来技术展望。报告指出,构建统一的异构算力协同体系,实现不同类型智算异构算力的高效协同工作,对于推动算力基础设施迈向新阶段至关重要。这份报告为产业界提供了深入理解异构算力协同领域的宝贵资料,加速技术成果的产业化应用,对于促进国产算力底座性能跃升、异构算力协同生态繁荣具有重要价值。
在数字化浪潮的推动下,人工智能技术正在深刻改变世界。从ChatGPT引发的大模型热潮,到多模态AI应用的蓬勃发展,再到智能体的不断涌现,每一次技术突破都带来对算力需求的百倍级增长。面对这一挑战,异构算力协同成为关键路径,它能够推动异构算力基础设施迈向新阶段,实现不同芯片商、不同代际的各类异构算力芯片的齐头并进。
全球总算力已攀升至约3300 EFLOPS,其中智能算力规模激增至1980 EFLOPS,占比高达60%,成为拉动全球算力增长的核心引擎。在中国,智能算力规模达到748 EFLOPS,预计到2028年将达到2781.9 EFLOPS。这一增长不仅体现了技术底座的重要性,更是产业跃迁的“主引擎”,持续向千行百业渗透,成为撬动数字经济下一轮爆发式增长的核心支点。
然而,异构算力的发展也面临着碎片化、生态割裂及协同效率不足等问题。构建统一计算、统一通信、统一调度和统一评测的异构算力协同体系,实现异构算力间的无感知计算、无障碍通信协作、资源的高效调度和自动化测评,是推动异构算力基础设施迈向新阶段的关键路径。
在芯片领域,国外以英伟达、AMD为首的两大芯片巨头长期占据领先地位,占据全球算力市场34%的份额。国内算力芯片起步晚但发展迅速,逐渐呈现“一超多强”的国产芯片产业格局。例如,昇腾已支持建造多个万卡级集群,2025年推出384卡超节点新形态,最大算力可达300 PFLOPS。昆仑芯三代XPU-R,自研XPU-Link全互联架构,已在百度内部提供90%以上文心系列训练算力。
异构算力的定义与内涵也不断扩展。它强调在指令集架构、处理器类型、通信接口、内存访问模式等多个层面的差异性与互补性,但也对异构算力整体系统性的资源管理、软件适配、调度优化提出了更高的要求。
面对异构算力协同的挑战,需要构建统一计算、统一通信、统一调度和统一评测的异构算力协同体系。统一计算旨在解决异构芯片生态割裂导致的“算力碎片化”问题,构建底层异构硬件的统一抽象模型,实现对各类异构算力资源的一体“池化”。统一通信旨在解决打破异构硬件间协议壁垒导致的“数据孤岛”困境,构建跨厂商、跨架构的确定性传输基座,实现对异构算力间的高速、无损传输。统一调度旨在解决多任务资源争用引发的“效率下降”难题,构建全局最优的资源编排范式,实现对异构算力集群的全维度精细化调度。统一评测旨在解决异构算力度量标准不一致而无法全方位对比的难题,构建异构算力全栈测评规范,通过精准的性能评估与测试,有效破解用户面对多元异构算力时的选型困境。
在异构算力协同关键技术方面,统一计算技术包括跨架构编译和统一算子加速库。跨架构编译技术采用归一化的异构硬件抽象,统一编程模型与接口和智能动态编译优化,构建跨芯片、可扩展、自优化的编译系统。统一算子加速库利用统一编程语言和极致算子编程实现形成跨架构的高性能算子库,芯片厂商仅需在编译后端做差异化调优即可共享算子实现,同时兼顾性能与生态。
统一互联技术包括统一集合通信库和智算网络互联优化。统一集合通信库提供统一通信算子接口层,屏蔽底层不同芯片中通信原语实现细节,实现通信优化跨芯片、跨任务、跨规模的自适应优化能力。智算网络互联优化突破性能瓶颈并适配多元异构环境,保障算力资源的全局高效协同。
统一调度技术包括分布式训练框架和分布式推理系统。分布式训练框架在异构算力协同基础上进行升级,使其能够动态感知资源状态并做出最优决策。分布式推理系统旨在显著提升系统吞吐性能和响应速度,对分布式推理系统提出动态拆分推理任务、并发执行、异构算力协同的更高要求。
未来技术展望方面,芯片级的新计算范式芯片将实现计算与存储的物理零距离融合,孕育出新一代超高效能比的AI芯片。主机级的超节点算力异构将推动下一代超节点向着“物理分解+智能调度”的双轨重构趋势演进。集群级的跨域异构算力协同正通过网络升级、大模型训练任务分发算法升级走向成熟可用。场景融合的四算一体将构建支持通算、智算、超算与量子计算的统一编程、统一调度、统一互联的协同架构。
这篇文章的灵感来自于全球计算联盟智能计算产业发展委员会发布的《异构算力协同白皮书》。除了这份报告,还有一些同类型的报告也非常有价值,推荐阅读,这些报告我们都收录在同名星球,可以自行获取。
以上为节选样张,关注公众号【蝉鸣报告】回复领取PDF完整电子版(无广告)。
【蝉鸣报告】每日更新最新硬核报告,覆盖产业报告、全球化、经济报告、趋势等全领域。