【甲子光年】中国AI算力行业发展报告

近日，甲子光年智库发布了《中国AI算力行业发展报告》，该报告深入剖析了AI算力作为新时代发展的动力，以及其在推动AI新世代繁荣中的核心作用。报告细致探讨了AI算力需求的指数级增长、AI产业发展对算力市场的新机遇、以及算力在智能化升级中的关键支撑作用，同时分析了国内外政策环境、市场趋势和技术创新对AI算力行业的影响。这份报告不仅提供了对AI算力行业发展的全面视角，还包含了对未来算力需求和应用场景的深刻洞察，是行业内不可多得的宝贵资料。

在当今时代，人工智能（AI）的发展正以前所未有的速度重塑着各行各业的面貌。AI的繁荣，背后离不开强大的算力支撑。近期，甲子光年智库发布的《中国AI算力行业发展报告》为我们揭示了AI算力行业的现状和未来趋势。

报告指出，AI的发展带动了对算力需求的爆炸式增长。2012至2023年间，算力需求增长了数十万倍，远超摩尔定律的预测。大模型的出现，尤其是ChatGPT等通用大模型的成功，更是将算力需求推向了新的高度。这些模型训练需要千亿甚至万亿级参数，以及上千GB的高质量数据。预计未来10年，AI算力需求将再增长500倍。

AI算力的增长不仅体现在训练上，推理算力的需求也在指数级增长。以Sora视频生成模型为例，其消耗的算力是大语言模型的20倍。海量数据的积累使得大模型需要处理的数据量不断增长，进一步加剧了对算力的需求。

AI产业的快速发展为AI算力市场带来了新机遇。2023年全球人工智能市场收入达到5381亿美元，预计到2026年市场规模将达到9000亿美元。AI领域的投融资活跃，2024年第一季度全球AI领域完成1779笔融资交易，筹集的风险投资总额达216亿美元。全球人工智能企业数量达到29542家，其中中美两国的企业数占全球总数约49%。

在AI产业中，算力、算法和数据是推动行业发展的“三剑客”。算力作为核心驱动力，对于大规模模型训练的成功至关重要。预训练、微调和模型推理等环节是大模型研发过程中的核心关键因素和主要计算特征。

AI算力的发展也推动了各行业的数智化转型。大模型为各行各业提供了创新解决方案，有效提升了效率、降低了成本及优化了决策过程。目前，大模型在广告、传媒、教育、金融等领域快速落地应用，AI算力与各行业深度融合，加速了产业升级和数字化转型进程。

数字基础设施的加快建设，尤其是智能算力的增长势头强劲。2023年底全球算力总规模约910EFLOPS，其中智能算力从2021年的113EFLOPS增长至2023年的335EFLOPS，增速远超其他。这表明，智能算力正在成为数字基础设施的重要组成部分。

国家层面也在统筹布局，出台多项政策大力支持算力发展。例如，《国家数据标准体系建设指南》强调要强化基础设施互联互通、算力保障和流通利用标准建设。《政府工作报告》提出适度超前建设数字基础设施，加快形成全国一体化算力体系，培育算力产业生态。这些政策的出台，为AI算力的发展提供了有力的政策支持。

满足大模型需求的算力是一项复杂的系统工程，涉及计算能力、数据传输、存储和处理等多个维度的深度优化。算力系统的设计需要解决低时延数据交换、节点间计算负载的均衡分配、消弥算力堵点，预防硬件故障等一系列技术难题。不同应用场景对算力效率、调度灵活性、扩展性、安全稳定、成本效益等方面有着各自独特的需求。

AI算力具备软硬件的复杂性，并且以不同产品/服务/方案为应用赋能。AI算力仍旧是建立在过往的算力架构基础上，市场概念可以覆盖芯片、服务器、智算中心、云服务以及相关的产业链相关方案。由于构建AI算力底层的硬件产品的复杂性，结合用户需求的多样性，因此可衍生出大量的产品方案。

生成式AI的突破依赖于算力的“暴力美学”，应用依赖于算力在场景中的释放。AI技术在实际应用中包括训练和推理两个环节。训练是指通过数据开发出AI模型，使其能够满足相应的需求，一般为AI技术的研发。推理是指利用训练好的模型进行计算，利用输入的数据获得正确结论的过程，一般为AI技术的应用。推理部署的算力主要在于每个应用场景日数据的吞吐量。

随着推理成本的降低，推理端算力需求将持续扩大。AI应用推理的成本可能会远超训练。大模型训练是阶段性的需求，训练数据通常是固定的，但做推理可能每天都是几万亿到10万亿Token，一周就超过了训练的计算量。模型推理成本下降是超级应用爆发的前提条件之一。

AI的算力资源选择，需要结合自身部署能力及应用需求综合考量。算力资源的维度不仅包括算力规模大小，要考虑算力部署及运营过程中可以利用的程度。算力是工程化结果，是从芯片到资源服务的多层次构造，需要算力服务方自身在自身专业能力及经验案例上的实际Know-How作为基础。

AI芯片是智算产业的核心环节，AI芯片未来发展空间巨大。芯片作为算力产业的基石，为智能算法和应用提供了不可或缺的计算能力。在服务器成本中，核心芯片如GPU占据了超过80%的比重。掌握自主可控的AI芯片技术，对于智算产业的持续发展至关重要。

AI芯片成为中美科技博弈的焦点之一，AI芯片国产化刻不容缓。在中美科技博弈的背景下，AI芯片的国产化既是技术发展的需求，也是国家战略的一部分，对于提升国家的科技实力和产业竞争力具有重要作用。

美国的限制措施为国产替代提供机遇，国产化进程迎来加速期。在AI技术快速发展的背景下，AI芯片已成为美国政府卡中国脖子的新武器。自2018年以来，被美国列入“实体清单”的中国AI芯片企业持续增加。同时，美国聚焦于高算力芯片，限制英伟达、AMD等企业的GPU出口，试图全面遏制我国AI产业发展。

GPU占据AI芯片主导地位，推理需求加速CPU的使用。2023年上半年，中国加速芯片的市场规模超过50万张，GPU卡占有90%市场份额，非GPU卡占据10%市场份额。中国本土AI芯片品牌出货量近5万张，占整个市场的10%。2024年上半年，中国加速芯片市场规模超过90万张。GPU卡占据80%市场份额，非GPU卡占据20%市场份额。中国本土AI芯片品牌出货量近20万张，约占整个市场的20%。

TPU具有更低功耗和专用特性，成为AI芯片的重要发展趋势之一。GPU拥有高并行计算能力，适用于多种任务，但功耗和成本较高，在特定应用的优化上不如FPGA和ASIC灵活。FPGA可以针对特定应用进行编程，以实现硬件级别的优化，提供极高灵活性。但FPGA需要硬件描述语言(HDL)编程，比GPU编程更复杂和困难，开发周期较长。高性能FPGA的成本通常高于GPU，尤其是在大规模部署时。ASIC为特定应用定制，可以实现极高的性能和效率，且功耗通常低于GPU和FPGA。但ASIC一旦制造完成，就很难更改，这限制了其适应新算法或任务的能力。设计和制造周期较长。

AI算力需求增长推动数据中心走向智算中心。AI快速发展推动智能时代的到来，对算力的需求爆发式增长。传统数据中心以CPU为核心，主要负责数据处理及应用承载，已无法满足当前大规模并行计算的需求。因此，智算中心应运而生，专注于提供AI模型训练和推理所需的高性能计算能力。

智算中心以xPU为核心，单机柜功率密度达到20~100kW，耗电量大，在建设规划时需重点考量地理位置、能源条件、算力规模、网络能力、能耗问题等关键因素。

智算中心能效水平日益提高，机架规模稳步增长，算力集群上架率显著提升。我国大力推动智算中心建设，截至2024年6月，我国数据中心超过830万标准机架，算力规模达246EFLOPS(FP32)，智算同比增速超过65%。2022年，我国数据中心平均上架率为58%，华东、华北、华南地区上架率超过65%，西北、西南地区分别约为30%和40%。“东数西算”工程实施以来，算力集群的整体上架率快速提升，西部地区的算力规模增长显著。在用算力中心平均PUE为1.48，与2022年的1.52相比有所改善。

智能算力市场空间广阔，全国加快智算中心建设。2022年中国智能算力规模为259.9EFLOPS(基于FP16计算)，预计2027年达到1117.4EFLOPS，五年复合增长率达33.9%。智算中心建设提速，数据显示，2024年上半年，全国已经建设和正在建设的智算中心超过250个，招投标事件791起，已有超20个城市建设了智算中心。

多种智算中心建设及运营模式并行，适配不同算力需求。从目前建设情况看，根据算力规模，智算中心可划分为三大类：超级智算中心、中型智算中心和小型智算中心。目前建设运营模式主要有政府投资建设、企业建设运营、政府购买服务、政府和社会资本合作等模式。

AI服务器需求激增，带动市场规模快速增长。AI服务器是智能算力的重要载体，在全球范围内迅速扩张。2023年，全球AI服务器市场规模突破500亿美元，增幅高达95.8%，预计到2018年，市场规模有望突破

以上为节选样张，关注公众号【蝉鸣报告】回复领取PDF完整电子版（无广告）。

【蝉鸣报告】每日更新最新硬核报告，覆盖产业报告、全球化、经济报告、趋势等全领域。