东吴证券近日发布了一份名为“AI算力跟踪深度:算力互连复盘与展望——网络互连带宽的增速来自哪里?”的行业研究报告。该报告深入分析了近两年海外算力互连产业的主要变化和市场走势,认为当前产业链的成长逻辑已经发生了改变,主要体现在算力硬件需求的转变、算力芯片的发展、技术迭代的方向以及网络互连升级的重点等方面。报告指出,随着用户消耗Token速度的提升,更大的Scale Up超节点的推理性能优势将越来越明显,预示着互连带宽需求有望实现快速增长,光连接、铜连接、PCB等互连方式都将从中受益。报告中还涉及了多个相关标的,为投资者提供了丰富的信息和深入的行业洞察。
AI算力互连的革命:网络带宽增长的新动力
在数字化时代,AI技术的发展日新月异,算力需求也随之水涨船高。近期,东吴证券发布的深度研究报告《AI算力跟踪深度:算力互连复盘与展望——网络互连带宽的增速来自哪里?》为我们揭示了AI算力互连领域的最新趋势和未来发展的潜力。
报告指出,算力硬件需求的增长逻辑已经从云厂商的资本开支(CapEx)转变为处理Token数。这意味着,随着用户消耗Token的速度提升,对算力的需求也在指数级增长。例如,谷歌AI的月度Token量在一年内激增约50倍,而字节跳动的豆包大模型日均处理量也同比增长超120倍。这种指数级的增长,直接推动了对更高算力的需求。
在芯片领域,我们看到了从依赖GPU到GPU+ASIC并存的转变。ASIC芯片虽然单卡性能略逊于GPU,但性价比更高,使得“单位美元”能够购买的算力大大增加。这种变化预示着云厂商资本开支的投向可能在产业链中重新分配,从而推动相关硬件需求的增速超过资本开支增速。
技术迭代方面,报告强调了从单一产品级别升级转变为网络架构级别的整体升级。这种升级不仅涉及到光模块、PCB、交换机、网卡等产品,更是整个网络架构的一次革命。特别是在网络互连升级方面,重心已经从Scale Out拓展至Scale Up,两类网络共同提升,单芯片带宽也得到了显著提升。
报告中提到,随着AI训练和推理的需求增长,以及海外AI玩家对算力扩容和基础设施升级的积极投入,英伟达的业绩持续超出市场预期,验证了AI算力的高景气度。同时,下游云厂商的资本开支也在稳步提升,显示出对AI算力的强烈需求。
在具体的技术层面,AI训练和推理需要分布式并行计算,这催生了Scale Up网络的需求。例如,张量并行计算需要更高频、更低延时的数据传输,传输数据量也高出一到两个数量级。这种需求推动了对更高带宽Scale Up网络的建设。
此外,报告还提到了“内存墙”问题,即单一大模型的参数量与单卡显存的差距,以及单卡算力与单卡显存间的差距,均逐代放大。为了解决这一问题,通过Scale Up网络将显存池化成为了产业化应用的最优解,如NVL72技术。
在投资建议方面,报告认为随着用户消耗Token速度的提升,更大的Scale Up超节点具备的推理性能优势会越来越明显。因此,采用PCB+铜互连+光互连扩张Scale Up超节点的方案是潜在的最优解之一,互连带宽需求有望实现快速增长。报告推荐关注光互连领域的中际旭创、新易盛等公司,铜互连领域的兆龙互连、中际旭创等,以及PCB领域的胜宏科技、景旺电子等。
风险方面,报告提醒我们注意算力互连需求不及预期、客户处份额不及预期、产品研发落地不及预期以及行业竞争加剧等问题。这些问题都可能影响到相关公司业绩的表现。
总的来说,这份报告为我们描绘了一个AI算力互连领域快速发展的图景,其中不乏挑战,但也充满了机遇。随着技术的不断进步和需求的持续增长,我们可以预见,AI算力互连将成为推动网络带宽增长的新动力。
这篇文章的灵感来源于东吴证券发布的《AI算力跟踪深度:算力互连复盘与展望——网络互连带宽的增速来自哪里?》报告。除了这份报告,还有许多同类型的报告也非常有价值,推荐阅读。这些报告我们都收录在同名星球,感兴趣的朋友可以自行获取。
以上为节选样张,关注公众号【蝉鸣报告】回复领取PDF完整电子版(无广告)。
【蝉鸣报告】每日更新最新硬核报告,覆盖产业报告、全球化、经济报告、趋势等全领域。