蝉鸣报告-硬核报告每天更新;
覆盖产业报告、全球化、经济、趋势等全领域...

【东吴证券】AI算力跟踪深度(三)-从英伟达的视角看算力互连板块成长性——ScaleUp网络的ScalingLaw存在吗


东吴证券近日发布了一份名为“AI算力跟踪深度(三):从英伟达的视角看算力互连板块成长性——Scale Up网络的‘Scaling Law’存在吗?”的行业研究报告。这份报告深入探讨了AI算力领域中Scale Up网络的发展趋势和成长性,分析了其在解决“内存墙”问题、提升AI计算效率以及推动模型能力拓展方面的重要性,并预测了随着单用户每秒消耗的Token数增长,Scale Up网络规模将随之非线性增长的趋势。报告中还提出了Scale Up网络的Scaling Law,并详细讨论了如何组建更大规模的Scale Up网络,以及这一趋势对光连接、AEC、交换机等环节带来的影响。报告内容详实,为投资者提供了深入的行业分析和投资建议,具有较高的参考价值。

AI算力网络的未来:Scale Up网络的崛起

在AI技术的快速发展下,算力需求正以前所未有的速度增长。东吴证券的最新研究报告深入探讨了AI算力网络的发展趋势,特别是Scale Up网络的成长性。报告指出,随着AI模型的参数量和复杂度不断增加,传统的Scale Out网络已难以满足需求,Scale Up网络因其高带宽和低延迟特性,正逐渐成为AI算力网络的主流。

英伟达的Scale Up网络战略

英伟达作为AI硬件的领头羊,正在通过提升单卡带宽和扩大超节点规模两大路径,持续扩大Scale Up网络规模。NVLink技术不断迭代,最新的NVLink 5.0单卡带宽达到7200Gb/s,是前代技术的两倍。同时,超节点规模也在不断扩大,从H100 NVL8到GH200,再到GB200等,英伟达的技术进步不断推动着Scale Up网络的发展。

“内存墙”问题的解决方案

AI计算中的“内存墙”问题,即模型参数量与单卡显存的差距,以及单卡算力与显存间的差距,正在逐代放大。Scale Up网络通过显存池化,有效缓解了这一问题。此外,AI计算范式的演进,特别是张量并行和专家并行的采用,对通信频次和容量提出了更高的要求,进一步推动了Scale Up网络的升级。

更大的Scale Up网络的必要性

随着单用户每秒消耗的Token数(TPS)提高,现有服务器单卡性能逐渐坍缩。为了提升用户体验和模型能力,单用户TPS必然增长,采用更大规模的Scale Up网络能提高单卡有效性能,TCO也更具经济性。报告认为,Scale Up规模与预期单用户TPS、单卡实际性能间存在Scaling Law,前者会随后者非线性增长。

组建更大的Scale Up网络

在网络结构层面,英伟达可能在柜间搭建第二层Scale Up交换机。端口连接层面,光与AEC有望在第二层网络中并存。按照最新的NVLink与IB标准测算,1颗GPU需要9个额外的等效1.6T连接,为Scale Out网络的3-4.5倍,每4颗GPU需要额外1台交换机,为Scale Out网络的7.5-12倍。这表明,更大的Scale Up网络将带来倍增的网络连接需求。

投资建议

东吴证券认为,Scale Up需求的持续拓展将带来倍增的网络连接需求,光连接、AEC、交换机等环节都有望深度受益。推荐关注的相关标的包括光互连领域的中际旭创、新易盛等,铜互连领域的中际旭创、兆龙互连,以及交换机领域的锐捷网络、盛科通信等。

风险提示

尽管Scale Up网络的前景广阔,但也存在一些风险。如果算力互连需求不及预期,或者客户处份额不及预期,以及产品研发落地不及预期,都可能影响相关公司业绩。此外,行业竞争的加剧也是一个不容忽视的风险因素。

总结

东吴证券的这份报告为我们揭示了AI算力网络的未来趋势,特别是Scale Up网络的重要性和成长潜力。随着AI技术的不断进步,Scale Up网络将成为提升算力效率、解决“内存墙”问题的关键。这篇文章的灵感来自于东吴证券的这份报告,它只是对报告内容做了总体的介绍。除了这份报告,还有一些同类型的报告也非常有价值,推荐阅读,这些报告我们都收录在同名星球,可以自行获取。

以上为节选样张,关注公众号【蝉鸣报告】回复领取PDF完整电子版(无广告)。

蝉鸣报告】每日更新最新硬核报告,覆盖产业报告全球化经济报告、趋势等全领域。

 

未经允许不得转载:蝉鸣报告(原爱报告知识星球) » 【东吴证券】AI算力跟踪深度(三)-从英伟达的视角看算力互连板块成长性——ScaleUp网络的ScalingLaw存在吗

评论 抢沙发

  • 昵称 (必填)
  • 邮箱 (必填)
  • 网址

如何快速寻找资料?

关于我们赞助会员