【字节跳动】2025年GPUScale-up互联技术白皮书

近日，字节跳动发布了一份名为《2025年GPUScale-up互联技术白皮书》的行业研究报告。这份报告深入探讨了GPU集群数据处理能力的需求提升，以及AI模型对高速互联传输的需求。报告详细分析了GPU架构和互联方案，提出了下一代Scale-up互联方案的需求，并介绍了字节跳动自研的EthLink网络方案，旨在为AI集群提供低延迟、高带宽的网络支持。报告中还涉及了网络拓扑、网络接口等技术细节，为行业提供了宝贵的技术见解和未来发展趋势的预测。这份报告是一份内容丰富、技术深入的行业分析，对于理解GPU集群的未来发展和互联技术的进步具有重要价值。

在人工智能和机器学习领域，GPU集群的作用日益凸显，它们需要处理的数据量和复杂性不断增加。为了满足这些需求，GPU集群的网络规模和数据处理能力必须不断升级。《2025年GPUScale-up互联技术白皮书》深入探讨了GPU架构和互联方案的演进，以及下一代Scale-up互联技术的需求和解决方案。

报告首先分析了GPU架构，指出主流GPU架构支持Load-Store语义，计算引擎处理数据，而LSU负责数据传输。这种架构下，计算引擎和LSU可以并行工作，形成流水线，提高数据处理效率。然而，当需要传输大量数据时，LSU需要发送多个Load/Store指令，这会占用计算引擎的算力资源。为了解决这个问题，新型GPU增加了类似DMA引擎的传输模块，如NVIDIA Hopper系列GPU中的Tensor Memory Accelerator (TMA)，减轻了计算引擎的负担。

在GPU互联方案方面，AI集群的训练和推理任务通常需要多个GPU协同完成，这就要求通过Scale-up网络和Scale Out网络来完成GPU之间的数据传输。Scale-up网络特点是带宽高、时延小，而Scale Out网络带宽相对较低，时延相对较高。字节跳动提出的EthLink协议，支持Load/Store语义和RDMA语义，覆盖了所有应用场景。

报告进一步分析了下一代Scale-up网络的需求，包括承接Load/Store语义以支持小块数据和位置不连续数据的高效传输，以及承接RDMA语义以节省计算引擎的算力资源。此外，Shared Memory的作用日益重要，Scale-up网络需要实现远端Global Memory和本地Shared Memory之间的数据传输。

EthLink网络方案是字节跳动自研的Scale-up网络协议，它基于以太网技术，为GPU集群提供高速互联网络通道。EthLink协议栈分为Scale-Up语义层和Scale-up网络层，支持Load/Store和RDMA等语义。EthLink通过LLR和CBFC实现可靠的无损网络，优化链路层报文头，降低传输开销。

在网络拓扑方面，EthLink支持多个EthLink协议栈，每个协议栈可以支持1~4个以太网接口，通过低时延以太网交换机互联，最大支持1024个GPU节点。端口负载均衡通过Multi-Path实现，提升网络带宽利用率，同时处理可能引入的乱序问题。

EthLink的报文封装优化了报文头部，提升了报文有效负载率。它还支持链路层的可靠传输，包括LLR和CBFC，以及Switch Event Notification，确保在链路断开时能够快速切换路径，避免丢包。

总的来说，《2025年GPUScale-up互联技术白皮书》为我们展示了GPU集群互联技术的未来发展方向，特别是在AI应用对数据处理能力要求日益提高的背景下，EthLink协议的出现，为实现更高效、低延迟的GPU集群互联提供了新的思路和解决方案。

这篇文章的灵感来自于《2025年GPUScale-up互联技术白皮书》。除了这份报告，还有一些同类型的报告也非常有价值，推荐阅读，这些报告我们都收录在同名星球，可以自行获取。

以上为节选样张，关注公众号【蝉鸣报告】回复领取PDF完整电子版（无广告）。

【蝉鸣报告】每日更新最新硬核报告，覆盖产业报告、全球化、经济报告、趋势等全领域。