Scaling law 下算力需求持续扩张,基础硬件端将充分受益
OpenAI 的 Scaling Law 下,模型有效性和计算约束正相关。因此在GPU 能力一定的情况下,如何提高集群的线性加速比,满足低时延、大带宽、无阻塞的机间通信,从而降低多机多卡间数据同步的通信耗时,成为模型训练侧新的核心议题。根据英伟达的财报后电话会,黄仁勋认为推理需求在当下被极大低估。当下大模型企业把更多的精力都花在提升大模型智能水平,因此绝大部分算力都被用在于训练。但随着模型迭代逐步放缓及更多 AI 应用的落地,推理侧的需要也在快速增加。
IB 胜在性能、以太网优在开放,看好 AI 推动的量、速双增
IB 协议由于源生的 RDMA 技术,从而天然的具有低时延高性能的特征,在 AI 训练侧有更好的应用。而推理侧的需求方面,具有成本及开放性优势的 RoCE 协议或将更占优。
IB 的网络硬件格局相对封闭,核心供应商 Mellanox 具主要份额。
GB200 的新架构通过充分提升单芯片的算力密度、应用散热效率更高的液冷方式,实现了在更小的空间内部署更多的 GPU 卡,使铜缆连接成为机柜内连接新需求。以太网设备国内供应商参与相对充分,从上游交换芯片到中游的制造和品牌商均有覆盖。在数据中心市场为核心驱动的大背景下,中游的品牌商格局相较制造商更为集中,同时由于互联网厂商对于数据安全及硬件可编程性的重视,自组网的白盒硬件有望持续受益;上游原材料中,芯片的 BOM 成本占比高,交换芯片作为原材料核心,具有天然的技术、资金壁垒,同时盈利能力高度依赖出货规模,需警惕部分自用厂商在该方向的垂直整合程度深化。
投资建议
受益于智算数据中心的推动,网络硬件的需求持续提升。以太网架构的网络硬件随着海外巨头的布局市场重视度强化,我们认为随着国产算力链的迭代升级,以太网交换机链亦将深度受益。看好产业链上游交换芯片核心供应商盛科通信;网络设备商锐捷网络、紫光股份、菲菱科思、星网锐捷、共进股份。
风险提示
国际贸易摩擦加剧与宏观经济环境波动的经营风险、下游行业发展不及预期、客户相对集中度高的风险、行业竞争加剧风险
目 录
1 Transformer 架构下的智算算网新需求 .......... 4
2 IB:格局寡头,性能占优 .......... 7
2.1 机柜内部 .......... 8
2.2 机柜之间 .......... 10
3 Ethernet:格局多竞争,开放占优 .......... 11
3.1 下游:数据中心是核心驱动,需求呈量、速双增 .......... 11
3.2 中游:品牌+制造服务商,白盒的软硬件解耦为新趋势 .......... 12
3.3 上游:交换芯片是以太网交换机的核心部件之一 .......... 14
4 行业重点公司分析 .......... 15
4.1 盛科通信:商用交换芯片稀缺标的,部分产品性能对标海外 .......... 15
4.2 星网锐捷:福建省国资委间接持股,锐捷、升腾位行业前列 .......... 18
4.3 锐捷网络:深度聚焦网络设备方案,白盒交换机领先供应商 .......... 20
4.4 菲菱科思:下游绑定优质客户资源,布局汽车通信电子新增长 .......... 21
4.5 共进股份:深耕通信设备代工多年,入局传感器封测及汽车电子 .......... 23
4.6 紫光股份:拟推进新华三股权收购,强化 AI 硬件核心竞争力 .......... 25
5 风险提示 .......... 26
图表目录
图 1:模型有效性和参数量、计算资源约束正相关.......... 4
图 2:相同计算约束下,模型有最优有效性及匹配参数量 .......... 4
图 3:传统模式 .......... 5
图 4:RDMA 模式 .......... 5
图 5:TOP100、200、300、400、500 连接趋势占比(截至 2023 年 11 月).......... 6
图 6:UEC 部分成员 .......... 7
图 7:TOP500 内部互联趋势 .......... 8
图 8:机柜内部采用背部铜缆连接 .......... 8
图 9:GB200 相较 H100 可在同功耗下实现 25 倍性能 .......... 8
图 10:Computer Tray .......... 9
图 11:Switch Tray .......... 10
图 12:NVlink 代际间带宽变化 .......... 10
图 13:全球及中国以太网交换机市场规模及同比增速 .......... 12
图 14:电子制造服务行业的主要商业模式 .......... 13
图 15:全球(2022)以太网交换机品牌商市场格局 .......... 13
图 16:中国(2021)以太网交换机品牌商市场格局 .......... 13
图 17:交换机的 BOM 成本结构 .......... 14
图 18:中国自用、商用交换芯片占比(2020 年) .......... 14
图 19:中国商用以太网交换芯片各应用场景市场规模 .......... 14

因篇幅限制,仅展示部分,更多重要内容、核心观点,请下载报告。