AI时代的网络：需求、创新与投资机会

随着大模型时代的到来，网络已成为AI产业链中的关键一环。本文将探讨网络在AI时代的重要性、通信技术的创新方向,以及相关的投资机会。

1. 网络需求的来源

大模型训练对网络提出了更高要求,主要体现在以下几个方面:

1. 模型规模与单卡算力差距扩大,需要多服务器集群协同训练
2. 网络不仅用于传输数据,更多用于同步显卡间的模型参数
3. 对网络的密度和容量要求大幅提高

模型训练耗时 = 训练数据规模 * 模型参数量 / 计算速率 计算速率 = 单设备计算率 * 设备数 * 多设备并行效率

为缩短训练时间,需要提升计算效率,主要通过扩大设备数量和提高并行效率来实现。

在训练过程中,每次计算后单卡之间需要进行对齐,对网络传输和交换提出了更高要求。

故障成本昂贵。大模型训练持续数月,中断将导致严重的进度和成本损失。

2. 网络创新方向

2.1 通信介质的更迭

光、铜与硅是主要的传输介质。光模块在追求更高速率的同时,也在探索LPO、LRO、硅光等降本路径。铜缆凭借性价比在机柜内连接占据主导。Chiplet、Wafer-scaling等新技术正在探索硅基互联的上限。

2.2 网络协议的竞争

片间通信协议与显卡强绑定,如英伟达的NV-LINK、AMD的Infinity Fabric等。节点间通信主要是IB与以太网的竞争。

2.3 网络架构的变化

当前普遍采用叶脊架构。但随着集群规模增大,新型架构如Dragonfly、rail-only架构等有望成为超大集群的演进方向。

3. 投资建议

通信系统核心环节:中际旭创、新易盛、天孚通信、工业富联、英维克、沪电股份

通信系统创新环节:长飞光纤、太辰光、源杰科技、盛科通信-U、寒武纪、德科立

4. 风险提示

1. AI需求不及预期
2. Scaling law失效
3. 行业竞争加剧