A Rede na Era da IA: Demanda, Inovação e Oportunidades de Investimento

Com a chegada da era dos grandes modelos, a rede tornou-se uma parte fundamental da cadeia industrial de IA. Este artigo irá explorar a importância da rede na era da IA, as direções inovadoras da tecnologia de comunicação, bem como as oportunidades de investimento relacionadas.

1. A origem da demanda de rede

O treinamento de grandes modelos impõe requisitos mais elevados à rede, principalmente nas seguintes áreas:

1. A diferença entre a escala do modelo e a capacidade de cálculo de uma única placa aumenta, necessitando de uma colaboração de múltiplos servidores em cluster para treinamento.
2. A rede não é apenas usada para a transmissão de dados, mas mais para sincronizar os parâmetros do modelo entre as placas gráficas.
3. A exigência de densidade e capacidade da rede aumentou significativamente.

Tempo de treinamento do modelo = Tamanho dos dados de treinamento * Quantidade de parâmetros do modelo / Taxa de cálculo Taxa de cálculo = Taxa de cálculo por dispositivo * Número de dispositivos * Eficiência de paralelismo de múltiplos dispositivos

Para encurtar o tempo de treino, é necessário aumentar a eficiência de cálculo, principalmente através da ampliação do número de dispositivos e do aumento da eficiência de paralelismo.

Durante o processo de treino, é necessário alinhar os cartões individuais após cada cálculo, o que impõe exigências mais elevadas à transmissão e troca de rede.

O custo de falhas é elevado. O treinamento de grandes modelos dura meses, e interrupções resultarão em perdas graves de progresso e custos.

2. Direções de Inovação na Rede

2.1 A evolução dos meios de comunicação

A luz, o cobre e o silício são os principais meios de transmissão. Os módulos ópticos estão em busca de taxas mais altas, ao mesmo tempo que exploram caminhos de redução de custos como LPO, LRO e silício fotônico. Os cabos de cobre dominam a conexão dentro dos racks devido ao seu custo-benefício. Novas tecnologias como Chiplet e Wafer-scaling estão explorando os limites da interconexão baseada em silício.

2.2 Competição de Protocolos de Rede

Protocolos de comunicação entre placas e forte ligação a GPUs, como o NV-LINK da Nvidia e o Infinity Fabric da AMD. A comunicação entre nós é principalmente uma competição entre IB e Ethernet.

2.3 Mudanças na arquitetura da rede

Atualmente, a arquitetura Leaf-Spine é amplamente utilizada. Mas à medida que a escala dos clusters aumenta, novas arquiteturas como Dragonfly e arquitetura rail-only têm potencial para se tornarem a direção de evolução de superclusters.

3. Sugestões de investimento

Elementos-chave do sistema de comunicação: Zhongji Xuchuang, Xinyi Sheng, Tianfu Communication, Industrial Fulian, Yingweike, Hu Dian Co.

Inovações em sistemas de comunicação: Yangtze Optical Fiber, Taisun, Yuanjie Technology, Shengke Communication-U, Cambrian, Dekol.

4. Aviso de Risco

1. A demanda por IA ficou aquém das expectativas
2. Lei de escalonamento ineficaz
3. A competição no setor aumenta