La red en la era de la IA: demanda, innovación y oportunidades de inversión

Con la llegada de la era de los modelos grandes, la red se ha convertido en un eslabón clave de la cadena industrial de la IA. Este artículo explorará la importancia de la red en la era de la IA, las direcciones innovadoras de la tecnología de comunicación y las oportunidades de inversión relacionadas.

1. Origen de la demanda de red

El entrenamiento de grandes modelos plantea mayores demandas a las redes, que se reflejan principalmente en los siguientes aspectos:

1. La diferencia entre la escala del modelo y la potencia de cálculo de una sola tarjeta se amplía, se necesita una colaboración de múltiples servidores en un clúster para el entrenamiento.
2. La red no solo se utiliza para la transmisión de datos, sino más para la sincronización de los parámetros del modelo entre las tarjetas gráficas.
3. Se han incrementado significativamente los requisitos de densidad y capacidad de la red.

Tiempo de entrenamiento del modelo = Tamaño de los datos de entrenamiento * Cantidad de parámetros del modelo / Velocidad de cálculo Tasa de cálculo = tasa de cálculo por dispositivo * número de dispositivos * eficiencia de paralelización de múltiples dispositivos

Para reducir el tiempo de entrenamiento, es necesario mejorar la eficiencia computacional, principalmente logrando esto a través de aumentar la cantidad de dispositivos y mejorar la eficiencia de paralelización.

Durante el proceso de entrenamiento, es necesario alinear entre las tarjetas individuales después de cada cálculo, lo que plantea mayores exigencias para la transmisión y el intercambio de la red.

El costo de las fallas es alto. El entrenamiento de modelos grandes dura meses, y cualquier interrupción dará lugar a pérdidas graves en el progreso y en los costos.

2. Dirección de innovación en la red

2.1 La evolución de los medios de comunicación

La luz, el cobre y el silicio son los principales medios de transmisión. Los módulos ópticos, mientras buscan tasas más altas, también están explorando rutas de reducción de costos como LPO, LRO y fotónica silícica. Los cables de cobre dominan la conexión dentro de los armarios gracias a su relación costo-beneficio. Nuevas tecnologías como Chiplet y Wafer-scaling están explorando los límites de la interconexión basada en silicio.

2.2 La competencia de protocolos de red

Los protocolos de comunicación entre chips están fuertemente vinculados a las tarjetas gráficas, como NV-LINK de Nvidia y Infinity Fabric de AMD. La comunicación entre nodos está principalmente en competencia entre IB y Ethernet.

2.3 Cambios en la arquitectura de red

Actualmente se utiliza comúnmente la arquitectura de hoja y espina. Sin embargo, a medida que aumenta el tamaño del clúster, nuevas arquitecturas como Dragonfly y la arquitectura solo de rieles tienen el potencial de convertirse en la dirección evolutiva de los superclústeres.

3. Sugerencias de inversión

Componentes clave del sistema de comunicación: Zhongji Xuchuang, New Ease, Tianfu Communication, Industrial Fulian, Invec, Hu Dian Co., Ltd.

Innovación en el sistema de comunicación: FiberHome, Taiyuan Optical, Yuanjie Technology, Shengke Communication-U, Cambrian, Dekol.

4. Advertencia de riesgos

1. La demanda de IA no cumple con las expectativas
2. Ley de escalado fallida
3. La competencia en la industria se intensifica