Мережа епохи ШІ: попит, інновації та інвестиційні можливості

З приходом епохи великих моделей мережа стала ключовим елементом в ланцюзі виробництва штучного інтелекту. У цій статті буде розглянуто важливість мережі в епоху штучного інтелекту, інноваційні напрямки в комунікаційних технологіях, а також відповідні інвестиційні можливості.

1. Джерела потреби в мережі

Великі моделі тренування ставлять вищі вимоги до мережі, що головним чином проявляється в наступних кількох аспектах:

1. Розрив між масштабом моделі та обчислювальною потужністю однієї карти розширюється, необхідна кооперативна тренування декількох серверних кластерів.
2. Мережа використовується не лише для передачі даних, а більше для синхронізації параметрів моделей між графічними картами.
3. Значно підвищилися вимоги до щільності та ємності мережі

Час навчання моделі = обсяг навчальних даних * кількість параметрів моделі / швидкість обчислень Швидкість обчислення = Швидкість обчислення одного пристрою * Кількість пристроїв * Ефективність паралельних обчислень з кількома пристроями

Щоб скоротити час навчання, потрібно підвищити обчислювальну ефективність, що головним чином досягається за рахунок збільшення кількості пристроїв та підвищення паралельної ефективності.

Під час тренування, після кожного обчислення необхідно виконати вирівнювання між одною картою, що висуває вищі вимоги до мережевої передачі та обміну.

Витрати на відмови великі. Навчання великих моделей триває місяцями, перерви призводять до серйозних втрат у прогресі та витратах.

2. Напрямки мережевих інновацій

2.1 Зміна комунікаційних середовищ

Світло, мідь та кремній є основними середовищами передачі. Оптичні модулі, прагнучи до ще вищих швидкостей, також досліджують шляхи зниження витрат, такі як LPO, LRO, кремнієва оптика тощо. Мідні кабелі домінують у з'єднаннях у шафах завдяки своєму співвідношенню ціни та якості. Нові технології, такі як Chiplet, Wafer-scaling, досліджують межі кремнієвих інтерконектів.

2.2 Конкуренція мережевих протоколів

Протоколи зв'язку між чіпами та сильна прив'язка до графічних карт, такі як NV-LINK від NVIDIA, Infinity Fabric від AMD тощо. Основними конкурентами у зв'язку між вузлами є IB та Ethernet.

2.3 Зміни в мережевій архітектурі

В даний час широко використовується архітектура Leaf-Spine. Але з ростом масштабів кластерів нові архітектури, такі як Dragonfly, rail-only архітектури тощо, можуть стати напрямком еволюції для надвеликих кластерів.

3. Інвестиційні поради

Основна ланка системи зв'язку: Zhongji Innolight, Xin Yisheng, Tianfu Communication, Industrial Fortune Union, Invic, Shanghai Electric Co., Ltd

Інновації в системах зв'язку: YOFC, Tetherlight, Yuanjie Technology, Centec Communications-U, Cambrian, Taclink

4. Попередження про ризики

1. Попит на штучний інтелект не відповідає очікуванням
2. Втрата закону масштабування
3. Посилення конкуренції в галузі