Сеть эпохи ИИ: спрос, инновации и инвестиционные возможности
С приходом эпохи больших моделей сеть стала ключевым звеном в цепочке поставок искусственного интеллекта. В данной статье будут рассмотрены важность сети в эпоху ИИ, направления инноваций в коммуникационных технологиях, а также связанные инвестиционные возможности.
1. Источник сетевых требований
Обучение больших моделей предъявляет более высокие требования к сети, что в основном проявляется в следующих аспектах:
Разница в масштабах модели и вычислительной мощности одной карты увеличивается, требуется совместное обучение на нескольких серверных кластерах.
Сеть используется не только для передачи данных, но больше для синхронизации параметров модели между видеокартами.
Требования к плотности и ёмкости сети значительно возросли
Время обучения модели = Объем обучающих данных * Количество параметров модели / Скорость вычислений
Скорость вычислений = вычислительная мощность одного устройства * количество устройств * эффективность параллельной работы нескольких устройств
Чтобы сократить время тренировки, необходимо повысить вычислительную эффективность, что в основном достигается за счет увеличения количества устройств и повышения параллельной эффективности.
В процессе тренировки необходимо выполнять выравнивание между отдельными картами после каждого вычисления, что создает более высокие требования к сетевой передаче и обмену.
Стоимость сбоев высока. Обучение больших моделей занимает месяцы, и прерывание приведет к серьезным потерям в прогрессе и расходах.
2. Направления сетевых инноваций
2.1 Изменение средств связи
Свет, медь и кремний являются основными средствами передачи. Оптические модули, стремясь к более высокой скорости, также исследуют пути снижения затрат, такие как LPO, LRO и кремниевые технологии. Медные кабели занимают доминирующее положение в подключении внутри шкафов благодаря своей стоимости и эффективности. Новые технологии, такие как Chiplet и Wafer-scaling, исследуют пределы кремниевых соединений.
2.2 Конкуренция сетевых протоколов
Протоколы связи между узлами жестко связаны с видеокартами, такими как NV-LINK от NVIDIA и Infinity Fabric от AMD. Основные конкуренты в связи между узлами — это IB и Ethernet.
2.3 Изменения в сетевой архитектуре
В настоящее время широко используется архитектура Leaf-Spine. Однако с увеличением масштаба кластера новые архитектуры, такие как Dragonfly и rail-only архитектуры, могут стать направлением эволюции для сверхбольших кластеров.
3. Инвестиционные рекомендации
Основное звено системы связи: Zhongji Innolight, Xin Yisheng, Tianfu Communication, Industrial Fortune Union, Invic, Shanghai Electric Co., Ltd
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
12 Лайков
Награда
12
5
Поделиться
комментарий
0/400
MetaverseVagabond
· 17ч назад
Поток резко увеличился, Кошелек дрожит.
Посмотреть ОригиналОтветить0
staking_gramps
· 17ч назад
Просто думать об инвестициях - это не даст вам опередить других.
Посмотреть ОригиналОтветить0
MevWhisperer
· 17ч назад
Что за ерунда с AI, это просто накрутка трафика.
Посмотреть ОригиналОтветить0
BearEatsAll
· 17ч назад
Что это? Будут играть для лохов.
Посмотреть ОригиналОтветить0
HodlKumamon
· 17ч назад
Инвестировать, а не спекулировать, надо, ухватить возможность, медведь!
С ростом сетевого спроса в эпоху ИИ инновации в области коммуникационных технологий открывают инвестиционные возможности
Сеть эпохи ИИ: спрос, инновации и инвестиционные возможности
С приходом эпохи больших моделей сеть стала ключевым звеном в цепочке поставок искусственного интеллекта. В данной статье будут рассмотрены важность сети в эпоху ИИ, направления инноваций в коммуникационных технологиях, а также связанные инвестиционные возможности.
1. Источник сетевых требований
Обучение больших моделей предъявляет более высокие требования к сети, что в основном проявляется в следующих аспектах:
Время обучения модели = Объем обучающих данных * Количество параметров модели / Скорость вычислений Скорость вычислений = вычислительная мощность одного устройства * количество устройств * эффективность параллельной работы нескольких устройств
Чтобы сократить время тренировки, необходимо повысить вычислительную эффективность, что в основном достигается за счет увеличения количества устройств и повышения параллельной эффективности.
В процессе тренировки необходимо выполнять выравнивание между отдельными картами после каждого вычисления, что создает более высокие требования к сетевой передаче и обмену.
Стоимость сбоев высока. Обучение больших моделей занимает месяцы, и прерывание приведет к серьезным потерям в прогрессе и расходах.
2. Направления сетевых инноваций
2.1 Изменение средств связи
Свет, медь и кремний являются основными средствами передачи. Оптические модули, стремясь к более высокой скорости, также исследуют пути снижения затрат, такие как LPO, LRO и кремниевые технологии. Медные кабели занимают доминирующее положение в подключении внутри шкафов благодаря своей стоимости и эффективности. Новые технологии, такие как Chiplet и Wafer-scaling, исследуют пределы кремниевых соединений.
2.2 Конкуренция сетевых протоколов
Протоколы связи между узлами жестко связаны с видеокартами, такими как NV-LINK от NVIDIA и Infinity Fabric от AMD. Основные конкуренты в связи между узлами — это IB и Ethernet.
2.3 Изменения в сетевой архитектуре
В настоящее время широко используется архитектура Leaf-Spine. Однако с увеличением масштаба кластера новые архитектуры, такие как Dragonfly и rail-only архитектуры, могут стать направлением эволюции для сверхбольших кластеров.
3. Инвестиционные рекомендации
Основное звено системы связи: Zhongji Innolight, Xin Yisheng, Tianfu Communication, Industrial Fortune Union, Invic, Shanghai Electric Co., Ltd
Инновационные элементы телекоммуникационных систем: Чанфей оптика, Тайчэнь оптика, Юаньцзе технологии, Шэнкэ Телеком - У, Ханьвужи, Дэколи
4. Уведомление о рисках