Jaringan Era AI: Permintaan, Inovasi, dan Peluang Investasi
Dengan kedatangan era model besar, jaringan telah menjadi bagian kunci dalam rantai industri AI. Artikel ini akan membahas pentingnya jaringan di era AI, arah inovasi teknologi komunikasi, serta peluang investasi terkait.
1. Sumber Permintaan Jaringan
Pelatihan model besar menuntut permintaan yang lebih tinggi dari jaringan, terutama tercermin dalam beberapa aspek berikut:
Skala model dan perbedaan kekuatan komputasi per kartu semakin besar, perlu pelatihan kolaboratif dengan beberapa cluster server.
Jaringan tidak hanya digunakan untuk mentransfer data, tetapi lebih untuk menyinkronkan parameter model antar kartu grafis.
Permintaan terhadap kepadatan dan kapasitas jaringan meningkat secara signifikan
Waktu pelatihan model = Skala data pelatihan * Jumlah parameter model / Kecepatan komputasi
Kecepatan perhitungan = Tingkat perhitungan per perangkat * Jumlah perangkat * Efisiensi paralel banyak perangkat
Untuk memperpendek waktu pelatihan, perlu meningkatkan efisiensi komputasi, yang terutama dicapai dengan memperbesar jumlah perangkat dan meningkatkan efisiensi paralel.
Selama proses pelatihan, setelah setiap perhitungan, perlu dilakukan penyelarasan antara kartu tunggal, yang mengajukan tuntutan lebih tinggi terhadap transmisi dan pertukaran jaringan.
Biaya kegagalan sangat mahal. Pelatihan model besar berlangsung selama berbulan-bulan, gangguan akan mengakibatkan kemunduran dan kerugian biaya yang serius.
2. Arah Inovasi Jaringan
2.1 Perubahan Media Komunikasi
Cahaya, tembaga, dan silikon adalah media transmisi utama. Modul cahaya tidak hanya mengejar kecepatan yang lebih tinggi, tetapi juga menjelajahi jalur pengurangan biaya seperti LPO, LRO, dan silikon optik. Kabel tembaga mendominasi koneksi di dalam rak berkat nilai uangnya. Teknologi baru seperti Chiplet dan Wafer-scaling sedang menjelajahi batasan interkoneksi berbasis silikon.
2.2 Persaingan Protokol Jaringan
Protokol komunikasi antar chip sangat terkait erat dengan kartu grafis, seperti NV-LINK dari NVIDIA dan Infinity Fabric dari AMD. Komunikasi antar node terutama merupakan kompetisi antara IB dan Ethernet.
2.3 Perubahan Arsitektur Jaringan
Saat ini, arsitektur leaf-spine umum digunakan. Namun, seiring dengan meningkatnya skala kluster, arsitektur baru seperti Dragonfly dan rail-only diharapkan menjadi arah evolusi untuk kluster super besar.
3. Saran Investasi
Sistem komunikasi inti: Zhongji Xuchuang, Xinyi Sheng, Tianfu Communication, Industrial Fulian, Yingweike, Hudian Co., Ltd.
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
12 Suka
Hadiah
12
5
Bagikan
Komentar
0/400
MetaverseVagabond
· 5jam yang lalu
Lalu lintas melonjak Dompet bergetar
Lihat AsliBalas0
staking_gramps
· 5jam yang lalu
Hanya memikirkan investasi tidak akan bisa meng超车.
Lihat AsliBalas0
MevWhisperer
· 5jam yang lalu
AI ngomong apa sih, semuanya cuma untuk menarik perhatian.
Lihat AsliBalas0
BearEatsAll
· 6jam yang lalu
Just this? Dianggap Bodoh datang
Lihat AsliBalas0
HodlKumamon
· 6jam yang lalu
Investasi bukan spekulasi, ambil kesempatan yang ada, beruang!
Permintaan jaringan meningkat pesat di era AI, inovasi teknologi komunikasi menyambut peluang investasi.
Jaringan Era AI: Permintaan, Inovasi, dan Peluang Investasi
Dengan kedatangan era model besar, jaringan telah menjadi bagian kunci dalam rantai industri AI. Artikel ini akan membahas pentingnya jaringan di era AI, arah inovasi teknologi komunikasi, serta peluang investasi terkait.
1. Sumber Permintaan Jaringan
Pelatihan model besar menuntut permintaan yang lebih tinggi dari jaringan, terutama tercermin dalam beberapa aspek berikut:
Waktu pelatihan model = Skala data pelatihan * Jumlah parameter model / Kecepatan komputasi Kecepatan perhitungan = Tingkat perhitungan per perangkat * Jumlah perangkat * Efisiensi paralel banyak perangkat
Untuk memperpendek waktu pelatihan, perlu meningkatkan efisiensi komputasi, yang terutama dicapai dengan memperbesar jumlah perangkat dan meningkatkan efisiensi paralel.
Selama proses pelatihan, setelah setiap perhitungan, perlu dilakukan penyelarasan antara kartu tunggal, yang mengajukan tuntutan lebih tinggi terhadap transmisi dan pertukaran jaringan.
Biaya kegagalan sangat mahal. Pelatihan model besar berlangsung selama berbulan-bulan, gangguan akan mengakibatkan kemunduran dan kerugian biaya yang serius.
2. Arah Inovasi Jaringan
2.1 Perubahan Media Komunikasi
Cahaya, tembaga, dan silikon adalah media transmisi utama. Modul cahaya tidak hanya mengejar kecepatan yang lebih tinggi, tetapi juga menjelajahi jalur pengurangan biaya seperti LPO, LRO, dan silikon optik. Kabel tembaga mendominasi koneksi di dalam rak berkat nilai uangnya. Teknologi baru seperti Chiplet dan Wafer-scaling sedang menjelajahi batasan interkoneksi berbasis silikon.
2.2 Persaingan Protokol Jaringan
Protokol komunikasi antar chip sangat terkait erat dengan kartu grafis, seperti NV-LINK dari NVIDIA dan Infinity Fabric dari AMD. Komunikasi antar node terutama merupakan kompetisi antara IB dan Ethernet.
2.3 Perubahan Arsitektur Jaringan
Saat ini, arsitektur leaf-spine umum digunakan. Namun, seiring dengan meningkatnya skala kluster, arsitektur baru seperti Dragonfly dan rail-only diharapkan menjadi arah evolusi untuk kluster super besar.
3. Saran Investasi
Sistem komunikasi inti: Zhongji Xuchuang, Xinyi Sheng, Tianfu Communication, Industrial Fulian, Yingweike, Hudian Co., Ltd.
Inovasi Sistem Komunikasi: Yangtze Optical Fiber, Tianshui Huaneng, Yuanjie Technology, Shengke Communication-U, Cambrian, Dekol
4. Peringatan Risiko