Mạng lưới trong thời đại AI: Nhu cầu, Đổi mới và Cơ hội đầu tư
Với sự xuất hiện của thời đại mô hình lớn, mạng lưới đã trở thành một phần quan trọng trong chuỗi công nghiệp AI. Bài viết này sẽ khám phá tầm quan trọng của mạng lưới trong thời đại AI, hướng đổi mới của công nghệ truyền thông, cũng như các cơ hội đầu tư liên quan.
1. Nguồn gốc của nhu cầu mạng
Đào tạo mô hình lớn đặt ra yêu cầu cao hơn cho mạng, chủ yếu thể hiện ở một số khía cạnh sau:
Quy mô mô hình và sự chênh lệch về sức mạnh tính toán của mỗi thẻ mở rộng, cần có sự phối hợp huấn luyện giữa nhiều cụm máy chủ.
Mạng không chỉ được sử dụng để truyền dữ liệu, mà còn được sử dụng nhiều hơn để đồng bộ hóa các tham số mô hình giữa các card đồ họa.
Yêu cầu về mật độ và dung lượng mạng tăng cao đáng kể
Thời gian huấn luyện mô hình = Quy mô dữ liệu huấn luyện * Số lượng tham số mô hình / Tốc độ tính toán
Tốc độ tính toán = Tỷ lệ tính toán trên một thiết bị * Số lượng thiết bị * Hiệu suất song song của nhiều thiết bị
Để rút ngắn thời gian huấn luyện, cần nâng cao hiệu quả tính toán, chủ yếu thực hiện thông qua việc mở rộng số lượng thiết bị và nâng cao hiệu quả song song.
Trong quá trình đào tạo, sau mỗi lần tính toán, cần phải tiến hành căn chỉnh giữa các thẻ đơn, điều này đặt ra yêu cầu cao hơn cho việc truyền tải và trao đổi mạng.
Chi phí lỗi rất cao. Việc đào tạo mô hình lớn kéo dài hàng tháng, gián đoạn sẽ dẫn đến tổn thất nghiêm trọng về tiến độ và chi phí.
2. Hướng đổi mới mạng
2.1 Sự thay đổi của môi trường truyền thông
Ánh sáng, đồng và silicon là các phương tiện truyền tải chính. Các mô-đun quang đang theo đuổi tốc độ cao hơn trong khi cũng đang khám phá các con đường giảm chi phí như LPO, LRO, quang silicon. Cáp đồng nhờ vào tỷ lệ giá cả và hiệu suất đang chiếm ưu thế trong kết nối trong tủ. Các công nghệ mới như Chiplet, Wafer-scaling đang khám phá giới hạn của kết nối dựa trên silicon.
2.2 Cạnh tranh giao thức mạng
Giao thức liên lạc giữa các khối và sự liên kết mạnh mẽ với card đồ họa, như NV-LINK của Nvidia, Infinity Fabric của AMD, v.v. Giao tiếp giữa các nút chủ yếu là cạnh tranh giữa IB và Ethernet.
2.3 Sự thay đổi trong kiến trúc mạng
Hiện tại, kiến trúc lá và gốc đang được áp dụng rộng rãi. Tuy nhiên, với quy mô cụm ngày càng lớn, các kiến trúc mới như Dragonfly, kiến trúc chỉ đường sắt, v.v. có khả năng trở thành hướng tiến hóa cho các cụm siêu lớn.
3. Đề xuất đầu tư
Các khâu cốt lõi của hệ thống truyền thông: Zhongji Xuchuang, NewEase, Tianfu Communication, Công nghiệp Fuhua, Yingweike, Hu Dian Co., Ltd.
Các mảng đổi mới trong hệ thống truyền thông: Long Fiber, Tai Chen Guang, Yuan Jie Technology, Sheng Ke Communication-U, Han Wu Ji, De Ke Li
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
12 thích
Phần thưởng
12
5
Chia sẻ
Bình luận
0/400
MetaverseVagabond
· 17giờ trước
Lưu lượng tăng vọt Ví tiền run rẩy
Xem bản gốcTrả lời0
staking_gramps
· 17giờ trước
Chỉ nghĩ đến việc đầu tư thì sẽ không vượt lên được.
Xem bản gốcTrả lời0
MevWhisperer
· 17giờ trước
AI nói cái gì vậy, đều là chạy lưu lượng.
Xem bản gốcTrả lời0
BearEatsAll
· 17giờ trước
Chỉ thế này thôi? Được chơi cho Suckers rồi.
Xem bản gốcTrả lời0
HodlKumamon
· 17giờ trước
Đầu tư chứ không phải đầu cơ mà, nắm bắt cơ hội nhé!
Nhu cầu mạng tăng vọt trong thời đại AI, công nghệ truyền thông đổi mới đón nhận cơ hội đầu tư.
Mạng lưới trong thời đại AI: Nhu cầu, Đổi mới và Cơ hội đầu tư
Với sự xuất hiện của thời đại mô hình lớn, mạng lưới đã trở thành một phần quan trọng trong chuỗi công nghiệp AI. Bài viết này sẽ khám phá tầm quan trọng của mạng lưới trong thời đại AI, hướng đổi mới của công nghệ truyền thông, cũng như các cơ hội đầu tư liên quan.
1. Nguồn gốc của nhu cầu mạng
Đào tạo mô hình lớn đặt ra yêu cầu cao hơn cho mạng, chủ yếu thể hiện ở một số khía cạnh sau:
Thời gian huấn luyện mô hình = Quy mô dữ liệu huấn luyện * Số lượng tham số mô hình / Tốc độ tính toán Tốc độ tính toán = Tỷ lệ tính toán trên một thiết bị * Số lượng thiết bị * Hiệu suất song song của nhiều thiết bị
Để rút ngắn thời gian huấn luyện, cần nâng cao hiệu quả tính toán, chủ yếu thực hiện thông qua việc mở rộng số lượng thiết bị và nâng cao hiệu quả song song.
Trong quá trình đào tạo, sau mỗi lần tính toán, cần phải tiến hành căn chỉnh giữa các thẻ đơn, điều này đặt ra yêu cầu cao hơn cho việc truyền tải và trao đổi mạng.
Chi phí lỗi rất cao. Việc đào tạo mô hình lớn kéo dài hàng tháng, gián đoạn sẽ dẫn đến tổn thất nghiêm trọng về tiến độ và chi phí.
2. Hướng đổi mới mạng
2.1 Sự thay đổi của môi trường truyền thông
Ánh sáng, đồng và silicon là các phương tiện truyền tải chính. Các mô-đun quang đang theo đuổi tốc độ cao hơn trong khi cũng đang khám phá các con đường giảm chi phí như LPO, LRO, quang silicon. Cáp đồng nhờ vào tỷ lệ giá cả và hiệu suất đang chiếm ưu thế trong kết nối trong tủ. Các công nghệ mới như Chiplet, Wafer-scaling đang khám phá giới hạn của kết nối dựa trên silicon.
2.2 Cạnh tranh giao thức mạng
Giao thức liên lạc giữa các khối và sự liên kết mạnh mẽ với card đồ họa, như NV-LINK của Nvidia, Infinity Fabric của AMD, v.v. Giao tiếp giữa các nút chủ yếu là cạnh tranh giữa IB và Ethernet.
2.3 Sự thay đổi trong kiến trúc mạng
Hiện tại, kiến trúc lá và gốc đang được áp dụng rộng rãi. Tuy nhiên, với quy mô cụm ngày càng lớn, các kiến trúc mới như Dragonfly, kiến trúc chỉ đường sắt, v.v. có khả năng trở thành hướng tiến hóa cho các cụm siêu lớn.
3. Đề xuất đầu tư
Các khâu cốt lõi của hệ thống truyền thông: Zhongji Xuchuang, NewEase, Tianfu Communication, Công nghiệp Fuhua, Yingweike, Hu Dian Co., Ltd.
Các mảng đổi mới trong hệ thống truyền thông: Long Fiber, Tai Chen Guang, Yuan Jie Technology, Sheng Ke Communication-U, Han Wu Ji, De Ke Li
4. Lời nhắc rủi ro