So với sự nhảy vọt độc quyền tài nguyên dựa trên khả năng tính toán và thuật toán trong quá khứ, khi thị trường chuyển trọng tâm sang điện toán biên + phương pháp mô hình nhỏ, sẽ mang lại sức sống lớn hơn cho thị trường.
Tác giả: Haotian
Trường hợp Lilli của McKinsey cung cấp một ý tưởng phát triển quan trọng cho thị trường AI doanh nghiệp: cơ hội thị trường tiềm năng của điện toán biên + các mô hình nhỏ. Trợ lý AI, hợp nhất 100.000 tài liệu nội bộ, không chỉ có tỷ lệ nhân viên chấp nhận 70% mà còn được sử dụng trung bình 17 lần một tuần, một sự gắn bó của sản phẩm hiếm thấy trong các công cụ doanh nghiệp. Đây là những gì tôi nghĩ:
1）An toàn dữ liệu doanh nghiệp là nỗi đau: Tài sản tri thức cốt lõi tích lũy 100 năm của McKinsey cũng như một số dữ liệu cụ thể tích lũy của các doanh nghiệp vừa và nhỏ đều có độ nhạy cảm dữ liệu cực cao, không thể xử lý trên đám mây công cộng. Cách khám phá một trạng thái cân bằng "dữ liệu không ra ngoài địa phương, khả năng AI không bị giảm sút" chính là nhu cầu thực tế của thị trường. Điện toán biên là một hướng khám phá;
2）Mô hình nhỏ chuyên nghiệp sẽ thay thế mô hình lớn đa năng: Người dùng doanh nghiệp không cần mô hình "trăm tỷ tham số, toàn năng" mà cần một trợ lý chuyên môn có thể trả lời chính xác các vấn đề trong lĩnh vực cụ thể. So với đó, tính đa năng của mô hình lớn và độ sâu chuyên môn giữa chúng tồn tại mâu thuẫn tự nhiên, trong bối cảnh doanh nghiệp thường chú trọng hơn đến mô hình nhỏ;
3）Cân bằng chi phí xây dựng hạ tầng AI và gọi API: Mặc dù sự kết hợp giữa điện toán biên và mô hình nhỏ có chi phí đầu tư ban đầu lớn, nhưng chi phí vận hành lâu dài được giảm đáng kể. Hãy tưởng tượng nếu 45000 nhân viên thường xuyên sử dụng mô hình AI lớn từ việc gọi API, sự phụ thuộc này, quy mô sử dụng và sự gia tăng bình luận sẽ khiến việc tự xây dựng hạ tầng AI trở thành lựa chọn hợp lý cho các doanh nghiệp vừa và lớn;
4）Cơ hội mới trên thị trường phần cứng biên: Huấn luyện mô hình lớn không thể thiếu GPU cao cấp, nhưng yêu cầu phần cứng cho suy diễn biên thì hoàn toàn khác. Các nhà sản xuất chip như Qualcomm, MediaTek đang chuẩn bị cho cơ hội thị trường với các bộ xử lý tối ưu cho AI biên. Khi mỗi doanh nghiệp đều muốn tạo ra "Lilli" của riêng mình, các chip AI biên được thiết kế đặc biệt cho tiêu thụ điện năng thấp và hiệu quả cao sẽ trở thành nhu cầu thiết yếu cho cơ sở hạ tầng;
5）Thị trường web3 AI phi tập trung cũng được tăng cường đồng bộ: một khi nhu cầu về khả năng tính toán, tinh chỉnh, thuật toán trên các mô hình nhỏ của doanh nghiệp được kích thích, cách cân bằng việc phân bổ tài nguyên sẽ trở thành vấn đề, việc phân bổ tài nguyên tập trung truyền thống sẽ trở thành thách thức, điều này sẽ trực tiếp mang lại nhu cầu thị trường lớn cho mạng tinh chỉnh mô hình nhỏ web3AI phi tập trung, nền tảng dịch vụ khả năng tính toán phi tập trung, v.v.
Khi thị trường vẫn đang thảo luận về ranh giới khả năng chung của AGI, thật vui khi thấy nhiều người dùng doanh nghiệp đã bắt đầu khai thác giá trị thực tiễn của AI. Rõ ràng, so với những bước tiến độc quyền tài nguyên trong việc cạnh tranh về khả năng tính toán và thuật toán trong quá khứ, khi thị trường đặt trọng tâm vào điện toán biên + mô hình nhỏ, điều này sẽ mang lại sức sống lớn hơn cho thị trường.
Nội dung chỉ mang tính chất tham khảo, không phải là lời chào mời hay đề nghị. Không cung cấp tư vấn về đầu tư, thuế hoặc pháp lý. Xem Tuyên bố miễn trừ trách nhiệm để biết thêm thông tin về rủi ro.
Các ý tưởng phát triển nào mà trường hợp Lilli của McKinsey cung cấp cho thị trường AI doanh nghiệp?
Tác giả: Haotian
Trường hợp Lilli của McKinsey cung cấp một ý tưởng phát triển quan trọng cho thị trường AI doanh nghiệp: cơ hội thị trường tiềm năng của điện toán biên + các mô hình nhỏ. Trợ lý AI, hợp nhất 100.000 tài liệu nội bộ, không chỉ có tỷ lệ nhân viên chấp nhận 70% mà còn được sử dụng trung bình 17 lần một tuần, một sự gắn bó của sản phẩm hiếm thấy trong các công cụ doanh nghiệp. Đây là những gì tôi nghĩ:
1）An toàn dữ liệu doanh nghiệp là nỗi đau: Tài sản tri thức cốt lõi tích lũy 100 năm của McKinsey cũng như một số dữ liệu cụ thể tích lũy của các doanh nghiệp vừa và nhỏ đều có độ nhạy cảm dữ liệu cực cao, không thể xử lý trên đám mây công cộng. Cách khám phá một trạng thái cân bằng "dữ liệu không ra ngoài địa phương, khả năng AI không bị giảm sút" chính là nhu cầu thực tế của thị trường. Điện toán biên là một hướng khám phá;
2）Mô hình nhỏ chuyên nghiệp sẽ thay thế mô hình lớn đa năng: Người dùng doanh nghiệp không cần mô hình "trăm tỷ tham số, toàn năng" mà cần một trợ lý chuyên môn có thể trả lời chính xác các vấn đề trong lĩnh vực cụ thể. So với đó, tính đa năng của mô hình lớn và độ sâu chuyên môn giữa chúng tồn tại mâu thuẫn tự nhiên, trong bối cảnh doanh nghiệp thường chú trọng hơn đến mô hình nhỏ;
3）Cân bằng chi phí xây dựng hạ tầng AI và gọi API: Mặc dù sự kết hợp giữa điện toán biên và mô hình nhỏ có chi phí đầu tư ban đầu lớn, nhưng chi phí vận hành lâu dài được giảm đáng kể. Hãy tưởng tượng nếu 45000 nhân viên thường xuyên sử dụng mô hình AI lớn từ việc gọi API, sự phụ thuộc này, quy mô sử dụng và sự gia tăng bình luận sẽ khiến việc tự xây dựng hạ tầng AI trở thành lựa chọn hợp lý cho các doanh nghiệp vừa và lớn;
4）Cơ hội mới trên thị trường phần cứng biên: Huấn luyện mô hình lớn không thể thiếu GPU cao cấp, nhưng yêu cầu phần cứng cho suy diễn biên thì hoàn toàn khác. Các nhà sản xuất chip như Qualcomm, MediaTek đang chuẩn bị cho cơ hội thị trường với các bộ xử lý tối ưu cho AI biên. Khi mỗi doanh nghiệp đều muốn tạo ra "Lilli" của riêng mình, các chip AI biên được thiết kế đặc biệt cho tiêu thụ điện năng thấp và hiệu quả cao sẽ trở thành nhu cầu thiết yếu cho cơ sở hạ tầng;
5）Thị trường web3 AI phi tập trung cũng được tăng cường đồng bộ: một khi nhu cầu về khả năng tính toán, tinh chỉnh, thuật toán trên các mô hình nhỏ của doanh nghiệp được kích thích, cách cân bằng việc phân bổ tài nguyên sẽ trở thành vấn đề, việc phân bổ tài nguyên tập trung truyền thống sẽ trở thành thách thức, điều này sẽ trực tiếp mang lại nhu cầu thị trường lớn cho mạng tinh chỉnh mô hình nhỏ web3AI phi tập trung, nền tảng dịch vụ khả năng tính toán phi tập trung, v.v.
Khi thị trường vẫn đang thảo luận về ranh giới khả năng chung của AGI, thật vui khi thấy nhiều người dùng doanh nghiệp đã bắt đầu khai thác giá trị thực tiễn của AI. Rõ ràng, so với những bước tiến độc quyền tài nguyên trong việc cạnh tranh về khả năng tính toán và thuật toán trong quá khứ, khi thị trường đặt trọng tâm vào điện toán biên + mô hình nhỏ, điều này sẽ mang lại sức sống lớn hơn cho thị trường.