Tại sao các ông lớn (Google, Microsoft, Meta) hiện nay lại chạy đua "thu nhỏ" các mô hình thay vì mở rộng chúng?



Thời đại của Các Mô hình Ngôn ngữ Nhỏ (SLMs) đã bắt đầu, và kết quả thật đáng kinh ngạc. Dưới đây là lý do tại sao nhỏ lại là "lớn" sắp tới:

1- Riêng tư (Edge AI): Chạy một mô hình thông minh cao trên điện thoại hoặc máy tính xách tay của bạn có nghĩa là dữ liệu của bạn không bao giờ chạm vào đám mây.
2- Thời gian phản hồi (Latency): Các mô hình nhỏ nhanh gấp 10 lần trong các nhiệm vụ chuyên biệt...
3- Chi phí: Chạy các mô hình này tại chỗ (qua Ollama) mang lại sức mạnh tuyệt vời với chi phí năng lượng rất thấp...

Bạn dựa vào các mô hình lớn (Cloud) trong công việc hàng ngày hay đã bắt đầu chuyển sang các mô hình cục bộ?
META1,28%
GOOGL0,7%
MSFT1,99%
Xem bản gốc
post-image
post-image
[Người dùng đã chia sẻ dữ liệu giao dịch của mình. Vào Ứng dụng để xem thêm.]
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
  • Phần thưởng
  • Bình luận
  • Đăng lại
  • Retweed
Bình luận
Thêm một bình luận
Thêm một bình luận
Không có bình luận
  • Ghim