Hari ini hal terpenting adalah konferensi GTC Nvidia, benar-benar sebuah sejarah singkat manusia versi AI.

robot
Pembuatan abstrak sedang berlangsung

Hari ini yang paling penting adalah konferensi GTC Nvidia, benar-benar seperti sejarah manusia versi AI.

Jensen Huang belum naik panggung, tetapi informasi yang bocor sudah cukup untuk ditulis menjadi sebuah buku.

Saya telah merangkum tiga poin utama, ayo teman-teman, ikuti saya.

  1. Biaya komputasi AI langsung turun menjadi sepertiga

Generasi sebelumnya Blackwell sudah sangat kuat, bukan? Segera akan diumumkan produksi massal chip generasi baru Vera Rubin.

Apa yang membuat Vera Rubin hebat? Singkatnya, dua kata: murah.

Untuk menjalankan model AI yang sama, jumlah chip dipotong menjadi seperempat, biaya komputasi inferensi turun sembilan puluh persen. Turun sembilan puluh persen, teman-teman. Tiga raksasa cloud AWS, Microsoft, dan Google langsung menjadi yang pertama ikut serta.

  1. Groq yang dibeli seharga 20 miliar dolar tahun lalu, hari ini menyelesaikan tugas

Sebelumnya Jensen Huang mengatakan di rapat kinerja, Groq akan diintegrasikan sebagai arsitektur tambahan ke dalam ekosistem Nvidia, seperti saat membeli Mellanox untuk melengkapi kemampuan jaringan.

LPU Groq berada di pusat data yang sama dengan GPU Nvidia, GPU memahami masalah, LPU bertanggung jawab untuk memberikan jawaban dengan cepat.

Dua jenis chip bekerja sama, latensi dalam skenario Agent langsung menurun.

AI Agent bekerja untuk manusia, sebuah tugas mungkin memanggil model puluhan kali, setiap kali menghabiskan daya komputasi inferensi, dan pengguna sedang menunggu, jika lambat sedikit pengalaman akan hancur.

Inferensi dibagi menjadi dua langkah, pertama memahami pertanyaan Anda, kemudian mengeluarkan jawaban kata demi kata.

GPU unggul dalam langkah pertama, tetapi kecepatan dan stabilitas dalam mengeluarkan kata, LPU Groq lebih kuat.

Apakah 20 miliar itu mahal?

Pikirkan tentang perusahaan-perusahaan yang akan menjalankan ratusan Agent, setiap Agent memanggil model ribuan kali setiap hari.

  1. Versi Nvidia OpenClaw diluncurkan, bernama NemoClaw

Ini adalah platform open-source, perusahaan dapat menginstalnya untuk menerapkan karyawan AI menggantikan manusia dalam menjalankan proses, mengolah data, dan mengelola proyek. Kabarnya sudah dalam pembicaraan dengan Salesforce dan Adobe.

Menariknya, NemoClaw tidak mengharuskan Anda menggunakan chip Nvidia. Coba pikirkan logika ini. Menjual chip hanya menghasilkan uang dari hardware, tetapi menetapkan aturan dapat menghasilkan uang dari seluruh rantai. Jensen Huang menghitung angka ini dengan sangat cermat.

  1. Jensen Huang mengatakan akan menunjukkan “chip yang belum pernah dilihat dunia”

Kemungkinan besar ini adalah arsitektur generasi berikutnya Feynman yang pertama kali muncul, produksi massal pada tahun 2028, dengan teknologi 1,6nm tercanggih dari TSMC.

Selain itu, ada informasi menarik yang menurut saya cukup menarik.

Nvidia telah merilis prosesor laptop, dua model, yang ditujukan untuk game. Penjual kartu grafis akan mulai merebut pasar CPU.

Saya merasa, di masa depan Jensen Huang akan menjadi seorang tokoh besar.

Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
  • Hadiah
  • Komentar
  • Posting ulang
  • Bagikan
Komentar
Tambahkan komentar
Tambahkan komentar
Tidak ada komentar
  • Sematkan