Investasi Konstruksi Sekuritas China: "Penyelarasan super" OpenAI telah membuat kemajuan, dan AI telah digeneralisasi dari lemah ke kuat untuk mencapai kemampuan kontrol AI
Sina Financial News China Securities Construction Investment Research Report menunjukkan bahwa pada 15 Desember, tim "penyelarasan super" OpenAI merilis makalah pertamanya sejak didirikan, membuka arah penelitian baru untuk penyelarasan empiris model super. OpenAI percaya bahwa kecerdasan buatan (superintelligence) yang jauh lebih pintar daripada manusia dapat dikembangkan dalam dekade berikutnya, namun, bagaimana membimbing dan mengendalikan sistem AI manusia super dengan benar masih belum terpecahkan dengan baik, dan memecahkan masalah AI yang dapat dikendalikan sangat penting untuk bagaimana memastikan bahwa sistem AI paling canggih selalu aman dan bermanfaat bagi umat manusia. Dalam studi terbaru, OpenAI telah mencapai tugas mengawasi model yang kuat dari model yang lemah, dan OpenAI menggunakan model GPT-2 untuk merangsang sebagian besar kemampuan GPT-4, memungkinkannya untuk mencapai kinerja mendekati level GPT-3.5. "Generalisasi lemah-ke-kuat" direalisasikan, yaitu, model kecil mengawasi model besar, yang menyediakan rute teknis praktis untuk "penyelarasan super". Diharapkan OpenAI akan terus membuat terobosan dalam penelitian "penyelarasan super", dan kami optimis tentang prospek pengembangan industri model besar di bawah keamanan dan kontrol.
Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
Investasi Konstruksi Sekuritas China: "Penyelarasan super" OpenAI telah membuat kemajuan, dan AI telah digeneralisasi dari lemah ke kuat untuk mencapai kemampuan kontrol AI
Sina Financial News China Securities Construction Investment Research Report menunjukkan bahwa pada 15 Desember, tim "penyelarasan super" OpenAI merilis makalah pertamanya sejak didirikan, membuka arah penelitian baru untuk penyelarasan empiris model super. OpenAI percaya bahwa kecerdasan buatan (superintelligence) yang jauh lebih pintar daripada manusia dapat dikembangkan dalam dekade berikutnya, namun, bagaimana membimbing dan mengendalikan sistem AI manusia super dengan benar masih belum terpecahkan dengan baik, dan memecahkan masalah AI yang dapat dikendalikan sangat penting untuk bagaimana memastikan bahwa sistem AI paling canggih selalu aman dan bermanfaat bagi umat manusia. Dalam studi terbaru, OpenAI telah mencapai tugas mengawasi model yang kuat dari model yang lemah, dan OpenAI menggunakan model GPT-2 untuk merangsang sebagian besar kemampuan GPT-4, memungkinkannya untuk mencapai kinerja mendekati level GPT-3.5. "Generalisasi lemah-ke-kuat" direalisasikan, yaitu, model kecil mengawasi model besar, yang menyediakan rute teknis praktis untuk "penyelarasan super". Diharapkan OpenAI akan terus membuat terobosan dalam penelitian "penyelarasan super", dan kami optimis tentang prospek pengembangan industri model besar di bawah keamanan dan kontrol.