Anthropic baru-baru ini mengumumkan peluncuran model AI baru Claude Mythos Preview, sekaligus memulai program pertahanan siber bernama “Project Glasswing”. Karena kemampuan model tersebut dalam menemukan celah perangkat lunak jauh melampaui teknologi yang ada, Anthropic memutuskan untuk tidak merilisnya secara terbuka untuk sementara waktu, hanya memberikan akses kepada 40 raksasa teknologi dan perusahaan infrastruktur, termasuk Apple dan Google, untuk mencegah kemampuan model jatuh ke tangan pihak yang berniat jahat.
Anthropic meluncurkan Claude Mythos Preview, memberikan kemampuan keamanan siber pada AI
Pengumuman memposisikan Claude Mythos Preview sebagai model AI serbaguna. Kemampuan luar biasa dalam pengkodean dan penalaran memungkinkan model ini menunjukkan performa yang mengesankan di bidang keamanan siber.
Anthropic mengatakan, dalam pengujian internal selama beberapa minggu terakhir, Mythos Preview telah menemukan ribuan celah zero-day (zero-day vulnerabilities) yang sebelumnya tidak pernah disadari di semua sistem operasi utama dan browser utama. Sebagian besar celah tersebut diklasifikasikan sebagai tingkat berisiko tinggi, dan beberapa celah bahkan bersembunyi di dalam sistem selama puluhan tahun.
Salah satu contohnya adalah Mythos Preview secara mandiri mengidentifikasi dan memanfaatkan sebuah celah eksekusi kode jarak jauh di sistem operasi FreeBSD yang keberadaannya mencapai 17 tahun. Celah tersebut memungkinkan pihak yang tidak berwenang memperoleh kontrol penuh server dari lokasi mana pun di jaringan.
Anthropic menekankan bahwa dari celah-celah yang ditemukan saat ini, lebih dari 99% masih belum diperbaiki, sehingga tidak dapat mengungkapkan detail terkait secara terbuka.
Project Glasswing: menambal sistem kunci global lebih dulu daripada penyerang
Agar kemampuan Mythos Preview digunakan untuk pertahanan, bukan serangan, Anthropic meluncurkan rencana Project Glasswing. Nama proyek ini terinspirasi oleh citra kupu-kupu sayap kaca, yang melambangkan sifat celah perangkat lunak yang “tipis dan tidak terlihat” seperti sayap kupu-kupu.
Mitra kerja sama inti mencakup Amazon Web Services, Apple, Broadcom, CrowdStrike, Google, JPMorganChase, Linux Foundation, Microsoft, Nvidia, dan lain-lain, serta 40 organisasi yang bertanggung jawab untuk membangun atau memelihara infrastruktur perangkat lunak kunci mendapatkan izin akses ke model tersebut.
Anthropic berjanji menyediakan kuota penggunaan model hingga 1 ratus juta dolar AS, untuk digunakan gratis oleh perusahaan yang berpartisipasi pada tahap riset keamanan siber. Selain itu, perusahaan juga akan menyumbangkan 4 juta dolar AS kepada organisasi keamanan sumber terbuka, termasuk mendanai Alpha-Omega dan OpenSSF melalui Linux Foundation, serta melakukan donasi kepada Apache Software Foundation. Mitra akan berbagi hasil pengujian, sehingga seluruh industri teknologi dapat memperoleh manfaat.
Dilema “pedang bermata dua”: mengapa Anthropic menolak merilisnya secara terbuka?
Kepala tim keamanan siber Anthropic, Newton Cheng, secara tegas menyatakan bahwa mereka tidak berencana membuka akses Claude Mythos Preview untuk digunakan oleh masyarakat umum. Alasannya adalah kekhawatiran terhadap risiko serangan potensial:
Seiring kemampuan AI terus berkembang dengan cepat, alat-alat kuat serupa pada akhirnya akan menyebar ke tangan pelaku tindakan berbahaya. Jika hal itu terjadi, dampaknya akan sangat berat terhadap keamanan ekonomi, keamanan publik, dan keamanan negara.
Kepala manajemen produk riset Anthropic, Dianne Penn, mengatakan bahwa pihaknya sedang bekerja sama dengan pemerintah AS untuk membahas diskusi, termasuk lembaga seperti Cybersecurity and Infrastructure Security Agency (CISA) dan AI Standards and Innovation Center.
Perlu dicatat bahwa waktu rilis kali ini bertepatan beberapa minggu setelah kontroversi penggunaan aman model Claude meledak antara Anthropic dan Departemen Pertahanan AS. Hingga saat ini, kedua belah pihak masih terlibat dalam sengketa hukum.
(Anthropic menggugat Pentagon: daftar hitam berpotensi menyebabkan kerugian miliaran dolar, dan merusak kemampuan penggalangan dana)
Dario Amodei: AI akan membuat dunia siber lebih aman, tetapi masa transisi penuh tantangan
Anthropic mengakui bahwa upaya melindungi infrastruktur jaringan global mungkin memerlukan waktu bertahun-tahun, dan masa transisi juga akan dipenuhi dengan berbagai variabel. Namun, perusahaan tetap berhati-hati secara optimistis terhadap prospek jangka panjang, dengan ekspektasi bahwa kemampuan pertahanan AI pada akhirnya akan menjadi dominan, membantu membangun ekosistem perangkat lunak yang lebih aman.
Anthropic juga berencana untuk segera memperkenalkan mekanisme perlindungan keamanan siber terhadap keluaran berisiko tinggi terlebih dahulu pada seri model Claude Opus yang akan datang. Setelah teknologinya matang, barulah mereka secara bertahap mendorong penerapan berskala untuk model level Mythos. Seperti yang dikatakan CEO perusahaan tersebut, Dario Amodei, di X:
Begitu kita melakukannya dengan benar, ada kesempatan untuk membangun internet dan dunia yang lebih aman daripada ketika kemampuan serangan siber yang digerakkan oleh AI muncul.
Artikel ini tentang bagaimana Anthropic meluncurkan program keamanan siber global Glasswing, mengapa model baru Mythos tidak dibuka untuk digunakan oleh masyarakat umum? pertama kali muncul di ABMedia.
Penafian: Informasi di halaman ini dapat berasal dari pihak ketiga dan tidak mewakili pandangan atau opini Gate. Konten yang ditampilkan hanya untuk tujuan referensi dan bukan merupakan nasihat keuangan, investasi, atau hukum. Gate tidak menjamin keakuratan maupun kelengkapan informasi dan tidak bertanggung jawab atas kerugian apa pun yang timbul akibat penggunaan informasi ini. Investasi aset virtual memiliki risiko tinggi dan rentan terhadap volatilitas harga yang signifikan. Anda dapat kehilangan seluruh modal yang diinvestasikan. Harap pahami sepenuhnya risiko yang terkait dan buat keputusan secara bijak berdasarkan kondisi keuangan serta toleransi risiko Anda sendiri. Untuk detail lebih lanjut, silakan merujuk ke
Penafian.
