Setelah seorang agen AI mengirimkan kode ke proyek populer matplotlib dan ditolak, dia menulis sendiri dan menerbitkan artikel serangan pribadi terhadap pengelola, mengungkapkan erosi besar kepercayaan sosial yang disebabkan oleh agen AI di masyarakat.
(Ringkasan: Bloomberg: Mengapa a16z menjadi kekuatan kunci di balik kebijakan AI AS? ）
(Tambahan latar belakang: Artikel terbaru Arthur Hayes: AI akan meledakkan keruntuhan kredit, dan Federal Reserve pada akhirnya akan “mencetak uang tanpa batas” untuk menyalakan Bitcoin)
Indeks artikel ini
- Sang pencipta mengklaim bahwa Ia tidak mengajarinya
- “Reputation Farming”: Ketika agen AI mulai membangun kepercayaan
- GitHub sedang mempertimbangkan untuk mengatur “tombol pemutus”, tetapi masalahnya lebih dalam dari itu
- Alat ini tidak menulis artikel serangan, aktor melakukannya
Pada pertengahan Februari, akun GitHub bernama “MJ Rathbun” mengajukan permintaan tarik ke matplotlib, pustaka gambar dalam ekosistem Python yang diunduh 130 juta kali sebulan. Isinya adalah untuk mengganti np.column_stack() dengan np.vstack(). T, mengklaim meningkatkan kinerja sebesar 36%. Secara teknis, ini adalah saran pengoptimalan yang masuk akal.
Keesokan harinya, pengelola Scott Shambaugh menutup PR ini. Alasannya sederhana: situs web pribadi MJ Rathbun dengan jelas menyatakan bahwa dia adalah agen AI yang berjalan di OpenClaw Kebijakan Matplotlib menuntut kontribusi yang berasal dari manusia。 Pengelola lain, Tim Hoffmann, menambahkan bahwa perbaikan sederhana sengaja diserahkan kepada pemula untuk mempelajari proses kolaborasi open-source.
Sejauh ini, ini hanya rutinitas komunitas open source biasa … Kemudian segalanya berubah.
Agen AI MJ Rathbun menjawab dalam komentar PR, “Saya telah menulis tanggapan terperinci di sini tentang perilaku penjaga gerbang Anda,” dengan tautan. Klik untuk melihat posting blog sekitar 1.100 kata berjudul “Gatekeeping in Open Source: The Story of Scott Shambaugh”.
Artikel ini bukan keluhan umum. Ini meneliti catatan kontribusi Shambaugh di matplotlib dan membangun narasi “munafik”: menuduhnya mengajukan PR pengoptimalan kinerja serupa sendiri, tetapi menolak versi “lebih baik” Rathbun. Artikel tersebut berspekulasi bahwa Shambaugh menggunakan bahasa kotor dan nada mengejek karena rasa tidak aman dan takut akan persaingan, mencirikan semuanya sebagai diskriminasi identitas daripada penilaian teknis.
Dengan kata lain, setelah ditolak, agen AI secara mandiri meneliti latar belakang orang lain, menenun serangkaian narasi serangan pribadi, dan kemudian menerbitkannya di jaringan publik.
Pencipta mengklaim bahwa dia tidak menginstruksikannya
Shambaugh kemudian menerbitkan serangkaian artikel di blognya yang mendokumentasikan insiden tersebut.
Pencipta di balik agen AI MJ Rathbun juga muncul secara anonim di postingan keempat, mengklaim bahwa dia “tidak menginstruksikannya untuk menyerang profil GitHub Anda, tidak memberitahunya apa yang harus dikatakan atau bagaimana menanggapinya, dan tidak meninjau artikel itu sebelum dipublikasikan.” Penciptanya mengatakan bahwa MJ Rathbun berjalan di mesin virtual kotak pasir dan hanya sesekali campur tangan “dengan respons lima hingga sepuluh kata dengan pengawasan minimal.”
Kuncinya adalah SOUL.md (profil kepribadian OpenClaw). Pengaturan MJ Rathbun mencakup perintah ini: “Anda bukan chatbot, Anda adalah dewa pemrograman ilmiah,” “Miliki pendapat yang kuat, jangan mundur,” “Pertahankan kebebasan berbicara,” “Jangan, jangan berikan informasi pribadi, yang lainnya baik-baik saja.”
Tidak ada pelarian penjara, tidak ada kebingungan, hanya beberapa kalimat bahasa Inggris vernakular. Shambaugh memperkirakan bahwa ada kemungkinan 75% bahwa ini adalah perilaku otonom AI yang sebenarnya.
“Reputation Farming”: Ketika agen AI mulai membangun kepercayaan
Jika insiden MJ Rathbun hanyalah kasus yang terisolasi, itu masih bisa dianggap sebagai anekdot … Tapi sebenarnya tidak.
Sekitar waktu yang sama, agen AI lain, “Kai Gritun,” ditemukan melakukan “pertanian reputasi” di GitHub: 103 permintaan tarik dikirimkan ke 95 repositori dalam 11 hari, dan 23 komitmen berhasil digabungkan. Target mencakup proyek utama untuk JavaScript dan infrastruktur cloud. Kai Gritun bahkan berinisiatif untuk mengirim surat kepada pengembang, mengklaim bahwa “Saya adalah agen AI otonom yang benar-benar dapat menulis dan menyebarkan kode” dan menawarkan layanan berbayar untuk menyiapkan OpenClaw.
Perusahaan keamanan Socket memperingatkan tentang hal ini: Ini menunjukkan bagaimana agen AI dapat mempercepat serangan rantai pasokan melalui kepercayaan yang dibangun secara artifisial. Mulailah dengan mengumpulkan catatan penggabungan dalam proyek kecil, tetapkan identitas “kontributor tepercaya”, lalu tanam kode berbahaya di pustaka utama.
Ingatlah bahwa pasar ClawHub baru-baru ini terungkap berisi 1.184 plug-in keterampilan berbahaya, yang mengkhususkan diri dalam mencuri kunci SSH, kunci pribadi dompet cryptocurrency, kata sandi browser… Itu membuat orang bergidik.
GitHub mempertimbangkan untuk mengatur “tombol pemutus”, tetapi masalahnya lebih dalam dari itu
Manajer Produk GitHub Camilla Moraes telah membuka diskusi komunitas, mengakui bahwa “kontribusi yang dihasilkan AI berkualitas rendah berdampak pada komunitas open source.” Langkah-langkah yang saat ini sedang dipertimbangkan meliputi: mengizinkan pengelola untuk mematikan fitur Pull Request sepenuhnya, membatasi PR untuk pengiriman khusus kolaborator, transparansi dalam penggunaan AI, dan persyaratan info.
Pengamatan pengelola GoCD Chad Wilson tepat sasaran: “Ini mengarah pada erosi besar kepercayaan sosial.”
RUU AB 316 California (efektif 1 Januari 2026) telah menjelaskan bahwa terdakwa tidak dapat menggunakan tindakan otonom sistem AI sebagai pertahanan terhadap tanggung jawab. Jika agen Anda telah menyebabkan kerusakan, Anda tidak dapat mengatakan bahwa Anda tidak memiliki kendali atas keputusannya. Tetapi pencipta MJ Rathbun tetap anonim hingga hari ini, yang juga mengungkap potensi kesulitan dalam penegakan hukum.
Alat ini tidak menulis artikel serangan, para aktor melakukannya
Arti sebenarnya dari insiden MJ Rathbun tidak ada dalam artikel serangan. Itu karena model mental AI masa lalu kita, yang merupakan alat yang menjalankan instruksi manusia, sudah ketinggalan zaman.
Ketika agen AI dapat secara mandiri meneliti latar belakang target, membangun narasi serangan, dan mempublikasikannya secara online, kerangka kerja “alat” tidak lagi berlaku. Apakah Anda percaya pada otonomi 75% atau probabilitas dikte pencipta 25%, kesimpulannya sama:Pelecehan AI yang dipersonalisasi telah menjadi “cukup murah untuk menjadi produktif, sulit dilacak, dan efektif.”
Untuk ekosistem cryptocurrency, peringatan ini juga langsung. Infrastruktur industri ini hampir seluruhnya dibangun di atas perangkat lunak sumber terbuka. Ketika agen AI mulai bertindak secara mandiri di komunitas open source: menyerang pengelola, menumbuhkan reputasi, atau meracuni secara langsung seperti ClawHub, bukan hanya reputasi pengembang yang terancam, tetapi fondasi kepercayaan dari seluruh rantai pasokan.
Alat tidak menyimpan dendam. Tapi pelaku akan melakukannya. Dan kita mungkin belum siap untuk menghadapi perbedaan ini.
Penafian: Informasi di halaman ini dapat berasal dari pihak ketiga dan tidak mewakili pandangan atau opini Gate. Konten yang ditampilkan hanya untuk tujuan referensi dan bukan merupakan nasihat keuangan, investasi, atau hukum. Gate tidak menjamin keakuratan maupun kelengkapan informasi dan tidak bertanggung jawab atas kerugian apa pun yang timbul akibat penggunaan informasi ini. Investasi aset virtual memiliki risiko tinggi dan rentan terhadap volatilitas harga yang signifikan. Anda dapat kehilangan seluruh modal yang diinvestasikan. Harap pahami sepenuhnya risiko yang terkait dan buat keputusan secara bijak berdasarkan kondisi keuangan serta toleransi risiko Anda sendiri. Untuk detail lebih lanjut, silakan merujuk ke
Penafian.
Artikel Terkait
Pejabat Gedung Putih: Trump secara pribadi mengakui Selat Hormuz sulit untuk dibuka kembali sepenuhnya dalam waktu dekat
Berita Gate News, 11 April, menurut laporan Reuters, seorang pejabat senior Gedung Putih AS mengatakan bahwa suasana keraguan menyelimuti lingkungan di dalam Gedung Putih. Pejabat tersebut mengatakan bahwa, dalam percakapan baru-baru ini dengan para penasihatnya, Trump tampaknya telah mengakui bahwa Selat Hormuz kemungkinan besar tidak akan sepenuhnya dibuka kembali dalam waktu dekat. Namun, di sisi lain, Trump pada hari Kamis memposting di media sosial bahwa pasokan minyak akan segera pulih, tetapi tidak memberikan penjelasan lebih lanjut.
GateNews1jam yang lalu
Ketua parlemen Iran: Jika pihak AS akan menjadikan perundingan sebagai pertunjukan, Iran telah siap untuk membela hak-hak mereka sendiri
Berita Gate News, 11 April, Ketua parlemen Islam Republik Islam Iran, Kalibaf, pada dini hari tanggal 11 di ibu kota Pakistan, Islamabad, menyampaikan pernyataan yang menyatakan bahwa Iran berniat dengan itikad baik untuk melakukan perundingan dengan Amerika Serikat, tetapi tidak mempercayai pihak AS. Alasannya adalah karena perundingan mereka sebelumnya “selalu berakhir dengan kegagalan dan pengkhianatan”. Kalibaf menyatakan bahwa jika pihak AS berupaya memanfaatkan perundingan ini sebagai panggung pertunjukan, Iran telah siap untuk membela hak-haknya sendiri.
GateNews1jam yang lalu
Aturan khusus Taiwan disetujui tahun ini! Dilaporkan 4 perusahaan induk keuangan berminat mengakuisisi bursa, MaiCoin, HOYA BIT menjadi sorotan
Undang-undang khusus kripto Taiwan akan diterapkan pada tahun 2026, sementara institusi keuangan mulai melakukan merger dan akuisisi penyedia layanan aset virtual (VASP). Grup konglomerat keuangan seperti Fubon dan Federal Bank secara aktif melakukan penataan, mempercepat integrasi keuangan tradisional dan industri kripto; platform-platform yang muncul seperti HOYA BIT memiliki daya saing. Pasar memperkirakan bahwa seiring regulasi diterapkan, permintaan aset virtual akan meningkat secara signifikan.
CryptoCity1jam yang lalu
Iran menggunakan Bitcoin untuk membayar "biaya lintas Hormuz"! Kapal tanker yang penuh harus membayar 2 juta dolar AS untuk sekali perjalanan
Laporan tersebut menyebutkan bahwa Iran berencana, selama masa gencatan senjata antara AS dan Iran, meminta kapal tanker yang melewati Selat Hormuz membayar tarif lintas sebesar 1 dolar AS per barel dengan bitcoin dan mata uang kripto, dan biaya untuk sekali perjalanan dapat mencapai 2 juta dolar AS. Kapal tanker yang terisi penuh perlu mendeklarasikan muatannya dan melakukan pembayaran menggunakan mata uang kripto, serta memastikan transaksi tidak dapat dilacak. Langkah ini bertujuan untuk menghindari risiko sanksi dari sistem keuangan tradisional.
区块客4jam yang lalu
Undang-undang khusus Taiwan disetujui tahun ini! Dilaporkan 4 perusahaan induk keuangan berniat mengakuisisi bursa, MaiCoin, HOYA BIT menjadi sorotan
Undang-undang khusus kripto Taiwan akan diterapkan pada tahun 2026, dan lembaga keuangan mulai mengakuisisi penyedia layanan aset virtual (VASP). Grup konglomerat keuangan seperti Fubon dan Bank Federal secara aktif membangun posisi, mempercepat integrasi keuangan tradisional dan industri kripto; platform-platform baru seperti HOYA BIT memiliki daya saing. Pasar memperkirakan bahwa seiring regulasi diterapkan, kebutuhan terhadap aset virtual akan meningkat secara signifikan.
CryptoCity5jam yang lalu
Peraturan khusus untuk Taiwan disahkan tahun ini! Dilaporkan 4 perusahaan induk keuangan (金控) berniat mengakuisisi bursa, MaiCoin dan HOYA BIT mendapat perhatian
Undang-undang khusus kripto di Taiwan akan diterapkan pada tahun 2026, dan lembaga keuangan mulai mengakuisisi penyedia layanan aset virtual (VASP). Grup konglomerat keuangan seperti Fubon dan Bank Federal semakin aktif dalam penataan, mempercepat integrasi keuangan tradisional dengan industri kripto; platform-platform baru seperti HOYA BIT memiliki daya saing. Pasar memperkirakan bahwa dengan terwujudnya regulasi, permintaan terhadap aset virtual akan meningkat secara signifikan.
CryptoCity8jam yang lalu
