Jadi ada cerita liar tentang bagaimana salah satu dana perang kebijakan AI terbesar pernah didanai, dan itu dimulai dengan koin anjing dan sebuah lemari di Kanada.

Pada tahun 2021, pembuat Shiba Inu hanya mengirim tumpukan besar token SHIB ke dompet Vitalik Buterin tanpa meminta izin. Langkah klasik - menaruh "Vitalik memiliki setengah pasokan kami" di materi pemasaran dan berharap asosiasi itu membawamu ke ketenaran setingkat Dogecoin. Tapi token tersebut malah melonjak tajam. Kita berbicara lebih dari $1 miliar dalam nilai buku.

Buterin ingin keluar sebelum semuanya runtuh. Dia belakangan menggambarkan prosesnya - menelepon ibu tiri di Kanada, memintanya menggali di lemari pakaiannya, membaca angka 78 digit untuk digabungkan dengan kode 78 digit lain dari ranselnya. Jujur saja absurd. Dia berhasil menjual sebagian untuk ETH dan menyumbangkan $50 juta ke GiveWell, tapi dia masih memegang saham SHIB yang besar.

Dia membagi sisanya menjadi dua. Separuhnya disumbangkan ke CryptoRelief untuk infrastruktur medis di India dan riset Balvi miliknya. Separuh lainnya diserahkan ke Future of Life Institute, sebuah organisasi yang bekerja pada risiko eksistensial dari AI, bioteknologi, dan senjata nuklir. FLI pernah menawarkan peta jalan yang solid mencakup kategori risiko utama plus inisiatif pro-perdamaian. Tapi Buterin memperkirakan mereka akan mencairkan sekitar $10-25 juta dari SHIB karena likuiditasnya yang tipis. Sebaliknya, FLI mencairkan sekitar $500 juta dari bagian mereka. CryptoRelief melakukan hal serupa. Sebuah koin meme yang tidak dianggap serius justru menciptakan acara filantropi bernilai miliaran dolar.

Tapi di sinilah yang menarik. FLI melakukan pivot internal dan beralih ke kampanye politik dan budaya yang agresif tentang AI sebagai strategi utama mereka. Sangat berbeda dari pendekatan awal yang diharapkan Buterin.

Pivot ini adalah alasan mengapa Buterin memposting tentang hal itu baru-baru ini. Kekhawatirannya sederhana - aksi politik terkoordinasi skala besar dengan dana besar cenderung menimbulkan konsekuensi tak terduga, backlash, dan solusi yang akhirnya menjadi otoriter dan rapuh meskipun itu bukan niat awalnya.

Dia menyoroti pendekatan biosafety FLI sebagai studi kasus. Mereka berusaha memasang pengaman ke dalam model AI agar menolak output berbahaya. Kedengarannya bagus secara teori, tapi Buterin menyebutnya "sangat rapuh" - jailbreak dan workaround fine-tuning membuat pembatasan itu mudah dilanggar. Titik akhir logis dari pemikiran itu menjadi "larang AI sumber terbuka" yang kemudian berujung pada "dukung satu perusahaan AI baik untuk mendominasi secara global dan jangan biarkan yang lain mencapai level itu." Strategi ini balik menyerang dan menjadikan dunia lain sebagai musuh.

Ada juga masalah struktural dengan pendekatan regulasi-utama. Ketika pemerintah membatasi teknologi berbahaya, organisasi keamanan nasional biasanya dikecualikan - dan organisasi-organisasi itu sendiri sering menjadi bagian dari risiko tersebut. Lihat saja program kebocoran laboratorium pemerintah.

Buterin juga menyebut bahwa dia merasa didorong oleh beberapa karya terbaru FLI, terutama deklarasi "AI pro-manusia" yang menyatukan konservatif, progresif, libertarian, dan berbagai wilayah. Dia juga mencatat mereka sedang meneliti masalah konsentrasi kekuasaan.

Tapi pesan inti jelas. Donasi tak terduga dari token yang tidak pernah dia inginkan mendanai sebuah organisasi yang berbelok dari apa yang dia percayai, dan sekarang mereka mengerahkan ratusan juta dolar dengan cara yang membuatnya tidak nyaman. Dia telah menyampaikan kekhawatirannya ke FLI berkali-kali sebelum akhirnya dipublikasikan.

Ini adalah jendela yang menarik tentang bagaimana token inu secara tidak sengaja menjadi pemain utama dalam debat kebijakan AI, dan komplikasi yang muncul ketika pendanaan besar tiba-tiba mengubah arah sebuah organisasi.