Alat Kejahatan Siber Berbasis AI Berkembang: Ancaman Baru Menargetkan Aset Digital

2 Agustus 2023

Lanskap kejahatan siber yang dihasilkan oleh AI berkembang dengan sangat cepat, dengan peneliti keamanan mengidentifikasi beberapa alat baru yang canggih di luar WormGPT yang sebelumnya ditemukan, menurut laporan komprehensif yang dirilis pada hari Selasa oleh perusahaan keamanan siber SlashNext.

Laporan tersebut mengungkapkan bahwa WormGPT dan penerusnya FraudGPT hanyalah permulaan dari ekosistem yang muncul dari alat AI jahat yang dirancang untuk eksploitasi kriminal. FraudGPT khususnya menonjol karena kemampuannya yang komprehensif, termasuk menciptakan situs web phishing yang meyakinkan, menghasilkan kode jahat, mengembangkan alat peretasan khusus, dan menyusun komunikasi penipuan yang canggih.

Di Dalam Ekosistem AI Kriminal

Peneliti SlashNext melakukan penyelidikan tersembunyi dengan menyamar sebagai calon pembeli dan berinteraksi langsung dengan seorang vendor yang diidentifikasi sebagai CanadianKingpin12 melalui saluran pesan yang aman.

"Tujuan utama kami adalah untuk menentukan apakah FraudGPT menawarkan kemampuan teknologi dan efektivitas yang lebih baik dibandingkan WormGPT," tim SlashNext menjelaskan dalam temuan mereka.

Selama penyelidikan ini, para peneliti menemukan perkembangan yang lebih mengkhawatirkan. Penjual mengungkapkan dua chatbot AI yang akan datang bernama DarkBart dan DarkBert, mengklaim bahwa alat baru ini akan dilengkapi dengan konektivitas internet dan integrasi dengan teknologi pengenalan gambar canggih yang mirip dengan Google Lens—memungkinkan mereka untuk memproses dan merespons baik input tekstual maupun visual.

Laporan SlashNext mencatat bahwa DarkBert secara ironis dialihkan dari teknologi sah yang awalnya dirancang oleh perusahaan intelijen data S2W untuk memerangi kejahatan siber. Sebaliknya, pelaku kriminal telah memodifikasi teknologi ini untuk melakukan aktivitas yang sebenarnya dimaksudkan untuk dicegah.

Menurut CanadianKingpin12, DarkBert memiliki kemampuan yang sangat mengkhawatirkan, termasuk melakukan serangan rekayasa sosial yang canggih, mengeksploitasi kerentanan sistem, dan mendistribusikan berbagai muatan malware termasuk ransomware.

Ancaman terhadap Keamanan Aset Digital

Implikasi keamanan bagi pemegang cryptocurrency dan platform aset digital sangat mengkhawatirkan. Berbeda dengan platform AI yang sah dengan pengaman, alat-alat jahat ini dirancang khusus untuk eksploitasi kriminal.

"ChatGPT memiliki pengaman untuk melindungi dari penggunaan yang tidak sah atau jahat," jelas David Schwed, kepala operasi di perusahaan keamanan blockchain Halborn. "Alat khusus ini tidak memiliki pengaman tersebut, sehingga mereka dapat diarahkan untuk mengembangkan malware tanpa batasan."

Aksesibilitas alat-alat ini menciptakan risiko signifikan bagi bursa cryptocurrency dan penggunanya, karena penyerang dapat berpotensi menghasilkan kampanye phishing yang canggih yang menargetkan dompet digital dan akun bursa.

Saluran Distribusi Bawah Tanah

Metode distribusi untuk alat-alat ini menyoroti sifat terorganisir dari ekosistem kriminal ini. Peneliti SlashNext mencatat bahwa CanadianKingpin12 terpaksa beralih komunikasi ke platform pesan terenkripsi setelah dilarang dari forum publik karena mencoba menjual akses FraudGPT melalui saluran "clear net".

Perbedaan antara "clear net" ( internet standar yang dapat diakses melalui mesin pencari ) dan "darkweb" ( bagian tersembunyi dari internet yang tidak diindeks oleh mesin pencari ) menggambarkan bagaimana alat AI kriminal ini dipasarkan dan didistribusikan melalui saluran yang semakin canggih.

Sementara darkweb memiliki aplikasi privasi yang sah untuk jurnalis dan pembangkang politik, ia juga telah menjadi tempat perlindungan bagi pasar siberkriminal dan distribusi alat jahat yang menargetkan sistem keuangan.

Implikasi Keamanan dan Langkah Pertahanan

Perkembangan pesat alat-alat kriminal bertenaga AI ini menghadirkan tantangan signifikan bagi para profesional keamanan siber. SlashNext menyarankan organisasi untuk menerapkan pelatihan keamanan proaktif dan langkah-langkah verifikasi email yang ditingkatkan untuk mempertahankan diri dari serangan yang semakin canggih.

Laporan tersebut bertentangan dengan temuan dari perusahaan keamanan web Immunefi, yang menunjukkan bahwa para ahli keamanan siber kesulitan untuk memanfaatkan AI secara efektif untuk pertahanan. Survei mereka menemukan bahwa 64% profesional keamanan melaporkan "akurasi terbatas" dari alat OpenAI dalam konteks keamanan, dengan 61% mencatat kurangnya pengetahuan khusus untuk mengidentifikasi eksploitasi.

"Meskipun sulit untuk secara akurat mengukur dampak sebenarnya dari kemampuan ini, masuk akal untuk mengharapkan bahwa mereka akan menurunkan hambatan bagi para calon penjahat siber," kesimpulan SlashNext. "Selain itu, kemajuan cepat dari WormGPT ke FraudGPT dan kini DarkBERT dalam waktu kurang dari sebulan menyoroti pengaruh signifikan dari AI jahat pada lanskap keamanan siber dan kejahatan siber."

Siklus pengembangan yang mempercepat ini menunjukkan bahwa tim keamanan dan pemegang aset digital harus tetap waspada karena ancaman yang didorong oleh AI terus berkembang dengan kecepatan yang belum pernah terjadi sebelumnya, berpotensi menargetkan infrastruktur cryptocurrency yang rentan dan akun pengguna.