Meta telah mengajukan gugatan terhadap Joy Timeline HK Ltd., sebuah perusahaan yang berbasis di Hong Kong yang bertanggung jawab atas pengembangan aplikasi kontroversial CrushAI, yang menggunakan kecerdasan buatan untuk menghasilkan gambar seksual tanpa izin.

Tuntutan yang diajukan di Hong Kong menuduh perusahaan tersebut melanggar kebijakan periklanan Meta dengan mempromosikan aplikasi melalui iklan di Facebook dan Instagram, meskipun telah ada penghapusan dan langkah-langkah kepatuhan yang berulang kali.

Menurut Meta, Joy Timeline melakukan beberapa upaya untuk menghindari sistem peninjauan iklan mereka, yang memicu tindakan hukum untuk secara permanen mencegah perusahaan tersebut beriklan di platform mereka. "Gugatan ini mencerminkan keseriusan kami dalam mempertimbangkan penyalahgunaan ini dan komitmen kami terhadap perlindungan komunitas kami," kata Meta dalam sebuah pernyataan, berjanji untuk terus mencari solusi hukum terhadap penyalahgunaan platform.

CrushAI dan aplikasi serupa "telanjang", yang secara digital melepas pakaian orang (sering kali menargetkan wanita dan selebritis), telah menjadi sasaran kritik luas karena mendorong pelecehan online, pemerasan, dan eksploitasi anak. Penelitian terbaru dari CBS News menemukan ratusan iklan ini di platform Meta, beberapa di antaranya tetap terlihat bahkan setelah upaya penghapusan.

Sebagai tanggapan, Meta telah memperkuat alat kontrolnya, menerapkan teknologi baru untuk mendeteksi dan memblokir iklan yang merugikan, termasuk yang tidak menampilkan ketelanjangan eksplisit, dan berbagi informasi tentang ancaman dengan perusahaan teknologi lainnya.

Perusahaan juga melaporkan telah membongkar empat jaringan terkoordinasi yang mengoperasikan iklan ini dan terus bekerja dengan para ahli internal dan mitra eksternal untuk melawan taktik penghindaran yang muncul.

Menghadapi tekanan yang meningkat dari legislator dan peneliti, Meta menyatakan bahwa mereka akan tetap waspada dan mengambil semua langkah yang diperlukan untuk menghentikan proliferasi aplikasi AI yang mengeksploitasi dan melindungi keamanan pengguna.