Meta menyerang pengembang aplikasi "Nudify": sebuah titik balik dalam perjuangan melawan AI predator

Meta baru saja mengambil langkah hukum. Raksasa media sosial ini telah mengajukan gugatan terhadap Joy Timeline HK Ltd., yang berbasis di Hong Kong, perusahaan di balik CrushAI—sebuah aplikasi yang menggunakan AI untuk menghasilkan gambar seksual yang tidak disetujui.

Mengapa ini penting

Ini bukan sekadar perselisihan antara platform. Meta menuduh Joy Timeline telah menghindari sistem peninjauan iklannya untuk mempromosikan aplikasi di Facebook dan Instagram, dan ini meskipun penghapusan berulang kali. “Aplikasi nudify” tidak bisa dianggap sepele: mereka memperburuk pelecehan online, pemerasan, dan yang lebih buruk lagi, eksploitasi anak.

Sebuah penyelidikan oleh CBS News mengungkapkan ratusan iklan untuk alat-alat ini di platform Meta—beberapa tetap terlihat meskipun setelah upaya penghapusan.

Tanggapan Meta

Platform ini memperkuat persenjataannya:

• Sistem AI baru untuk mendeteksi iklan berbahaya (bahkan tanpa ketelanjangan eksplisit)
• Penonaktifan empat jaringan terkoordinasi
• Berbagi informasi ancaman dengan raksasa teknologi lainnya

Konteks

Tindakan ini dilakukan di bawah tekanan yang semakin meningkat dari para legislator dan peneliti. Aplikasi AI generatif yang membuat konten intim tanpa persetujuan tidak lagi menjadi area abu-abu—mereka menjadi masalah kejahatan digital.

Masalah utama: sementara AI berkembang pesat, moderator manual tidak lagi cukup. Meta bertaruh pada otomasi—tapi bisakah mereka benar-benar mengikuti laju penghindaran teknologi?