Meta attaque les développeurs d'applications "Nudify" : un tournant dans la lutte contre l'IA prédatrice

Meta vient de passer à l’offensive juridique. Le géant des réseaux sociaux a intenté une action en justice contre Joy Timeline HK Ltd., basée à Hong Kong, la société derrière CrushAI—une application qui utilise l’IA pour générer des images sexualisées non consenties.

Pourquoi c’est important

Ce n’est pas juste une querelle entre plateformes. Meta accuse Joy Timeline d’avoir contourné son système d’examen des annonces pour promouvoir l’app sur Facebook et Instagram, et ce malgré des suppressions répétées. Les “nudify apps” ne sont pas anodines : elles alimentent le harcèlement en ligne, l’extorsion, et pire encore, l’exploitation d’enfants.

Une enquête de CBS News a révélé des centaines d’annonces pour ces outils sur les plateformes Meta—certaines restant visibles même après tentatives de suppression.

La riposte de Meta

La plateforme renforce son arsenal :

• Nouveau système d’IA pour détecter les annonces nuisibles (même sans nudité explicite)
• Désactivation de quatre réseaux coordonnés
• Partage d’informations de menace avec d’autres géants de la tech

Le contexte

Cette action intervient sous une pression croissante des législateurs et chercheurs. Les applications d’IA générative qui créent des contenus intimes sans consentement ne sont plus une zone grise—elles deviennent un problème de criminalité numérique.

Enjeu majeur : alors que l’IA prolifère, les modérateurs manuels ne suffisent plus. Meta parie sur l’automatisation—mais peut-elle vraiment suivre le rythme des contournements technologiques ?