Meta ataca a los desarrolladores de aplicaciones "Nudify": un giro en la lucha contra la IA depredadora

Meta acaba de pasar a la ofensiva jurídica. El gigante de las redes sociales ha demandado a Joy Timeline HK Ltd., con sede en Hong Kong, la empresa detrás de CrushAI—una aplicación que utiliza IA para generar imágenes sexualizadas no consentidas.

Por qué es importante

No se trata solo de una disputa entre plataformas. Meta acusa a Joy Timeline de eludir su sistema de revisión de anuncios para promover la aplicación en Facebook e Instagram, y esto a pesar de las eliminaciones repetidas. Las “nudify apps” no son triviales: alimentan el acoso en línea, la extorsión y, lo que es peor, la explotación infantil.

Una investigación de CBS News reveló cientos de anuncios para estas herramientas en las plataformas Meta—algunos permaneciendo visibles incluso después de los intentos de eliminación.

La respuesta de Meta

La plataforma refuerza su arsenal:

• Nuevo sistema de IA para detectar anuncios perjudiciales (incluso sin desnudez explícita)
• Desactivación de cuatro redes coordinadas
• Compartir información sobre amenazas con otros gigantes de la tecnología

El contexto

Esta acción se produce bajo una creciente presión de los legisladores e investigadores. Las aplicaciones de IA generativa que crean contenidos íntimos sin consentimiento ya no son una zona gris: se están convirtiendo en un problema de criminalidad digital.

Desafío importante: mientras la IA prolifera, los moderadores manuales ya no son suficientes. Meta apuesta por la automatización, ¿pero realmente puede seguir el ritmo de los métodos de elusión tecnológica?