Meta ataca os desenvolvedores da aplicação "Nudify": um ponto de viragem na luta contra a IA predatória

A Meta acaba de passar à ofensiva jurídica. O gigante das redes sociais processou a Joy Timeline HK Ltd., com sede em Hong Kong, a empresa por trás da CrushAI—uma aplicação que utiliza IA para gerar imagens sexualizadas não consentidas.

Por que é importante

Não se trata apenas de uma disputa entre plataformas. A Meta acusa o Joy Timeline de contornar seu sistema de revisão de anúncios para promover o aplicativo no Facebook e Instagram, e isso apesar de remoções repetidas. Os “nudify apps” não são inofensivos: eles alimentam o assédio online, a extorsão e, pior ainda, a exploração de crianças.

Uma investigação da CBS News revelou centenas de anúncios para essas ferramentas nas plataformas Meta—alguns permanecendo visíveis mesmo após tentativas de remoção.

A resposta da Meta

A plataforma reforça seu arsenal:

• Novo sistema de IA para detectar anúncios prejudiciais (mesmo sem nudez explícita)
• Desativação de quatro redes coordenadas
• Compartilhamento de informações sobre ameaças com outros gigantes da tecnologia

O contexto

Esta ação ocorre sob uma pressão crescente de legisladores e pesquisadores. As aplicações de IA generativa que criam conteúdos íntimos sem consentimento já não são uma zona cinzenta—tornam-se um problema de criminalidade digital.

Desafio importante: enquanto a IA prolifera, os moderadores manuais já não são suficientes. A Meta aposta na automação—mas será que consegue realmente acompanhar o ritmo das contornar tecnológicas?