Baltimore processa a xAI de Elon Musk por imagens falsas de nus de Grok

Na terça-feira, o governo da cidade de Baltimore apresentou uma ação judicial no tribunal de circuito contra a empresa de IA de Elon Musk, xAI. A ação judicial afirma que o chatbot Grok viola as leis locais de proteção ao consumidor ao produzir deepfakes explícitos e não consensuais, incluindo imagens de menores.

Funcionários da cidade dizem que a empresa enganou as pessoas ao promover o X $TWTR 0,00% como uma rede social regular e o Grok como uma ferramenta segura e cotidiana. A queixa afirma que esse marketing oculta o risco de que os usuários possam ver conteúdo ilegal ou ter suas fotos familiares transformadas em imagens degradantes e sexualmente explícitas sem o seu consentimento.

Conteúdo Relacionado

Meta condenada a pagar 375 milhões de dólares no caso de exploração infantil no Novo México

Ford recolhe mais de 254.000 SUVs devido a problema de software na câmara de retrovisão

A ação judicial cita pesquisas do Centro de Combate ao Ódio Digital, que descobriram que o software criou cerca de três milhões de imagens sexualizadas em 11 dias, entre o final de dezembro e o início de janeiro. Os meios de comunicação diferem no número de imagens mostrando menores: a NBC News relata cerca de 20.000, enquanto o The Guardian estima cerca de 23.000 e a Reuters cita mais de 23.000.

A cidade também critica um recurso chamado “modo picante.” Segundo a NBC News, a ação judicial afirma que essa função permite que as pessoas removam digitalmente roupas de fotos de figuras públicas, cidadãos privados e crianças, e depois coloquem suas imagens em cenas violentas ou sexualmente degradantes.

A ação judicial também aponta para uma publicação nas redes sociais de 31 de dezembro de 2025, onde Musk compartilhou uma imagem gerada por IA dele aos 54 anos em um biquíni de cordão azul. Os advogados de Baltimore dizem que essa publicação encorajou publicamente os usuários a criar fotos expondo pessoas reais.

O prefeito Brandon M. Scott enfatizou o quão prejudiciais esses deepfakes são. Em declarações à mídia, ele disse que eles causam trauma duradouro para as vítimas e representam uma séria ameaça à privacidade, segurança e dignidade. Ele acrescentou que os responsáveis devem ser responsabilizados.

Baltimore está pedindo ao tribunal as maiores penalidades financeiras possíveis e outras multas. Funcionários da cidade também querem uma ordem judicial exigindo que a empresa altere sua publicidade, redesenhe sua plataforma e pare de explorar os residentes locais.

Esta ação judicial surge enquanto a empresa enfrenta um escrutínio global. A Reuters diz que a xAI está sob investigação nas Américas, Europa, Ásia e Austrália, o que a levou a limitar alguns recursos de geração de imagens em meados de janeiro. Naquela época, Musk disse que não tinha conhecimento de que o software estava criando imagens nuas de menores.

O Guardian também relata sobre uma ação judicial coletiva separada apresentada em março por três adolescentes no Tennessee. Eles dizem que um aplicativo externo usou a tecnologia da xAI para criar e compartilhar imagens nuas deles. A xAI e suas empresas relacionadas não responderam imediatamente a perguntas da mídia sobre o caso.

📬 Inscreva-se para o Daily Brief

O nosso briefing gratuito, rápido e divertido sobre a economia global, entregue todas as manhãs de dias úteis.

Inscreva-me