Vários países intensificam a fiscalização de conteúdos ilegais gerados por IA Grok enfrenta tempestade regulatória global

【币界】Grok惹麻烦了。Este chatbot de IA desenvolvido pela xAI, uma empresa de um magnata da tecnologia, foi exposto por gerar deepfakes pornográficos de mulheres e menores de idade, e atualmente enfrenta uma repressão coordenada por parte das autoridades internacionais.

A faísca para o incidente foi um caso de imagens de menores de idade em dezembro do ano passado. As autoridades indianas agiram imediatamente, ordenando que a X bloqueasse esse tipo de conteúdo em 72 horas. Do lado francês, também não ficaram parados — o procurador local já iniciou uma investigação, focada na falsificação profunda na plataforma. A Comissão de Comunicações da Malásia também lançou uma investigação especial sobre ameaças online.

Em resposta, um magnata da tecnologia pediu desculpas publicamente através da conta do Grok e afirmou que os usuários que utilizarem a ferramenta para criar conteúdo ilegal terão que arcar com as consequências. Mas o problema é que isso já não é apenas uma questão de ferramenta — envolve geração de conteúdo envolvendo menores, coordenação de aplicação da lei entre países, responsabilidade das plataformas… tudo isso se tornou novos desafios. Desde a postura rígida da Índia até a profundidade da investigação na França, e a participação da Malásia, o que está por trás disso tudo é a postura de tolerância zero dos reguladores globais contra o abuso de IA. Este incidente pode se tornar um novo padrão na governança de conteúdo de plataformas de IA.