Mais de 200 organizações de direitos das crianças uniram-se para exigir que o YouTube proíba totalmente a entrada de "conteúdo lixo" gerado por IA na plataforma infantil

Deep 潮 TechFlow mensagem, 02 de abril, segundo a Fortune, mais de 200 organizações e especialistas de defesa dos direitos das crianças, incluindo a American Federation of Teachers e a American Counseling Association, assinaram uma carta conjunta dirigida ao CEO do YouTube, Neal Mohan, e ao CEO da Google, Sundar Pichai, exigindo que a plataforma proíba de forma abrangente a presença no YouTube Kids de “vídeos de lixo” (AI slop) de baixa qualidade gerados por IA.

A carta conjunta foi liderada pela organização de defesa dos direitos das crianças Fairplay. Também participaram e assinaram estudiosos e figuras conhecidas, como o autor de “A Geração Ansiosa”, Jonathan Haidt. Na carta, é apontado que uma grande quantidade de conteúdos em vídeo produzidos em massa por IA está a inundar a plataforma do YouTube Kids. Esses vídeos têm custos de produção baixos, o conteúdo é absurdo ou sem sentido, mas são concebidos pelo algoritmo para continuar a atrair e “capturar” a atenção das crianças. Uma investigação da Fairplay concluiu que canais principais de lixo de IA direcionados a crianças geram uma receita anual superior a 4,25 milhões de dólares, enquanto que, entre os vídeos no YouTube Kids destinados a crianças com menos de 8 anos, apenas cerca de 5% são conteúdos de alta qualidade.

Rachel Franz, responsável pelo projeto da Fairplay, afirmou que os conteúdos gerados por IA distorcem a realidade, criam confusão e prejudicam o desenvolvimento do reconhecimento das crianças sobre o mundo, além de os algoritmos da plataforma continuarem a recomendar este tipo de conteúdos a utilizadores mais jovens, tornando quase impossível evitá-los. A coligação propôs várias exigências de reforma estrutural, incluindo: proibir de forma abrangente conteúdos gerados por IA no YouTube Kids, assinalar claramente em toda a plataforma os vídeos gerados por IA, proibir que algoritmos recomendem conteúdos gerados por IA a utilizadores com menos de 18 anos, disponibilizar uma opção de “conteúdo de IA” para pais com desligamento predefinido, e cessar o investimento em projetos de conteúdos de IA voltados para crianças (como o estúdio de entretenimento infantil Animaj, apoiado pelo Google AI Futures Fund).

Um porta-voz do YouTube respondeu dizendo que a plataforma tem padrões rigorosos para os conteúdos do YouTube Kids, já limitou os conteúdos gerados por IA a um pequeno conjunto de canais de alta qualidade e está a desenvolver uma funcionalidade de etiquetas de IA específica, mas não forneceu um cronograma concreto de lançamento. O CEO do YouTube, Neal Mohan, já tinha listado anteriormente na sua carta anual pública “gerir o lixo de IA” como uma das principais prioridades.