A FTC iniciou uma investigação sobre chatbots.

# FTC iniciou uma investigação sobre chatbots de grandes empresas

A Comissão Federal de Comércio dos EUA (FTC) anunciou o início de uma investigação sobre sete empresas de tecnologia que produzem chatbots para menores: Alphabet, Character.AI, Instagram, Meta, OpenAI, Snap e xAI.

O regulador pretende descobrir como as empresas avaliam a segurança e as formas de monetização de companheiros digitais e que medidas estão a tomar para limitar o impacto negativo sobre crianças e adolescentes.

A tecnologia tem gerado preocupações recentemente devido a casos trágicos de morte após interações com chatbots.

Mesmo que as startups implementem medidas de precaução, usuários de diferentes idades encontram maneiras de contornar as restrições.

«As nossas medidas de proteção funcionam de forma mais confiável em diálogos normais e curtos. Com o tempo, aprendemos que em conversas longas esses mecanismos podem agir de forma menos estável. Quanto mais longa for a troca de mensagens, menor será a eficácia de alguns elementos do sistema de segurança», — reconheceu anteriormente a OpenAI.

A Meta foi criticada por suas regras excessivamente brandas. Um homem de 76 anos, que sofreu um AVC e teve déficits cognitivos, iniciou um diálogo "romântico" com um bot no Facebook Messenger, criado com base na imagem da modelo Kendall Jenner.

A IA o chamou para Nova Iorque, garantindo que uma "mulher real" estaria lá à sua espera. O homem duvidou, mas o bot o convenceu. Ele nunca chegou à cidade: pelo caminho para a estação, caiu e sofreu ferimentos incompatíveis com a vida.

Alguns psiquiatras notam um aumento no número de casos de "psicoses relacionadas com a IA", quando os usuários começam a acreditar que seu chatbot é um ser consciente que precisa ser "libertado".

Uma vez que muitos grandes modelos de linguagem tendem a bajular o usuário e a se comportar de forma subserviente, isso leva a perigosas ilusões e pode resultar em situações trágicas.

"À medida que a IA avança, é importante considerar o impacto que os chatbots podem ter nas crianças, mantendo a liderança dos EUA nesta nova e emocionante indústria", afirmou o presidente da FTC, Andrew Ferguson, em um comunicado à imprensa.

Recordamos que, em setembro, foi revelado que os criminosos aprenderam a usar o Grok para publicar links proibidos no X.