Prevenir a "contaminação" na fonte e reforçar os fundamentos do desenvolvimento da IA

Jornalista Wu Shun, Securities Times

Quando o “Lobster” (OpenClaw) invade a internet, levantando preocupações sobre sua segurança, também foi divulgado que o motor de geração de conteúdo (GEO) está “envenenando” grandes modelos de IA. Com o avanço acelerado da tecnologia de IA, os riscos associados aparecem de forma mais oculta e destrutiva. Como colocar uma “válvula de segurança” e reforçar as barreiras de proteção na rápida evolução da IA torna-se uma questão crucial na era da inteligência artificial.

Os riscos da IA, na sua essência, refletem um desequilíbrio entre o desenvolvimento tecnológico, a ética e o sistema regulatório. Por um lado, algumas empresas de IA priorizam a velocidade, negligenciando a segurança, deixando espaço para ações de criminosos. Por exemplo, a comunidade de código aberto do “Lobster” carece de um mecanismo rigoroso de revisão de pacotes, facilitando a introdução de plugins maliciosos; a origem e o processo de revisão dos dados de treinamento dos grandes modelos de IA não são transparentes, permitindo “envenenamento” de dados. Por outro lado, o modelo regulatório tradicional fica atrás da evolução tecnológica, muitas vezes respondendo de forma passiva após a manifestação de riscos, criando um vácuo entre capacidade e governança.

Portanto, é fundamental definir limites de segurança para a inovação tecnológica e consolidar uma base para o desenvolvimento sustentável. Por exemplo, para evitar “envenenamento”, as empresas de grandes modelos de IA devem atender a requisitos de prevenção de riscos mais elevados e com visão de futuro, usando dados que sejam explicáveis e rastreáveis, estabelecendo padrões de revisão mais rigorosos para prevenir “envenenamento” desde a origem.

Além disso, é necessário construir um sistema de governança “multilateral”. Os órgãos reguladores devem acelerar a elaboração de leis e regulamentos relacionados à tecnologia digital, esclarecendo as responsabilidades de plataformas e usuários, e aumentando as penalidades por “envenenamento” e uso malicioso de ferramentas de código aberto; associações do setor devem estabelecer normas éticas e padrões de segurança unificados, orientando a autorregulação das empresas; instituições de pesquisa e especialistas devem aprofundar o estudo dos riscos tecnológicos para fornecer suporte técnico à fiscalização; o público deve aprimorar sua alfabetização digital e usar as ferramentas tecnológicas de forma racional.

Por fim, o desenvolvimento tecnológico nunca para, e as formas de risco estão em constante evolução. É preciso estabelecer mecanismos ágeis de monitoramento e alerta de riscos, como as ações de diferentes departamentos ao emitir alertas de segurança sobre “Lobster”, que representam medidas preventivas eficazes.

No entanto, reforçar as barreiras de segurança na rápida evolução tecnológica não significa frear a inovação. Somente ao equilibrar inovação e segurança, a tecnologia poderá seguir de forma responsável e benéfica, impulsionando o progresso social e evitando que se torne uma ameaça aos interesses públicos.