Regulamento para a gestão de serviços de pessoas virtuais digitais para consulta pública: "Centralidade no ser humano", delimitação de fronteiras, definição de direção

Escrever artigo: Zhang Feng

1. Corrida tecnológica e atraso na governança, onde estão os limites do serviço de pessoas virtuais digitais?

Quando apresentadores virtuais alimentados por IA transmitem 24 horas por dia sem interrupções, quando o balcão de serviços governamentais conta com “funcionários públicos digitais” pacientes para responder dúvidas, quando no campo da divulgação científica médica surgem “médicos IA” incansáveis, estamos testemunhando um novo cenário social profundamente integrado por pessoas virtuais digitais. Graças às suas vantagens evidentes de baixo custo, alta interatividade, alta eficiência e serviço 24/7, as pessoas virtuais digitais rapidamente se tornaram uma ferramenta-chave para impulsionar o desenvolvimento da economia inteligente. Desde transmissões ao vivo de comércio eletrônico até promoção cultural e turística, de divulgação científica médica a consultoria governamental, seus cenários de aplicação estão se expandindo com uma amplitude e profundidade sem precedentes.

No entanto, a corrida desenfreada da tecnologia muitas vezes precede a construção de regras. Quando as imagens virtuais podem enganar pelo realismo, quando diálogos de IA podem esconder preconceitos, quando agentes autodesenvolvidos com comportamento imprevisível surgem, uma série de questões agudas aparecem: onde exatamente estão os limites do serviço de pessoas virtuais digitais? Quem deve assumir a responsabilidade por seus comportamentos? Como garantir que o desenvolvimento tecnológico, na busca por eficiência e inovação, não se desvie do caminho “centrado no ser humano”? Essas questões não são apenas tecnológicas, mas também envolvem confiança social, ética e governança de longo prazo. Recentemente, o “Regulamento de Gestão de Serviços de Informação de Pessoas Virtuais Digitais (Rascunho de Consulta)” divulgado pelo Escritório Nacional de Informação da Internet é uma resposta concentrada a essas perguntas contemporâneas.

2. Múltiplos riscos entrelaçados, clamando por normas sistemáticas e princípios de “tecnologia para o bem”

A necessidade urgente de delimitar limites para os serviços de pessoas virtuais digitais decorre dos múltiplos riscos e desafios revelados durante seu desenvolvimento.

Primeiro, riscos de segurança e ética. Tecnologias de síntese profunda reduzem drasticamente as barreiras para falsificação de identidades, disseminação de informações falsas e fraudes emocionais, podendo prejudicar direitos individuais, perturbar a ordem social e até ameaçar a segurança nacional.

Segundo, risco de atribuição de responsabilidade ambígua. Os comportamentos de pessoas virtuais digitais são impulsionados por algoritmos, com uma cadeia de responsabilidade complexa envolvendo seus projetistas, desenvolvedores, operadores e usuários. Quando surgem problemas, é fácil cair na armadilha de uma “caixa preta de algoritmos” e de um vácuo de responsabilidade.

Terceiro, risco de brecha digital e reforço de preconceitos. Se os dados de treinamento dos algoritmos forem tendenciosos, as pessoas virtuais digitais podem inconscientemente amplificar preconceitos sociais existentes ou criar novas formas de discriminação nos serviços.

Mais profundamente, com o avanço de tecnologias de ponta como o protocolo de evolução autônoma de agentes inteligentes Rotifer, agentes com capacidade de autoaprendizagem e evolução podem apresentar comportamentos além dos objetivos predefinidos, gerando impactos sociais de longo prazo com alta incerteza.

Esses riscos não existem isoladamente, mas estão interligados, apontando para uma contradição central: o enorme potencial de avanço tecnológico versus o atraso e desconexão das estruturas de governança existentes. Assim, a implementação do “Regulamento” não é apenas uma medida de “extinguir incêndios” diante de problemas específicos, mas também uma base lógica para o desenvolvimento saudável da economia digital, consolidando a prática do princípio “centrado no ser humano e orientado para o bem”.

3. Normatização de todo o processo e responsabilidade penetrante, construindo uma estrutura de governança “centrada no ser humano”

Diante desses desafios, o “Regulamento” constrói uma estrutura de governança centrada em “normas ao longo de todo o processo” e “responsabilidade penetrante”. Sua estratégia principal pode ser resumida como “delimitar limites, esclarecer sujeitos, fortalecer supervisão, promover o bem”.

Primeiro, estabelecer limites claros de segurança e ética que não podem ser ultrapassados. O regulamento detalha ações proibidas envolvendo pessoas virtuais digitais, incluindo, mas não se limitando a, ameaçar a segurança nacional, prejudicar interesses públicos, infringir direitos legítimos de terceiros, disseminar informações falsas e perturbar a ordem econômica e social. Isso define uma linha vermelha clara para todos os participantes do mercado.

Segundo, estabelecer e aprofundar a responsabilidade de diferentes sujeitos. O regulamento especifica as obrigações de provedores de serviços de pessoas virtuais digitais, apoiadores tecnológicos, produtores de conteúdo e usuários, exigindo que os provedores cumpram com registros, marcações, auditoria de conteúdo, segurança de dados e resposta a emergências, formando uma cadeia de responsabilidade fechada e rastreável.

Terceiro, enfatizar a filosofia de serviço “centrada no ser humano”. Isso exige que o design, desenvolvimento e aplicação de pessoas virtuais digitais respeitem a moral social e ética, protejam o direito à informação e à escolha dos usuários, evitem abusos de dados e recomendações excessivamente personalizadas, garantindo que a tecnologia sirva ao desenvolvimento integral das pessoas.

Quarto, promover o princípio de “tecnologia para o bem”, incentivando a inovação responsável dentro do regulamento. O regulamento não limita o desenvolvimento tecnológico, mas delimita zonas de segurança, oferecendo expectativas estáveis para inovação responsável, apoiando a colaboração entre indústria, academia e pesquisa, e direcionando recursos para aplicações éticas e que promovam bem-estar. Essa combinação visa transformar o conceito abstrato de “centrado no ser humano” em regras concretas, operáveis e reguláveis.

4. Dor de curto prazo e benefícios de longo prazo, injetando certeza na economia inteligente

A implementação do “Regulamento” deve gerar impactos profundos na indústria de pessoas virtuais digitais e no ecossistema da economia inteligente como um todo.

No curto prazo, o setor pode experimentar um período de “dor” devido ao aumento de custos de conformidade e à limitação de práticas de crescimento descontrolado. Empresas precisarão investir em melhorias tecnológicas, estabelecer mecanismos internos de auditoria e concluir processos de registro, levando à saída ou ajuste de aplicações que operam na margem da legalidade.

A longo prazo, os benefícios de “certeza” trazidos por essa regulamentação superarão amplamente os custos iniciais. Primeiramente, ela aumentará significativamente a credibilidade do setor e sua aceitação social. Regras claras eliminam preocupações públicas sobre abusos tecnológicos, ajudando a construir confiança dos usuários, base psicológica para a expansão do setor. Em segundo lugar, otimiza o ambiente de competição de mercado. Ao eliminar concorrentes de baixa qualidade e ilegais, direciona recursos e atenção dos usuários para empresas com verdadeira capacidade tecnológica e consciência de conformidade, promovendo uma oferta de alta qualidade. Além disso, fornece direções claras para investidores e centros de pesquisa e desenvolvimento, que podem investir com mais confiança em áreas alinhadas às políticas e com valor social duradouro, como educação, saúde, cuidados com idosos e preservação cultural.

Por fim, um ecossistema de pessoas virtuais digitais normatizado, saudável e sustentável será uma base sólida para aprofundar a estratégia de “Inteligência Artificial +”, apoiando a transformação digital de indústrias tradicionais e a criação de novas formas de economia inteligente. Em uma perspectiva macro, essa também é uma importante exploração institucional na governança de IA, contribuindo com uma “solução chinesa” que equilibra inovação e governança globalmente.

5. Desafios na implementação das regras e novas questões trazidas pela evolução tecnológica contínua

Embora o “Regulamento” estabeleça uma estrutura regulatória básica, sua implementação prática ainda enfrenta problemas e riscos como integração tecnológica, definição de responsabilidades, ausência de padrões e rápida evolução tecnológica.

Primeiro, o desafio da complexidade regulatória tecnológica. Tecnologias de pessoas virtuais digitais combinam IA, renderização gráfica, processamento de linguagem natural, blockchain, computação quântica e outras tecnologias de ponta, com comportamentos dinâmicos e complexos. Como fazer a fiscalização identificar efetivamente conteúdos e comportamentos ilegais sem sufocar a inovação tecnológica? Isso exige capacidades avançadas de RegTech.

Segundo, dificuldades na prática de atribuição de responsabilidades. Quando um agente virtual baseado em código aberto apresenta problemas, como dividir responsabilidades entre comunidade de código aberto, ajustadores de modelos, integradores e operadores finais?

Terceiro, a falta de padrões é uma grande deficiência. Ainda não há normas unificadas e detalhadas sobre identidade, avaliação ética, transparência de algoritmos e testes de desempenho de pessoas virtuais digitais, o que pode levar a diferenças na aplicação da lei e afetar a justiça.

Por fim, o risco mais fundamental reside na rápida evolução tecnológica, especialmente na autonomia de agentes, cooperação multiagente e possíveis integrações com computação quântica, que desafiam a antecipação e inclusão das regras atuais. As regras precisam ser flexíveis, mas o equilíbrio entre flexibilidade e rigidez é difícil de alcançar. Esses riscos nos lembram que a governança é um processo de evolução contínua, não uma solução definitiva.

6. Evolução conjunta de governança e tecnologia rumo a uma “inteligência responsável”

Olhando para o futuro, a governança dos serviços de pessoas virtuais digitais evoluirá em sinergia profunda com a própria tecnologia.

Primeiro, a governança será cada vez mais “tecnológica” e “inteligente”. Autoridades usarão mais IA para fiscalização, como plataformas de detecção de deepfakes, redes de monitoramento de comportamento de pessoas virtuais, realizando uma “governança por tecnologia”. Tecnologias de blockchain poderão criar identidades imutáveis e registros de comportamento, aumentando a rastreabilidade.

Segundo, o ecossistema de código aberto desempenhará papel crucial na inovação responsável. Comunidades abertas saudáveis podem promover melhores práticas, compartilhar ferramentas de conformidade (como módulos de avaliação ética), reduzir barreiras para pequenas e médias empresas, e incorporar princípios de “tecnologia para o bem” ao código-fonte.

Terceiro, a rápida construção de padrões e sistemas de certificação será acelerada. Sob a orientação do regulamento, associações industriais e órgãos normativos liderarão a elaboração de padrões completos para dados, algoritmos, aplicações e avaliações, podendo desenvolver mecanismos de certificação ética de terceiros, que servirão como referências importantes para o mercado.

Quarto, o foco da governança mudará de “resposta a incidentes” para “prevenção antecipada” e “intervenção durante”. Isso incluirá auditorias de viés nos dados de treinamento, alinhamento ético de objetivos de algoritmos, testes em ambientes simulados de comportamento de agentes, controlando riscos em estágio inicial. Para protocolos como Rotifer, que enfatizam autoevolução, a lógica de governança poderá se inspirar em “cercas de segurança” ou “AI constitucional”, estabelecendo princípios inquebráveis para a autoevolução dos agentes.

Por fim, não se trata de uma indústria paralisada por regras, mas de um futuro de desenvolvimento estável na trilha de uma “inteligência responsável”. Pessoas virtuais digitais se tornarão verdadeiros parceiros humanos na elevação da produtividade, enriquecimento cultural e otimização de serviços públicos, ao invés de fontes de riscos incontroláveis. Esse processo requer diálogo contínuo e construção conjunta entre formuladores de políticas, desenvolvedores, empresas e sociedade, tendo como âncora o valor perene de “centrado no ser humano”.