Regulamento para a gestão de serviços de pessoas virtuais digitais para consulta pública: " centrado no ser humano", delimitação de fronteiras, definição de direção

Escrevendo: Zhang Feng

Um, corrida tecnológica e governança atrasada, onde estão os limites do serviço de pessoas virtuais digitais?

Quando apresentadores virtuais alimentados por IA fazem vendas ininterruptas 24 horas, quando o “funcionário público digital” no balcão de serviços governamentais responde pacientemente às dúvidas, quando aparecem “médicos IA” incansáveis na área de divulgação médica, estamos testemunhando uma nova paisagem social profundamente integrada de pessoas virtuais digitais. Com suas vantagens evidentes de baixo custo, alta interatividade, alta eficiência e serviço 24 horas por dia, as pessoas virtuais digitais rapidamente se tornaram uma ferramenta-chave para impulsionar o desenvolvimento da economia inteligente. Desde transmissões ao vivo de comércio eletrônico até promoção cultural e turística, de divulgação médica a consultoria governamental, seus cenários de aplicação estão se expandindo com uma amplitude e profundidade sem precedentes.

No entanto, o avanço acelerado da tecnologia muitas vezes precede a construção de regras. Quando as imagens virtuais podem enganar, quando o diálogo de IA pode esconder preconceitos, quando agentes inteligentes com evolução autônoma têm comportamentos imprevisíveis, uma série de questões agudas surgem: onde exatamente estão os limites do serviço de pessoas virtuais digitais? Quem deve assumir a responsabilidade por seus comportamentos? Como garantir que o desenvolvimento tecnológico não se desvie do caminho “centrado no ser humano” enquanto busca eficiência e inovação? Essas questões não são apenas problemas técnicos, mas também questões de governança relacionadas à confiança social, limites éticos e desenvolvimento de longo prazo. Recentemente, o Escritório Nacional de Informação da Internet publicou o “Regulamento de Gestão de Serviços de Informação de Pessoas Virtuais Digitais (Rascunho de Consulta)” (doravante referido como “Regulamento”), que responde de forma concentrada a essas perguntas contemporâneas.

Duas, riscos múltiplos entrelaçados, clamando por normas sistemáticas e princípios de “tecnologia para o bem”

A necessidade urgente de delimitar limites para os serviços de pessoas virtuais digitais decorre dos múltiplos riscos e desafios revelados durante seu desenvolvimento.

Primeiro, riscos de segurança e ética. Tecnologias de síntese profunda reduzem significativamente a barreira para falsificação de identidades, disseminação de informações falsas e fraudes emocionais, podendo infringir direitos pessoais, perturbar a ordem social e até ameaçar a segurança nacional.

Segundo, risco de ambiguidade na atribuição de responsabilidades. Os comportamentos de pessoas virtuais digitais são impulsionados por algoritmos, com uma cadeia de responsabilidade complexa entre seus projetistas, desenvolvedores, operadores e usuários. Quando surgem problemas, é fácil cair na armadilha da “caixa preta do algoritmo” e de um vácuo de responsabilidade.

Além disso, há riscos de brecha digital e reforço de preconceitos. Se os dados de treinamento do algoritmo forem tendenciosos, as pessoas virtuais digitais podem inconscientemente amplificar preconceitos sociais existentes ou criar novas formas de discriminação nos serviços.

Mais profundamente, com o desenvolvimento de tecnologias de ponta como o protocolo de evolução autônoma de agentes inteligentes Rotifer, agentes com capacidade de autoaprendizado e evolução podem apresentar comportamentos além dos objetivos predefinidos, com impactos sociais de longo prazo cheios de incertezas.

Esses riscos não existem isoladamente, mas estão interligados, apontando para uma contradição central: o enorme potencial de avanço tecnológico versus a defasagem do quadro de governança existente. Assim, a implementação do “Regulamento” não é apenas uma resposta emergencial a problemas específicos, mas também uma base lógica para o desenvolvimento saudável da economia digital, consolidando a prática institucional do princípio “centrado no ser humano e orientado para o bem”.

Três, normatização de todo o processo e responsabilidade penetrante, construindo uma estrutura de governança “centrada no ser humano”

Diante desses desafios, o “Regulamento” constrói uma estrutura de governança centrada em “normas de todo o processo” e “responsabilidade penetrante”. Sua estratégia principal pode ser resumida como “delimitar limites, esclarecer sujeitos, fortalecer supervisão, promover o bem”.

Primeiro, definir limites de segurança e ética intransponíveis. O regulamento detalha ações proibidas envolvendo pessoas virtuais digitais, incluindo, mas não se limitando a, ameaçar a segurança nacional, prejudicar interesses públicos, infringir direitos legítimos de terceiros, disseminar informações falsas e perturbar a ordem econômica e social. Isso estabelece uma linha clara para todos os participantes do mercado.

Segundo, estabelecer e penetrar as responsabilidades de diferentes sujeitos. O regulamento especifica as obrigações de provedores de serviços, apoiadores tecnológicos, produtores de conteúdo e usuários, exigindo que os provedores cumpram com registros, marcações, auditoria de conteúdo, segurança de dados e resposta a emergências, formando uma cadeia de responsabilidade fechada e rastreável.

Terceiro, enfatizar a filosofia de serviço “centrada no ser humano”. Isso exige que o design, desenvolvimento e aplicação de pessoas virtuais digitais respeitem a moral social e ética, protejam o direito à informação e à escolha dos usuários, evitem uso indevido de dados e recomendações excessivamente personalizadas, garantindo que a tecnologia sirva ao desenvolvimento integral das pessoas.

Quarto, implementar o princípio de “tecnologia para o bem”, incentivando a inovação dentro de normas. O regulamento não limita o desenvolvimento tecnológico, mas delimita zonas de segurança, oferecendo expectativas estáveis para inovação responsável, apoiando a colaboração entre indústria, academia e pesquisa, e direcionando recursos para aplicações que atendam a princípios éticos e promovam bem-estar. Essa combinação visa transformar o conceito abstrato de “centrado no ser humano” em regras concretas, operáveis e reguláveis.

Quatro, dores de curto prazo e benefícios de longo prazo, injetando certeza na economia inteligente

A introdução e implementação do “Regulamento” provavelmente terão impacto profundo na indústria de pessoas virtuais digitais e em todo o ecossistema da economia inteligente.

No curto prazo, o setor pode experimentar um período de “dor” com aumento de custos de conformidade e limitação de alguns modelos de crescimento descontrolado. Empresas precisarão investir em ajustes tecnológicos, estabelecer mecanismos internos de auditoria e concluir processos de registro, levando à saída ou ajuste de aplicações que operem na margem da legalidade.

A longo prazo, os benefícios de “certeza” trazidos por essa regulamentação superarão amplamente os custos iniciais. Primeiramente, ela aumentará a credibilidade do setor e a aceitação social. Regras claras eliminam preocupações públicas sobre uso indevido de tecnologia, ajudando a construir confiança do usuário, base psicológica para a expansão do setor. Em segundo lugar, otimiza o ambiente de competição de mercado. Ao eliminar concorrentes de baixa qualidade e ilegais, direciona recursos e atenção dos usuários para empresas com verdadeira capacidade tecnológica e consciência de conformidade, promovendo oferta de alta qualidade. Além disso, fornece direções claras para capital e pesquisa tecnológica. Investidores e instituições de pesquisa podem investir com mais confiança em áreas alinhadas às políticas e com valor social de longo prazo, como educação, saúde, cuidados com idosos e preservação cultural.

Por fim, um ecossistema de pessoas virtuais digitais normatizado, saudável e sustentável será uma base sólida para aprofundar a ação “Inteligência Artificial+” e apoiar a transformação digital de indústrias tradicionais e a criação de novas formas de economia inteligente. Em uma perspectiva macro, essa também é uma importante exploração institucional na governança de IA do nosso país, contribuindo com uma “solução chinesa” que equilibra inovação e governança globalmente.

Cinco, desafios na implementação de regras e novas questões trazidas pela evolução contínua da tecnologia

Embora o “Regulamento” estabeleça uma estrutura regulatória básica, sua implementação prática ainda enfrenta problemas e riscos como integração tecnológica, definição de responsabilidades, falta de padrões e rápida evolução tecnológica.

Primeiro, a complexidade da regulação tecnológica. Tecnologias de pessoas virtuais digitais combinam IA, renderização gráfica, processamento de linguagem natural, blockchain, computação quântica e outras tecnologias de ponta, com comportamentos dinâmicos e complexos. Como fazer a fiscalização identificar efetivamente conteúdos e comportamentos ilegais sem sufocar a inovação, exige capacidades avançadas de RegTech.

Segundo, dificuldades na atribuição de responsabilidades. Quando um pessoa virtual digital baseada em ecossistema de código aberto apresenta problemas, como dividir precisamente as responsabilidades entre comunidade de código aberto, ajustadores de modelos, integradores e operadores finais?

Terceiro, a ausência de padrões é uma grande deficiência. Ainda faltam normas unificadas e detalhadas sobre identidade, avaliação ética, transparência de algoritmos e testes de desempenho de pessoas virtuais digitais, o que pode levar a diferenças na aplicação da lei entre regiões e afetar a equidade.

Por fim, o risco mais fundamental é a rápida evolução tecnológica, especialmente a autonomia de agentes, colaboração multiagente e possíveis integrações com computação quântica, que desafiam a antecipação e inclusão das regras existentes. As regras precisam ser flexíveis, mas o equilíbrio entre flexibilidade e rigidez é difícil de alcançar. Esses riscos nos lembram que a governança é um processo de evolução contínua, não uma solução definitiva.

Seis, evolução conjunta de governança e tecnologia, rumo a um futuro de “inteligência responsável”

Olhando para o futuro, a governança dos serviços de pessoas virtuais digitais evoluirá em sinergia profunda com a tecnologia.

Primeiro, a governança será cada vez mais “tecnológica” e “inteligente”. Autoridades usarão mais IA para fiscalização, como plataformas de detecção de deepfakes, redes de monitoramento de comportamento de pessoas virtuais digitais, realizando uma “governança por tecnologia”. Tecnologias de blockchain podem ser usadas para criar identidades imutáveis e registros de comportamento, aumentando a rastreabilidade.

Segundo, o ecossistema de código aberto desempenhará papel crucial na inovação regulatória. Comunidades abertas saudáveis podem promover melhores práticas, compartilhar ferramentas de conformidade (como módulos de avaliação ética), reduzir barreiras para pequenas e médias empresas e incorporar princípios de “tecnologia para o bem” ao código-fonte.

Terceiro, a rápida construção de padrões e sistemas de certificação acelerará. Sob a orientação do “Regulamento”, associações industriais e órgãos normativos liderarão a elaboração de padrões completos para dados, algoritmos, aplicações e avaliações, podendo desenvolver mecanismos de certificação ética de terceiros, que serão referências importantes para o mercado.

Quarto, o foco da governança mudará de “resposta a incidentes” para “prevenção prévia” e “intervenção durante”. Auditorias de viés nos dados de treinamento, alinhamento ético de objetivos de algoritmos, testes em ambientes simulados de comportamento de agentes, tudo para manter riscos sob controle desde o início. Para protocolos como Rotifer, que enfatizam evolução autônoma, a lógica de governança pode se inspirar em “barreiras de segurança” ou “constituição de IA”, estabelecendo princípios inegociáveis para a autoevolução dos agentes.

Por fim, não teremos uma indústria presa a regras que a paralisam, mas um futuro de “inteligência responsável” onde as pessoas virtuais digitais serão verdadeiros parceiros na elevação da produtividade, na riqueza cultural e na otimização dos serviços públicos, ao invés de fontes de riscos incontroláveis. Esse processo requer diálogo contínuo e construção conjunta entre formuladores de políticas, desenvolvedores, empresas e sociedade, tendo como âncora o valor duradouro do princípio “centrado no ser humano”.