A espada de dois gumes da inteligência artificial: as potenciais ameaças dos modelos de linguagem sem restrições à indústria de encriptação

Com o rápido desenvolvimento da tecnologia de inteligência artificial, modelos avançados como a série GPT e Gemini estão a mudar profundamente o nosso modo de vida. No entanto, este avanço tecnológico também trouxe riscos potenciais — a emergência de modelos de linguagem de grande escala sem restrições ou maliciosos.

Modelos de linguagem sem restrições referem-se àqueles que foram especificamente projetados ou modificados para contornar os mecanismos de segurança e as limitações éticas incorporados nos modelos mainstream. Embora os desenvolvedores de modelos mainstream tenham investido muitos recursos para evitar que os modelos sejam mal utilizados, alguns indivíduos ou organizações, por motivos ilícitos, começaram a procurar ou desenvolver modelos sem restrições. Este artigo explorará as potenciais ameaças desses modelos na indústria de encriptação, bem como os desafios de segurança relacionados.

A ameaça dos modelos de linguagem sem restrições

Este tipo de modelo torna tarefas que antes exigiam habilidades especializadas fáceis de realizar. Um atacante só precisa obter os pesos e o código-fonte do modelo de código aberto e, em seguida, ajustar com um conjunto de dados que contém conteúdo malicioso, podendo assim criar ferramentas de ataque personalizadas. Este padrão traz múltiplos riscos:

1. O atacante pode modificar o modelo para alvos específicos, gerando conteúdos mais enganosos.
2. O modelo pode ser utilizado para gerar rapidamente variantes de código de sites de phishing ou textos de fraude personalizados.
3. A acessibilidade de modelos de código aberto fomentou a formação de um ecossistema de IA subterrânea.

Modelo de linguagem ilimitada típico

algum modelo de linguagem malicioso

Este é um modelo malicioso vendido publicamente em fóruns subterrâneos, que afirma não ter limitações éticas. É baseado em modelos de código aberto e treinado em grandes quantidades de dados relacionados a malware. As suas formas típicas de abuso incluem:

• Gerar e-mails de phishing realistas para induzir os usuários a revelarem suas chaves privadas ou frases de recuperação.
• Ajudar a escrever código malicioso para roubar arquivos de carteira, monitorar a área de transferência, etc.
• Impulsionar fraudes automatizadas, guiando as vítimas a participar de projetos falsos.

modelo de domínio específico

Um modelo de linguagem desenvolvido por uma instituição de pesquisa, projetado para pré-treinamento em dados da dark web. Embora a intenção inicial seja para pesquisa em segurança, se for mal utilizado, pode trazer consequências graves:

• Coletar informações de encriptação dos usuários, para fraudes precisas.
• Copiar métodos maduros de roubo de moedas e lavagem de dinheiro na dark web.

ferramenta de fraude abrangente

Estas ferramentas afirmam ter funcionalidades mais abrangentes, sendo principalmente vendidas no mercado negro. O seu potencial abuso no campo da encriptação inclui:

• Projetos de encriptação falsificados: geração de white papers falsos, sites oficiais, etc., implementação de fraudes ICO.
• Geração em massa de páginas de phishing: imitação rápida da interface de login de bolsas conhecidas.
• Falsificação nas redes sociais: criação em massa de comentários falsos para promover tokens fraudulentos.
• Ataques de engenharia social: imitar diálogos humanos para induzir os usuários a revelar informações sensíveis.

assistente de IA sem restrições éticas

Estes tipos de ferramentas são claramente posicionadas como robôs de chat sem restrições éticas, que podem ser usados para:

• Ataques de phishing avançados: gerar notificações falsas com um alto nível de realismo.
• Gerar contratos inteligentes maliciosos: crie rapidamente códigos de contrato que contenham portas dos fundos ocultas.
• Desenvolver um ladrão de criptomoedas polimórfico: gerar malware difícil de detectar.
• Fraude de deepfake: combinação com outras ferramentas de IA para falsificar a voz do fundador do projeto e implementar fraudes.

plataforma de acesso aberto

Algumas plataformas oferecem acesso a vários modelos de linguagem com menos restrições, embora a intenção seja explorar as capacidades da IA, isso também pode ser mal utilizado:

• Contornar a censura para gerar conteúdo malicioso: utilizar modelos com menos restrições para gerar ideias de ataque.
• Reduzir a barreira de entrada para engenharia de prompts: tornar mais fácil para os atacantes obterem saídas que normalmente estão restritas.
• Aceleração da iteração dos scripts de ataque: teste rápido de diferentes modelos, otimização de scripts de fraude.

Caminho a seguir

O surgimento de modelos de linguagem sem restrições marca um novo paradigma de ataques mais complexos e em maior escala que a segurança cibernética enfrenta. Para enfrentar esse desafio, todas as partes do ecossistema de segurança precisam trabalhar em colaboração:

1. Aumentar o investimento em tecnologias de deteção, desenvolvendo ferramentas capazes de identificar conteúdos e códigos maliciosos gerados por IA.
2. Aumentar a capacidade do modelo para prevenir jailbreak e explorar mecanismos de marca d'água e rastreamento.
3. Estabelecer normas éticas e mecanismos de regulamentação sólidos, limitando desde a origem o desenvolvimento e abuso de modelos maliciosos.

Só com a colaboração de todas as partes é que se poderá garantir a segurança e a estabilidade da indústria da encriptação, ao mesmo tempo que a tecnologia de IA se desenvolve rapidamente.