Ferramentas de Cibercrime Potenciadas por IA Evoluem: Novas Ameaças Visam Ativos Digitais

2 de agosto de 2023

A paisagem do cibercrime gerado por IA está a expandir-se a um ritmo alarmante, com investigadores de segurança a identificarem várias novas ferramentas sofisticadas além do WormGPT, anteriormente descoberto, de acordo com um relatório abrangente divulgado na terça-feira pela empresa de cibersegurança SlashNext.

O relatório revela que o WormGPT e seu sucessor FraudGPT representam apenas o início de um ecossistema emergente de ferramentas de IA maliciosas projetadas para exploração criminosa. O FraudGPT destaca-se particularmente pelas suas capacidades abrangentes, incluindo a criação de websites de phishing convincentes, geração de código malicioso, desenvolvimento de ferramentas de hacking especializadas e elaboração de comunicações de golpe sofisticadas.

Dentro do Ecossistema Criminal de IA

Os investigadores da SlashNext conduziram uma investigação encoberta, fazendo-se passar por compradores potenciais e envolvendo-se diretamente com um vendedor identificado como CanadianKingpin12 através de canais de mensagens seguras.

"O nosso objetivo principal era determinar se o FraudGPT oferecia capacidades tecnológicas e eficácia superiores em comparação com o WormGPT," explicou a equipe da SlashNext nas suas conclusões.

Durante esta investigação, os pesquisadores descobriram desenvolvimentos ainda mais preocupantes. O vendedor revelou dois novos chatbots de IA chamados DarkBart e DarkBert, afirmando que essas novas ferramentas teriam conectividade à internet e integração com tecnologia avançada de reconhecimento de imagem semelhante ao Google Lens—permitindo que processassem e respondessem a entradas textuais e visuais.

O relatório da SlashNext observa que o DarkBert foi ironicamente reaproveitado de uma tecnologia legítima originalmente concebida pela empresa de inteligência de dados S2W para combater o cibercrime. Em vez disso, os atores criminosos modificaram essa tecnologia para perpetrar as próprias atividades que ela deveria prevenir.

De acordo com CanadianKingpin12, DarkBert possui capacidades particularmente preocupantes, incluindo a execução de ataques avançados de engenharia social, exploração de vulnerabilidades do sistema e distribuição de vários payloads de malware, incluindo ransomware.

A Ameaça à Segurança dos Ativos Digitais

As implicações de segurança para detentores de criptomoedas e plataformas de ativos digitais são particularmente preocupantes. Ao contrário das plataformas de IA legítimas com guardrails de proteção, essas ferramentas maliciosas são especificamente projetadas para exploração criminosa.

"O ChatGPT tem barreiras em vigor para proteger contra casos de uso ilegais ou nefastos", explicou David Schwed, diretor de operações da empresa de segurança em blockchain Halborn. "Essas ferramentas especializadas não têm essas barreiras, então podem ser instruídas a desenvolver malware sem restrições."

A acessibilidade dessas ferramentas cria riscos significativos para as exchanges de criptomoedas e seus usuários, pois os atacantes podem potencialmente gerar campanhas de phishing sofisticadas direcionadas a carteiras digitais e contas de exchange.

Canais de Distribuição Underground

Os métodos de distribuição dessas ferramentas destacam a natureza organizada deste ecossistema criminoso. Pesquisadores da SlashNext observaram que CanadianKingpin12 foi forçado a mudar as comunicações para plataformas de mensagens criptografadas após ser banido de fóruns públicos por tentar vender acesso ao FraudGPT através de canais da "clear net".

Esta distinção entre a "clear net" ( internet padrão acessível através de motores de busca ) e a "darkweb" ( partes ocultas da internet não indexadas por motores de busca ) ilustra como essas ferramentas de IA criminal estão sendo comercializadas e distribuídas através de canais cada vez mais sofisticados.

Embora a darkweb tenha aplicações legítimas de privacidade para jornalistas e dissidentes políticos, também se tornou um refúgio para mercados cibernéticos criminosos e a distribuição de ferramentas maliciosas que visam sistemas financeiros.

Implicações de Segurança e Medidas Defensivas

O rápido desenvolvimento dessas ferramentas criminosas alimentadas por IA apresenta desafios significativos para os profissionais de cibersegurança. A SlashNext aconselha as organizações a implementarem treinamento de segurança proativo e medidas de verificação de e-mail aprimoradas para se defenderem contra ataques cada vez mais sofisticados.

O relatório contrasta com as descobertas da empresa de segurança na web Immunefi, que indica que os especialistas em cibersegurança estão a ter dificuldades em aproveitar efetivamente a IA para defesa. A sua pesquisa revelou que 64% dos profissionais de segurança relataram "precisão limitada" das ferramentas da OpenAI em contextos de segurança, com 61% a notar conhecimento especializado insuficiente para identificar explorações.

"Embora seja difícil avaliar com precisão o verdadeiro impacto dessas capacidades, é razoável esperar que elas diminuam as barreiras para aspirantes a cibercriminosos", concluiu a SlashNext. "Além disso, a rápida progressão de WormGPT para FraudGPT e agora DarkBERT em menos de um mês sublinha a influência significativa da IA maliciosa no panorama da cibersegurança e do cibercrime."

Este ciclo de desenvolvimento acelerado sugere que as equipas de segurança e os detentores de ativos digitais devem permanecer vigilantes, uma vez que as ameaças potenciadas por IA continuam a evoluir a uma velocidade sem precedentes, potencialmente visando infraestruturas de criptomoeda vulneráveis e contas de utilizador.