Las herramientas de cibercrimen impulsadas por IA evolucionan: nuevas amenazas apuntan a los activos digitales

2 de agosto de 2023

El panorama del cibercrimen generado por IA se está expandiendo a un ritmo alarmante, con investigadores de seguridad identificando varias herramientas nuevas sofisticadas más allá del previamente descubierto WormGPT, según un informe completo publicado el martes por la empresa de ciberseguridad SlashNext.

El informe revela que WormGPT y su sucesor FraudGPT representan solo el comienzo de un ecosistema emergente de herramientas de IA maliciosas diseñadas para la explotación criminal. FraudGPT destaca particularmente por sus capacidades integrales, que incluyen la creación de sitios web de phishing convincentes, la generación de código malicioso, el desarrollo de herramientas de hacking especializadas y la elaboración de comunicaciones de estafa sofisticadas.

Dentro del Ecosistema Criminal de IA

Los investigadores de SlashNext llevaron a cabo una investigación encubierta haciéndose pasar por posibles compradores y contactando directamente con un vendedor identificado como CanadianKingpin12 a través de canales de mensajería seguros.

"Nuestro objetivo principal era determinar si FraudGPT ofrecía capacidades tecnológicas y efectividad superiores en comparación con WormGPT," explicó el equipo de SlashNext en sus hallazgos.

Durante esta investigación, los investigadores descubrieron desarrollos aún más preocupantes. El vendedor reveló dos próximos chatbots de IA llamados DarkBart y DarkBert, afirmando que estas nuevas herramientas contarían con conectividad a internet e integración con tecnología de reconocimiento de imágenes avanzada similar a Google Lens, lo que les permitiría procesar y responder tanto a entradas textuales como visuales.

El informe de SlashNext señala que DarkBert fue irónicamente reutilizado de una tecnología legítima originalmente diseñada por la empresa de inteligencia de datos S2W para combatir el cibercrimen. En cambio, los actores criminales han modificado esta tecnología para perpetrar las mismas actividades que se suponía debía prevenir.

Según CanadianKingpin12, DarkBert posee capacidades particularmente preocupantes, incluyendo la ejecución de ataques avanzados de ingeniería social, la explotación de vulnerabilidades del sistema y la distribución de varios payloads de malware, incluyendo ransomware.

La amenaza a la seguridad de los activos digitales

Las implicaciones de seguridad para los poseedores de criptomonedas y las plataformas de activos digitales son particularmente preocupantes. A diferencia de las plataformas de IA legítimas con salvaguardias protectoras, estas herramientas maliciosas están diseñadas específicamente para la explotación criminal.

"ChatGPT tiene medidas de protección para evitar usos ilegales o malintencionados," explicó David Schwed, director de operaciones de la firma de seguridad blockchain Halborn. "Estas herramientas especializadas no tienen esas medidas de protección, por lo que se les puede instruir para desarrollar malware sin restricciones."

La accesibilidad de estas herramientas crea riesgos significativos para los intercambios de criptomonedas y sus usuarios, ya que los atacantes pueden generar campañas de phishing sofisticadas dirigidas a billeteras digitales y cuentas de intercambio.

Canales de Distribución Subterráneos

Los métodos de distribución de estas herramientas destacan la naturaleza organizada de este ecosistema criminal. Los investigadores de SlashNext señalaron que CanadianKingpin12 se vio obligado a cambiar las comunicaciones a plataformas de mensajería encriptada después de ser prohibido en foros públicos por intentar vender acceso a FraudGPT a través de canales de "clear net".

Esta distinción entre la "red clara" (internet estándar accesible a través de motores de búsqueda) y la "darkweb" (partes ocultas de internet no indexadas por motores de búsqueda) ilustra cómo estas herramientas de IA criminal se están comercializando y distribuyendo a través de canales cada vez más sofisticados.

Si bien la darkweb tiene aplicaciones legítimas de privacidad para periodistas y disidentes políticos, también se ha convertido en un refugio para los mercados de ciberdelincuencia y la distribución de herramientas maliciosas que atacan los sistemas financieros.

Implicaciones de seguridad y medidas defensivas

El rápido desarrollo de estas herramientas criminales impulsadas por IA presenta desafíos significativos para los profesionales de ciberseguridad. SlashNext aconseja a las organizaciones que implementen capacitación proactiva en seguridad y medidas mejoradas de verificación de correo electrónico para defenderse de ataques cada vez más sofisticados.

El informe contrasta con los hallazgos de la empresa de seguridad web Immunefi, que indica que los expertos en ciberseguridad están luchando por aprovechar efectivamente la IA para la defensa. Su encuesta encontró que el 64% de los profesionales de seguridad informaron "precisión limitada" de las herramientas de OpenAI en contextos de seguridad, y el 61% señaló un conocimiento especializado insuficiente para identificar exploits.

"Si bien es difícil evaluar con precisión el verdadero impacto de estas capacidades, es razonable esperar que disminuirán las barreras para los aspirantes a cibercriminales", concluyó SlashNext. "Además, la rápida progresión de WormGPT a FraudGPT y ahora DarkBERT en menos de un mes subraya la influencia significativa de la IA maliciosa en el panorama de la ciberseguridad y el cibercrimen."

Este ciclo de desarrollo acelerado sugiere que los equipos de seguridad y los titulares de activos digitales deben mantenerse alerta a medida que las amenazas impulsadas por la IA continúan evolucionando a una velocidad sin precedentes, potencialmente apuntando a infraestructuras de criptomonedas vulnerables y cuentas de usuarios.