Les outils de cybercriminalité alimentés par l'IA évoluent : de nouvelles menaces ciblent les actifs numériques

2 août 2023

Le paysage de la cybercriminalité générée par l'IA s'étend à un rythme alarmant, les chercheurs en sécurité identifiant plusieurs nouveaux outils sophistiqués au-delà du WormGPT précédemment découvert, selon un rapport complet publié mardi par la société de cybersécurité SlashNext.

Le rapport révèle que WormGPT et son successeur FraudGPT ne représentent que le début d'un écosystème émergent d'outils d'IA malveillants conçus pour l'exploitation criminelle. FraudGPT se distingue particulièrement par ses capacités complètes, y compris la création de sites de phishing convaincants, la génération de code malveillant, le développement d'outils de piratage spécialisés et la rédaction de communications de fraude sophistiquées.

À l'intérieur de l'écosystème criminel de l'IA

Les chercheurs de SlashNext ont mené une enquête sous couverture en se faisant passer pour des acheteurs potentiels et en interagissant directement avec un vendeur identifié comme CanadianKingpin12 via des canaux de messagerie sécurisés.

"Notre objectif principal était de déterminer si FraudGPT offrait des capacités technologiques et une efficacité supérieures par rapport à WormGPT," a expliqué l'équipe de SlashNext dans ses conclusions.

Au cours de cette enquête, les chercheurs ont découvert des développements encore plus préoccupants. Le vendeur a révélé deux chatbots IA à venir nommés DarkBart et DarkBert, affirmant que ces nouveaux outils disposeraient d'une connectivité Internet et d'une intégration avec une technologie de reconnaissance d'image avancée similaire à Google Lens, leur permettant de traiter et de répondre à la fois aux entrées textuelles et visuelles.

Le rapport de SlashNext note que DarkBert a été ironiquement réutilisé à partir d'une technologie légitime initialement conçue par la société de renseignement de données S2W pour lutter contre la cybercriminalité. Au lieu de cela, des acteurs criminels ont modifié cette technologie pour perpétrer les activités mêmes qu'elle était censée prévenir.

Selon CanadianKingpin12, DarkBert possède des capacités particulièrement inquiétantes, notamment l'exécution d'attaques de manipulation sociale avancées, l'exploitation des vulnérabilités système et la distribution de divers programmes malveillants, y compris des rançongiciels.

La menace à la sécurité des actifs numériques

Les implications en matière de sécurité pour les détenteurs de cryptomonnaies et les plateformes d'actifs numériques sont particulièrement préoccupantes. Contrairement aux plateformes d'IA légitimes avec des garde-fous protecteurs, ces outils malveillants sont spécifiquement conçus pour l'exploitation criminelle.

« ChatGPT dispose de garde-fous pour se protéger contre des cas d'utilisation illégaux ou malveillants », a expliqué David Schwed, directeur des opérations de la société de sécurité blockchain Halborn. « Ces outils spécialisés n'ont pas ces garde-fous, donc ils peuvent être instruits pour développer des logiciels malveillants sans restrictions. »

L'accessibilité de ces outils crée des risques significatifs pour les échanges de cryptomonnaies et leurs utilisateurs, car les attaquants peuvent potentiellement générer des campagnes de phishing sophistiquées ciblant les portefeuilles numériques et les comptes d'échange.

Canaux de distribution souterrains

Les méthodes de distribution de ces outils mettent en évidence la nature organisée de cet écosystème criminel. Les chercheurs de SlashNext ont noté que CanadianKingpin12 a été contraint de passer à des plateformes de messagerie chiffrées après avoir été banni des forums publics pour avoir tenté de vendre un accès à FraudGPT par le biais de canaux "clear net".

Cette distinction entre le "clear net" ( internet standard accessible via les moteurs de recherche ) et le "darkweb" ( parties cachées de l'internet non indexées par les moteurs de recherche ) illustre comment ces outils criminels d'IA sont commercialisés et distribués à travers des canaux de plus en plus sophistiqués.

Bien que le darkweb ait des applications légitimes en matière de confidentialité pour les journalistes et les dissidents politiques, il est également devenu un refuge pour les marchés de cybercriminalité et la distribution d'outils malveillants ciblant les systèmes financiers.

Implications de sécurité et mesures défensives

Le développement rapide de ces outils criminels alimentés par l'IA présente des défis significatifs pour les professionnels de la cybersécurité. SlashNext conseille aux organisations de mettre en œuvre une formation à la sécurité proactive et des mesures de vérification des e-mails renforcées pour se défendre contre des attaques de plus en plus sophistiquées.

Le rapport contraste avec les résultats de l'entreprise de sécurité web Immunefi, qui indique que les experts en cybersécurité ont du mal à tirer parti de l'IA pour la défense. Leur enquête a révélé que 64 % des professionnels de la sécurité ont signalé une "précision limitée" des outils d'OpenAI dans des contextes de sécurité, 61 % notant un manque de connaissances spécialisées pour identifier les exploits.

« Bien qu'il soit difficile d'évaluer avec précision l'impact réel de ces capacités, il est raisonnable de s'attendre à ce qu'elles abaissent les barrières pour les cybercriminels en herbe », a conclu SlashNext. « De plus, la progression rapide de WormGPT à FraudGPT et maintenant DarkBERT en moins d'un mois souligne l'influence significative de l'IA malveillante sur le paysage de la cybersécurité et du cybercrime. »

Ce cycle de développement accéléré suggère que les équipes de sécurité et les détenteurs d'actifs numériques doivent rester vigilants alors que les menaces alimentées par l'IA continuent d'évoluer à une vitesse sans précédent, ciblant potentiellement les infrastructures de cryptomonnaie vulnérables et les comptes utilisateurs.