Инструменты киберпреступности на основе ИИ развиваются: новые угрозы нацелены на цифровые активы

2 августа 2023 года

Пейзаж киберпреступности, генерируемой ИИ, расширяется с тревожной скоростью, при этом исследователи в области безопасности выявляют несколько сложных новых инструментов, помимо ранее обнаруженного WormGPT, согласно всеобъемлющему отчету, опубликованному во вторник компанией по кибербезопасности SlashNext.

Отчет показывает, что WormGPT и его преемник FraudGPT представляют собой лишь начало возникающей экосистемы вредоносных инструментов ИИ, разработанных для преступной эксплуатации. FraudGPT особенно выделяется своими обширными возможностями, включая создание убедительных фишинговых веб-сайтов, генерацию вредоносного кода, разработку специализированных инструментов для взлома и составление сложных мошеннических коммуникаций.

Внутри преступной экосистемы ИИ

Исследователи SlashNext провели подлинное расследование, выдавая себя за потенциальных покупателей и взаимодействуя напрямую с продавцом, идентифицированным как CanadianKingpin12, через безопасные каналы обмена сообщениями.

«Наша основная задача заключалась в том, чтобы определить, предлагает ли FraudGPT лучшие технологические возможности и эффективность по сравнению с WormGPT», - объяснила команда SlashNext в своих выводах.

В ходе этого расследования исследователи обнаружили еще более тревожные события. Продавец раскрыл два предстоящих ИИ-чатбота под названием DarkBart и DarkBert, утверждая, что эти новые инструменты будут иметь возможность подключения к интернету и интеграцию с передовыми технологиями распознавания изображений, аналогичными Google Lens, что позволит им обрабатывать и реагировать как на текстовые, так и на визуальные входы.

Отчет SlashNext отмечает, что DarkBert иронично был перепрофилирован из легитимной технологии, изначально разработанной фирмой S2W по вопросам интеллектуальных данных для борьбы с киберпреступностью. Вместо этого преступные элементы модифицировали эту технологию для совершения тех самых действий, которые она была призвана предотвратить.

Согласно CanadianKingpin12, DarkBert обладает особенно тревожными возможностями, включая выполнение сложных атак социальной инженерии, эксплуатацию уязвимостей системы и распространение различных вредоносных программ, включая программы-вымогатели.

Угроза безопасности цифровых активов

Безопасностные последствия для держателей криптовалюты и платформ цифровых активов вызывают особую озабоченность. В отличие от легитимных AI-платформ с защитными рамками, эти злонамеренные инструменты специально созданы для преступной эксплуатации.

"У ChatGPT есть защитные механизмы, чтобы предотвратить незаконные или злонамеренные случаи использования," объяснил Дэвид Швед, операционный директор компании по безопасности блокчейна Halborn. "Эти специализированные инструменты не имеют таких защитных механизмов, поэтому их можно настроить на разработку вредоносного ПО без ограничений."

Доступность этих инструментов создает значительные риски для криптовалютных бирж и их пользователей, так как злоумышленники могут потенциально создавать сложные фишинговые кампании, нацеленные на цифровые кошельки и аккаунты бирж.

Подземные каналы распределения

Методы распределения этих инструментов подчеркивают организованный характер этой криминальной экосистемы. Исследователи SlashNext отметили, что CanadianKingpin12 был вынужден перейти на зашифрованные платформы обмена сообщениями после того, как его забанили на публичных форумах за попытку продать доступ к FraudGPT через каналы "clear net".

Это различие между "чистым интернетом" (, доступным через поисковые системы ), и "дарквебом" (, скрытыми частями интернета, не индексируемыми поисковыми системами ), иллюстрирует, как эти преступные ИИ-инструменты рекламируются и распространяются через все более сложные каналы.

Хотя дарквеб имеет законные приложения для конфиденциальности для журналистов и политических диссидентов, он также стал убежищем для киберпреступных рынков и распространения злонамеренных инструментов, нацеленных на финансовые системы.

Последствия для безопасности и меры защиты

Быстрое развитие этих преступных инструментов на базе ИИ представляет собой значительные проблемы для специалистов по кибербезопасности. SlashNext советует организациям внедрить проактивное обучение безопасности и улучшенные меры верификации электронной почты для защиты от все более сложных атак.

Отчет противоречит выводам компании Immunefi, занимающейся веб-безопасностью, которая указывает на то, что эксперты по кибербезопасности испытывают трудности с эффективным использованием ИИ для защиты. Их опрос показал, что 64% специалистов по безопасности сообщили о "ограниченной точности" инструментов OpenAI в контексте безопасности, при этом 61% отметили недостаток специализированных знаний для выявления уязвимостей.

"Хотя трудно точно оценить реальное влияние этих возможностей, можно с уверенностью ожидать, что они снизят барьеры для начинающих киберпреступников", заключила SlashNext. "Более того, быстрая эволюция от WormGPT к FraudGPT, а затем к DarkBERT менее чем за месяц подчеркивает значительное влияние злонамеренного ИИ на ландшафт кибербезопасности и киберпреступности."

Этот ускоряющийся цикл разработки предполагает, что команды безопасности и держатели цифровых активов должны оставаться бдительными, так как угрозы, основанные на ИИ, продолжают эволюционировать с беспрецедентной скоростью, потенциально нацеливаясь на уязвимую инфраструктуру криптовалют и пользовательские аккаунты.