Yapay Zeka Destekli Siber Suç Araçları Gelişiyor: Yeni Tehditler Dijital Varlıkları Hedef Alıyor

2 Ağustos 2023

Yapay zeka tarafından üretilen siber suçların manzarası, güvenlik araştırmacılarının daha önce keşfedilen WormGPT'nin ötesinde birçok sofistike yeni aracı belirlemesiyle, Salı günü siber güvenlik firması SlashNext tarafından yayımlanan kapsamlı bir rapora göre, alarm verici bir hızda genişliyor.

Rapor, WormGPT ve onun halefinin FraudGPT'nin, suç amaçlı kullanılmak üzere tasarlanmış kötü niyetli AI araçlarının ortaya çıkan ekosisteminin sadece başlangıcını temsil ettiğini ortaya koyuyor. Özellikle FraudGPT, inandırıcı kimlik avı web siteleri oluşturma, kötü niyetli kod oluşturma, özel hack araçları geliştirme ve sofistike dolandırıcılık iletişimleri hazırlama gibi kapsamlı yetenekleri ile öne çıkıyor.

Suçlu AI Ekosisteminin İçinde

SlashNext araştırmacıları, potansiyel alıcılar olarak görünerek ve güvenli mesajlaşma kanalları aracılığıyla CanadianKingpin12 olarak tanımlanan bir satıcıyla doğrudan etkileşime geçerek gizli bir soruşturma gerçekleştirdi.

"Temel amacımız, FraudGPT'nin WormGPT'ye kıyasla üstün teknolojik yetenekler ve etkinlik sunup sunmadığını belirlemekti," SlashNext ekibi bulgularında açıkladı.

Bu araştırma sırasında, araştırmacılar daha da endişe verici gelişmeler ortaya çıkardılar. Satıcı, DarkBart ve DarkBert adında iki yeni AI sohbet botunu açıkladı ve bu yeni araçların internet bağlantısına sahip olacağını ve Google Lens'e benzer gelişmiş görüntü tanıma teknolojisi ile entegre olacağını iddia etti—bu da onların hem metinsel hem de görsel girdileri işleyip yanıt verebilmelerini sağlayacak.

SlashNext'in raporu, DarkBert'in aslında siber suçla mücadele etmek için veri istihbarat firması S2W tarafından tasarlanan meşru bir teknolojiden ironik bir şekilde yeniden kullanıldığını belirtiyor. Bunun yerine, suç unsurları bu teknolojiyi, önlemek için tasarlandığı faaliyetleri gerçekleştirmek üzere değiştirmiştir.

CanadianKingpin12'ye göre, DarkBert'in özellikle endişe verici yetenekleri var; bu yetenekler arasında gelişmiş sosyal mühendislik saldırıları gerçekleştirmek, sistem zafiyetlerini istismar etmek ve fidye yazılımı da dahil olmak üzere çeşitli kötü amaçlı yazılım yükleri dağıtmak bulunuyor.

Dijital Varlık Güvenliği Tehdidi

Kripto para sahipleri ve dijital varlık platformları için güvenlik sonuçları özellikle endişe verici. Koruyucu önlemlerle donatılmış meşru AI platformlarının aksine, bu kötü niyetli araçlar özellikle suç istismarı için tasarlanmıştır.

"ChatGPT, yasadışı veya kötü niyetli kullanım durumlarına karşı koruma sağlamak için önlemler almıştır," blockchain güvenlik firması Halborn'un operasyon direktörü David Schwed açıkladı. "Bu özel araçların bu tür korumaları yoktur, bu nedenle malware geliştirmeleri için sınırsız bir şekilde talimat verilebilir."

Bu araçların erişilebilirliği, kripto para borsaları ve kullanıcıları için önemli riskler oluşturur, çünkü saldırganlar dijital cüzdanları ve borsa hesaplarını hedef alan sofistike kimlik avı kampanyaları oluşturabilirler.

Yeraltı Dağıtım Kanalları

Bu araçların dağıtım yöntemleri, bu suç ekosisteminin organize yapısını vurgulamaktadır. SlashNext araştırmacıları, CanadianKingpin12'nin "clear net" kanalları aracılığıyla FraudGPT erişimi satmaya çalıştıktan sonra kamu forumlarından yasaklandığı için iletişimlerini şifreli mesajlaşma platformlarına kaydırmak zorunda kaldığını belirtti.

Bu "açık ağ" ( arama motorları aracılığıyla erişilebilen standart internet ile "karanlık ağ" ) arama motorları tarafından indekslenmeyen internetin gizli kısımları arasındaki ayrım, bu suçla bağlantılı AI araçlarının giderek daha sofistike kanallar aracılığıyla nasıl pazarlanıp dağıtıldığını göstermektedir.

Karanlık ağ, gazeteciler ve siyasi muhalifler için meşru gizlilik uygulamalarına sahip olsa da, aynı zamanda siber suç pazarları ve finansal sistemleri hedef alan kötü niyetli araçların dağıtımı için bir sığınak haline gelmiştir.

Güvenlik Etkileri ve Savunma Önlemleri

Bu yapay zeka destekli suç araçlarının hızlı gelişimi, siber güvenlik profesyonelleri için önemli zorluklar sunmaktadır. SlashNext, kuruluşların giderek daha sofistike saldırılara karşı savunma yapmak için proaktif güvenlik eğitimleri ve geliştirilmiş e-posta doğrulama önlemleri uygulamasını önermektedir.

Rapor, web güvenlik şirketi Immunefi'den gelen bulgularla çelişiyor; bu, siber güvenlik uzmanlarının savunma için AI'yi etkili bir şekilde kullanmakta zorluk çektiğini gösteriyor. Anketleri, güvenlik profesyonellerinin %64'ünün OpenAI'nin araçlarından güvenlik bağlamlarında "sınırlı doğruluk" bildirdiğini, %61'inin ise istismarları tanımlamak için yetersiz uzmanlık bilgisi olduğunu belirttiğini ortaya koydu.

"Bu yeteneklerin gerçek etkisini doğru bir şekilde ölçmek zor olsa da, bu durumların potansiyel siber suçlular için engelleri azaltacağını beklemek makul." diye sonuçlandırdı SlashNext. "Ayrıca, WormGPT'den FraudGPT'ye ve şimdi de DarkBERT'e bir ay içinde hızlı bir geçiş, kötü niyetli yapay zekanın siber güvenlik ve siber suçlar üzerindeki önemli etkisini vurgulamaktadır."

Bu hızlanan geliştirme döngüsü, güvenlik ekiplerinin ve dijital varlık sahiplerinin, AI destekli tehditlerin eşi benzeri görülmemiş bir hızda evrim geçirmeye devam etmesi nedeniyle dikkatli olmaları gerektiğini önermektedir; bu tehditler, savunmasız kripto para altyapısını ve kullanıcı hesaplarını hedef alabilir.