2023年8月2日AI生成サイバー犯罪の風景は驚異的な速さで拡大しており、セキュリティ研究者たちは、サイバーセキュリティ企業SlashNextが火曜日に発表した包括的な報告書によれば、以前に発見されたWormGPTを超えるいくつかの洗練された新しいツールを特定しています。この報告書は、WormGPTとその後継であるFraudGPTが、犯罪的利用のために設計された悪意のあるAIツールの新たなエコシステムの始まりに過ぎないことを明らかにしています。特にFraudGPTは、説得力のあるフィッシングウェブサイトの作成、悪意のあるコードの生成、専門的なハッキングツールの開発、洗練された詐欺コミュニケーションの作成を含む包括的な能力で際立っています。## 犯罪AIエコシステムの内部SlashNextの研究者は、潜在的な購入者として偽装し、セキュアなメッセージングチャネルを通じてCanadianKingpin12というベンダーと直接やり取りするという undercover investigation を実施しました。"私たちの主な目的は、FraudGPTがWormGPTに比べて優れた技術的能力と効果を提供しているかどうかを判断することでした"と、SlashNextチームは彼らの調査結果で説明しました。この調査中、研究者たちはさらに懸念すべき進展を明らかにしました。売り手は、DarkBartとDarkBertという2つの新しいAIチャットボットを発表し、これらの新しいツールがインターネット接続およびGoogle Lensに似た高度な画像認識技術との統合を特徴としており、テキストと視覚的な入力の両方を処理して応答できると主張しました。SlashNextの報告によると、DarkBertは皮肉なことに、サイバー犯罪と戦うためにデータインテリジェンス企業S2Wによって元々設計された合法的な技術から再利用されました。その代わりに、犯罪者はこの技術を改造して、本来防止することを目的としていた活動を実行しています。カナディアンキングピン12によると、DarkBertは特に懸念される能力を持っており、高度なソーシャルエンジニアリング攻撃を実行し、システムの脆弱性を悪用し、ランサムウェアを含むさまざまなマルウェアペイロードを配布することができます。## デジタル資産セキュリティへの脅威暗号通貨保有者とデジタル資産プラットフォームに対するセキュリティの影響は特に懸念されます。保護のガードレールを備えた正当なAIプラットフォームとは異なり、これらの悪意のあるツールは犯罪的な搾取のために特別に設計されています。「ChatGPTは、不法または悪意のある使用ケースから保護するためのガードレールを備えています」と、ブロックチェーンセキュリティ企業Halbornの最高執行責任者であるデビッド・シュウェッドは説明しました。「これらの専門ツールにはそのガードレールがないため、制限なしにマルウェアを開発するよう指示できます。」これらのツールのアクセス可能性は、暗号通貨取引所とそのユーザーに重大なリスクをもたらします。攻撃者は、デジタルウォレットや取引所アカウントを狙った高度なフィッシングキャンペーンを生成する可能性があります。## アンダーグラウンド流通チャネルこれらのツールの配布方法は、この犯罪エコシステムの組織的な性質を浮き彫りにしています。SlashNextの研究者たちは、CanadianKingpin12が「クリアネット」チャネルを通じてFraudGPTへのアクセスを販売しようとしたため、公共フォーラムから禁止された後、暗号化メッセージングプラットフォームに通信を移さざるを得なかったと指摘しました。この「クリアネット」と(標準のインターネット（検索エンジンを介してアクセス可能）)と「ダークウェブ」(（検索エンジンにインデックスされていないインターネットの隠れた部分）)の違いは、これらの犯罪的なAIツールがますます洗練されたチャネルを通じてどのようにマーケティングされ、配布されているかを示しています。ダークウェブはジャーナリストや政治的亡命者にとって正当なプライバシーアプリケーションを持っていますが、サイバー犯罪マーケットプレイスや金融システムを標的とした悪意のあるツールの配布のための避難所にもなっています。## セキュリティの影響と防御策これらのAI駆動の犯罪ツールの急速な発展は、サイバーセキュリティ専門家にとって重大な課題を提示しています。SlashNextは、組織に対して、ますます高度化する攻撃に対抗するために、プロアクティブなセキュリティトレーニングと強化されたメール検証手段を実施するよう助言しています。この報告は、ウェブセキュリティ会社Immunefiの調査結果と対照的であり、サイバーセキュリティの専門家が防御のためにAIを効果的に活用するのに苦労していることを示しています。彼らの調査では、セキュリティ専門家の64%がセキュリティコンテキストにおいてOpenAIのツールから「限られた精度」を報告し、61%が脆弱性を特定するための専門知識が不十分であると指摘しています。"これらの能力の真の影響を正確に測ることは難しいですが、サイバー犯罪者を目指す人々にとっての障壁が下がることは合理的に期待できます。" SlashNextは結論づけました。"さらに、WormGPTからFraudGPT、そして現在のDarkBERTへの急速な進展は、サイバーセキュリティとサイバー犯罪の状況における悪意のあるAIの重要な影響を浮き彫りにしています。"この加速する開発サイクルは、セキュリティチームとデジタル資産保有者が警戒を怠らない必要があることを示唆しています。AIによる脅威は前例のない速度で進化し続けており、脆弱な暗号通貨インフラやユーザーアカウントを標的にする可能性があります。
AI駆動のサイバー犯罪ツールが進化：デジタル資産を狙った新たな脅威
2023年8月2日
AI生成サイバー犯罪の風景は驚異的な速さで拡大しており、セキュリティ研究者たちは、サイバーセキュリティ企業SlashNextが火曜日に発表した包括的な報告書によれば、以前に発見されたWormGPTを超えるいくつかの洗練された新しいツールを特定しています。
この報告書は、WormGPTとその後継であるFraudGPTが、犯罪的利用のために設計された悪意のあるAIツールの新たなエコシステムの始まりに過ぎないことを明らかにしています。特にFraudGPTは、説得力のあるフィッシングウェブサイトの作成、悪意のあるコードの生成、専門的なハッキングツールの開発、洗練された詐欺コミュニケーションの作成を含む包括的な能力で際立っています。
犯罪AIエコシステムの内部
SlashNextの研究者は、潜在的な購入者として偽装し、セキュアなメッセージングチャネルを通じてCanadianKingpin12というベンダーと直接やり取りするという undercover investigation を実施しました。
"私たちの主な目的は、FraudGPTがWormGPTに比べて優れた技術的能力と効果を提供しているかどうかを判断することでした"と、SlashNextチームは彼らの調査結果で説明しました。
この調査中、研究者たちはさらに懸念すべき進展を明らかにしました。売り手は、DarkBartとDarkBertという2つの新しいAIチャットボットを発表し、これらの新しいツールがインターネット接続およびGoogle Lensに似た高度な画像認識技術との統合を特徴としており、テキストと視覚的な入力の両方を処理して応答できると主張しました。
SlashNextの報告によると、DarkBertは皮肉なことに、サイバー犯罪と戦うためにデータインテリジェンス企業S2Wによって元々設計された合法的な技術から再利用されました。その代わりに、犯罪者はこの技術を改造して、本来防止することを目的としていた活動を実行しています。
カナディアンキングピン12によると、DarkBertは特に懸念される能力を持っており、高度なソーシャルエンジニアリング攻撃を実行し、システムの脆弱性を悪用し、ランサムウェアを含むさまざまなマルウェアペイロードを配布することができます。
デジタル資産セキュリティへの脅威
暗号通貨保有者とデジタル資産プラットフォームに対するセキュリティの影響は特に懸念されます。保護のガードレールを備えた正当なAIプラットフォームとは異なり、これらの悪意のあるツールは犯罪的な搾取のために特別に設計されています。
「ChatGPTは、不法または悪意のある使用ケースから保護するためのガードレールを備えています」と、ブロックチェーンセキュリティ企業Halbornの最高執行責任者であるデビッド・シュウェッドは説明しました。「これらの専門ツールにはそのガードレールがないため、制限なしにマルウェアを開発するよう指示できます。」
これらのツールのアクセス可能性は、暗号通貨取引所とそのユーザーに重大なリスクをもたらします。攻撃者は、デジタルウォレットや取引所アカウントを狙った高度なフィッシングキャンペーンを生成する可能性があります。
アンダーグラウンド流通チャネル
これらのツールの配布方法は、この犯罪エコシステムの組織的な性質を浮き彫りにしています。SlashNextの研究者たちは、CanadianKingpin12が「クリアネット」チャネルを通じてFraudGPTへのアクセスを販売しようとしたため、公共フォーラムから禁止された後、暗号化メッセージングプラットフォームに通信を移さざるを得なかったと指摘しました。
この「クリアネット」と(標準のインターネット（検索エンジンを介してアクセス可能）)と「ダークウェブ」(（検索エンジンにインデックスされていないインターネットの隠れた部分）)の違いは、これらの犯罪的なAIツールがますます洗練されたチャネルを通じてどのようにマーケティングされ、配布されているかを示しています。
ダークウェブはジャーナリストや政治的亡命者にとって正当なプライバシーアプリケーションを持っていますが、サイバー犯罪マーケットプレイスや金融システムを標的とした悪意のあるツールの配布のための避難所にもなっています。
セキュリティの影響と防御策
これらのAI駆動の犯罪ツールの急速な発展は、サイバーセキュリティ専門家にとって重大な課題を提示しています。SlashNextは、組織に対して、ますます高度化する攻撃に対抗するために、プロアクティブなセキュリティトレーニングと強化されたメール検証手段を実施するよう助言しています。
この報告は、ウェブセキュリティ会社Immunefiの調査結果と対照的であり、サイバーセキュリティの専門家が防御のためにAIを効果的に活用するのに苦労していることを示しています。彼らの調査では、セキュリティ専門家の64%がセキュリティコンテキストにおいてOpenAIのツールから「限られた精度」を報告し、61%が脆弱性を特定するための専門知識が不十分であると指摘しています。
"これらの能力の真の影響を正確に測ることは難しいですが、サイバー犯罪者を目指す人々にとっての障壁が下がることは合理的に期待できます。" SlashNextは結論づけました。"さらに、WormGPTからFraudGPT、そして現在のDarkBERTへの急速な進展は、サイバーセキュリティとサイバー犯罪の状況における悪意のあるAIの重要な影響を浮き彫りにしています。"
この加速する開発サイクルは、セキュリティチームとデジタル資産保有者が警戒を怠らない必要があることを示唆しています。AIによる脅威は前例のない速度で進化し続けており、脆弱な暗号通貨インフラやユーザーアカウントを標的にする可能性があります。