人工智能驅動的網路犯罪工具不斷進化：新的威脅瞄準數字資產

2023年8月2日

根據網路安全公司SlashNext周二發布的一份綜合報告，人工智能生成的網路犯罪領域正在以驚人的速度擴展，安全研究人員識別出幾種超越之前發現的WormGPT的復雜新工具。

該報告揭示了WormGPT及其繼任者FraudGPT僅僅是一個新興惡意AI工具生態系統的開始，這些工具旨在進行犯罪利用。FraudGPT尤其突出，因爲它具有全面的功能，包括創建令人信服的網絡釣魚網站、生成惡意代碼、開發專業黑客工具和編寫復雜的詐騙通信。

犯罪人工智能生態系統內部

SlashNext 研究人員通過僞裝成潛在買家並通過安全消息渠道直接與一個被識別爲 CanadianKingpin12 的供應商進行接觸，進行了 undercover 調查。

"我們的主要目標是確定FraudGPT是否在技術能力和有效性上優於WormGPT，" SlashNext團隊在他們的研究結果中解釋道。

在這項調查中，研究人員發現了更加令人擔憂的發展。賣家透露了兩個即將推出的AI聊天機器人，名爲DarkBart和DarkBert，聲稱這些新工具將具備互聯網連接和與先進圖像識別技術（類似於Google Lens）的集成——使它們能夠處理和響應文本和視覺輸入。

SlashNext的報告指出，DarkBert具有諷刺意味地被重新利用自由數據智能公司S2W原本設計用於打擊網路犯罪的合法技術。相反，犯罪分子修改了這項技術，以實施本應被阻止的活動。

根據CanadianKingpin12的說法，DarkBert具備特別令人擔憂的能力，包括執行高級社會工程攻擊、利用系統漏洞以及分發各種惡意軟件負載，包括勒索軟體。

數字資產安全的威脅

對於加密貨幣持有者和數字資產平台的安全隱患尤其令人擔憂。與具有保護機制的合法AI平台不同，這些惡意工具專門爲犯罪利用而設計。

"ChatGPT有防護措施來保護不被用於非法或惡意的用途，"區塊鏈安全公司Halborn的首席運營官David Schwed解釋道。"這些專業工具沒有這些防護措施，因此可以被指示在沒有限制的情況下開發惡意軟件。"

這些工具的可獲取性爲加密貨幣交易所及其用戶帶來了重大風險，因爲攻擊者可能會生成針對數字錢包和交易所帳戶的復雜網絡釣魚活動。

地下分銷渠道

這些工具的分發方式突顯了這個犯罪生態系統的有組織性。SlashNext 的研究人員指出，CanadianKingpin12 在因試圖通過 "明網" 渠道出售 FraudGPT 訪問權限而被禁止進入公共論壇後，被迫轉移到加密消息平台進行通訊。

這種"清晰網路"(通過搜索引擎可訪問的標準互聯網)與"暗網"(隱藏在搜索引擎之外的互聯網部分)之間的區別，說明了這些犯罪AI工具是如何通過越來越復雜的渠道進行營銷和分發的。

雖然暗網對記者和政治異議人士有合法的隱私應用，但它也成爲了網路犯罪市場和針對金融系統的惡意工具分發的避風港。

安全影響與防御措施

這些基於人工智能的犯罪工具的快速發展給網路安全專業人士帶來了重大挑戰。SlashNext建議組織實施主動的安全培訓和增強的電子郵件驗證措施，以防御日益復雜的攻擊。

這份報告與網路安全公司Immunefi的研究結果形成對比，後者表明網路安全專家在有效利用人工智能進行防御方面面臨困難。他們的調查發現，64%的安全專業人士報告稱在安全環境中OpenAI工具的“準確性有限”，61%的人指出在識別漏洞方面專業知識不足。

"雖然很難準確評估這些能力的真實影響，但合理的預期是它們將降低有志於成爲網路犯罪分子的門檻，" SlashNext 總結道。"此外，從 WormGPT 到 FraudGPT，再到現在的 DarkBERT，短短一個月內的快速進展突顯了惡意 AI 對網路安全和網路犯罪領域的重大影響。"

這一加速的發展週期表明，安全團隊和數字資產持有者必須保持警惕，因爲人工智能驅動的威脅以空前的速度不斷演變，可能會針對脆弱的加密貨幣基礎設施和用戶帳戶。