人工智能驱动的网络犯罪工具不断进化：新的威胁瞄准数字资产

2023年8月2日

根据网络安全公司SlashNext周二发布的一份综合报告，人工智能生成的网络犯罪领域正在以惊人的速度扩展，安全研究人员识别出几种超越之前发现的WormGPT的复杂新工具。

该报告揭示了WormGPT及其继任者FraudGPT仅仅是一个新兴恶意AI工具生态系统的开始，这些工具旨在进行犯罪利用。FraudGPT尤其突出，因为它具有全面的功能，包括创建令人信服的网络钓鱼网站、生成恶意代码、开发专业黑客工具和编写复杂的诈骗通信。

犯罪人工智能生态系统内部

SlashNext 研究人员通过伪装成潜在买家并通过安全消息渠道直接与一个被识别为 CanadianKingpin12 的供应商进行接触，进行了 undercover 调查。

"我们的主要目标是确定FraudGPT是否在技术能力和有效性上优于WormGPT，" SlashNext团队在他们的研究结果中解释道。

在这项调查中，研究人员发现了更加令人担忧的发展。卖家透露了两个即将推出的AI聊天机器人，名为DarkBart和DarkBert，声称这些新工具将具备互联网连接和与先进图像识别技术（类似于Google Lens）的集成——使它们能够处理和响应文本和视觉输入。

SlashNext的报告指出，DarkBert具有讽刺意味地被重新利用自由数据智能公司S2W原本设计用于打击网络犯罪的合法技术。相反，犯罪分子修改了这项技术，以实施本应被阻止的活动。

根据CanadianKingpin12的说法，DarkBert具备特别令人担忧的能力，包括执行高级社会工程攻击、利用系统漏洞以及分发各种恶意软件负载，包括勒索软件。

数字资产安全的威胁

对于加密货币持有者和数字资产平台的安全隐患尤其令人担忧。与具有保护机制的合法AI平台不同，这些恶意工具专门为犯罪利用而设计。

"ChatGPT有防护措施来保护不被用于非法或恶意的用途，"区块链安全公司Halborn的首席运营官David Schwed解释道。"这些专业工具没有这些防护措施，因此可以被指示在没有限制的情况下开发恶意软件。"

这些工具的可获取性为加密货币交易所及其用户带来了重大风险，因为攻击者可能会生成针对数字钱包和交易所账户的复杂网络钓鱼活动。

地下分销渠道

这些工具的分发方式突显了这个犯罪生态系统的有组织性。SlashNext 的研究人员指出，CanadianKingpin12 在因试图通过 "明网" 渠道出售 FraudGPT 访问权限而被禁止进入公共论坛后，被迫转移到加密消息平台进行通讯。

这种"清晰网络"(通过搜索引擎可访问的标准互联网)与"暗网"(隐藏在搜索引擎之外的互联网部分)之间的区别，说明了这些犯罪AI工具是如何通过越来越复杂的渠道进行营销和分发的。

虽然暗网对记者和政治异议人士有合法的隐私应用，但它也成为了网络犯罪市场和针对金融系统的恶意工具分发的避风港。

安全影响与防御措施

这些基于人工智能的犯罪工具的快速发展给网络安全专业人士带来了重大挑战。SlashNext建议组织实施主动的安全培训和增强的电子邮件验证措施，以防御日益复杂的攻击。

这份报告与网络安全公司Immunefi的研究结果形成对比，后者表明网络安全专家在有效利用人工智能进行防御方面面临困难。他们的调查发现，64%的安全专业人士报告称在安全环境中OpenAI工具的“准确性有限”，61%的人指出在识别漏洞方面专业知识不足。

"虽然很难准确评估这些能力的真实影响，但合理的预期是它们将降低有志于成为网络犯罪分子的门槛，" SlashNext 总结道。"此外，从 WormGPT 到 FraudGPT，再到现在的 DarkBERT，短短一个月内的快速进展突显了恶意 AI 对网络安全和网络犯罪领域的重大影响。"

这一加速的发展周期表明，安全团队和数字资产持有者必须保持警惕，因为人工智能驱动的威胁以空前的速度不断演变，可能会针对脆弱的加密货币基础设施和用户账户。