Anthropic 推出 $100M 网络安全攻势，采用受限的人工智能模型 Claude Mythos

Anthropic周二宣布了Project Glasswing（项目玻璃翼），这是一项网络安全计划，承诺为Claude Mythos Preview（Claude神谕预览）投入最多100,000,000美元的使用额度。该公司称，Claude Mythos Preview是一款尚未发布的前沿模型，能够自主发现并利用软件漏洞，其能力已超越除最顶尖的人类安全研究人员之外的所有人。

Anthropic并未选择公开发布，而是将Claude Mythos Preview限制给12家启动合作伙伴——其中包括亚马逊$AMZN +0.46%的Web Services、苹果$AAPL -2.07%、博通$AVGO +6.21%、思科$CSCO +0.30%、CrowdStrike $CRWD +6.18%、谷歌$GOOGL +1.82%、摩根大通（JPMorganChase）、Linux Foundation、微软$MSFT -0.16%、英伟达$NVDA +0.26%以及帕洛阿尔托网络$PANW +4.89%——以上合作方将仅将其用于防御性安全目的。该模型也将向另外40多家构建或维护关键软件基础设施的组织提供访问权限。

相关内容

阿里巴巴使用自研芯片启动了一个10,000芯片的AI集群

WomenofGenAI创始人Aakriti Srikanth谈如何在科技行业演进中脱颖而出

过去数周，Anthropic使用Mythos Preview在每个主要操作系统和网络浏览器中识别出成千上万的零日漏洞，该公司表示。具体发现包括在OpenBSD中可追溯至27年前的缺陷，以及视频处理库FFmpeg中的另一项漏洞——尽管该漏洞大约已有16年历史，但在自动化测试工具对其进行了五百万次测试之后仍未被发现。该模型还将多个Linux内核漏洞串联起来，以从普通用户账户实现对一台机器的完全控制。

Anthropic指出，打造Mythos Preview并未进行任何专业的网络安全培训——该模型探测软件弱点的能力，是其在其他领域所体现的相同一般性编码与推理进展的副产品；也就是说，帮助它修复缺陷的特征与那些本可以被用来加以利用的特征是不可分割的。

除了使用额度，Anthropic还将提供400万美元的直接捐赠，包括通过Linux Foundation向Alpha-Omega和Open Source Security Foundation捐赠250万美元，以及向Apache Software Foundation捐赠150万美元。用尽使用额度池的合作伙伴将支付每百万输入token 25美元、每百万输出token 125美元。该模型可通过Claude API、Amazon Bedrock、Google Cloud Vertex AI以及Microsoft Foundry访问。

“我们搞错的危险显而易见，但如果我们做对了，就存在一个真正的机会：在AI驱动的网络能力出现之前我们所拥有的基础上，打造一个从根本上更安全的互联网与世界，”根据CNBC的报道，CEO Dario Amodei在X $TWTR 0.00%的帖子中表示。

在Anthropic宣布的同时发布的书面声明中，CrowdStrike首席技术官Elia Zaitsev发出了明确警告：该模型“展示了防御者在规模化条件下如今所能做到的事情，而对手必然会试图利用相同的能力”；《纽约时报》称，那些曾经需要数月工作才能完成的任务“现在借助AI在几分钟内就能完成”。

Anthropic表示，它一直在与美国政府官员进行持续沟通，包括与网络安全与基础设施安全局（Cybersecurity and Infrastructure Security Agency）就该模型的能力展开讨论。该公司称，在90天内，它计划发布一份关于所发现并已修补漏洞的公开报告，并提出关于安全实践应如何演进的建议。

该模型的存在早已在公开层面浮出水面：由于内部草稿材料在Anthropic的服务器上被发现于一个未受安全保护的位置。该公司将这次暴露追溯为第三方内容管理工具中的一次错误配置。那些文件中使用了代号“Capybara”来指代该模型。

📬 订阅Daily Brief

我们免费的、快速又有趣的全球经济简报，每个工作日上午为你送达。

订阅我