Anthropic 推出面向全球的网络安全计划 Glasswing,新模型 Mythos 为何不向大众开放使用?

鏈新聞abmedia

Anthropic 近日宣布推出新 AI 模型 Claude Mythos Preview,並同步啟动名为「Project Glasswing」的资安防禦计畫。由於該模型在发现软體漏洞方面的能力远超现有技術,Anthropic 決定暫不对外公开发布,僅授權給包括 Apple 与 Google 等 40 家科技巨头与基礎设施企业使用,以防止模型能力落入惡意行为者手中。

Anthropic 推出 Claude Mythos Preview,賦予 AI 资安能力

公告將 Claude Mythos Preview 定位为通用型 AI 模型,其卓越的程式編碼与推理能力,使其在網路安全领域展现出驚人表现。

Anthropic 表示,在过去數週的內部測試中,Mythos Preview 已在所有主流作业系统及主流瀏覽器中,发现數千个过去从未被察覺的零日漏洞 (zero-day vulnerabilities),其中許多被列为高危险等級,部分漏洞甚至在系统中潛伏數十年。

其中一个案例,是 Mythos Preview 完全自主地识別並利用了 FreeBSD 作业系统中一个存在长达 17 年的远端程式碼執行漏洞,可让未经授權者从網路任意位置取得伺服器完整控制權。

Anthropic 強调,目前所发现的漏洞中,超过 99% 都仍未完成修補,因此无法公开披露相关細節。

Project Glasswing:搶在攻擊者前面修補全球关鍵系统

为了让 Mythos Preview 的能力服務於防禦而非攻擊,Anthropic 啟动了 Project Glasswing 计畫。计畫名稱取自玻璃翼蝴蝶的意象,象徵软體漏洞如同蝴蝶翅膀般「薄而隐形」的特性。

核心合作夥伴包括 Amazon Web Services、Apple、Broadcom、CrowdStrike、Google、JPMorganChase、Linux Foundation、Microsoft、Nvidia 等,以及 40 个负责建置或維護关鍵软體基礎设施的組织獲得模型存取资格。

Anthropic 承諾提供高达 1 亿美元的模型使用額度,供參与企业在资安研究階段免费使用,並額外捐贈 400 万美元予开源安全組织,包括透过 Linux Foundation 资助 Alpha-Omega 与 OpenSSF,以及捐款給 Apache 软體基金会。合作夥伴將共享測試成果,让整體科技业受益。

雙面刃困境:Anthropic 为何拒絕公开发布?

Anthropic 资安團队负责人 Newton Cheng 明確表示,不打算將 Claude Mythos Preview 开放給一般大眾使用,便是擔憂其潛在的攻擊风险:

随著 AI 能力持续快速演进,類似的強大工具遲早会擴散至惡意行为者手中,一旦发生將对经濟、公共与国家安全造成嚴峻衝擊。

Anthropic 研究产品管理负责人 Dianne Penn 表示正与美国政府展开合作討論,包括美国網路安全暨基礎设施安全局 (CISA) 及 AI 標準与創新中心等机構。

值得注意的是,此次发布时机恰在 Anthropic 与美国国防部就 Claude 模型用途的安全使用爭议爆发后數週,雙方至今仍存在法律糾紛。

(Anthropic 提告五角大廈:黑名單封殺恐導致數十亿美元損失、重創募资能力)

Dario Amodei:AI 將让網路世界更安全,但过渡期充滿挑戰

Anthropic 坦言,保護全球網路基礎设施的工作可能需要數年时间,过渡期间亦將充滿變數。然而公司对长远前景持謹慎樂觀態度,预期 AI 的防禦能力最終將取得主導地位,協助打造更为安全的软體生態系。

Anthropic 也计畫在即將推出的 Claude Opus 系列模型中,率先導入針对高风险输出的资安防護机制,待技術成熟后,再逐步推动 Mythos 等級模型的規模化部署。正如該公司執行长 Dario Amodei 在 X 上所说:

一旦我們做对了,就有机会打造出一个比 AI 驅动網路攻擊能力出现之前更为安全的網际網路与世界。

这篇文章 Anthropic 推出全球资安计畫 Glasswing,新模型 Mythos 为何不开放大眾使用? 最早出现於 链新聞 ABMedia。

免责声明:本页面信息可能来自第三方,不代表 Gate 的观点或意见。页面显示的内容仅供参考,不构成任何财务、投资或法律建议。Gate 对信息的准确性、完整性不作保证,对因使用本信息而产生的任何损失不承担责任。虚拟资产投资属高风险行为,价格波动剧烈,您可能损失全部投资本金。请充分了解相关风险,并根据自身财务状况和风险承受能力谨慎决策。具体内容详见声明
评论
0/400
暂无评论