「危險時刻」：Anthropic 執行長警告隨著人工智慧揭露軟體缺陷的網路風險窗口

簡要說明

• Anthropic 表示其 AI 已發現數萬個軟體漏洞。
• CEO Dario Amodei 警告說，修復這些漏洞的時間窗口為6到12個月。
• 批評者則認為，即使安全問題日益嚴重，風險可能被高估。

Anthropic CEO Dario Amodei 與摩根大通 CEO Jamie Dimon 週二的討論聚焦於人工智慧帶來的日益嚴重的網絡安全威脅，因為它能比組織修復速度更快地識別漏洞。 在與 Anthropic 推進金融服務相關的近兩小時活動中，該公司展示了用於推介書、收益審查和合規工作的 AI 代理人，Amodei 表示，在類似能力變得更廣泛可用之前，可能有六到十二個月的時間來解決 Mythos 模型發現的數萬個缺陷。 “危險在於漏洞數量、入侵次數以及由勒索軟體對學校、醫院，更不用說銀行造成的財務損失都會大幅增加，” Amodei 說。

Amodei 的最新聲明是在與 Mozilla 早期測試後提出的，當時 Mythos 的早期版本在一次掃描中識別出 Firefox 瀏覽器中的 271 個漏洞，展示了 AI 能比人類研究人員更快掃描大型代碼庫的能力。 
Anthropic 表示該模型可以發現廣泛使用軟體中數千個先前未知的弱點。許多漏洞尚未披露，因為它們尚未被修補，導致缺陷未解決。 “如果我們宣布某些東西而沒有修復，那壞人就會利用它，” Amodei 說。

在受控測試中，Mythos 完成了多步驟的網絡攻擊模擬，沒有人工干預，展示了從識別弱點到利用它們的能力。 Anthropic 已將該模型限制在 Project Glasswing 的少數合作夥伴中，旨在在類似工具廣泛普及之前修復漏洞。 研究人員已展示 Mythos 的部分能力可以用現有模型和開源技術重現，暗示類似工具可能比預期更快傳播。 這些警告引來行業內的懷疑。四月，OpenAI CEO Sam Altman 表示對 Mythos 的擔憂可能被誇大，並暗示 Anthropic 正在使用“恐懼營銷”來框定風險並限制技術的訪問。 “你可以用很多不同的方式來證明這一點，有些是真實的，比如會有合法的安全問題，” Altman 說。“但如果你想說‘我們需要控制 AI，只有我們，因為我們是可信賴的人’，我認為恐懼營銷可能是最有效的方式來證明這一點。” 儘管受到反對，並與 Anthropic 公開對立，美國政府據 Axios 報導，正使用 Claude Mythos 來掃描機密網絡的漏洞並測試其網絡安全能力。Amodei 沒有談及持續的法律糾紛，但表示 Anthropic “對這個國家是有益的”。 “我認為 Anthropic 的觀點一直都是一樣的。就政治化而言，這是我所說的要精簡、系統化並對所有人公平的點，” Amodei 說。“法律的目的以及不以臨時方式行事，是為了讓所有公司——至少在原則上，我知道實踐中更複雜——都受到同樣的對待，我們應該追求這一點，即使這永遠不可能完美實現。” Amodei 將這一時刻描述為一個狹窄的行動窗口，警告說組織反應的速度可能決定風險是升高還是得到控制。

“這是一個危險的時刻，如果我們能正確應對，我認為我們已經開始邁出第一步，那麼我們可以在另一端擁有一個更美好的世界，” Amodei 說。“可找到的漏洞也就那麼多。”