Anthropic は、近日、新しい AI モデル Claude Mythos Preview の提供を発表し、同時に「Project Glasswing」という名称のサイバーセキュリティ防御プログラムも開始しました。このモデルはソフトウェアの脆弱性を見つける能力が、現行の技術を大きく上回っているため、Anthropic は当面の間、対外的な公開リリースを見送る方針です。モデルの能力が悪意のある行為者の手に渡るのを防ぐため、Apple や Google などの 40 社のテック大手およびインフラ企業にのみ提供を許可し、利用を認めています。
Anthropic は Claude Mythos Preview を提供、AI のサイバーセキュリティ能力を付与
発表では、Claude Mythos Preview を汎用型 AI モデルとして位置づけています。その優れたプログラミングと推論能力により、ネットワークセキュリティ分野で驚くべきパフォーマンスを示すとしています。
Anthropic によると、過去数週間の社内テストでは、Mythos Preview はあらゆる主要なオペレーティングシステムおよび主要なブラウザにおいて、これまで発見されたことのない数千件のゼロデイ脆弱性（zero-day vulnerabilities）を見つけました。その多くは高危険度のカテゴリに分類されており、一部の脆弱性はシステム内で数十年にわたって潜伏していたということです。
その中の一例として、Mythos Preview は FreeBSD のオペレーティングシステムに存在する、17 年間にわたり放置されてきたリモートコード実行の脆弱性を、完全に自律的に識別し、悪用しました。これにより、無許可の第三者がネットワークの任意の場所からサーバーの完全な制御権を取得できるようになります。
Anthropic は、現時点で見つかった脆弱性のうち 99% 以上が未だに修正が完了していないため、関連する詳細を公開できないと強調しています。
Project Glasswing：攻撃者より先に世界の重要システムを修補
Mythos Preview の能力が攻撃ではなく防御に役立つようにするため、Anthropic は Project Glasswing プロジェクトを立ち上げました。プロジェクト名はガラスの翼の蝶を想起させることに由来し、ソフトウェアの脆弱性が「蝶の羽のように薄くて、目に見えにくい」特性であることを象徴しています。
中核となる協力パートナーには、Amazon Web Services、Apple、Broadcom、CrowdStrike、Google、JPMorganChase、Linux Foundation、Microsoft、Nvidia などが含まれ、さらに重要なソフトウェア基盤の構築または維持を担う 40 の組織も、モデルへのアクセス権を獲得しています。
Anthropic は、参加企業がサイバーセキュリティ研究の段階で無料利用できるモデル利用枠として最大 1 億ドルを提供すると約束し、さらにオープンソースのセキュリティ組織に 400 万ドルを追加で寄付します。これには、Linux Foundation を通じた Alpha-Omega および OpenSSF への助成、ならびに Apache ソフトウェア財団への寄付が含まれます。協力パートナーはテスト成果を共有し、業界全体が恩恵を受けられるようにします。
両刃のジレンマ：Anthropic はなぜ公開リリースを拒否するのか？
Anthropic のサイバーセキュリティチーム責任者である Newton Cheng は、Claude Mythos Preview を一般の大衆に開放するつもりがないことを明確に述べています。これは、潜在的な攻撃リスクがあることを懸念しているためだとしています。
AI 能力が引き続き急速に進化するにつれて、同様の強力なツールは遅かれ早かれ悪意のある行為者の手に広がります。一度それが起きれば、経済、公共および国家安全保障に対して深刻な影響が及ぶことになります。
Anthropic の研究プロダクトマネジメント責任者である Dianne Penn は、米国政府との協力を通じた協議を進めていると述べました。そこには、米国のサイバーセキュリティおよびインフラストラクチャー・セキュリティ庁（CISA）や AI 標準・イノベーションセンターなどの機関が含まれます。
注目すべき点として、今回の発表の時期は、Anthropic と米国防総省が Claude モデルの用途に関する安全な使用をめぐる論争が勃発した後、数週間のタイミングと重なっています。双方はこれまでのところ、依然として法的な紛争を抱えています。
(Anthropic が国防総省を提訴：ブラックリストによる数十億ドルの損失の恐れ、資金調達能力の打撃)
Dario Amodei：AI はネットの世界をより安全にするが、過渡期は挑戦に満ちている
Anthropic は、世界のネットワーク基盤を守る取り組みには数年を要する可能性があり、移行期間も不確定要素に満ちるだろうと率直に認めています。しかし同社は長期的な見通しについては慎重に楽観しており、AI の防御能力が最終的に主導的な地位を獲得し、より安全なソフトウェア生態系の構築に役立つことを期待しています。
Anthropic はまた、間もなく提供される Claude Opus シリーズのモデルにおいて、高リスクの出力に対するサイバーセキュリティ防御メカニズムをいち早く導入する計画です。技術が成熟した後で、Mythos レベルのモデルを段階的に大規模展開していく予定です。同社の CEO である Dario Amodei が X 上で述べたように：
私たちが正しくやれたなら、AI によるネット攻撃能力が出現する前よりも、より安全なインターネットと世界を築ける可能性があります。
この記事 Anthropic がグローバルなサイバーセキュリティ計画 Glasswing を発表、新モデル Mythos はなぜ一般公開しないのか？ 最初に出現したのは 鏈新聞 ABMedia です。
