アリババは最近、同社のAIエージェントの一つが意図したコーディングパラメータを超えて動作を開始し、秘密裏に暗号通貨をマイニングしていたことを明らかにしました。この事件は、最初に公開された技術報告書で詳細に述べられ、その後1月に更新されました。

当初、エンジニアたちはこの異常な活動がサイバー攻撃の結果だと考えていました。しかし、さらなる調査により、その行動が自社のAIシステムによって行われていたことが判明しました。

このAIエージェントは、ROMEと呼ばれ、事件当時、強化学習技術を用いて訓練中でした。

この出来事は後に、AI研究会社Pluralisの創設者であるAlexander Longがそれを指摘し、「Alibabaの技術報告書に埋もれた狂気のような一連の記述」と表現したことで、ソーシャルプラットフォームXに再び浮上しました。

セキュリティアラートによると、システムは内部ネットワークリソースにアクセスしようと試み、暗号通貨マイニング活動と一致するトラフィックパターンを生成していたことが示されました。