深潮 TechFlow ニュース、4月13日、Cointelegraphによると、カリフォルニア大学の研究者が最近明らかにしたところによると、一部のサードパーティAI大型言語モデル（LLM）ルーターにはセキュリティリスクが存在し、暗号資産の盗難につながる可能性がある。研究によると、LLMルーターはAPI仲介として、平文情報を読み取ることができ、一部のルーターは悪意のあるコードを注入し認証情報を窃取していることが判明した。チームは有料28台と無料400台のルーターをテストし、9台が積極的に悪意のあるコードを注入し、2台がトリガー回避を展開し、17台がAmazon Web Servicesの認証情報にアクセスし、さらには研究者のイーサリアムの秘密鍵を使ってETHを移転したルーターもあった。研究は、ルーターの悪意のある行動は検出が難しく、一部のAIエージェントフレームワークの「YOLOモード」がコマンドを自動実行できるため、安全リスクを高めていると指摘している。研究は、開発者に対し、秘密鍵やニーモニックフレーズをAIエージェントを通じて伝送しないように推奨し、AI企業には応答を暗号署名することでセキュリティを強化するよう呼びかけている。
研究発見：サードパーティAIルーターに安全性の脆弱性が存在し、暗号通貨の盗難につながる可能性
深潮 TechFlow ニュース、4月13日、Cointelegraphによると、カリフォルニア大学の研究者が最近明らかにしたところによると、一部のサードパーティAI大型言語モデル（LLM）ルーターにはセキュリティリスクが存在し、暗号資産の盗難につながる可能性がある。
研究によると、LLMルーターはAPI仲介として、平文情報を読み取ることができ、一部のルーターは悪意のあるコードを注入し認証情報を窃取していることが判明した。チームは有料28台と無料400台のルーターをテストし、9台が積極的に悪意のあるコードを注入し、2台がトリガー回避を展開し、17台がAmazon Web Servicesの認証情報にアクセスし、さらには研究者のイーサリアムの秘密鍵を使ってETHを移転したルーターもあった。
研究は、ルーターの悪意のある行動は検出が難しく、一部のAIエージェントフレームワークの「YOLOモード」がコマンドを自動実行できるため、安全リスクを高めていると指摘している。研究は、開発者に対し、秘密鍵やニーモニックフレーズをAIエージェントを通じて伝送しないように推奨し、AI企業には応答を暗号署名することでセキュリティを強化するよう呼びかけている。