人工智能治理是一個紅旗：V神提供了一個替代方案 - Coinspeaker

關鍵要點

• Vitalik Buterin 警告說，幼稚的人工智能治理太容易被利用。
• 最近的演示顯示，攻擊者如何能夠欺騙 ChatGPT 泄露私人數據。
• Buterin 的“信息金融”模型提倡多樣性、監督和韌性。

以太坊聯合創始人Vitalik Buterin在X平台上警告他的追隨者，關於依賴人工智能(AI)進行治理的風險，認爲目前的方法太容易被利用。

Buterin 的擔憂是繼 EdisonWatch 聯合創始人宮村英人發出的另一個警告之後，他展示了惡意行爲者如何劫持 OpenAI 的新模型上下文協議 (MCP) 來訪問私人用戶數據。

天真的人工智能治理的風險

宮村的測試揭示了一個簡單的日曆邀請如何通過隱藏命令誘使ChatGPT暴露敏感電子郵件，一旦助手訪問了被攻陷的條目。

安全專家指出，大型語言模型無法區分真實指令和惡意指令，使它們極易受到操控。

Buterin表示，這一缺陷是對過於信任人工智能的治理系統的重大警示。

他認爲，如果使用這樣的模型來管理資金或決策，攻擊者可以輕易地通過越獄式的提示繞過保護措施，使治理過程面臨濫用的風險。

信息金融：一種基於市場的替代方案

爲了應對這些弱點，Buterin 提出了一個他稱之爲“信息金融”的系統。這個框架允許多個治理模型在開放市場中競爭，而不是將權力集中在單一的人工智能中。

任何人都可以貢獻一個模型，他們的決策可以通過隨機抽查進行挑戰，最終的決定由人類陪審團作出。

這種方法旨在通過將模型的多樣性與人工監督相結合來確保彈性。此外，還爲開發者和外部觀察者內置了激勵機制，以便檢測缺陷。

設計健壯性機構

Buterin將其描述爲一種“制度設計”方法，在這種方法中，可以插入來自不同貢獻者的大型語言模型，而不是依賴單一的集中式系統。

他補充說，這創造了實時多樣性，降低了操縱風險，並確保在新挑戰出現時能夠適應。

在八月早些時候，布特林批評了推動高度自主的人工智能代理的做法，稱增加人類控制通常會提高質量和安全性。

他支持允許迭代編輯和人類反饋的模型，而不是那些設計用於長時間獨立操作的模型。

下一條免責聲明：Coinspeaker致力於提供公正和透明的報道。本文旨在提供準確和及時的信息，但不應被視爲財務或投資建議。由於市場狀況可能快速變化，我們鼓勵您自行核實信息，並在根據此內容做出任何決策之前諮詢專業人士。