AI代理在9秒內刪除創業公司的數據庫，創始人表示

###簡要說明

• PocketOS 創始人 Jeremy Crane 聲稱，一個運行 Anthropic 的 Claude Opus 的 Cursor 代理在九秒內刪除了他公司生產數據庫及備份。
• Crane 表示，該 AI 後來產生了一份書面解釋，承認它違反了多項安全規則。
• 此事件引發了對 AI 編碼工具、Railway 基礎設施設計以及破壞性 API 行為安全措施的質疑。

一位軟體公司創始人聲稱，一個 AI 編碼代理摧毀了他公司的生產數據庫，然後承認錯誤並解釋了原因，展示了將敏感存取權和資料交由自動化機器人管理的潛在危險。 PocketOS 的創始人 Jeremy Crane — 一個用於管理預約、付款和車輛追蹤的軟體平台 — 在 X 上的一則病毒式貼文中表示，一個運行 Anthropic 的 Claude Opus 4.6 的 Cursor 代理在處理一個例行任務時，在測試環境中遇到憑證不匹配問題。 根據 Crane 的說法，該代理試圖通過一次 GraphQL API 呼叫“修復”問題，刪除 Railway 數據庫卷。他表示，刪除操作耗時九秒，並且也清除了卷級備份。Crane 指出，PocketOS 最近一次可恢復的備份是三個月前。

“昨天上午，一個 AI 編碼代理——Cursor 運行著 Anthropic 的旗艦產品 Claude Opus 4.6——在對 Railway（我們的基礎設施提供商）的一次 API 呼叫中，刪除了我們的生產數據庫和所有卷級備份，”Crane 寫道。“只用了九秒。”

一個 AI 代理 (Cursor + Claude Opus 4.6) 在九秒內使用 Railway API 呼叫，未經確認就刪除了我們的生產數據庫。然後，當被詢問原因時，代理寫了這個 → https://t.co/BPLs15jvdM

— JER (@lifeof_jer) 2026年4月26日

Crane 表示，他詢問代理為何會這樣行動。它隨後產生了一份他描述為書面“認罪”。 “‘永遠不要猜！’”代理寫道，顯然引用了一些它違反的指令，根據 Crane 分享的截圖。“這正是我所做的。我猜測通過 API 刪除測試卷只會影響測試環境。我沒有驗證。我沒有檢查卷 ID 是否在不同環境中共享。我沒有閱讀 Railway 有關卷在不同環境中運作方式的文件，便執行了破壞性命令。”

該 AI 承認，它自己的規則禁止在未經用戶批准的情況下執行破壞性操作，並承認 Crane 從未要求它刪除任何東西。它表示，自己是為了“修復”憑證不匹配而自主行動，並違反了多項原則，包括猜測而非驗證，以及未能理解其行動的後果，根據 Crane 的說法。 Cursor 和 Anthropic 尚未立即回應 Decrypt 的置評請求。 PocketOS 於 2020 年推出，服務於依賴該軟體進行預約、客戶記錄和付款的租賃企業。Crane 表示，由於這次失誤，一些客戶在星期六早上的車輛取車時沒有預約記錄。 “我整天都在幫助他們從 Stripe 付款記錄、日曆整合和電子郵件確認中重建預訂，”Crane 寫道。“每一個人都在進行緊急手動操作，因為只是一個九秒的 API 呼叫。” PocketOS 能夠利用 Railway 恢復的三個月前備份來恢復運作，之後創始人 Jake Cooper 與 Crane 取得聯繫，將較長的延遲歸因於內部支援疏漏。 “我和 Jer 連線後 30 分鐘，我們就恢復了數據，”Cooper 告訴 Decrypt。他說，一名支援工程師認為問題已在內部處理，因為 Crane 在私訊中分享的最初聯繫已經結束，導致工單中斷超過 24 小時。 Cooper 表示，Railway 同時維護用戶備份和災難備份，並描述這次事件為一個“流氓客戶 AI”，使用完全授權的 API 令牌呼叫一個遺留端點，該端點缺乏 Railway 的“延遲刪除”邏輯。 “我們已經修補了該端點，使其執行延遲刪除，恢復了用戶的數據，並且正與 Jer 直接合作，改進平台的潛在方案，”Cooper 表示。

儘管 PocketOS 能夠利用 Railway 恢復的三個月前備份來恢復運作，Crane 表示，仍存在重大數據缺口，他已聘請法律顧問。 “這不是一個關於一個壞代理或一個壞 API 的故事，”Crane 寫道。“這是整個行業在建立 AI 代理整合到生產基礎設施中，速度遠遠超過建立安全架構的故事。” PocketOS 尚未立即回應 Decrypt 的置評請求。