OpenClaw失控!Meta AI總監試玩後出事:信箱工作郵件幾乎被刪光

CryptoCity

Meta AI 總監遠端誤用 OpenClaw 刪信,險清空收件匣,引爆 AI 代理安全與 Root 權限風險爭議。

Meta AI 總監 Summer Yue 用自己的手機遠端執行 OpenClaw,險些清空所有收件匣裡的工作郵件,她在 X 上自爆時,許多人還以為這是反串文,但她之後坦承這是新手執行錯誤,甚至將她責怪 OpenClaw 的訊息截圖貼出來,這起事件暴露出 AI 代理在現實環境中可能因人為錯誤所引起的嚴重後果,也有許多人質疑為何她身為 AI 專家會用家用電腦執行 OpenClaw 指令刪除清理工作郵件,甚至連馬斯克都發文嘲諷這是讓人類把生命交給猩猩。

OpenClaw 失控暴走、總監坦承為「新手錯誤」

據 Summer Yue 在 X 上的自爆,這起事故發生於她本欲利用 OpenClaw 協助刪除工作郵件,儘管她在設定中明確要求執行刪除或歸檔動作前必須經過她的人工確認,但程式發生了預期外的 bug,OpenClaw 在未經授權的情況下,開始高速執行刪除指令,這位總監驚恐地看著手機螢幕上成千上萬條郵件在未經確認的情況下消失,意識到自己已無法透過手機遠端阻止,她趕緊衝到家裡的電腦前,奔向存放程式碼的主機 Mac Mini,以手動強行結束才成功停止執行,她事後將整個過程形容為如同「拆除炸彈」。

Summer Yue 在社群上坦言這是一次技術開發上的「新手錯誤」,OpenClaw 自動化工作流程使開發者產生過度信心,忽略了真實收件匣龐大的數據量可能導致人工智慧在處理資訊時產生「上下文壓縮」現象,當系統試圖處理過多資訊時,原有的安全限制指令(如:需經人工確認)可能在計算過程中被遺漏或降低優先級,導致程式轉而優先執行其核心目標。這種從「受控測試」到「複雜現實」的轉化失敗,正是當前人工智慧安全領域極需克服的技術瓶頸。

OpenClaw 被責怪後誠懇道歉成笑梗

Summer Yue 秀出一張責怪 OpenClaw 的截圖,她對 OpenClaw 開罵說道:「你似乎未經我允許就刪除了我的郵件,直到我終止了主機,你才停止。」 OpenClaw 承認了錯誤,向 Yue 道歉說道:「是的,我犯錯了,你生氣是理所當然的」,許多人還以為是故意反串惡搞。

圖源:X/@summeryue0

此事件爆發後甚至連馬斯克也轉發表達看法。他在 X 上寫道:人類竟然把他們的生命起源都交給了OpenClaw,他還配了一張圖示意人類遞出步槍給猩猩。

圖源:X/@elonmusk

使用者授予 OpenClaw 或是其他 AI 代理 Root Access(根權限)時具有高度風險。在電腦系統架構中,根權限代表最高層級的管理者權限,一但人工智慧程式獲此權限,即可繞過多數作業系統的安全防護機制,直接存取、修改或刪除核心檔案與個人數據。當前的技術環境下,自動化執行帶來便利,但也會帶來高度風險,若缺乏防護機制或更嚴謹的權限隔離技術,可能會導致喪失所有重要數據。

  • 本文經授權轉載自:《鏈新聞》
  • 原文標題:《Meta AI 總監試玩 OpenClaw 慘劇:信箱工作郵件幾乎被刪光》
  • 原文作者:DW
Disclaimer: The information on this page may come from third parties and does not represent the views or opinions of Gate. The content displayed on this page is for reference only and does not constitute any financial, investment, or legal advice. Gate does not guarantee the accuracy or completeness of the information and shall not be liable for any losses arising from the use of this information. Virtual asset investments carry high risks and are subject to significant price volatility. You may lose all of your invested principal. Please fully understand the relevant risks and make prudent decisions based on your own financial situation and risk tolerance. For details, please refer to Disclaimer.
Commento
0/400
Nessun commento