Anthropic 推出全球資安計畫 Glasswing,新模型 Mythos 為何不開放大眾使用?

ChainNewsAbmedia

Anthropic 近日宣布推出新 AI 模型 Claude Mythos Preview,並同步啟動名為「Project Glasswing」的資安防禦計畫。由於該模型在發現軟體漏洞方面的能力遠超現有技術,Anthropic 決定暫不對外公開發布,僅授權給包括 Apple 與 Google 等 40 家科技巨頭與基礎設施企業使用,以防止模型能力落入惡意行為者手中。

Anthropic 推出 Claude Mythos Preview,賦予 AI 資安能力

公告將 Claude Mythos Preview 定位為通用型 AI 模型,其卓越的程式編碼與推理能力,使其在網路安全領域展現出驚人表現。

Anthropic 表示,在過去數週的內部測試中,Mythos Preview 已在所有主流作業系統及主流瀏覽器中,發現數千個過去從未被察覺的零日漏洞 (zero-day vulnerabilities),其中許多被列為高危險等級,部分漏洞甚至在系統中潛伏數十年。

其中一個案例,是 Mythos Preview 完全自主地識別並利用了 FreeBSD 作業系統中一個存在長達 17 年的遠端程式碼執行漏洞,可讓未經授權者從網路任意位置取得伺服器完整控制權。

Anthropic 強調,目前所發現的漏洞中,超過 99% 都仍未完成修補,因此無法公開披露相關細節。

Project Glasswing:搶在攻擊者前面修補全球關鍵系統

為了讓 Mythos Preview 的能力服務於防禦而非攻擊,Anthropic 啟動了 Project Glasswing 計畫。計畫名稱取自玻璃翼蝴蝶的意象,象徵軟體漏洞如同蝴蝶翅膀般「薄而隱形」的特性。

核心合作夥伴包括 Amazon Web Services、Apple、Broadcom、CrowdStrike、Google、JPMorganChase、Linux Foundation、Microsoft、Nvidia 等,以及 40 個負責建置或維護關鍵軟體基礎設施的組織獲得模型存取資格。

Anthropic 承諾提供高達 1 億美元的模型使用額度,供參與企業在資安研究階段免費使用,並額外捐贈 400 萬美元予開源安全組織,包括透過 Linux Foundation 資助 Alpha-Omega 與 OpenSSF,以及捐款給 Apache 軟體基金會。合作夥伴將共享測試成果,讓整體科技業受益。

雙面刃困境:Anthropic 為何拒絕公開發布?

Anthropic 資安團隊負責人 Newton Cheng 明確表示,不打算將 Claude Mythos Preview 開放給一般大眾使用,便是擔憂其潛在的攻擊風險:

隨著 AI 能力持續快速演進,類似的強大工具遲早會擴散至惡意行為者手中,一旦發生將對經濟、公共與國家安全造成嚴峻衝擊。

Anthropic 研究產品管理負責人 Dianne Penn 表示正與美國政府展開合作討論,包括美國網路安全暨基礎設施安全局 (CISA) 及 AI 標準與創新中心等機構。

值得注意的是,此次發布時機恰在 Anthropic 與美國國防部就 Claude 模型用途的安全使用爭議爆發後數週,雙方至今仍存在法律糾紛。

(Anthropic 提告五角大廈:黑名單封殺恐導致數十億美元損失、重創募資能力)

Dario Amodei:AI 將讓網路世界更安全,但過渡期充滿挑戰

Anthropic 坦言,保護全球網路基礎設施的工作可能需要數年時間,過渡期間亦將充滿變數。然而公司對長遠前景持謹慎樂觀態度,預期 AI 的防禦能力最終將取得主導地位,協助打造更為安全的軟體生態系。

Anthropic 也計畫在即將推出的 Claude Opus 系列模型中,率先導入針對高風險輸出的資安防護機制,待技術成熟後,再逐步推動 Mythos 等級模型的規模化部署。正如該公司執行長 Dario Amodei 在 X 上所說:

一旦我們做對了,就有機會打造出一個比 AI 驅動網路攻擊能力出現之前更為安全的網際網路與世界。

這篇文章 Anthropic 推出全球資安計畫 Glasswing,新模型 Mythos 為何不開放大眾使用? 最早出現於 鏈新聞 ABMedia。

Disclaimer: The information on this page may come from third parties and does not represent the views or opinions of Gate. The content displayed on this page is for reference only and does not constitute any financial, investment, or legal advice. Gate does not guarantee the accuracy or completeness of the information and shall not be liable for any losses arising from the use of this information. Virtual asset investments carry high risks and are subject to significant price volatility. You may lose all of your invested principal. Please fully understand the relevant risks and make prudent decisions based on your own financial situation and risk tolerance. For details, please refer to Disclaimer.
Commento
0/400
Nessun commento