挑戰輝達 AI 軟體霸權！Modular 打造跨硬體整合 AI 平台對決 CUDA

在生成式 AI 全面席捲全球的這個時刻，幾乎所有 LLM、雲端服務與 AI 新創，背後都離不開同一套關鍵基礎建設，也就是輝達 (NVIDIA) 的 CUDA 軟體生態。這套原本為顯示卡打造的程式架構，在過去近二十年間，逐步擴張成 AI 產業實際運作的「隱形作業系統」。

成立於 2022 年的新創公司 Modular，正試圖正面挑戰這種高度集中、由單一供應商主導的結構。Modular 的目標不是再做一顆新晶片，而是打造一套「可攜式 AI 軟體堆疊平台」，讓 AI 模型能在不同 GPU 與加速器之間自由移動，不再被鎖死在輝達與 CUDA 的生態系中。

2022 年創業起點，底層工程師直闖 CUDA 核心

Modular 由兩位來自 Apple 與 Google 的底層軟體工程師於 2022 年創立。執行長 Chris Lattner 曾打造 Swift 與 LLVM 編譯器體系，共同創辦人 Tim Davis 則參與 Google TPU 關鍵軟體架構。

兩人都曾親歷過新硬體如何「靠軟體打開市場」的這個過程，因此選擇離開大型科技公司，直接挑戰 CUDA 所代表的 AI 軟體霸權。這場不對稱戰爭在業界眼中近乎瘋狂，但也因為對系統底層理解夠深，才被視為少數有機會嘗試的團隊。

CUDA 難以取代，AI 產業的結構性枷鎖

CUDA 原本只是讓顯示卡能被程式化的工具，隨著深度學習崛起，逐步擴張為涵蓋語言、函式庫、編譯器與推論引擎的完整生態。

對多數 AI 團隊而言，只要使用輝達 GPU，幾乎就無法避開 CUDA。即使市場上有 AMD GPU、TPU 或雲端業者自研晶片，每種硬體背後仍綁著專屬軟體，開發者自然傾向選擇最成熟、工具最齊全的 CUDA，形成高度鎖定的產業結構。

沒有誘因的工程，反而成為突破口

Lattner 指出，跨晶片、跨供應商的可攜式 AI 軟體並非不重要，而是「沒有人有足夠誘因承擔成本」。這類工程難度極高、回收期漫長，短期內幾乎看不到商業成果，卻是整個產業普遍渴望的能力。

正是這種矛盾，讓 Modular 選擇在生成式 AI 爆發前，提前投入底層系統的長期開發，並在成立後前三年刻意遠離市場聚光燈。

三年低調耕耘，資金與團隊逐步到位

截至 2025 年，Modular 已累計募得約 3.8 億美元資金，投資人包括多家矽谷一線創投。2025 年 9 月完成最新一輪融資後，公司估值約 16 億美元。

這些資源讓 Modular 能夠招募來自 Google、Apple 的資深工程師，組成專注於編譯器、系統軟體與 AI 基礎建設的團隊，持續打磨完整軟體堆疊。

三層軟體架構，從語言到算力叢集

Modular 的技術核心由三層組成，分別為：

最上層：為 Mammoth，用來協助企業在多 GPU、多供應商環境中進行算力調度與管理，解決實際部署與維運問題。

中間層：為 MAX 推論引擎，負責模型實際運行，已支援 NVIDIA、AMD 與 Apple Silicon。

最底層：為 Mojo 程式語言，語法貼近 Python、效能接近 C++，可與主流 AI 框架整合。

2025 關鍵驗證，統一運算層正式成形

2025 年 9 月，Modular 公布關鍵測試成果，在同一套軟體平台下，同時驅動輝達 Blackwell B200 與 AMD MI355X 跑出頂級效能，其中 MI355X 表現甚至較 AMD 原生軟體提升約 50%。

隨後在 12/22，Modular Platform 25.6 正式發布，完整支援資料中心與消費級 GPU，並首次讓 Mojo 直接支援 Apple Silicon。官方將此形容為「Write once, run anywhere」，也就是：

「開發者用 Mojo 寫好的程式碼，不需要為輝達、AMD、Apple Silicon 各寫一套版本，同一份程式，就能在不同 GPU、不同供應商的硬體上執行。」

象徵統一 AI 運算層從概念走向實際落地。

這篇文章 挑戰輝達 AI 軟體霸權！Modular 打造跨硬體整合 AI 平台對決 CUDA 最早出現於 鏈新聞 ABMedia。