挑戰輝達 AI 軟體霸權！Modular 打造跨硬體整合 AI 平台對決 CUDA 

在生成式 AI 全面席捲全球的這個時刻，幾乎所有 LLM、雲端服務與 AI 新創，背後都離不開同一套關鍵基礎建設，也就是輝達 (NVIDIA) 的 CUDA 軟體生態。這套原本為顯示卡打造的程式架構，在過去近二十年間，逐步擴張成 AI 產業實際運作的「隱形作業系統」。

成立於 2022 年的新創公司 Modular，正試圖正面挑戰這種高度集中、由單一供應商主導的結構。Modular 的目標不是再做一顆新晶片，而是打造一套「可攜式 AI 軟體堆疊平台」，讓 AI 模型能在不同 GPU 與加速器之間自由移動，不再被鎖死在輝達與 CUDA 的生態系中。

2022 年創業起點，底層工程師直闖 CUDA 核心

Modular 由兩位來自 Apple 與 Google 的底層軟體工程師於 2022 年創立。執行長 Chris Lattner 曾打造 Swift 與 LLVM 編譯器體系，共同創辦人 Tim Davis 則參與 Google TPU 關鍵軟體架構。

兩人都曾親歷過新硬體如何「靠軟體打開市場」的這個過程，因此選擇離開大型科技公司，直接挑戰 CUDA 所代表的 AI 軟體霸權。這場不對稱戰爭在業界眼中近乎瘋狂，但也因為對系統底層理解夠深，才被視為少數有機會嘗試的團隊。

CUDA 難以取代，AI 產業的結構性枷鎖

CUDA 原本只是讓顯示卡能被程式化的工具，隨著深度學習崛起，逐步擴張為涵蓋語言、函式庫、編譯器與推論引擎的完整生態。

對多數 AI 團隊而言，只要使用輝達 GPU，幾乎就無法避開 CUDA。即使市場上有 AMD GPU、TPU 或雲端業者自研晶片，每種硬體背後仍綁著專屬軟體，開發者自然傾向選擇最成熟、工具最齊全的 CUDA，形成高度鎖定的產業結構。

沒有誘因的工程，反而成為突破口

Lattner 指出，跨晶片、跨供應商的可攜式 AI 軟體並非不重要，而是「沒有人有足夠誘因承擔成本」。這類工程難度極高、回收期漫長，短期內幾乎看不到商業成果，卻是整個產業普遍渴望的能力。

正是這種矛盾，讓 Modular 選擇在生成式 AI 爆發前，提前投入底層系統的長期開發，並在成立後前三年刻意遠離市場聚光燈。

三年低調耕耘，資金與團隊逐步到位

截至 2025 年，Modular 已累計募得約 3.8 億美元資金，投資人包括多家矽谷一線創投。2025 年 9 月完成最新一輪融資後，公司估值約 16 億美元。

這些資源讓 Modular 能夠招募來自 Google、Apple 的資深工程師，組成專注於編譯器、系統軟體與 AI 基礎建設的團隊，持續打磨完整軟體堆疊。

三層軟體架構，從語言到算力叢集

Modular 的技術核心由三層組成，分別為：

1. 最上層：為 Mammoth，用來協助企業在多 GPU、多供應商環境中進行算力調度與管理，解決實際部署與維運問題。
2. 中間層：為 MAX 推論引擎，負責模型實際運行，已支援 NVIDIA、AMD 與 Apple Silicon。
3. 最底層：為 Mojo 程式語言，語法貼近 Python、效能接近 C++，可與主流 AI 框架整合。

2025 關鍵驗證，統一運算層正式成形

2025 年 9 月，Modular 公布關鍵測試成果，在同一套軟體平台下，同時驅動輝達 Blackwell B200 與 AMD MI355X 跑出頂級效能，其中 MI355X 表現甚至較 AMD 原生軟體提升約 50%。

隨後在 12/22，Modular Platform 25.6 正式發布，完整支援資料中心與消費級 GPU，並首次讓 Mojo 直接支援 Apple Silicon。官方將此形容為「Write once, run anywhere」，也就是：

「開發者用 Mojo 寫好的程式碼，不需要為輝達、AMD、Apple Silicon 各寫一套版本，同一份程式，就能在不同 GPU、不同供應商的硬體上執行。」

象徵統一 AI 運算層從概念走向實際落地。