美晶片投資專家：Google TPU 暫居上風，但 NVIDIA GPU 更具長期優勢

美晶片投資專家 Gavin Baker 在最新訪談中深入解析輝達 GPU (Hopper、Blackwell) 與 Google TPU 的差異，包括從技術、效能、成本與協同運作等角度來深度剖析。他指出，Google TPU 在短期具暫時領先優勢，但從長期來看，NVIDIA 的 GPU 生態系仍具更強的壟斷力。

Table of Contents

Toggle

GPU 是全棧平台，TPU 是單點 ASIC

Baker 表示，AI 加速器的分歧從最底層的設計理念就已經出現。輝達的 GPU，從 Hopper、Blackwell 到未來的 Rubin，都強調是全棧平台，從 GPU 本體、GPU 雙向互連技術 NVLink、網路卡、交換器到 CUDA、TensorRT 等軟體層，全都由輝達一手包辦。企業買了 GPU 之後，等於可取得一整套能直接投入訓練和推論的完整環境，不需要再自行組裝網路或重新寫軟體。

相較之下，Google TPU (v4、v5e、v6、v7) 本質是特殊應用積體電路 ASIC，也就是專門為特定 AI 運算打造的加速器。Google 負責前端邏輯設計，但後端由博通 (Broadcom) 製作，再交由台積電 (TSMC) 生產。TPU 其他不可或缺的零件，例如交換器、網路卡與軟體生態，Google 都要自己整合，供應鏈協作比 GPU 複雜許多。

整體來說，GPU 的優勢不在於單顆晶片的效能，而是整個平台與生態系的完整度。這也是兩者競爭差距越來越明顯的起點。

Blackwell 效能大躍進，TPU v6/v7 面臨更大壓力

Baker 指出，進入 2024 – 2025 年，GPU 與 TPU 的效能差距愈加明顯。Blackwell 的 GB200 到 GB300 是一次大幅度的架構跳躍，轉向液冷設計，單機櫃耗電達 130kW，整體複雜度更是前所未見。真正大量部署的時間距今不過三、四個月，仍處於非常新的階段。

下一代 GB300 又能直接插入 GB200 的機櫃，企業擴建速度因此會更快，其中 xAI 因為打造機房速度最快，被視為第一批能將 Blackwell 效能發揮到極致的客戶。Baker 比喻：

「如果 Hopper 被形容成二戰末最先進的飛機，那 TPU v6/v7 就像 F-4 Phantom，是再往後兩代的飛機。而 Blackwell 則是 F-35，屬於完全不同級別的性能。」

說明 TPU v6/v7 與 Blackwell 的硬體級別不同，也點出現階段 Google Gemini 3 使用的仍是 TPU v6/v7，而非 Blackwell 等級的設備。雖說 Google 在使用 TPU v6/v7 的狀態下就能訓練出 Gemini 3 這類高水準模型，但隨著 Blackwell 系列大規模推出，兩種架構之間的性能差異會越來越明顯。

TPU 曾是最低成本王，但 GB300 將改寫局面

Baker 表示，TPU 過去最關鍵的優勢，就是擁有全世界最低的訓練成本。而且 Google 確實使用這項優勢，壓縮競爭對手的募資與營運空間。

但 Baker 指出，一旦 GB300 大規模部署，市場上成本最低的訓練平台會轉向採用 GB300 的公司，尤其是像 XAI 這種具備垂直整合能力、自建機房的團隊。而 OpenAI 如果未來能突破算力瓶頸，具備自建硬體能力，也可能加入 GB300 陣營。

這代表，一旦 Google 不再掌握成本領先地位，先前的低價策略將難以維持。訓練成本的主導權，也會從長期由 TPU 掌控，轉變為由 GB300 重新分配。

GPU 擴展協同速度更快，TPU 整合負擔較重

大模型的進展越快，對大規模 GPU 協同運作的需求越高，而這也是 GPU 近年明顯壓過 TPU 的關鍵環節之一。Baker 指出，GPU 集群透過 NVLink，可把協同規模推到 20 萬到 30 萬顆 GPU，讓大型模型能夠使用更大的訓練預算。XAI 快速建置的大型資料中心，更迫使輝達提早釋出最佳化方案，加速整個 GPU 生態的演進。

反觀 TPU，由於 Google 要自行整合交換器與網路，還要協調博通與台積電的供應鏈，整體工程複雜度高於 GPU。