谷歌的 TPU v7(代號 Ironwood)已正式發布,並將於未來幾週內上市,Ironwood v7專為更高性能 AI 工作負載而設計,尤其適用於大規模模型訓練和推理任務。
最關鍵的是,TPU v7對英偉達在 AI 硬體市場的統治地位構成了更重大的競爭威脅。
TPU v7 的峰值性能為 4,614 TFLOPS,與英偉達的旗艦 GPU(例如 B200 和 GB300)不相上下,這效能使得那些需要高運算能力,但又不想消耗過多能源的 AI 工作負載,極具吸引力。
Ironwood 的設計旨在顯著提高能效,據報道,其在 AI 任務中的能源效率比英偉達 GPU 高出 2-3 倍,這種效率轉化為更低的營運成本,尤其是在功耗至關重要的大規模部署中。
TPU v7 支援 9,216 個晶片無縫協作的配置,並利用了光路交換 (OCS) 等先進的互連技術。這種能力實現了高效的擴展,其性能優於傳統的GPU集群,後者在擴展過程中經常面臨通訊瓶頸。
個人認為,TPU v7最厲害的是,大大降低了總體擁有成本 (TCO),TPU v7 的 TCO 預計將比英偉達的 GPU 低約 30-41%,這項成本優勢源自於Google無需支付「英偉達稅」,即英偉達對其產品收取的高額利潤。因此,Google可以用相同的預算部署更多的 TPU 資源,從而增強其競爭優勢。
像Anthropic這樣的大型公司越來越多地在其AI模型中採用Google的TPU,這表明大多科企的偏好正在轉向能夠提供更好性能和成本效益的專用硬體,這便極可能進一步削弱輝達的市場份額。
一言以蔽之,TPU v7對英偉達在AI市場的GPU主導地位構成嚴峻挑戰,憑藉其卓越的性能、優異的能源效率和更低的整體擁有成本(這是關鍵!)Google正將其TPU定位為尋求優化AI基礎設施的企業的可行替代方案,足令輝達股價出現極大的下行壓力!