Skip to main content

REDMADMEDIA 網誌

回前頁
對Nvidia GPU更大的威脅要來了 - 谷歌第七代TPU - 銀發德財

對Nvidia GPU更大的威脅要來了 - 谷歌第七代TPU

· · 專欄: 銀發德財

谷歌的 TPU v7(代號 Ironwood)已正式發布,並將於未來幾週內上市,Ironwood v7專為更高性能 AI 工作負載而設計,尤其適用於大規模模型訓練和推理任務。

最關鍵的是,TPU v7對英偉達在 AI 硬體市場的統治地位構成了更重大的競爭威脅。

TPU v7 的峰值性能為 4,614 TFLOPS,與英偉達的旗艦 GPU(例如 B200 和 GB300)不相上下,這效能使得那些需要高運算能力,但又不想消耗過多能源的 AI 工作負載,極具吸引力。

Ironwood 的設計旨在顯著提高能效,據報道,其在 AI 任務中的能源效率比英偉達 GPU 高出 2-3 倍,這種效率轉化為更低的營運成本,尤其是在功耗至關重要的大規模部署中。

TPU v7 支援 9,216 個晶片無縫協作的配置,並利用了光路交換 (OCS) 等先進的互連技術。這種能力實現了高效的擴展,其性能優於傳統的GPU集群,後者在擴展過程中經常面臨通訊瓶頸。

個人認為,TPU v7最厲害的是,大大降低了總體擁有成本 (TCO),TPU v7 的 TCO 預計將比英偉達的 GPU 低約 30-41%,這項成本優勢源自於Google無需支付「英偉達稅」,即英偉達對其產品收取的高額利潤。因此,Google可以用相同的預算部署更多的 TPU 資源,從而增強其競爭優勢。

像Anthropic這樣的大型公司越來越多地在其AI模型中採用Google的TPU,這表明大多科企的偏好正在轉向能夠提供更好性能和成本效益的專用硬體,這便極可能進一步削弱輝達的市場份額。

一言以蔽之,TPU v7對英偉達在AI市場的GPU主導地位構成嚴峻挑戰,憑藉其卓越的性能、優異的能源效率和更低的整體擁有成本(這是關鍵!)Google正將其TPU定位為尋求優化AI基礎設施的企業的可行替代方案,足令輝達股價出現極大的下行壓力!

0 likes

推薦文章

何謂量子坍縮?- 理解量子三部曲(2)

何謂量子坍縮?- 理解量子三部曲(2)

人世間,四週充斥著量子,微細得無形無相,一旦被「觀察」,這些量子就會「坍縮」下來,成為我們可見的事物。若萬事萬物也是這道理,那我們們的存在,也該是持續被觀察著,這位觀察著,該是上帝吧! 量子坍…

日本上高地河童橋

日本上高地河童橋

日本上高地河童橋是一座著名的木製懸索橋,位於長野縣阿爾卑斯山脈風景秀麗的上高地山谷中心,它是該地區最具標誌性的地標之一,也是自然愛好者、攝影師和徒步旅行者的熱門目的地。 河童橋橋樑橫跨…

跟AI 說比喻

跟AI 說比喻

我自小學習甚麼事都是自學得來,就是上半身教出名堂的經濟科,少時也是純自學。那個高考時代,已過三十歲的人都明白,課程艱深得大多的日校老師都教唔「掂」,我當年預科,有日校Econ 老師等於無,甚至是負影…

留言 (0)

還沒有留言,成為第一個留言的人吧!

發表留言

您必須登入才能留言。