埃隆·馬斯克:100 萬張英偉達 GPU?不,我的超級計算機需要 5000 萬張的算力
(照片由 KIRSTY WIGGLESWORTH/POOL/美聯(lián)社提供)
埃隆·馬斯克不僅限于收購 100 萬張英偉達 GPU 用于 AI 訓(xùn)練。這位億萬富翁希望獲得更多 GPU,因為他的初創(chuàng)公司 xAI 正努力在下一代 AI 系統(tǒng)上超越競爭對手。
Musk 今天發(fā)推文表示,xAI 的目標是擁有與 5000 萬英偉達 H100 GPU 相當(dāng)?shù)挠嬎隳芰Γ@種企業(yè)級圖形芯片被廣泛用于 AI 訓(xùn)練和運行聊天機器人?!皒AI 的目標是在 5 年內(nèi)實現(xiàn) 5000 萬個 H100 等效-AI 計算單元(但功率效率更高)在線,”他說。
Musk 的推文是在競爭對手 Sam Altman,即 OpenAI 的 CEO,在其自己的帖子中寫下了計劃在本年底前運行“超過 100 萬張 GPU”,目標是指數(shù)級提升計算能力“100 倍”之后。與此同時,Meta 的 CEO 馬克·扎克伯格也有一個類似的目標;他希望建設(shè)大型數(shù)據(jù)中心,專門用于開發(fā) AI 超級智能。
這些不斷增長的 AI 投資突顯了擴大規(guī)模( 并吸引頂尖人才 )的成本之高。Musk 的推文并不意味著他會試圖購買 5000 萬張 GPU,盡管如此。H100 是在 2022 年推出的,在英偉達開始提供更強大的模型之前,包括 GB200,據(jù)報道它可以提供高達 2.5 倍的性能提升。
英偉達還發(fā)布了一份路線圖 ,概述了兩種額外的 GPU 架構(gòu),Rubin 和 Feynman,它們承諾在未來幾年內(nèi)以更高的能效釋放更強大的 AI 芯片。然而,為了實現(xiàn)他的目標,Musk 的 xAI 可能需要購買數(shù)百萬個英偉達 GPU。
與此同時,馬斯克在另一條推文中表示,位于田納西州孟菲斯市的 xAI 公司的 Colossus 超級計算機已增長到 23 萬個 GPU,其中包括 3 萬個 Nvidia GB200。他的公司還在建造第二個 Colossus 數(shù)據(jù)中心,該數(shù)據(jù)中心將容納 55 萬個 GPU,這些 GPU 由 Nvidia 的 GB200 和更先進的 GB300 芯片組成。
這種計算能力需要大量的電力;xAI 正在巨像地點使用燃氣渦輪機,環(huán)保組織說它們正在加劇孟菲斯空氣污染 。
評論