耗資千億打造!馬斯克「地表最強AI訓練叢集」啟用 部署10萬台輝達H100
【編譯于倩若/綜合外電】馬斯克表示,他的AI新創公司「xAI」已在周一在田納西州啟動10萬部輝達H100 GPU,號稱是目前世上最強大AI訓練超級電腦叢集。
馬斯克表示,xAI、X和輝達(Nvidia)團隊之間的合作,使位於田納西州孟菲斯(Memphis)超級電腦叢集,能在當地周一凌晨4點20分開始訓練。據馬斯克介紹,這個超級電腦叢集由10萬個輝達H100 GPU組成,使其成為當今市場上最強大的AI訓練叢集。
馬斯克在X上寫道:「xAI團隊、X團隊、輝達團隊以及支援公司的表現非常出色,讓孟菲斯超級叢集在當地時間凌晨4:20開始進行訓練,在單一RDMA結構上擁有10萬個液冷H100,是世上最強大AI訓練叢集!從各個指標來看,這對於在今年12月之前訓練世上最強大AI來說,都是一個顯著的優勢。」
據《TESLARATI》報導,xAI的超級電腦叢集預料將用於訓練該公司的大型語言模型Grok,該模型目前作為X(原推特)Premium訂閱者的功能推出。本月稍早,馬斯克在X上一篇貼文中指出,xAI的Grok 3將在10萬個H100 GPU上進行訓練,因此「它(Grok)應該會很特別。」
早在6月初就有報導稱,xAI將在孟菲斯佔地78.5萬平方呎原先是伊萊克斯(Electrolux )孟菲斯工廠,建造一個超級電腦叢集,非正式地被稱為「計算超級工廠」(Gigafactory of Compute)。
廣告
xAI的投資相當巨大。據《Benzinga》報導,每個輝達H100 GPU的成本估計在3萬到4萬美元之間。考慮到xAI用了10萬個H100,馬斯克的AI新創公司似乎已在該計劃花費約30億至40億美元(約985.44億至1313.92億台幣)。