AI是超級吃電怪獸 富國銀行估2030年用電需求激增80.5倍

財經 國際焦點
2024/07/09 18:25
CC 文章

【財經中心/台北】AI有多耗電?根據富國銀行(Wells Fargo)預測,今年AI用電需求為8 TWh(百萬兆瓦時),而到2030年將激增到652 TWh,暴增80.5倍。

AI雖然成為科技潮流,卻也是吃電怪獸,圖為輝達執行長黃仁勳。資料照片林林攝 zoomin
AI雖然成為科技潮流,卻也是吃電怪獸,圖為輝達執行長黃仁勳。資料照片林林攝
分享 連結 下載App

AI產業面臨嚴重用電荒挑戰

AI雖然成為未來科技趨勢,但也是吃電怪獸,富國銀行表示,AI耗電主要是訓練AI模型方面,在2026年將達到40 TWh,2030年將達到 402 TWh;此外,AI推理耗電量將會在20年代末出現快速成長。

如果單看這個數字可能沒有太多感覺,但若以2023年中國全年用電為9224.1 TWh來看,上海市全年用電為184.9 TWh,深圳市全年用電為112.8 TWh,就可知道AI的耗電量多驚人。

IT之家指出,AI產業正面臨嚴重的用電荒挑戰。以輝達的H100 AI GPU為例,採用SXM外形的H100單機功耗就高達700W,而輝達的下一代B200 AI GPU更恐怖,每片功耗將達到1200W。

輝達GPU耗電量驚人

AMD也是如此,上一代Instinct MI250 AI加速器的峰值功耗為560瓦,該公司新推出的MI300X AI加速器的峰值功耗為750瓦,比上一代增加50%。

英特爾也不落人後,其新款Gaudi 2 AI加速器的峰值功耗為600W,新款Gaudi 3 AI加速器的峰值功耗為900W(又增加50%)。

英特爾下一代Falcon Shore混合AI處理器的功耗更高,刷新業內最高紀錄,每個晶片的峰值功耗達到驚人的1500W。

這只是單獨計算GPU部分,如果再加上CPU以及其它附加組件,其耗電量更加驚人,以輝達GB200(2 個B200 GPU和1個 Grace CPU)為例,功耗達到驚人的2700W。

廣告

知新聞 Line 官方帳號

⭐️ 即刻下載《知新聞》App!免費!

餐酒館
台北市知名永康街蔥抓餅二店
# 耗電 # 電力 # 吃電怪獸 # 用電量