AI是超級吃電怪獸 富國銀行估2030年用電需求激增80.5倍
【財經中心/台北】AI有多耗電?根據富國銀行(Wells Fargo)預測,今年AI用電需求為8 TWh(百萬兆瓦時),而到2030年將激增到652 TWh,暴增80.5倍。
AI產業面臨嚴重用電荒挑戰
AI雖然成為未來科技趨勢,但也是吃電怪獸,富國銀行表示,AI耗電主要是訓練AI模型方面,在2026年將達到40 TWh,2030年將達到 402 TWh;此外,AI推理耗電量將會在20年代末出現快速成長。
如果單看這個數字可能沒有太多感覺,但若以2023年中國全年用電為9224.1 TWh來看,上海市全年用電為184.9 TWh,深圳市全年用電為112.8 TWh,就可知道AI的耗電量多驚人。
IT之家指出,AI產業正面臨嚴重的用電荒挑戰。以輝達的H100 AI GPU為例,採用SXM外形的H100單機功耗就高達700W,而輝達的下一代B200 AI GPU更恐怖,每片功耗將達到1200W。
輝達GPU耗電量驚人
AMD也是如此,上一代Instinct MI250 AI加速器的峰值功耗為560瓦,該公司新推出的MI300X AI加速器的峰值功耗為750瓦,比上一代增加50%。
英特爾也不落人後,其新款Gaudi 2 AI加速器的峰值功耗為600W,新款Gaudi 3 AI加速器的峰值功耗為900W(又增加50%)。
英特爾下一代Falcon Shore混合AI處理器的功耗更高,刷新業內最高紀錄,每個晶片的峰值功耗達到驚人的1500W。
這只是單獨計算GPU部分,如果再加上CPU以及其它附加組件,其耗電量更加驚人,以輝達GB200(2 個B200 GPU和1個 Grace CPU)為例,功耗達到驚人的2700W。
廣告