黃仁勳無懼地緣政治讚台灣「是非凡的地方」 由台積電建構生態系難以置信

財經 產業脈動
2024/06/04 20:46
克里夫 文章

【記者蕭文康/台北報導】「3兆男」NVIDIA創辦人暨執行長黃仁勳今下午與來自全球數百家媒體見面,他透露,在HBM(高頻寬記憶體)正與3家廠商合作,同時提出三大方法解決AI使用大量電力問題,最後他強調台灣供應鏈的重要性,雖然有地緣政治影響,但「如果你來自台灣,而且你是台灣的公司,你應該對你的機器感到非常自豪,這是個非凡的地方」,再度展現愛台灣、投資台灣的決心。

NVIDIA執行長黃仁勳。林林攝
NVIDIA執行長黃仁勳。林林攝
分享 加入好友

HBM與海力士、三星及美光合作

黃仁勳今天行程滿檔,原本預計下午3點的記者會延後約20分鐘,他一開始就說,今天到現在只吃6顆Tic Tacs糖果,並笑說「CEO們並不適合這份工作」,於是就拿起火雞三明治吃,還說裡面沒有美乃滋「很乾」,而且他大腦現在只有25%在運轉,不能回答太多問題,只能問簡單的,笑翻全場。

針對韓國媒體詢問有關輝達對於HBM記憶體的需求,黃仁勳表示,HBM對NVIDIA非常重要,我們正在迅速成長,擁有華碩(ASUS Copper)、H100、H200,還有B100、B300、Grace BlackWaltz GB200,正在使用的HBM記憶體數量相當可觀,所需要的速度也非常重要,NVIDIA與3家合作夥伴合作,包括SK海力士、美光和三星,這3家公司都將為NVIDIA提供HBM記憶體,目前正嘗試讓它們通過資格認證,並盡快將它們納入我們的製造商。

AI在遊戲中應用跳脫傳統模式

此外,AI在遊戲中的應用越來越廣泛,它從DLSS開始,現在Ace可以讓NPC像真人一樣交談,非常令人驚奇,是否有可能進一步發展,例如在遊戲中應用多模態,甚至用AI來直接生成遊戲圖形,而不是傳統的方式?黃仁勳說,你們將會看到,我們已經使用AI來處理神經網絡圖,能夠推斷或生成我們沒有渲染的像素,當我們只渲染非常少的像素時,能夠生成大量的其他像素。

因此,我們可以實現非常高品質的光線追蹤、路徑追蹤100%的時間,且依然能夠達到優秀的幀速率,我們甚至會生成幀與幀之間的幀,因此,我們不僅生成像素,還會生成幀。未來,我們甚至會生成紋理和物體,這樣一來,即使物體是低解析度的,也能生成高解析度,即使紋理是低品質,也能生成高品質,還可以壓縮它們,將會在未來獲得越來越豐富的遊戲體驗。 

他指出,在遊戲中,所有的角色都會由AI來驅動,就像是和6個同事一起進行一次戰鬥,這6個同事中,可能兩個是真人,剩下的4個是AI,且這些AI已經和你玩了很長時間,所以它們記得你,你將會與AI一起遊玩,有AI作為你的敵手,遊戲將會由AI生成,內部包含AI角色。

至於輝達是如何怎麼從遊戲跳到AI的供應鏈?黃仁勳的答案是,NVIDIA當然有看到很棒的新遊戲,這將繼續推動我們的GeForce業務,我們的GeForce業務非常活躍,表現出色,今天它是世界上最大的遊戲平台,我們有優秀的合作夥伴,他預計GeForce將繼續成長,現在有了RTX AI,開發的軟體套件和工具,可以讓任何GeForce客戶享受AI技術。 

 

黃仁勳在記者會上吃三明治。林林攝
黃仁勳在記者會上吃三明治。林林攝

黃仁勳提三大建議解決AI在能源及電力問題

至於要如何解決AI消耗能源及電力問題,讓整個環境可持續發展,同時滿足我們的計算需求,黃仁勳提出3點建議。第一,人工智慧使用加速計算,加速計算應該是現代計算的方式,不僅使用通用計算,能加速每一個應用程序的計算,因為你買得越多,省得越多,在很多實例中,你能節省金錢、節省時間、節省能源,第一點就是加速創新。

第二,生成式人工智慧不僅僅是訓練,它更注重推理,目標不是訓練,而是進行推理,當你進行推理時,所使用的能源量相比其他計算方式要少得多,例如,我展示過的氣候模擬,在台灣的氣象模擬中,使用的電力是原本的1/3000,不是30%,這種情況在很多應用程序都會出現,所以人工智慧不僅僅在於訓練,更是長期的推理應用,推理節省的能量是巨大的。 

第三,也是他最喜歡的一部分,AI不在乎它在哪裡受教育,這個世界沒有足夠的電力和人口密集區,但世界上有許多多餘的能源,因為僅來自太陽的能量就已令人難以置信,但這些能量都集中在錯誤的地方,這些地方是人們不想居住的地方,我們應該在沒有人口的地區設立發電廠和數據中心,你不需要為此使用電網,在其他地方訓練模型,再將模型搬到其他地方,因此,有三個不同的想法,加速一切,不僅僅考慮訓練還要考慮推理。 

產品定價與價值有關

有媒體提問要如何定價這些新型晶片?黃仁勳說,定價總是基於價值,如果產品定價合理,需求會非常驚人,但不存在這樣的事情,我們必須建構整個系統,開發所有軟體,把它分成很多部分,然後我們將這樣的晶片銷售給你,最終,我們實際上是在銷售AI基礎設施。

他認為,這有點像過去微軟會交付office系統,或者自己交付office,他們編寫了軟體,但他們將其交付給你的方式是磁片,所以問題是,微軟並未在賣磁片,磁片只是交付工具,我們的晶片就像軟體概念的交付工具,這是最簡單的理解方式。關於成本部分,輝達在8年內將能量消耗降低到原本的1/45000,摩爾定律絕對不可能達成,我們已將訓練成本降低到原本的1/350,再過2年,有可能達到1/1200。

目前世界正在訓練大型語言模型的原因是,培訓的邊際成本在10年內下降至原本的1/1000,假設你做的某件事情,在10年內邊際成本下降到原本的1/1000,他舉例,比如說從澳洲到台灣旅行,由原來的3000美元變成3美元,原來24小時的行程變成20分鐘,如果你從澳洲到台灣只需24分鐘,或者2分鐘,而且只要3美元,我打賭你會經常來台灣,可能只為了逛夜市而來,然後就回家。

所以,透過降低邊際成本,透過降低能源消耗,透過降低成本和時間,我們正在促成生成式人工智慧的發展,如果我們不這麼做,生成式人工智慧還有10年的路要走。

至於NVIDIA如何因應有關大型數據中心的環境問題,黃仁勳認為,每個數據中心、每家公司都必須做的是,加速每個應用程序,將能源消耗減少90%,這是首要任務,包括數據處理、推理、語音識別、圖像識別都減少90%。

台灣處於地緣政治但由台積電建構生態系是令人難以置信

有關台灣的地緣政治風險,輝達是否還會考慮在台設立研究中心?黃仁勳強調,我們知道合作夥伴的節奏,彼此心靈相通,在彼此都有默契下,有很高的產量及快速生產,與台積電一起建構非常複雜的事物,這無法隨便找個人來替代。

他還說,這個生態系統令人難以置信,「這裡的技術是不可思議的,封裝技術也是不可思議的,當你推出某樣產品並要進行測試時,測試技術也是不可思議的,包括系統製造商及物流也都是不可思議的。

黃仁勳說,如果我們能在其他地方構建這些東西,或許可以考慮,但最重要的因素還是要能夠完全製造出來,因此,包括台積電及周圍的生態系統,這些公司都被低估,也是無名英雄,「如果你來自台灣,你是台灣的公司,應該對你的技術感到非常自豪,這是個非凡的地方,我對這裡的合作夥伴感到非常驕傲,他們是偉大的群體,也感謝他們為輝達所做的一切,所提供的支持。」

知新聞 Line 官方帳號