「3兆男」黃仁勳開講!讚台灣是AI起點 大秀最新晶片、稱機器人時代來臨
【記者蕭文康/台北報導】近1周在台灣刮起一陣旋風的「3兆男」NVIDIA創辦人暨執行長黃仁勳今晚搶在COMPUTEX展前發表專題演講「AI時代全球新產業革命」,2個多小時約發表10大主題,從一開始秀台灣地圖強調台灣是珍貴夥伴的集中地,NVIDIA也是從這裡開始,會中不僅用AI說中文介紹孿生地球可以幫助台灣預測颱風、提出「數位人類」概念、機器人及供應鏈,最後更以影片稱讚台灣供應鏈是無名英雄、世界的支柱,謝謝台灣讓我們繼續這一段AI創新之旅,他全場滿滿愛台灣的表現獲得現場滿堂彩。
企業巨頭齊聚、會場逾4千人聆聽座無虛席
今晚現場除了有供應鏈重量級人士出席,共有來自全球600家媒體報名參加,現場湧進逾4000人,座無虛席。而主辦單位了這場有市值上百兆人士出席的安全,提早2時安檢,現場排起長長人龍。
今晚出席的官員及企業巨頭包括有經濟部長郭智輝,數位部長黃彥男、鴻海董座劉揚偉、華碩董座施崇棠、台灣大董事長蔡明忠、廣達董座林百里和副董梁次震、緯創董事長林憲銘、技嘉董事長葉培城、威盛董事長陳文琦、聯發科總經理陳冠州和共同營運長顧大為、台塑董事長林健男,光寶科總經理邱森彬、台達電董事長鄭平等人。
稱讚台灣是AI基礎建設的起點
黃仁勳身穿招牌黑皮衣跑步出場說「我很高興回來,我沒辦法走、我要跑」因為要分享的技術太多,但台灣是AI基礎建設的起點,很高興來到台灣,台灣是夥伴的家,這些都是NVIDIA開始的起點,一切都從台灣帶到全世界與台灣夥 伴創造全球AI的基礎架構,這是前所未有,而生成式AI接下來會有什麼發展和接下來會發生什事 ?重新啟動電子產業,他要大家「準備好下一段旅程。同時提示今展現的都是模擬出來的畫面,都是數學、科學但不是動畫,而是自己做出來的。
PC業界攜手NVIDIA打造AI工廠和資料中心迎接下一次工業革命
黃仁勳說:「下一次工業革命已經展開。企業與國家正在與 NVIDIA合作,將耗資上兆美元的傳統資料中心改為採用加速運算技術,並且建立新型資料中心,也就是AI工廠,以生產新的商品,那便是AI。從伺服器、網路和基礎設施製造商,再到軟體開發商,整個產業上下都在為迎接 Blackwell 架構做好準備,以加速各個領域由AI驅動的創新。」
其中包括全新的 NVIDIA GB200 NVL2 平台,該平台專為主流大型語言模型推論、檢索增強生成及資料處理提供無與倫比的效能。
GB200 NVL2非常適合用於資料分析等新興市場商機,企業每年在這些領域的支出高達數百億美元。利用 NVLink®-C2C 晶片互連技術提供的高頻寬記憶體效能,以及 Blackwell 架構中的專用解壓縮引擎,將資料處理速度提高了 18 倍,能源使用效率比使用x86 CPU提高了8倍
黃仁勳宣布台灣的領先企業正迅速採用Blackwell架構,將AI的強大力量用在處理自家業務。台灣長庚紀念醫院計畫利用 NVIDIA Blackwell 運算平台推動生物醫學研究、加速成像和語言應用等領域的發展,以改善臨床工作流程,最終強化病患照護。
鴻海科技集團計畫利用 NVIDIA Grace Blackwell 架構技術開發智慧解決方案平台,用於由AI技術驅動的電動車和機器人平台,以及數量日漸增加的語言式生成式AI服務,為客戶提供更加符合個人使用需求的體驗。
NVIDIA大幅加強用於生成式人工智慧的乙太網路
NVIDIA宣布業界廣泛採用 NVIDIA Spectrum™-X 乙太網路平台,並且將加快發布新品的腳步。雲端服務供應商、GPU 雲端供應商及企業採用 Spectrum-X,而系統製造商的廣泛支援也將 NVIDIA 網路技術的應用範圍延伸至各個市場
CUDA資料函式庫速度提高100倍
黃仁勳介紹上周公布的Faster pandas on Google,這是大家最喜歡的資料函式庫。資料科學家使用的試算表,現在只要一個鍵,在copilit按一下來使用非常簡短、一目了然,CUDA讓我們產業進入轉類點。2012發現CUDA其實很好用,第一次接觸到AI;2016把世界第一台超級電腦交給OpenAI;2017有了Transformer系統,可以進行自然語言處理;2022/11月用成千上萬個GPU打造了ChatGPT。
他說,CUDA實現良性循環,如果我們沒有CUDA,就沒有辦法有更多深度學習出來,這些是NVIDIA的350個函式庫,是我們的寶藏。這也意味著我們有很多機會,可以擴充研發規模。讓應用程式開發更多、更快,速度提高100倍。
數位孿生地球可以幫助台灣預測颱風
黃仁勳以AI中文秀出數位孿生地球Earth-2來反映真實的世界模型,也就是用今天行為預測未來的影響,模擬氣候,融合人工智慧、物理模擬與觀測數據,幫助國家、公司預見未來,應對極端氣候的影響。他說這其實是「Jenson AI」說的,「我的國語不夠好」他問問現場聽眾「我的國語標準嗎?是我的數位孿生幫我做的旁白。這真的是奇蹟。」引發一陣哄堂大笑。
Blackwell採一年一節奏,明年會有Blackwell Ultra
黃仁勳指出,Blackwell採台積電4奈米製程,是有史以來功能最強大的。把兩個GPU裸晶串連一起,速度是10TB,史上最強。他驚歎運算速度8年內可增加1千倍,且成本不斷下降,而摩爾定律8年才40倍。
此時現場放起節奏強烈的音樂,黃仁勳要現場聽眾跟著他打節拍,並笑說現在是晚上,早上總不能放這樣的音樂吧?笑翻全場。他接著說,「這種專題的演講,不會在台北電腦展看過,但也可能是最後一次,只有NVIDIA作得到,只有我做得到。」
他表示,Blackwell是第一代的平台,將一年一節奏,要建立整個資料中心彙整,再分拆給大家去設計,不管台積電製成會怎麼推到甚麼極致,光學可以怎麼推,我們就會利用去。他並透露,明年會是下一 代的Blackwell Altra,2026則再推新一 代Rubin。
宣布推出NVIDIA NIM、點名鴻海及和碩將採用
NVIDIA今日宣布全球 2800 萬名開發人員現在可以下載以最佳化容器形式提供模型的推論微服務 NVIDIA NIM™ ,並且將其部署到雲端、資料中心或工作站上,使得開發人員能夠在數分鐘裡輕鬆構建用於輔助夥伴(copilot)、聊天機器人等的生成式人工智慧(AI)應用程式,而這個過程原先需要耗費數週的時間。
黃仁勳說明,每個企業都想要在其營運活動中加入生成式AI,但又不是每一家公司都有專門的AI研究團隊。透過將生成式AI技術與隨處可見的平台進行整合,讓全球各地的開發人員都能使用,在任何一個地方運行,NVIDIA NIM 幫助科技業將生成式AI普及到每一個組織。
他並透露鴻海、和碩、Amdocs、勞氏公司(Lowe’s)、ServiceNow與西門子(Siemens)等產業重量級企業都在製造、醫療保健、金融服務、零售、客戶服務等領域,將 NIM用於生成式AI應用程式
電子製造商採用NVIDIA的技術打造機器人生產設施
黃仁勳介紹鴻海如何在NVIDIA Omniverse 平台上開發旗下工廠的數位孿生模型。而NVIDIA Omniverse 平台以虛擬方式整合來自如西門子Xcelerator平台的 Teamcenter等領先產業工具的3D資料。
除了鴻海,他還提到台達、和碩與緯創使用參考工作流程來建置、模擬和運行其有著機器人強化生產流程的工廠設施。
鴻海科技董事長劉揚偉在影片中表示:「AI和機器人技術有望徹底改變製造業,提高工廠作業區域的安全性與顯著提升經營效率。我們將 NVIDA Omniverse、Metropolis 和 Isaac 整合到各項作業,可以建立複雜的工廠數位孿生模型來訓練機器人,以前所未有的精細程度來調整出最佳的工作流程與降低成本。」
鴻海科技集團在世界各地經營著超過 170 處工廠,其中最新的一處是推動工業自動化技術最新發展的虛擬工廠。
它是墨西哥電子工業中心瓜達拉哈拉(Guadalajara)一處新工廠的數位孿生模型。鴻海科技集團的工程師在這個虛擬環境裡界定流程與訓練機器人,以便實體工廠能夠高效率地生產下一代加速運算的引擎 NVIDIA Blackwell HGX 系統。
為了設計出最佳的組裝線,工廠的工程師需要找到擺放數十個機械手臂的最佳位置,每個機械手臂都重達數百磅。加上為了準確監控整個過程,他們將數千個感測器放置在一個矩陣中,其中包括多具網路攝影機,以便向工廠操作員顯示所有正確的細節。
新推NVIDIA Isaac機器人平台
黃仁勳宣布全球機器人開發領域的領先企業採用 NVIDIA Isaac機器人平台,以研究、開發和生產下一代人工智慧(AI)自主機器和機器人。包括比亞迪電子、西門子、Teradyne Robotics 與 Alphabet 旗下的 Intrinsic 等全球十多家機器人產業領先企業,將 NVIDIA Isaac 加速函式庫、符合物理原則的模擬內容及AI模型納入其軟體框架和機器人模型,以提高工廠、倉庫和配送中心的效率,讓人類同事在更加安全的環境中執行工作,並且在執行重複性或超精密任務之際充當智慧助理。
黃仁勳說:「機器人時代已經到來。總有一天,所有會移動的東西都將自動操作。我們努力藉由推動 NVIDIA 機器人堆疊的發展,當中包括用於模擬應用的 Omniverse、Project GR00T 人型機器人基礎模型和 Jetson Thor 機器人電腦,加速推動符合物理原則的生成式AI。」
運用GeForce RTX AI PC實現AI助理的真實體驗
黃仁勳宣布推出全新NVIDIA RTX技術,用於支援在新款 GeForce RTX人工智慧(AI)筆記型電腦上運行的AI助理及數位人。他提到NVIDIA推出由 RTX 支援的AI助理技術展示內容 Project G-Assist,可為 PC 遊戲及應用程式提供環境感知協助功能。
此外,投影片中出現台灣PC品牌華碩(ASUS)與微星(MSI)最新發布的 RTX AI PC 筆記型電腦最高將搭載 GeForce RTX 4070 GPU ,和具有 Windows 11 AI PC 功能的節能系統單晶片。
發布數位人微服務為未來製作生成式AI數位化身奠定基礎
黃仁勳宣布NVIDIA ACE 生成式人工智慧(AI)微服務全面推出,以加速下一波數位人開發,以及即將於該平台登入的多項全新生成式AI突破。客戶服務、遊戲和醫療保健領域的公司率先採用 ACE 技術,讓創造、真實化及操作逼真的數位人可以變得更簡單,並可廣泛應用於客戶服務、遠距健康、遊戲和娛樂等領域。
NVIDIA ACE 數位人生成式 AI 技術套件的內容包括:NVIDIA Riva ASR、TTS 及 NMT—用於自動語音辨識、文字轉語音的轉換和翻譯、NVIDIA Nemotron LLM—用於語言理解和語境脈絡回應生成、NVIDIA Audio2Face—使用音軌製作栩栩如生的臉部動畫、NVIDIA Omniverse RTX—用於即時按照路徑追蹤製作出寫實的皮膚和毛髮。
黃仁勳認為,數位人將為各行各業帶來革命性的改變,NVIDIA ACE為我們的開發者生態系統帶來多模態大型語言模型和神經繪圖技術等領域所取得的突破性發展,將使得我們更加接近意圖驅動運算的未來,與電腦進行互動將像是人際互動一樣自然。