黃仁勳指輝達目標成為「AI界TSMC」 輝達正式推出AI代工服務
【財經中心／台北報導】輝達執行長黃仁勳之前曾表示，將推出一系列軟體，讓企業更容易將AI系統整合到事業中，加速跨足軟體服務市場，目標是成為「AI界的台積電」(TSMC for AI)。
正式推出「NVIDIA AI Foundry」代工服務
輝達昨也發布新聞稿，正式推出「NVIDIA AI Foundry」代工服務和「NVIDIA NIM」推理微服務。
輝達表示，客戶可以使用Meta的Llama 3.1AI 模型，以及輝達的軟體、運算和專業知識，為特定領域量身打造「超級模型」。客戶可以利用專有資料、由Llama 3.1 405B和輝達Nemotron Reward模型產生的合成資料來訓練這些「超級模型」。
NVIDIA AI Foundry 由 NVIDIA DGX™ Cloud AI平台提供支持，該平台與全球領先的公有雲共同設計，為企業提供大量運算資源，並可根據 AI 需求的變化輕鬆擴展。
NVIDIA NIM是一套加速推理微服務
NVIDIA AI Foundry包括Nemotron和Edify等輝達創建的AI模型、流行的開放式基礎模型、用於定制模型的NVIDIA NeMo™軟體，以及NVIDIA DGX™ Cloud上的專用容量（由輝達AI 專家構建並提供支援）。
輸出結果由NVIDIA NIM（一個推理微服務，其中包括客製化模型、最佳化引擎和標準API）負責，可以部署到任何地方。
至於NVIDIA NIM是一套加速推理微服務，讓企業在雲端運算、資料中心、工作站和 PC等任何地方的 NVIDIA GPU上運行AI模型。
透過使用業界標準的API，開發人員只需幾行程式碼就能利用NIM部署人工智慧模型。NIM 容器無縫整合Kubernetes（K8s）生態系統，可有效率地協調和管理容器化人工智慧應用。
廣告
