英特爾嗆聲NVIDIA Gaudi 3 AI加速器效能勝過H100/H200

英特爾嗆聲NVIDIA Gaudi 3 AI加速器效能勝過H100/H200

【記者蕭文康/台北報導】英特爾在Vision 2024大會上,宣布推出Intel® Gaudi® 3 AI加速器,與前代產品相比,Gaudi 3為BF16提供4倍AI運算能力、1.5倍記憶體頻寬以及2倍網路頻寬,可擴充大規模系統,將有助大型語言模型(LLM)和多模態模型的AI訓練和推理,大幅提升效能和生產力。英特爾同時公開比拚NVIDIA的H100,強調Gaudi 3的訓練時間加快50%、推論吞吐量提升50%、推論能源效率提升40%;與NVIDIA H200相比,推理速度則提升30%。
載入更多