不用輝達GPU!報告洩Apple Intelligence在TPU進行訓練

財經 科技新知
2024/07/30 07:02
SJ 文章

【編譯于倩若/綜合外電】蘋果(Apple Inc.)表示其AI(人工智慧)模型是在Google客製化晶片上訓練的。這表明在AI訓練方面,一些大型科技公司可能正在尋找輝達GPU的替代品。

Apple Intelligence在Google客製化晶片上進行訓練。翻攝蘋果官網
Apple Intelligence在Google客製化晶片上進行訓練。翻攝蘋果官網
分享 加入好友

蘋果周一表示,支撐其AI系統Apple Intelligence的AI模型,是在Google設計的處理器上進行預先訓練的,這表明大型科技公司正在尋找輝達(Nvidia)的替代品來訓練尖端AI。

蘋果是在周一發布的一份技術報告中,揭露了選擇Google的TPU(Tensor Processing Unit)用於訓練。另外,蘋果周一也發布了適用於部分裝置的Apple Intelligence預覽版。

輝達昂貴的GPU(圖形處理器)在高階AI訓練晶片市場佔據主導地位,在過去幾年中需求量如此之大,以至於很難採購到所需的數量。OpenAI、微軟、Anthropic都在其模型中使用輝達GPU,而其他科技公司,包括Google、Meta、甲骨文和特斯拉,都在搶購輝達GPU來建立它們的AI系統和產品。

Meta執行長薩克柏和Alphabet執行長Sundar Pichai上周都暗示,他們的公司和業內其他公司可能過度投資AI基礎設施,但也承認不這樣做的商業風險太高。薩克柏表示:「落後的缺點是,你將無法在未來10到15年中掌握可能是最重要的技術。」

廣告

蘋果在這份47頁的報告中沒有提到Google或輝達,但確實指出其AFM(Apple Foundation Model,蘋果基礎模型)和AFM伺服器是在「雲端TPU叢集」上進行訓練。這意味蘋果從雲端供應商租用伺服器來執行運算。

蘋果在報告中表示:「該系統使我們能以高效且可擴展的方式,訓練AFM模型,包括設備上的AFM、AFM伺服器和更大的模型。」

知新聞 Line 官方帳號

⭐️ 即刻下載《知新聞》App!免費!

下載《知新聞》APP!免費兌換「總裁牛肉麵」美味小菜
# 蘋果 # 輝達 # GPU # TPU # Google # AI模型