廣告
Llama
70億參數LLM竟比700億參數LLM強　難怪輝達要投資Sakana AI

70億參數LLM竟比700億參數LLM強　難怪輝達要投資Sakana AI

【編譯黃惠瑜／綜合外電】美國人工智慧（AI）晶片龍頭輝達（Nvidia）將投資日本AI新創公司Sakana AI，預計成為最大股東。由於Sakana AI創辦人之一瓊斯是AI劃時代研究論文《Attention Is All You Need》其中一名作者，加上團隊近期研究論文顯示，他們使用的創新演算法，可讓擁有70億參數的大型語言模型（LLM）打敗如Llama 2這類擁有700億參數的LLM，成效驚人，無怪乎成立短短不到一年就取得獨角獸地位。
2024/09/05 18:44
國際 寰宇要聞
NVIDIA宣布在台灣推出用於生成式AI的NIM微服務　加速部署主權AI應用

NVIDIA宣布在台灣推出用於生成式AI的NIM微服務　加速部署主權AI應用

【記者蕭文康／台北報導】世界各國都在追求發展主權 AI，利用自己的運算基礎設施、資料、勞動力及商業網路來發展AI，以確保 AI 系統符合當地的價值觀、法律與利益。NVIDIA 今日宣布推出4款全新 NVIDIA NIM 微服務，用於利用台灣和日本當地語言資料訓練的大型語言模型（LLM）。這些NIM 微服務支持為當地需求量身打造的熱門社群模型，能讓開發者建置與部署符合在地語言和文化的高效能生成式 AI應用。
2024/08/27 10:30
財經 產業脈動
Meta訓練大語言模型每3小時故障1次　使用逾1.6萬個輝達H100

Meta訓練大語言模型每3小時故障1次　使用逾1.6萬個輝達H100

【編譯于倩若／綜合外電】臉書母公司Meta最近（7/23）發布一項研究，詳細介紹了在包含1萬6384個輝達H100 80GB GPU的叢集上運作的Llama 3 405B大語言模型訓練，訓練運作持續了54天，在此期間叢集遇到419個意外組件故障，平均每3個小時發生1次故障。在一半的故障案例中，是GPU或其板載HBM3記憶體造成。
2024/07/28 16:02
財經 科技新知
139萬輝達GPU悄悄下架！PChome曝轉單廠商自行上架　站上最貴商品是「藍水鬼」

139萬輝達GPU悄悄下架！PChome曝轉單廠商自行上架　站上最貴商品是「藍水鬼」

【記者蕭文康／台北報導】日前PChome 網站驚爆有賣家在販售NVIDIA H100 80GB Tensor 核心 GPU，售價高達139萬元，號 稱史上最貴，使用PChome 聯名卡刷還有6% 回饋，採預購制，出貨日為今年12月2~4 日，不過，在網上一陣熱議後，該商品已悄悄撤下。對此，PChome說明，該銷售賣場上週五是由轉單廠商所自行上架的預購商品，網頁載明預計出貨日為12月，並非在庫的現貨商品。同時，H100並非為站上史上最貴商品，目前單價最貴的是勞力士「藍水鬼」售價高達156.4萬元。
2024/07/09 16:28
財經 產業脈動
邪惡版GPT橫行！全球駭客尋找AI漏洞　資安問題日益嚴重

邪惡版GPT橫行！全球駭客尋找AI漏洞　資安問題日益嚴重

【編譯黃惠瑜／綜合外電】正當士農工商各行各業期盼借人工智慧（AI）之力加速翻轉時，全球卻有另一群網路駭客正在利用AI的弱點，將原本AI模型改編成各種有害的模型，例如編寫惡意程式碼竊取使用者的機密資料，或為詐騙集團建立客製化的自動式網路釣魚攻擊。目前AI專家已在大型AI身上找到各種漏洞，包括OpenAI的ChatGPT、臉書母公司Meta的Llama、谷歌的Gemini，顯示科技公司求快推出AI，將導致資安危機變得日益嚴重。
2024/06/22 12:51
國際 熱搜話題
載入更多

廣告

最新

廣告
廣告
知新聞