開源LLM盛行！你也能打造自己的AI PC　筆電廠找出新商業模式

財經產業脈動

2025/03/30 11:30

【記者李宜儒／台北報導】AI PC在2023年底問世後，各家電腦廠紛紛絞盡腦汁，試想AI可以為電腦使用者有甚麼幫助。在2024年一整年來看，廠商對於AI的應用，還是不脫在筆電使用上的優化。而AI PC在2025年已逐漸成為主流，是否要開發自有的AI軟體也變成筆電廠的選擇題，法人表示，開發各家廠商專屬的LLM（大語言模型）成本極高，同時也不一定適合消費者使用。

導入開源LLM　打造個人化AI PC

在兼具成本及使用效應之下，廠商只要開發針對自家產品的AI優化程式，像是全面提升效能、散熱、音效、隱私與創作體驗，包含 AI Power 可智慧調整系統至最節能模式，確保效能與續航平衡；AI Performance 提供精準超頻，提升遊戲流暢度與系統運算力；AI Cooling 透過智慧散熱技術，根據系統需求動態調節，確保靜音與穩定表現等等。

至於消費者想用什麼AI模型，有人需要的是文字生成，有人需要的是以文生圖，需求各有不同，筆電廠就直接教消費者如何下載開源LLM，不但可以適合不同消費者需求，同時也可以節省廠商的開發成本。不過筆電廠也指出，開源LLM只要是由消費者自行下載，就沒有費用的問題，也可以隨時更新。

開源LLM眾多　Meta LLaMA系列最為人熟知

法人指出，目前全球主要的開源LLM，有LLaMA 系列、BLOOM、Falcon系列、GLM系列、Vicuna及Mistral系列。

其中最為人所熟知的是LLaMA系列，包括LLaMA 2，由Meta開發，支援研究與商業用途，參數範圍從7億到700億，並經過人類反饋強化學習（RLHF）微調。另外還有LLaMA 3，進一步提升上下文長度與訓練數據量，適用於更廣泛的自然語言生成任務。

BLOOM則是由BigScience社群推出，擁有176億參數，支援46種語言和13 種程式語言。Falcon系列則是Falcon 180B，由阿拉伯技術創新研究所開發，擁有1800億參數，性能表現優異，適用於多種NLP任務。GLM系列是由清華大學開發的雙語模型，支援中文與英文，參數量達1300億，適用於多種語言處理任務。Vicuna則是基於LLaMA再經過微調，專注於對話生成，性能接近商業模型。Mistral系列包括Mistral 7B等模型，以高效能和多樣性著稱。

看準了開源AI的便利性，日前技嘉 AI 電競筆電首開紀錄，全系列均搭載技嘉獨家開發的 GiMATE AI 助理應用程式，整合大語言模型（LLM），透過一鍵語音（Press and Speak）操作，智慧最佳化筆電效能、電力管理、音效體驗與隱私防護，簡化使用流程，讓使用者能夠更直覺地操控筆電，發揮最大生產力與創造力，在 AI 時代保持領先。

技嘉也透過三個角度來定義AI PC，首先，AI就像個人助理，像微軟的Copilot，它能夠讓我們在用Windows的時候，能夠更方便，像一個助理一直跟著如影隨形幫助使用者。第二，就是輝達（NVIDIA）主張的，AI它是一個很有地端AI power的AI，能夠幫使用者生成很多，不管是圖片、影片、音樂，能夠讓你更有效率的去生成。

第三，我們把它定位為叫做GiMate，技嘉的地端AI助理，讓使用者可以用語音控制地端的硬體，像是螢幕亮度、系統溫度，另外，也在電腦的各個部分加入AI的元素，有各式各樣的AI讓使用者在使用電腦上能夠更加方便。