研華強攻Edge AI 1|攜手滿拓、群聯辦工程師實戰營 大量部署落地應用
【記者李宜儒/台北報導】工業物聯網領導廠商研華(2395)今(16日)宣布,將與滿拓科技、群聯電子(8299)於7月26日在研華林口智能園區,共同主辦首場「Edge AI 工程師實戰營- LLM大型語言模型班」。 研華表示,希望幫助企業快速建立「可負擔的」自有生成式AI平台。
![研華邊緣AI方案。(研華提供)](https://static.kmedia.com.tw/prd/2024/0716/C4ACEC11DCBCD836DCF5203CD41647E0/4eb4ed7030f74cb818f9305eba4d72bd.webp)
研華指出,透過研華AIR-520 LLM邊緣運算伺服器所提供的獨家功能,包括預訓練模型、AI推論、大量部署『Edge AI SDK & DeviceOn』,結合群聯aiDAPTIV+技術與滿拓科技的DeepExpert落地解決方案,讓企業客戶僅需針對內部資料進行設定及微調,即可輕鬆打造專屬的生成式AI環境,擺脫GPU和VRAM的高昂建置成本。
研華台灣營運處副總經理林其鋒表示,台灣生成式AI市場將逐漸發展企業自有平台,而嵌入式應用需求多樣且廣泛,企業在導入GenAI時即面臨技術與資金的門檻,也因此研華希望與合作夥伴,從培育人才、技術服務、商務諮詢著手,協助客戶降低生成式AI模型落地的困難,「Edge AI 工程師實戰營- LLM大型語言模型班」正是研華推動企業自有LLM平台的第一步。
滿拓科技執行長吳昕益指出,研華擁有最完整的邊緣AI運算軟硬體整合方案,並有多年為嵌入式客戶服務的經驗,深知企業在落地LLM所面臨的挑戰。因此,滿拓與研華攜手合作,從人才培育解決客戶痛點,本次課程將結合研華AIR-520 LLM邊緣運算伺服器進行實機演示,包括LLM Fine Tune平台、文檔管理、客戶服務及Fine Tune概念等,並搭配Chat應用於醫療照護、半導體、零售行業等客戶案例。
研華表示,此次實戰營將分享醫療照護、半導體、零售行業的LLM實作案例,瞄準企業在職工程師、產品經理、軍公教、科研單位的實作需求,與其他課程不同的是,學員結業後即可打造企業自有LLM,從硬體驗證、大型語言模型訓練、AI推論到大量部署的軟硬體整合。