電子發燒友網報道(文/黃晶晶)面對蓬勃發展的AI,在MemoryS 2025上,群聯電子執行長潘健成表示,面對AI服務器成本太高、數據上云端不安全等挑戰,在地端的AI微調訓練對于解決問題而言是必須的。若一味增加GPU和內存數量,無疑將導致本地AI訓練的成本奇高,無法獲得普及效應。
圖:群聯電子執行長潘健成
群聯電子推出了獨家發明且也是全球第一家將NAND應用于AI服務器中的滿血版AI訓推一體機平價方案aiDAPTIV+。通過aiDAPTIV+,企業可以在本地邊緣環境中執行AI模型后微調訓練,確保數據安全的同時顯著降低AI訓練成本。
群聯電子aiDAPTIV+ 技術通過動態緩存,結合基于NAND 閃存“aiDAPTIVCache”緩存技術,擴展 HBM 和 GDDR 內存,顯著提升性能。據悉,在 GTC 2025 大會上,群聯攜手 Maingear 公司推出了搭載 aiDAPTIV+ 技術的全球首款支援 LLMOps (Large Language Model Operations; 大型語言模型運作) 的消費級筆電,用戶將可使用自身企業或個人資料來微調(Post-training/Fine-tuning) 最多 80億 (8B) 參數的大型語言模型 (LLM),讓預訓練 (Pre-trained) 的AI模型能依據邊緣應用場景與使用者需求進行客制化 (Post-training),以達到真正的AI落地普及化;此外,通過 aiDAPTIVLink 3.0 新版中間件 (Middleware),負責 SSD 的 NAND 和 GPU 之間的數據傳輸,提供更快的首個 Token 時間(TTFT)回調響應,并支持更大的 LLM(大型語言模型)提示上下文。
“我們的地端AI模型微調方案aiDAPTIV+,與NVIDIA創辦人黃仁勛于CES演講中提及的地端推論 (Inference) 機器設備策略相呼應,將為AI應用的地端模型微調訓練以及推論帶來更廣泛的應用場景及SSD有很大幫助。”潘健成說道,本地AI微調訓練將進一步增加英偉達GPU的銷量,也將為閃存產業鏈打開新的市場空間,尤其是企業級SSD需求將從云端下沉到邊緣端市場。
群聯電子2024年業績表現亮眼,總營收金額達新臺幣589.36億元,較2023年增長達22%,創下歷史第三高紀錄。潘健成表示,2024年雖然面臨全球消費市場疲軟的挑戰,但群聯憑借堅強的技術實力與多樣的產品布局,依舊在業界交出亮眼成績。我們的存儲解決方案在各大應用領域持續受到市場肯定,展現出群聯的靈活應對能力與市場競爭力。
潘健成在演講中指出,2024年群聯電子研發支出近30億元人民幣,巨額研發支出帶來了巨大壓力,同樣的,盈利難也導致NAND原廠資本支出開始放緩。
在他看來,若談NAND產業未來路在何方,如何協助NAND原廠創造價值是重要課題之一。渠道市場存儲產品需求快速下滑,“要能夠生存就要長進”,系統整合廠要做NAND存儲差異化、要創造價值。如在PC應用上,群聯開發了PQC防偽方案,安裝于PC的存儲,可辨識AI合成圖片、視頻、文件,強化PC資料防護,價值是原來SSD的3倍。
他進一步認為,電子產業經歷三大周期,從90年代的PC、到2000年左右的智能手機,再到現在的AI走入端側,回看過去每一次的產業大爆發都帶動半導體產業鏈10多年的成長動能。而這一次AI的到來也將產生新的長周期的半導體繁榮。毋庸置疑,端側AI將帶給存儲巨大的機會。
-
閃存
+關注
關注
16文章
1823瀏覽量
115427 -
AI
+關注
關注
87文章
32905瀏覽量
272498
發布評論請先 登錄
相關推薦
HBM不再是主戰場?256TB、QLC、企業級…閃存激蕩AI存力
使用OpenVINO?訓練擴展對水平文本檢測模型進行微調,收到錯誤信息是怎么回事?
DDR4內存價格下跌,NAND閃存減產效果未顯
什么是閃存?它有哪些類型?
NAND閃存的發展歷程
NAND閃存和NOR閃存有什么區別
NAND閃存是什么意思
如何讓閃存多次編程呢?
閃存的哪些扇區可用于用戶數據存儲?
AI訓練狂飆,DDR5集成PMIC護航,內存技術持續助力

評論