群聯搶攻 AI Agent 商機!潘健成剖析混合式 AI 架構與地端伺服器策略

記憶體控制晶片大廠群聯電子創辦人暨執行長潘健成指出,隨著人工智慧(AI)應用逐步進入實務運作階段,企業導入 AI 的瓶頸已不再僅是處理器算力不足,記憶體容量受限反而成為推高運算成本的主要因素。他建議企業應規劃雲端與地端相互串聯的混合式 AI 架構,並運用快閃記憶體(Flash)技術降低設備建置門檻。

記憶體成為算力瓶頸 快閃記憶體降低 AI 部署門檻

儲存設備雖然是各類電子系統的核心基礎,卻常因廣泛應用而被忽略。在推動大型語言模型(LLM)與各類 AI 工具時,若僅依賴高價的動態隨機存取記憶體(DRAM),常因容量限制而拉高整體設備成本。藉由快閃記憶體支援技術,能有效協助系統加速詞元(Token)的生成過程,讓運算資源獲得更合理的分配。

對於有意導入 AI 的企業而言,初期無須一次性投入鉅額資金購買昂貴硬體。透過儲存技術彈性擴充,企業可先以較低門檻嘗試應用,等到內部業務需求與投資效益顯現後,再依照實際工作量增購配備,逐步完成資訊架構的升級。

雲地分工的混合式架構 「住飯店與買房子」的成本哲學

隨著自主執行任務的 AI 代理(AI Agent)應用日益普及,企業內部對於算力與 Token 的消耗量呈現大幅成長。這種轉變將促使企業評估 AI 基礎建設的長期維運花費,正如過往企業資源規劃(ERP)系統與內部伺服器的普及過程一樣,AI 設備也將逐漸成為辦公環境中的標準配置。

潘健成將雲端服務與地端伺服器的分工比喻為「住飯店」與「買房子」。企業若有短期、高階或不定期的高強度運算需求,使用雲端服務就像住飯店般具備彈性;但針對內部日常頻繁且重複性高的工作,建置地端 AI 伺服器就如同購屋,長期而言能大幅壓低平均使用成本。透過雲端支援高難度任務、地端處理常態工作的混合架構,能達到效能與預算最佳化。

從晶片延伸至系統服務 群聯內部實測驗證效益

面對此一波企業轉型趨勢,群聯正積極轉型,將原本專注於積體電路(IC)設計與記憶體模組的業務,擴展至整合系統與整體服務解決方案。透過軟硬體結合,為企業客戶提供更具效益的地端 AI 部署方案。

群聯也在公司內部先行導入地端 AI 伺服器,由研發團隊自行開發並滾動修正工具。以內部晶片驗證流程為例,過去人工進行系統記錄分析需耗費約 3 小時,導入專屬 AI 工具後已縮短至半小時內完成,大幅減輕工程師的作業負擔,讓團隊能將時間投入更高價值的研發工作中。

這代表什麼

對台灣廣大的中小企業而言,這項趨勢意味著導入 AI 不再是動輒數百萬、數千萬元的豪賭,也不必完全依賴訂閱費用昂貴的國外雲端服務。採用快閃記憶體架構的地端 AI 伺服器,能降低初始進入門檻,並確保企業內部敏感資料不外洩。

對台灣半導體與資訊通訊產業來說,企業 AI 的需求點已從大規模資料中心的超高算力,延伸至邊緣端與辦公室地端設備。儲存業者若能提供「高容積率、高 CP 值」的記憶體解決方案,將能在 AI 代理時代開闢出全新的硬體市場與服務商機。

背景補充

群聯電子(Phison)為台灣儲存控制晶片大廠,主要提供 NAND Flash 控制 IC 與記憶體模組。所謂的「 Token(詞元)」,是大型語言模型在處理與生成文字時的基本計算單位,例如一個英文字母或中文單字可能代表一至數個 Token;Token 消耗量越多,代表 AI 模型產出或閱讀的內容越龐大,對記憶體與算力的負荷也越高。

而「 AI 代理(AI Agent)」則是指具備目標導向、能自動規劃步驟並呼叫不同工具完成複雜任務的人工智慧程式,其運作過程需要頻繁互動與資料檢索,對企業系統的長期運算資源需求遠高於單純的聊天問答。

常見問題

為什麼記憶體容量會成為 AI 運算的主要瓶頸?

當 AI 模型運作時,需要載入龐大的模型參數與上下文資料。若記憶體容量不足,處理器算力再高也無法快速存取資料,導致 Token 產出效率受限。

企業應該如何選擇雲端 AI 與地端 AI 服務?

初期或面對高難度、不定期任務時可租用雲端 AI;若涉及核心資料隱私或有日常高頻率重複性工作,建置地端 AI 伺服器長期成本效益更高。

群聯電子在企業 AI 市場的轉型方向為何?

群聯從傳統的控制晶片與記憶體模組供應商,進一步延伸至 AI 伺服器系統整合與軟體服務,透過優化儲存架構幫助企業降低地端 AI 部署門檻。