隨著人工智慧技術逐漸轉化為日常的 AI 應用,市場對基礎設施的需求正從大型模型訓練轉移至實際執行的運算資源與資料傳輸。雲端平台業者與支援資料中心運作的光通訊供應商,逐漸成為推動 AI 服務落地的關鍵樞紐。
推動 AI 應用落地 雲端租借服務需求顯著增加
專注於中小型企業與軟體開發者服務的雲端架構供應商 DigitalOcean Holdings, Inc.,近期數據顯示其運算與儲存資源租借業務展現成長動力。該公司目前整體營收規模為 11 億美元,總市值達到 103 億美元。在 AI 業務方面,來自人工智慧客戶的年度經常性收入(ARR)已提升至 2.34 億美元。在這筆收入中,超過 70% 是由模型推理服務(Inference)所貢獻,這顯示企業端對於執行日常 AI 應用的運算資源有著實質且持續的需求。
資料中心高頻傳輸需求 帶動光通訊供應鏈熱度
除了算力本身,資料在資料中心內部的高速流通同樣是 AI 基礎設施升級的關鍵。美國光學通訊設備製造商祥茂光電主要生產高速光纖收發模組與相應硬體,其年度營收已達到 7.47 億美元。由於 AI 伺服器、圖形處理器(GPU)以及網路交換器之間的傳輸資料量急遽膨脹,帶動了光學元件的大量消耗。該公司的主要銷售市場聚焦於台灣與中國,已成功打入亞洲主要的伺服器組裝與硬體供應鏈體系。
這代表什麼
這代表 AI 產業的發展重點正在經歷重要轉型。過往幾年市場焦點多半放在少數科技巨頭投注巨資進行大型語言模型(LLM)的訓練;如今,廣大企業開始將這些模型整合進實際業務中,使得負責執行指令的模型推理運算需求異軍突起。
對中小型企業而言,自行採購建置具備高階晶片的 AI 伺服器成本昂貴,選擇彈性按需付費的雲端算力租用成為較務實的方案。對台灣相關的硬體供應鏈而言,除了伺服器的代工組裝外,資料中心內部傳輸速率升級帶動的光通訊模組需求,也正在成為支撐產業發展的新動能。
背景補充
雲端基礎設施(Cloud Infrastructure)在現代科技產業中扮演著運算骨幹的角色。傳統的雲端服務市場主要由國際巨頭壟斷,但像 DigitalOcean 這類專注於中小型企業與獨立開發者市場的業者,透過簡化操作介面與彈性定價策略,成功吸納了許多推行 AI 應用的新創公司。
另一方面,在資料中心的硬體架構中,隨著 AI 運算模型處理的資料量呈爆發性成長,傳統銅線傳輸在速率與電能消耗上逐漸面臨極限。這促使資料中心加速導入光纖與高速光通訊收發模組,藉此提升整體傳輸效率,確保海量資訊在伺服器與晶片之間能夠無延遲地流動。
常見問題
什麼是 AI 模型推理(Inference)?與模型訓練有何不同?
模型訓練是利用大量資料訓練模型學習規律的過程;模型推理則是訓練完成後,模型針對使用者的輸入即時給出回答或處理結果的執行階段。
為什麼 AI 應用的普及會帶動光通訊設備的需求?
AI 伺服器在運算時需要處理極高流量的資料,資料中心必須透過高速光纖收發模組來加速伺服器與晶片間的傳輸,以避免產生資料傳輸瓶頸。
中小型企業在導入 AI 應用時,為什麼偏好租用雲端基礎設施?
雲端租用能省去採購高價 AI 伺服器與晶片的龐大資本支出,企業可依照實際的運算需求彈性付費與擴充算力,降低營運風險。