美商超微半導體(AMD)日前捐贈人工智慧(AI)運算硬體設備予台南市政府,協助地方政府建構內部專用的算力環境與治理體系。這項合作以「AI 1999 智慧客服」作為首個測試案例,未來將進一步整合跨局處資源,讓自動化技術深耕公務體系。
導入語音辨識與地端模型 打造智慧 1999 市民專線
台南市政府預計從 2025 年開始建立自主防護的地端 AI 算力環境,首波驗證重點放在 1999 市民服務專線。該系統結合語音辨識、知識庫檢索與大型語言模型(LLM),能將市民的電話語音即時轉寫成文字,並從市政資料庫中快速搜尋解答、摘要通話內容,甚至能精準識別台語發音的在地地名。
為防範模型產生不實資訊,該系統定位為話務人員的輔助工具。所有的回答建議皆須經過公務人員人工確認與校對後才發送,確保便民服務的正確性與效率。市府過往曾面臨疫情期間單日破萬通電話的負荷,過去亦運用過無人機進行地籍測繪與稅務巡查,省下上萬小時的人力工時,本次引進算力資源旨在持續優化有限的人力配置。
串聯工研院與開放平台 支援在地產學研團隊
除了市府體系內部的應用,硬體資源亦延伸至產業創新端。透過與工業技術研究院(ITRI)合作的開放平台專案,相關運算資源與軟體開發環境將開放給南台灣的新創公司及企業團隊。本次捐贈的設備也分配給該平台競賽的獲獎團隊,協助業者降低演算法訓練與測試的門檻。
此外,相關技術先前已在大南方展覽活動中進行公開展示,利用邊緣運算硬體搭載市政知識庫,實現虛擬對答系統。市府與研發單位目前正建立備援架構,維護系統在大量存取時的穩定度,讓各局處能依照權責需求,彈性呼叫語音處理或文本檢索能力。
這代表什麼
這起合作展現了 AI 算力由雲端轉向地端部署與邊緣運算的具體趨勢。對於中小企業與在地新創而言,主要效益包含以下幾點:
- 降低在地團隊技術門檻:過往訓練大型模型或處理語音語意辨識,往往需要龐大的伺服器成本。硬體廠商透過與研究法人、地方政府合作釋出算力資源,能讓在地企業以較低成本驗證產品效益。
- 地端部署保障資料隱私:政府單位處理市民個人資料時對安全性要求極高,將 AI 模型部署在地端機房運作,可確保敏感數據不出境、不外流,這也是金融、醫療與製造業推動自動化時的可行參考範例。
- 語音辨識在地化驗證:包含台語地名與在地用語的語音辨識需求,凸顯通用模型在特定場景下的不足。未來針對垂直領域進行微調與在地化適配,將是軟體服務業者極具潛力的市場方向。
背景補充
中央政府目前積極推展「AI 新十大建設」與「大南方新矽谷」相關策略計畫,致力將科技產業鏈與運算資源向南部延伸。台南以沙崙智慧綠能科學城為主要樞紐,串聯半導體製造與學研單位,逐步形成完整的科技產業聚落。
晶片大廠 AMD 近年持續擴大在台灣的研發能量,除了設置研發據點外,也頻繁與工研院等法人組織攜手合作,建置高效能運算(HPC)與生成式 AI 開放平台。本次將軟硬體資源挹注給地方政府與新創團隊,屬於其深耕台灣科技生態系、促進技術落地的佈局之一。
常見問題
台南市政府的 AI 1999 智慧客服會完全由 AI 自動回覆嗎?
不會。系統主要協助話務人員進行語音轉文字、知識檢索與建議撰寫,最終產出的回覆內容仍必須經過人工確認後才會對外發送,以維護服務品質與正確性。
這次 AMD 捐贈的運算設備主要提供給哪些單位使用?
除了協助台南市政府建立地端算力環境外,設備也提供給高速運算開放平台專案的獲獎團隊,降低在地新創與企業開發 AI 模型的門檻。
為何市政服務需要採用地端 AI 架構?
地端 AI 可將敏感個資與政府資料留在內部運算環境中,兼顧資料安全、權限管理與系統自主性,同時避免過度依賴外部雲端服務帶來的潛在風險。