:::

【109年 解決方案】 以晶片驅動AI,汎思數據以小成本提升算力百倍

小小一顆晶片,能夠驅動AI演算法速度近百倍,汎思數據團隊致力於軟硬體整合,提供包括金融產業、智慧醫療及智慧製造等領域以小成本、高效率方式導入AI,快速進行數位轉型。

這幾年,人工智慧喊得震天價響,然而,落地應用受限於高昂的成本,而「算力」的提升是AI應用瓶頸突破的關鍵,汎思數據客製化晶片設計與解決方案可以提升處理效能及有效降低成本,讓AI落地應用於金融、醫療及製造業等領域,變得容易而可行。

公司核心服務為高效能硬體加速平台(FPGA)

汎思數據成立於2018年10月,創始團隊來自於清大、交大與台北大學,現有員工11人,其中,晶片設計總監劉文凱來自於IC設計公司-慧榮科技,帶領5人IC設計團隊,耗費1年多時間研發高效能硬體加速平台(FPGA),成為公司核心服務。

汎思數據整合軟硬體研發高效能硬體加速平台(FPGA)

▲汎思數據整合軟硬體研發高效能硬體加速平台(FPGA)

「AI要落地,面對的是成本與現實處理狀況的考量,若購買NIDIA GPU的標準組合,價格不斐,若能透過客製化做硬體調校,產生符合使用的專屬組合,成本將可獲得大幅度的降低。」汎思數據總經理廖彥欽表示,更進一步指出,現階段的AI新創大多僅有軟體工程師,缺乏硬體工程師,汎思數據擅長處理數據及軟硬體整合,有優秀的團隊,可有效率處理數據問題,並針對客戶的需求開發軟硬體解決方案。

金融市場詭譎多變,以此次新冠病毒(COVID-19)肺炎為例,造成全球股災,並受到程式交易影響,美股史無前例出現10年內實施四次鎔斷,也讓投資人的風險意識大幅提升。

嫻熟金融交易的汎思數據共同創辦人鄭宗宜表示,在股票、期貨、權證等金融市場,「速度」往往是決勝的關鍵,也就是說,在市場上賺錢或賠錢,往往決勝點在於速度。一般傳統的股票交易流程為金融交易資料從網路流到主機,透過搓合軟體進行運算,這種方式是以毫米級計算,平均20毫秒(ms,10-3 秒))完成一筆交易。系統處理交易速度則是以奈秒等級(ns,10-9秒)計算,透過高效能硬體加速平台(FPGA),每筆金融搓合交易只需千奈秒時間即可完成,差異是相當巨大的,這些微的秒差,可能造成數以億計的交易損益,也是券商自營商最大的競爭力之所在。

汎思數據在金融領域的服務對象分別是證券商的自營部門、新種金融商品的交易部門及高頻交易者(或散戶交易大戶)。在證券市場上,行情震盪是大量數據下的結果。如果系統是奈秒等級的速度,讓你迅速看到交易資訊,比別人多了0.1秒,在別人還沒有看到交易行情時做了交易決策。

服務領域鎖定金融科技與智慧製造

銀行信用卡的風險控制系統一樣可以運用AI整合加速,這比較像是監管科技的領域。建立一套AI模型,可以有效識別信用卡的風險交易,在很短時間給予回應,就能提升網路交易的安全性及流暢度。

在AI信用卡的風控系統運用AI加速,也透過軟體整合加速。交易盛行,詐騙多,比較像是監理科技的領域。透過建立一套AI模型,可以有效識別信用卡的風險交易,在很短時間給予回應,就能提升網路交易的安全性及流暢度。包括金融交易、信用卡風險識別,都是透過晶片將交易資料分析與風險控管系統直接加速運算的結果。

金融交易資訊加速方案

▲金融交易資訊加速方案

現階段許多金融業者均有自行設置的IT部門,其中不乏資料科學家、大數據分析人員及AI演算法工程師等,汎思數據在金融領域的優勢何在?鄭宗宜指出,金融業的IT部門多屬於「用」IT的人,而非「開發」IT的人,況且,懂IC設計的專業人員成本很高,金融業不需要自己養IC設計團隊,專業分工十分明確,汎思只要開發模型供金融業界接即可。

基於個人隱私及資安考量,金融資料比較敏感,往往不輕易取得相關資料,汎思數據藉由進駐金融科技創新園區(FinTechSpace),在資策會的協助下,申請數位沙盒所提供的即時交易資料及企業歷年財報資訊、歷年交易資料,藉此將資料分群,進行分析、建模、回測,對異常交易及風險控管等提出AI風險預警等解決方案。

除了金融科技外,汎思數據也專注在智慧製造的AI應用,如以影像辨識方式研發智慧影像讀表,可以協助業者降低更換設備成本,精準度也相對較高。

在客製化晶片設計、數據分析及軟硬體整合的過程中,汎思數位遭到到數據及人才取得不易的問題,在數據方面,現階段藉由介接數位沙盒的方式,透過金融科技創新園區所提供的資源,來建立AI模型;在人才方面,則建立精實的核心團隊,不斷累積經驗,並建立堅實的創業文化,以迎戰需求不斷成長的市場。

圖由左至右分別為:共同創辦人鄭宗宜、總經理廖彥欽及晶片設計總監劉文凱

▲圖由左至右分別為:共同創辦人鄭宗宜、總經理廖彥欽及晶片設計總監劉文凱

推薦案例

【解決方案】瑕疵辨識率達百分百 耐銳利科技獲面板大廠青睞
瑕疵辨識率達百分百 耐銳利科技獲面板大廠青睞

工具機生產線上,組裝的第一步有些微差池,累積公差將造成組裝工作要重來,耗時又費力,導致出貨延遲的情況將衝擊企業聲譽。耐銳利科技公司聚焦智慧製造領域,提供各式AI解決方案,運用機器學習模型傳承老師傅的經驗,在CNC加工機組裝及鑄造過程,利用AI分析產線數據,精準調校各式數據,提升生產精準度 25。 這套AI產線數據分析系統,被耐銳利科技董事長黃常定稱為「師傅40」,就是師傅加上人工智慧的最進化版,用在工具機加工廠,成效斐然。此外,耐銳利科技運用AI瑕疵檢測技術,參加經濟部工業局2021年AI新銳選拔賽活動,協助友達進行面板進階影像瑕疵檢測,正確率達百分之百,引此也榮獲大獎。 協助面板大廠友達解題 瑕疵檢測正確率達百分百 黃常定進一步說明,一般面板在生產時,邊邊角角可能會有缺陷,雖然缺陷肉眼可見,但AOI卻往往難以辨識,導致檢測錯誤率常常超過30,因此,一定要搭配人力進行複檢,才能提高正確率。然而,因應少量多樣的產品需求,在人力不足的情況下,運用AI檢測確實是一個好方法。 成立於2018年的耐銳利科技,在短短三年期間,AI技術就能獲得面板大廠的青睞,實則在CNC工具機領域磨練已久。耐銳利科技總經理唐國維指出,台灣前三大CNC工具機廠希望將AI導入組裝及鑄造兩條產線,其中,在組裝產線上,為保持組裝的準確性,設計組件的每一個零件均會設計公差,在組裝時,每個元件都在公差內,但累績公差最後品檢仍無法通過,必須拆掉重新組裝,不僅耗時耗力,也造成浪費。 「進入產線之後,才知道有些師傅累積很多經驗,很會調校,經過他調校之後,正確率提高不少,速度又快。」反之,新來的工程師沒有經驗,調校時間比較久,也未必能通過品質檢測。 師傅40系統 良率從70大幅提升至95 唐國維接著表示,原本師傅在組裝時所設定的尺寸資料都記錄在紙本上,資料寫完之後就存入倉庫封存,沒有人去研究尺寸之間的關係。耐銳利協助客戶設計師傅40系統,透過人機面板,讓師傅在組裝時直接輸入所測量的尺寸及相關數據。蒐集不同師傅的數據之後,再運用AI演算法分析數據間的關係,做出AI模型,AI模型自動通知作業員要調整到甚麼樣的尺寸,品質檢測就一定會過,如此一來,良率從70大幅提升至95以上。 耐銳利科技公司聚焦於智慧製造領域,提供各式AI解決方案 唐國維補充,組裝一台CNC加工機的主軸要耗費四小時,第一步驟機器量測錯誤,包括震動、溫度,速度等超過範圍,都要拆掉重裝,又花了四小時。拆掉要如何調整,是憑藉師傅的經驗,可能一開始師傅憑經驗做了最好的組法,但錯檢率也達30,組裝又耗了好幾天。透過AI師傅協助,組裝時間只需半天,良率達95以上,省下許多時間及人力。 「運用機器學習的AI模型,綜合所有師傅的經驗蒐集在一起,提供給AI學習。第一步要數位化、第二步則是知識化,這是企業邁入轉型的重要關鍵」,黃常定認為,耐銳利科技是傳統製造業從自動化生產走向邁向數位轉型的重要夥伴。 此外,耐銳利科技另一個聚焦的產業是電梯廠領導品牌的智慧派車系統。所謂派車指的是電梯車廂,即兩部電梯以上就需要群管理。過往派車依據固定法則,如哪一台距離叫車比較近,就自動派那台電梯,一方面沒有考慮到電梯被叫太多次的派車,可能會讓其他人等待更久;另一方面過往的派車模式並無考慮大樓使用特性,造成許多浪費。例如辦公大樓,早上上班、中午休息及下午下班時段各有尖峰時間,透過AI智慧派車可以依據離峰及尖峰時段進行彈性調整,讓派車效率增加、降低等待時間,同時減少電力虛耗。 導入電梯智慧派車 提升運輸效率兼具環保功能 黃常定補充說明,就好比之前的路口紅綠燈號誌,系統已將主幹道、副幹道及小街道的停留及通過秒數寫死,現在則運用智慧紅綠燈,彈性調整等待時間,讓容易壅塞的路段更加順暢。透過AI學習使用情境,在電梯中導入智慧派車系統,會讓輸送效率提升,也更加環保。 除了導入電梯智慧派車外,耐銳利也將AI導入電梯廠的生產出貨智慧排程系統 。電梯廠常常無法準確預估客戶的電梯交期,例如,辦公大樓或賣場等必須完工到一定程度,電梯才能進工地安裝。若受到客戶工期延遲等非預期因素影響,往往造成電梯廠產閒置或是排程不易安排的窘境。 唐國維指出,一般了解客戶端工程進展者可能是業務或工務,但整體而言,出貨正確率大概只有六成左右,也就是說有四成不會如期出貨。因此,若能準確預估出貨時程,就能將產線空出來以因應急單或是其他產品生產需求。AI智慧排程系統將分析過去出貨的資料,氣候、工廠及施工端兩地距離位置、客戶信用等約20-30個參數,放入AI演算法中,可以精準預估到底能不能如期出貨。 黃常定也特別說明,耐銳利科技的機器學習非一般的機器學習,更加入傳統影像處理技術、統計學等各種運算方式,要對領域知識十分熟稔,才能作出好的AI模型,這也是公司競爭力之所在。他強調,一般SaaS平台能處理的資料十分有限,正確率頂多從7成提升至7成5,耐銳利的強項在於AI演算法及機器學習,必須再加上深厚的產業領域知識才能產出好的AI模型。 耐銳利科技從AI專案開始,逐漸深化技術,選擇從困難度高的做起,並累積經驗法則,預計在今2022年開發出SaaS服務,以客戶的需求為出發點,逐步站穩腳跟、成為智慧製造的重要夥伴。 圖左為耐銳利科技總經理唐國維及董事長黃常定右

【解決方案】AI電眼取代人眼 慧演智能運用AI幫製造業做品管
AI電眼取代人眼 慧演智能運用AI幫製造業做品管

因應製造業少量多樣的客戶需求,亟待可以找到從雲端到終端的AI解決方案。慧演智能提供軟硬整合解決方案-BailAI影像檢測解決方案,來協助傳統製造業提升製程效率及產品品質,達到轉型的初步目標。 政府宣示2017年為台灣「AI元年」之後,台灣AI新創公司如春筍般林立,成立於2018年的慧演智能即鎖定智慧製造,提供AI影像分析與流程優化的平台,以深度學習的方式檢測產品的瑕疵和組裝的步驟異常,協助企業建置從終端到雲端的基礎設施,讓工廠生產端可以自動化監控,以提升製程的效率和品質。 熟悉產線品管流程 以AI影像檢測作為創業主軸 慧演智能創辦人暨執行長劉雅雯年紀輕輕,在大學畢業之後即進入製造業,在硬碟零件的塑膠射出製程擔任品管職務,「當時已經在產線上,對於生產機台的產線流程相當熟悉」,她之後轉換跑道擔任行銷企劃、接著又擔任過AI產品經理,在時機成熟之後,劉雅雯決定創業,以製造業的AI影像辨識作為創業主軸。 「企業的困難在於缺乏AI開發團隊,即使有了AI團隊,開發專案要花很多時間,至少6-12個月」深諳市場痛點的劉雅雯表示,平台要解決的問題是提供傳統製造業不需要程式開發背景的員工,也可以自行打造AI模型的平台,從遠端協助產線的故障排除及後續的系統維護作業,來幫助企業節省開發時間及人力成本。 BailAI影像檢測平台使用場景 面對市場上提供AI影像辨識的競爭對手非常多,慧演智能的技術優勢何在劉雅雯表示,現階段許多企業備有AOI光學檢測設備,但AOI光學檢測在應用上的瓶頸是,只能用於產線速度快、數量多的瑕疵檢測,而每回檢測或生產都要重新調整參數。而根據她對產業的了解,受限於AOI設備動輒上百萬元台幣起跳,大部分中小型傳統製造業,並不具備雄厚的財力,但他們又想要做自動化檢測,這就是慧演智能的機會。 劉雅雯接著表示,傳統製造業不可能養一個包括AI工程師、資料工程師、雲端架構師、終端架構工程師等專業人才的技術團隊,而慧演智能擅長於軟硬體整合,企業透過BailAI影像檢測平台,就能輕鬆解決產線上的檢測問題。換言之,客戶只需提供影像或樣品,交由慧演智能訓練模型、部署模型及系統整合,即可輕鬆使用AI技術進行產線流程優化及監測。 參加AI新銳選拔賽 組裝行為影像辨識辨識率達9成以上 舉例而言,某家連接器廠商,技術團隊只有1-2位AI工程師。主要解決的問題是,大部分作業員都在產線上,而品管及高階主管在遠端,公司欲透過遠端監控方式掌握產線實際情況。慧演智能透過工業相機拍攝產線畫面,並將AI影像分析傳送到遠端,主管及品管人員可以透過螢幕來觀察產線組裝有無錯誤,如連接器頭跟線路有沒有接好等問題。 慧演智能的AI影像檢測架在微軟的Azure雲端平台上進行作業,也會透過終端設備,如NVIDIA的邊緣運算設備放置於檢測站周邊,透過雲端到終端的整合解決方案,協助傳統製造業提升產線效能與及早發現問題。現階段慧演智能的客群包括航空、電子周邊、連接器及金屬等相關產業。 組裝產線人體行為辨識組裝流程解決方案,準確率達9成以上 為了實證技術深度,慧演智能參加經濟部工業局2021年AI新銳選拔賽活動,為光寶科技提供「組裝產線人體行為辨識組裝流程」解決方案,透過相機及AI影像辨識的方式辨識產線作業員的有效工時及無效工時,也就是透過影像辨識手的姿勢及位置,來判斷作業員的組裝行為,其精準率可達9成以上。 劉雅雯補充說明,由於電子零組件組裝工序較複雜,多以人力為主,無法以機械手臂取代,因此慧演智能在光寶的組裝站裡,用鏡頭拍下作業員組裝的流程,再針對影片進行演算法的訓練、校正,最終訓練出的模型能直接判斷組裝過程是否出現任何錯誤,以改善整體流程。 導入BailAI影像檢測平台 專案開發時間可望縮短至1個月 成立三年多以來,慧演智能累積不少專案經驗,希望能將專案經驗產品化,劉雅雯指出,將於今2022年完成BailAI影像檢測試用版,客戶可依檢測物件的精細度選擇工業相機、視訊相機,甚至於X光來擷取影像,再透過平台做影像自動標記,慧演智能會提供符合場域的AI應用模型,供客戶使用,也可以在雲端終端做推論,便於製造業上線使用。包括金屬產業、工業電腦的金屬機殼、連接器、電子周邊,機械零件,皆可利用平台進行瑕疵檢測及物件辨識。 現階段慧演智能將持續提升技術能力,累積客戶的經驗完成產品化,同時加速AI檢測落地應用,中期將建置終端雲端基礎設施,將企業AI專案開發時間從6-12個月縮短至1個月,降低企業使用時間及使用門檻。長期目標將鎖定台商聚集較多的東南亞市場,將軟硬整合AI解決方案拓展到海外市場,擴大營運規模。

【解決方案】7毫秒內分離人聲 洞見未來科技協助聽損者「聽說更簡單」
7毫秒內分離人聲 洞見未來科技協助聽損者「聽說更簡單」

某週四下午,下了一場傾盆大雨,然而,位於台北小巨蛋附近的洞見未來科技RelaJet台北體驗中心內,客戶預約全滿,主要是聽損人士前來試聽運用人聲分離引擎設計製造出來的助輔聽器,對於聽損人士而言,能夠有平價、輕巧、降噪效果佳的助輔聽器可用,真可謂一大福音。 「希望幫助有需要的使用者,再次聽見世界的精彩」這是同為聽損人士的RelaJet創辦人暨執行長陳柏儒體貼的期望,他最懂得聽損者的需求,也希望藉由洞見未來科技獨特的人聲增幅助聽技術,能夠造福更多的人。 萬元有找的輔聽器 造福廣大聽損者 成立於2018年的RelaJet,是陳柏儒與哥哥陳宥任共同創辦的公司。RelaJet所研發的多人聲分離引擎搭配高通藍牙音訊平台,將動輒8-10萬元的進口助聽器價格壓低到萬元有找,就是希望能研發平價、降噪效果佳、可運用無線傳輸連結手機的好商品。 公司成立後的前2年,主要研發多人聲分離引擎,讓降噪效果更佳,搭載上高通藍牙耳機晶片之後,音訊處理時間極短,大約7毫秒就能強化主要人聲、降低周圍噪音干擾,只需要傳統助聽器醫療標準16毫秒不到一半的時間,幾乎「零延遲」。 洞見未來科技推出平價助輔聽器,大大嘉惠聽損者 陳宥任解釋,主要是運用高通晶片的邊緣運算,加上極簡化的演算法才能做到極低延遲及聲音可以處理更好的降噪度,同時助聽器可涵蓋18個頻道,傳統的助聽器涵蓋的範圍是4-48個頻道,未來RelaJet會朝更多頻道逐步邁進。 根據統計,全球聽覺障礙者總計47億人,其中,已開發國家聽力輔具配戴率平均為30,其中以歐美國家最多。台灣有近150萬人失能性聽損,其中,中老年族群失能性聽損就佔了30,而輔具配戴率僅有10,比率相當低。 陳宥任進一步分析,輔具配戴率偏低有兩個原因,一、國際大品牌平均售價高達8-20萬元,可使用期限3年,不僅售價高、養護成本也高,讓很多人卻步;二、在吵雜環境下,噪音也被放大,使用者仍然不一定能聽得清楚,並且聲音參數無法即時、自由調整,需要常回到門市調校不是很方便。三、大部分機種無法連接手機,不方便聽損者接聽聽電話。 運用高通藍牙晶片 產品開發速度大躍進 有鑑於此,曾在聯發科擔任半導體工程師的陳柏儒負責技術研發,有法務背景的陳宥任主責公司的管理與營運,兄弟合作無間,組建團隊運用AI人工智慧演算法與晶片串接,學習數據庫內幾千小時的音檔,透過神經網路與深度學習技術,研發出低延遲、高降噪的人聲增幅助聽技術。並在2019年將此聲音處理技術整合至高通藍牙晶片,並獲得高通台灣新創競賽獲得冠軍、高通全球擴展計畫夥伴的榮譽,讓產品開發速度大躍進,2021年在台灣推出自有品牌Otoadd系列助輔聽產品,並受到市場的青睞以及有廣大聽損者的好評。 根據不同消費者的需求,有不同的產品設計,陳宥任表示,Otoadd具有輔聽功能的無線耳機N1,屬於頸掛式入門款,售價一副9,500元,可以一邊帶輔聽器一邊聽電話,運用手機App即可控制降噪強度及聲量大小。未來也將研發周邊配件,以符合年長者的需求。該輔聽器除了在台北、高雄體驗中心可預約試聽外,也可在PChome商城、台哥大myfone商城、樂齡網等輔具通路販售。 另一款為針對輕度到重度聽損者設計的Classic R助聽器,於2021年獲得日本Good Design設計獎,這款產品自去年底上市,對於先天性聽損者具有吸引力,用過的人都說在吵雜的環境下也能比過去聽得更清楚,也感受到藍牙連接手機通話、看影片的便利。預估此一商品也將在今年下半年外銷海外市場。 此外,今年6月即將上市的助聽器藍牙功能二合一功能產品,大小就如同一般藍牙耳機,主力客群鎖定在意外觀的聽損者,一方面體積較小、無線耳機造型設計美觀,加上也可接聽電話,若經衛福部許可上市之後,符合資格的聽損者還可以向政府申請補助。 RelaJet下一階段將進軍海外市場 以美國為灘頭堡 有趣的一個問題是,因應疫情關係,全民都必須配戴口罩,無法讀唇語,此對聽損者的影響是如何呢陳宥任表示,此時就能凸顯RelaJat的優勢了。由於每位聽損者聽力強弱不同,助聽器僅能補充到適當音量,協助聽損者聽取6-7成內容,餘3成仍須仰賴讀嘴唇及手勢。而在疫情期間,為了防疫,人人都戴口罩,口罩也讓聲音有所遮蔽,RelaJat人聲分離引擎也能校正補強,使戴口罩者的聲音分離清晰,方便聽損者辨識。 除了台灣市場之外,RelaJet下一階段將進軍海外市場,預計今2022年將取得ISO 13485醫材品質管理系統認證及美國醫療器材許可證,以美國為灘頭堡,以自有品牌或是成品貼牌方式銷售海外。 除了台灣市場之外,RelaJet住輔聽器下一階段將進軍美國市場