:::

【110年 解決方案】 InfuseAI專注打造 PrimeHub MLOps 軟體平台 降低企業導入 AI 技術⾨檻

有鑑於人工智慧(AI)發展迅速,為了加速AI應用落地,InfuseAI打造一站式AI部署平臺軟體PrimeHub,希望能夠降低AI導入門檻,協助企業快速轉型成功。 成立於2018年的InfuseAI工合股份有限公司,由兩位臺灣開源社群資深開發者g0v共同發起人高嘉良和KKTIX創辦人薛良斌共同創立,主要產品是AI部署平臺軟體PrimeHub。

InfuseAI營運長薛良斌分享MLOps落地導入應用

▲InfuseAI營運長薛良斌分享MLOps落地導入應用

InfuseAI營運長薛良斌表示,AI 專案開發是⼀個迭代的過程,在AI產品生命週期從資料蒐集、開發、部署模型到監控等過程中,隱藏許多技術債,導致AI專案週期拉長、成本增加,效益大打折扣。更有甚者,根據統計,資料科學家有65%的工時不是花在模型開發上,AI的實現除了開發外,還包括維運及跨團隊協作等議題。種種因素,均造成AI發展的速度跟不上公司發展需求。

薛良斌指出,AI發展速度跟不上企業需求所產生的問題,可從以下兩方面具體展現:

• AI模型的建置速度:過去需要 1~2 年的時間,才能完成⼀項AI專案。但是隨著企業導入AI,專案數量與AI模型數量都會以倍數增加。

• AI模型部署落地後的營運問題:AI 模型的⽣命週期在部署落地後才開始。隨著資料累積,可以重新訓練 AI 模型以提升效能。但是也因為模型數量成長,⾯臨到營運問題以及運算資源瓶頸。

因此,InfuseAI所研發的產品MLOps平台——PrimeHub,就涵蓋了AI模型的開發、訓練管理,到營運面的部署、監控等流程,透過流暢的⾃動化 AI ⼯作流程,提供企業一站式讓AI能真正落地的平台服務。 PrimeHub 採⽤開放式架構,並整合各種AI開發工具,包括Jupyter Notebook互動式開發環境以及主流深度學習框架,並以Docker Image方式打包,可以提供一鍵快速部署和執行。同時,PrimeHub Apps 彙整第三⽅⼯具,打造 MLOps ⽣態系。

MLOps生態系

換言之,InfuseAI 團隊除持續添加更多 PrimeHub Apps 中的第三方應用服務,也正積極與更多廠商合作,將 AI 模型自動化平台無縫串接至 PrimeHub。同時 InfuseAI 更期待能與更多聚焦於 AI 技術領域的廠商以及 SI 夥伴合作,激發更多 MLOps 平台上的應用,進一步推動規模化的AI應用落地。 成軍三年多來,InfuseAI 的客戶包括台灣人工智慧學校、玉山金控、永豐金控、臺大醫院、奇美醫院等。其中,InfuseAI與台灣⼈⼯智慧學校密切合作,解決各種教學⽅⾯的需求。各分校的助教只需要在 PrimeHub 平台簡單地操作,所有管理⼯作就⾃動完成。學員在 PrimeHub 的⾃助平台建立⼀致的預裝環境,學員可以同時間執⾏深度學習運算,透過容器化隔離,彼此不⼲擾。而助教可根據課程進度,決定需要載入的課程資料。系統會在學員開啟環境時,⾃動載入課程檔案與資料集。既快速⽅便,⼜可節省下載流量。

⽟⼭⾦控於2018 年積極投入AI 開發,並採購 GPU 運算資源。發現多⼈、多專案同時進⾏,需要完善的基礎建設來加速。期望導入管理平台,以協助運算資源管理、資料授權等⼯作。PrimeHub 協助集中控管運算資源,提升使⽤效率。管理者只需要在 UI 介⾯設定各專案資源配額、資料授權,⽤⼾就可以在⾃助平台秒開研發環境。

薛良斌表示,PrimeHub平台希望協助企業AI開發規模化、更快部署模型從數個⼯作天減少到數⼩時內,同時也運用API及APPs來達到⾃動化及最佳化⼯作流程。PrimeHub的收費採年訂閱制,將持續優化平臺環境,也能彈性針對不同客戶提供客製化服務,現階段提供三種解決方案,包括PrimeHub Enterprise Edition 企業版、PrimeHub Deploy 輕量化的模型部署管理⽅案及PrimeHub Community Edition等,提供使用者依據需求選用。

(本文源自於「AI Engineering線上小聚」內容精選整理)

推薦案例

這是一張圖片。 This is a picture.
AI缺陷智能化檢測-降低製程耗能智慧監控解決方案

AI缺陷智能化檢測-降低製程耗能智慧監控解決方案 當一片貼片陶瓷基板上有超過2萬顆貼片電阻,應該要如何快速檢測答案是用AI來檢測。 在當前科技迅速發展的時代,雷科自豪地宣布其雷射加工技術的顯著進步,這一突破得益於人工智慧AI領域的創新應用,雷科致力於將先進的AI技術整合至雷射加工機中,於2019年與合作廠商共同開發出全球第一台結合AI技術的雷射加工機,並以此為基礎上進一步在2023年打造了首台結合AOIAILASER的陶瓷載板檢測機。 智慧陶瓷載板檢測機 藉由AI與機器學習的導入,加上樣本大數據的累積,在系統愈變愈聰明的狀況下,使產品良率在一年內提升5、將檢測速度由原本2分鐘片大幅降低至20秒片、大幅降低了檢測成本、在前段有效率檢出與雷射標示後,可降低後段製程上的浪費,減少整體場域碳排、並可自動產出詳細檢驗報告,以進行數據分析與優化,有助於提升設備產能、降低人為疏漏,使雷科的設備產品更具價值、強化我國電機電子產業之國際競爭優勢。 雷科股份有限公司Laser Tek成立於1988年,並於2002年正式掛牌成為上櫃公司,成立迄今已成為具指標性之SMD電子包裝材料、SMT檢測設備、雷射設備等全球性銷售通路服務及設計製造商之一。 雷科總經理擁有20多年雷射整合經驗,他觀察到被動元件客戶每個月產能可超過10億顆SMD元件,但伴隨著SMD元件尺寸持續微型化發展,其生產製造時之瑕疵檢測作業變得更加困難,一片陶瓷基板上動輒上千上萬顆元件,元件尺寸越小,印刷雷射加工位置更加微小,檢測難度就越大,而更容易出現偏差,因此生產檢查成為相當重要的一環。 R-SMD生產檢查流程 AOI良率過殺問題,靠AI來把關 而AOI檢查機是普遍且成熟的機種,但市面上的高精度AOI運作方式是以單次拍攝小圖移動拼接成大圖,精度雖高但檢查時間較久,小尺寸SMD元件更易受環境干擾,如:光照和振動等容易造成誤判;因此AOI僅能以抽檢方式估算良率,且抽檢良率差的元件也並非單獨去除,而是連同良品整個剔除;人力複檢不但成本提高,每個人的檢查標準又無法統一,最終導致的結果,是平均會發生約2-5的產品未被檢出不良品而流入後段製程,即約每月至少2,000萬顆不良品之SMD元件,因未能在初期被檢測出,而造成後續各段製程中,不良品上依然會有印刷、加工檢查等流程,無論是油墨耗材及能源的浪費,增添了成本負擔,更因此加速設備磨損、使設備運作壽命簡短,而每一階段的浪費,皆會增加場域製程的碳排放量,不利於企業的碳足跡盤查。 0402修阻後樣品照片範例 傳統AOI 自動光學檢查的高誤判率也是業者面臨的一大生產痛點,在被動元件產業對於良率「寧可錯殺一百,不可放過一人」的高標準要求,往往會把 AOI 參數設定極高規格,導致設備異常敏感。當數據參數設定過於嚴苛時,易造成高誤判率。例如:當被動元件的汙染髒汙與印刷層顏色相近時,AOI 過篩誤判率可能高達 7 成。 汙染髒汙與印刷層顏色相近AOI易誤判 雷科有別於其他AOI供應商,捨棄了小圖拼接或線掃描方式,有效避免圖像處理時硬體或環境造成的資料遺失與斷差,採用超大面陣感光相機搭配訂製高解析度鏡頭,透過特殊影像進行合成處理。合成的過程中,感光元件的每個像素位置上都包含了從多個不同位置捕捉到的光線資訊。通過將這些資訊結合起來,影像的解析度和細節得以提高,達到億萬級別的分辨率,配合多重自動調整光源,單次拍攝可處理涵蓋7070mm,影像解析度可高達5um,取得清晰影像,再透過Smart-AI技術進行分析篩選。 三大妙法打造快速檢測Smart -AI 雷科總經理分享,快速將AI技術導入並減少檢查運算時間,並開發Smart-AI有三大方法: 方法一、先以AOI方式快速將良品與含爭議的缺陷品進行二分法區隔,將檢測重心放在少數不良的辨識上。 方法二、自動標註平台簡化訓練問題:運用攝影機蒐集機台的資料,用自動標註取代人工標註,逐步訓練以拉高精度,問題越簡單,訓練所需資料越少。 方法三、AOI與AI雙軌並進:在智慧製造流程中,僅僅單靠AOI或AI無法畢其功於一役,必須由AOI先行,將特徵值標出,同時區分是良品或是瑕疵部分,再以AI方式進行標註與訓練。接著利用可重複串聯的加疊效應,其檢測效益更大,隨著訓練資料累積越多,AOI比例降低,AI比例逐漸提高。 修阻後物件偵測與訓練 透過三大方法逐步構建系統信賴度,並將資料進行缺陷整理分類,最終將AI判斷結果回傳到主機,以雷射加工方式在製程前端控管將真正的不良品剔除,減少不良品流入其他站別,造成重複檢測或重複加工的損耗。 智慧雷射設備第一,選擇LASERTEK就對了 由臺灣品牌雷科持續打造結合AI智慧檢測與雷射加工設備,以逐步建構由原材料、產品、檢測、雷射設備等相互相加疊而成的智慧化監控解決方案,以降低生產製程之耗能為目標,落實發展半導體 載板及元件加工等領域,產出能在低碳條件下仍可滿足終端使用者需求之設備產品,以快速且優質的產品與服務來拓展國內、外需求市場,增加本土Made in TaiwanMIT設備之全球競爭力。

【解決方案】7毫秒內分離人聲 洞見未來科技協助聽損者「聽說更簡單」
7毫秒內分離人聲 洞見未來科技協助聽損者「聽說更簡單」

某週四下午,下了一場傾盆大雨,然而,位於台北小巨蛋附近的洞見未來科技RelaJet台北體驗中心內,客戶預約全滿,主要是聽損人士前來試聽運用人聲分離引擎設計製造出來的助輔聽器,對於聽損人士而言,能夠有平價、輕巧、降噪效果佳的助輔聽器可用,真可謂一大福音。 「希望幫助有需要的使用者,再次聽見世界的精彩」這是同為聽損人士的RelaJet創辦人暨執行長陳柏儒體貼的期望,他最懂得聽損者的需求,也希望藉由洞見未來科技獨特的人聲增幅助聽技術,能夠造福更多的人。 萬元有找的輔聽器 造福廣大聽損者 成立於2018年的RelaJet,是陳柏儒與哥哥陳宥任共同創辦的公司。RelaJet所研發的多人聲分離引擎搭配高通藍牙音訊平台,將動輒8-10萬元的進口助聽器價格壓低到萬元有找,就是希望能研發平價、降噪效果佳、可運用無線傳輸連結手機的好商品。 公司成立後的前2年,主要研發多人聲分離引擎,讓降噪效果更佳,搭載上高通藍牙耳機晶片之後,音訊處理時間極短,大約7毫秒就能強化主要人聲、降低周圍噪音干擾,只需要傳統助聽器醫療標準16毫秒不到一半的時間,幾乎「零延遲」。 洞見未來科技推出平價助輔聽器,大大嘉惠聽損者 陳宥任解釋,主要是運用高通晶片的邊緣運算,加上極簡化的演算法才能做到極低延遲及聲音可以處理更好的降噪度,同時助聽器可涵蓋18個頻道,傳統的助聽器涵蓋的範圍是4-48個頻道,未來RelaJet會朝更多頻道逐步邁進。 根據統計,全球聽覺障礙者總計47億人,其中,已開發國家聽力輔具配戴率平均為30,其中以歐美國家最多。台灣有近150萬人失能性聽損,其中,中老年族群失能性聽損就佔了30,而輔具配戴率僅有10,比率相當低。 陳宥任進一步分析,輔具配戴率偏低有兩個原因,一、國際大品牌平均售價高達8-20萬元,可使用期限3年,不僅售價高、養護成本也高,讓很多人卻步;二、在吵雜環境下,噪音也被放大,使用者仍然不一定能聽得清楚,並且聲音參數無法即時、自由調整,需要常回到門市調校不是很方便。三、大部分機種無法連接手機,不方便聽損者接聽聽電話。 運用高通藍牙晶片 產品開發速度大躍進 有鑑於此,曾在聯發科擔任半導體工程師的陳柏儒負責技術研發,有法務背景的陳宥任主責公司的管理與營運,兄弟合作無間,組建團隊運用AI人工智慧演算法與晶片串接,學習數據庫內幾千小時的音檔,透過神經網路與深度學習技術,研發出低延遲、高降噪的人聲增幅助聽技術。並在2019年將此聲音處理技術整合至高通藍牙晶片,並獲得高通台灣新創競賽獲得冠軍、高通全球擴展計畫夥伴的榮譽,讓產品開發速度大躍進,2021年在台灣推出自有品牌Otoadd系列助輔聽產品,並受到市場的青睞以及有廣大聽損者的好評。 根據不同消費者的需求,有不同的產品設計,陳宥任表示,Otoadd具有輔聽功能的無線耳機N1,屬於頸掛式入門款,售價一副9,500元,可以一邊帶輔聽器一邊聽電話,運用手機App即可控制降噪強度及聲量大小。未來也將研發周邊配件,以符合年長者的需求。該輔聽器除了在台北、高雄體驗中心可預約試聽外,也可在PChome商城、台哥大myfone商城、樂齡網等輔具通路販售。 另一款為針對輕度到重度聽損者設計的Classic R助聽器,於2021年獲得日本Good Design設計獎,這款產品自去年底上市,對於先天性聽損者具有吸引力,用過的人都說在吵雜的環境下也能比過去聽得更清楚,也感受到藍牙連接手機通話、看影片的便利。預估此一商品也將在今年下半年外銷海外市場。 此外,今年6月即將上市的助聽器藍牙功能二合一功能產品,大小就如同一般藍牙耳機,主力客群鎖定在意外觀的聽損者,一方面體積較小、無線耳機造型設計美觀,加上也可接聽電話,若經衛福部許可上市之後,符合資格的聽損者還可以向政府申請補助。 RelaJet下一階段將進軍海外市場 以美國為灘頭堡 有趣的一個問題是,因應疫情關係,全民都必須配戴口罩,無法讀唇語,此對聽損者的影響是如何呢陳宥任表示,此時就能凸顯RelaJat的優勢了。由於每位聽損者聽力強弱不同,助聽器僅能補充到適當音量,協助聽損者聽取6-7成內容,餘3成仍須仰賴讀嘴唇及手勢。而在疫情期間,為了防疫,人人都戴口罩,口罩也讓聲音有所遮蔽,RelaJat人聲分離引擎也能校正補強,使戴口罩者的聲音分離清晰,方便聽損者辨識。 除了台灣市場之外,RelaJet下一階段將進軍海外市場,預計今2022年將取得ISO 13485醫材品質管理系統認證及美國醫療器材許可證,以美國為灘頭堡,以自有品牌或是成品貼牌方式銷售海外。 除了台灣市場之外,RelaJet住輔聽器下一階段將進軍美國市場

這是一張圖片。 This is a picture.
智慧工地安防平台

永億智慧工地安防平台示意圖 nbsp 在建築工地施工中,為控制工作場所的安全,實行安全防護措施及制定相關流程成為必要的條件。每位企業主都希望將工業安全風險降到最低,為了降低工安事故的機率,對於個人防護設備 Personal Protective Equipment,PPE及防護措施的檢測尤其重要,永億智慧工地安防平台,採用AI嵌入式系統,不僅能夠檢測工人是否正確佩戴安全帽等,並提供進出工地門禁管理,對工人的身份授權進行驗證。 智慧工地安防平台,亦是政府在推動智慧建築標章環節,其中「智慧工地管理」被列為「維運管理」指標三大項目之一,說明「智慧工地管理」重要性,本解方案依門禁管理、監視器管理、安全管理、環璄監測等面向之,AIOT 解決方案。 功能特色 nbsp