:::

【110年 解決方案】 InfuseAI專注打造 PrimeHub MLOps 軟體平台 降低企業導入 AI 技術⾨檻

有鑑於人工智慧(AI)發展迅速,為了加速AI應用落地,InfuseAI打造一站式AI部署平臺軟體PrimeHub,希望能夠降低AI導入門檻,協助企業快速轉型成功。 成立於2018年的InfuseAI工合股份有限公司,由兩位臺灣開源社群資深開發者g0v共同發起人高嘉良和KKTIX創辦人薛良斌共同創立,主要產品是AI部署平臺軟體PrimeHub。

InfuseAI營運長薛良斌分享MLOps落地導入應用

▲InfuseAI營運長薛良斌分享MLOps落地導入應用

InfuseAI營運長薛良斌表示,AI 專案開發是⼀個迭代的過程,在AI產品生命週期從資料蒐集、開發、部署模型到監控等過程中,隱藏許多技術債,導致AI專案週期拉長、成本增加,效益大打折扣。更有甚者,根據統計,資料科學家有65%的工時不是花在模型開發上,AI的實現除了開發外,還包括維運及跨團隊協作等議題。種種因素,均造成AI發展的速度跟不上公司發展需求。

薛良斌指出,AI發展速度跟不上企業需求所產生的問題,可從以下兩方面具體展現:

• AI模型的建置速度:過去需要 1~2 年的時間,才能完成⼀項AI專案。但是隨著企業導入AI,專案數量與AI模型數量都會以倍數增加。

• AI模型部署落地後的營運問題:AI 模型的⽣命週期在部署落地後才開始。隨著資料累積,可以重新訓練 AI 模型以提升效能。但是也因為模型數量成長,⾯臨到營運問題以及運算資源瓶頸。

因此,InfuseAI所研發的產品MLOps平台——PrimeHub,就涵蓋了AI模型的開發、訓練管理,到營運面的部署、監控等流程,透過流暢的⾃動化 AI ⼯作流程,提供企業一站式讓AI能真正落地的平台服務。 PrimeHub 採⽤開放式架構,並整合各種AI開發工具,包括Jupyter Notebook互動式開發環境以及主流深度學習框架,並以Docker Image方式打包,可以提供一鍵快速部署和執行。同時,PrimeHub Apps 彙整第三⽅⼯具,打造 MLOps ⽣態系。

MLOps生態系

換言之,InfuseAI 團隊除持續添加更多 PrimeHub Apps 中的第三方應用服務,也正積極與更多廠商合作,將 AI 模型自動化平台無縫串接至 PrimeHub。同時 InfuseAI 更期待能與更多聚焦於 AI 技術領域的廠商以及 SI 夥伴合作,激發更多 MLOps 平台上的應用,進一步推動規模化的AI應用落地。 成軍三年多來,InfuseAI 的客戶包括台灣人工智慧學校、玉山金控、永豐金控、臺大醫院、奇美醫院等。其中,InfuseAI與台灣⼈⼯智慧學校密切合作,解決各種教學⽅⾯的需求。各分校的助教只需要在 PrimeHub 平台簡單地操作,所有管理⼯作就⾃動完成。學員在 PrimeHub 的⾃助平台建立⼀致的預裝環境,學員可以同時間執⾏深度學習運算,透過容器化隔離,彼此不⼲擾。而助教可根據課程進度,決定需要載入的課程資料。系統會在學員開啟環境時,⾃動載入課程檔案與資料集。既快速⽅便,⼜可節省下載流量。

⽟⼭⾦控於2018 年積極投入AI 開發,並採購 GPU 運算資源。發現多⼈、多專案同時進⾏,需要完善的基礎建設來加速。期望導入管理平台,以協助運算資源管理、資料授權等⼯作。PrimeHub 協助集中控管運算資源,提升使⽤效率。管理者只需要在 UI 介⾯設定各專案資源配額、資料授權,⽤⼾就可以在⾃助平台秒開研發環境。

薛良斌表示,PrimeHub平台希望協助企業AI開發規模化、更快部署模型從數個⼯作天減少到數⼩時內,同時也運用API及APPs來達到⾃動化及最佳化⼯作流程。PrimeHub的收費採年訂閱制,將持續優化平臺環境,也能彈性針對不同客戶提供客製化服務,現階段提供三種解決方案,包括PrimeHub Enterprise Edition 企業版、PrimeHub Deploy 輕量化的模型部署管理⽅案及PrimeHub Community Edition等,提供使用者依據需求選用。

(本文源自於「AI Engineering線上小聚」內容精選整理)

推薦案例

【解決方案】小柿智檢 以「AOIAI」雙劍合璧,軟加硬體千錘百鍊 打通外觀瑕疵檢測任督二脈
小柿智檢 以「AOI+AI」雙劍合璧,軟加硬體千錘百鍊 打通外觀瑕疵檢測任督二脈

品質檢測,如雙刃劍一直是台灣製造業者又愛又痛的課題。當AI深度學習進入傳統製造業的工業視覺檢測中,不僅可節省檢測人力投入、解決人工目視標準不一,克服傳統自動光學檢測AOI有限的視覺辨認及瑕疵檢測盲點,更能即時溯源品質問題成因。小柿智檢研發的AIAOI視覺檢測整體解決方案,融合軟體與硬體創造高效外觀瑕疵檢測能力,幫助電子代工客戶創造低於1漏檢率及少於3過殺率的高效品檢水準。 成立於2020年的小柿智檢,雖然是兩年的新創但並非從零開始,創辦人暨執行長洪沛駿與核心團隊曾深入富士康工廠多年,參與無數智慧工廠相關解決方案與製程改善,擁有深厚的AI深度學習開發能量,並累積世界級AI應用落地豐富經驗。看見AI工業檢測必定是製造業邁向工業40的最後一哩路,洪沛駿毅然決定將AI深度學習技術落地於產值高的智慧製造領域,並專精投入在AI工業視覺檢測開發。 對於製造業而言,產品檢測是所有品管最重要的一環,但傳統工業檢測面臨2大主要痛點 1人工目視檢測:現今整體製造業95以上仍仰賴人工目視檢查,使得人工目視品檢標準難一致性,並對細微物件目視檢測時,如被動元件或高反光元件會造成長期視力傷害。2傳統AOI自動光學檢測:對產品有限的視覺辨認能力與瑕疵檢測盲點,而其中外觀瑕疵檢測如碰刮傷、油汙、髒汙或毛絲等不可預期的細微瑕疵問題,也是AOI應用中一直無法克服的難關。 AIAOI視覺檢測整體解決方案 外觀瑕疵檢測的一大福音 當初在設計小柿智檢產品roadmap時,客群定位及強化客戶產品服務與價值是重要指標,更看見外觀瑕疵檢測一直是製造業未能解決的痛,洪沛駿表示。小柿智檢以工業品檢AI軟體為核心,提供AIAOI視覺檢測整體解決方案,主推三大產品,包含「QVI-T AI深度學習檢測建模平台軟體」、「AI六面瑕疵檢測篩選機」及「AI工業品檢平台」。主要服務客群以產能高、毛利率高的半導體封測、EMS電子代工、小金屬件加工等產業為主。針對客戶需求,小柿智檢提供對應的軟硬體服務,結合自主開發的AI深度學習軟體與硬體品檢設備,減輕產線人工目視負擔,有效提升工廠的生產品質。 為了幫助設備商及有開發能力技術工程師精準掌握產品外觀瑕疵檢測,小柿智檢自主開發QVI-T深度學習檢測軟體,可提供客戶瑕疵定位、瑕疵分類、瑕疵分割、異常檢測以及文字辨識等重點功能,有別傳統套軟體的固定的檢測法,可以根據不同產業檢測方式精進演算法,開發不同API以串接不同鏡頭的設備。此平台軟體設計非常輕量,架構在公有雲私有雲的SaaS軟體,主要是單純圖片上傳、做標記、訓練建模、驗證測試,完畢後提供使用者下載模型、SDK、API和報告,可有效幫助客戶達到AI推論功能。 目前市面工業檢測服務,以傳統AOI軟體工業檢測機居多,僅能解決產品輪廓量測如扣件的頭、長度等,無法真正提供細微商品表面瑕疵檢測如螺絲頭裂痕及牙傷,而市場上正缺少這種高精密瑕疵檢測業者,洪沛駿觀察。小柿智檢開發自主打造「AI六面瑕疵檢測篩選專用機」從過去客製化服務到現階段提供客戶標準化服務,提供扣件類在量測和表面瑕疵一次解決的標準化檢測服務,以及被動元件類產品高速表面瑕疵檢測。此專業機運用小柿智檢自主研發的AI深度學習AOI複合算法技術,透過可平行運算技術,可實現模型推論達3毫秒張,及實現被動元件之電極與本體多重複雜瑕疵檢出,此專業機主要落地於從扣件類、小金屬件到被動元件之檢測。 業界競爭力方面,AI六面瑕疵檢測篩選專業機提供的軟體硬體整合是小柿智檢重要核心競爭優勢,並非字面如此簡單,洪沛駿有感而發表示,此專機在工業檢測行業俗稱光學機構、電控、軟體及算法等領域高度集成整合,過程中需要不斷優化疊代,並需多次去客戶端驗證與修改,經長期千錘百鍊後,技術門檻也因此拉高。AI六面瑕疵檢測篩選專業機將是小柿智檢未來3-5年主力產品推動方向,相信AI結合量測技術和表面瑕疵檢測會是小柿智檢重要的核心競爭力來源,洪沛駿表示。 AI六面瑕疵檢測篩選專業機將是小柿智檢未來3-5年主力產品推方向 面對智慧工廠工業40蓬勃發展,常收到客戶詢問「品檢的數據是否有二次使用價值」,洪沛駿表示,小柿智檢推出的「AI工業品檢平台」具備機器學習機制,可藉由品檢數據二次使用,提供客戶生產品質即時監控預警、品質溯源分析、品質因子評估、製程參數預測與推薦多項功能。以成功導入汽車零組件廠為例,透AI工業品檢平台提供的製程參數預測與推薦,當我們知道產品瑕疵,依過去老師傅經驗建成一套model,再加上前段過來的接網數據,整合後我們有製程數據、來料數據、品檢數據之後,我們可以去預測這些機台參數是否跑掉,我們就可以去推薦某幾段的製程參數是否調高或調低。透過AI工業品檢平台,小柿智檢能幫助客戶將視覺品檢結果、製程數據及驗收標準,跟客戶工廠既有的MES系統對接,以提升生產品質,改善效率,降低成本。 在商業模式方面,小柿智檢在深度學習檢測建模平台軟體也提供軟體訂閱制,提供公有雲客戶以流量訂閱並依圖片上傳量進行收費,而使用私有雲客戶則採取每年授權金license收費機制。此外,公司也提供客戶在整體解決方案設備的買斷收費機制,並提供一年保固,之後每年收取耗材與軟體更新維護費。 反其道而行 軟硬兼施 小於1漏檢率15分鐘快速建模 面對製造業各樣少量多樣品檢需求,一般AI深度學習視覺檢測,通常要求客戶蒐集大量不良產品照片,既耗時標記,又造成客戶導入AI不順暢,不良品蒐集不到,導入周期長,落地充滿風險,不良樣品不夠始得模型不夠準。小柿智檢卻反其道而行,讓其產品「AI視覺檢測模型開發工具」透過客人提供的良品圖片進行訓練模型。讓AI學習良品相對容易,不需要標註,可快速壓縮時間完成建模。 以IPC電子業-研揚科技的落地應用為例,為了降低PCBA產線的品檢站人力投入並有標準化的品檢品質,小柿智檢提供PCBA AI視覺檢測軟硬體整體解決方案服務,並於工廠高自動化的流水線上進行in-line檢測,有效節省檢測人力投入,提升品檢率的標準化,改善人工目檢測造成標準不一問題。透過AI視覺檢測軟硬體整體解決方案導入,有效替客戶近兩年維持過殺率3以下,達到漏檢率小於1的高成效表現。另外,本方案提供不懂AI的從業人員可快速操作建模,透過安裝建模tool在設備上,當客戶有新的貨號需要建立模型時,僅須提供10張良品圖片在設備下掃描,只要15分鐘即可快速訓練建模。 在產品核心策略布局上,相較市場競爭對手單靠通用軟體服務搶佔所有製造業市場,但套用在工業檢測是行不通的,洪沛駿過去10年觀察,相信唯有軟體硬體才有技術門檻,並專注在一個行業與領域,採用標準化公司的AI六面瑕疵檢測篩選專用機才能夠複製與規模化,才能真正讓公司不斷邁向優化與創造產品競爭力,即使有其他競品想爭奪這塊餅也不容易,洪沛駿表示。 小柿智檢的AIAOI視覺檢測整體解決方案為客戶創造快速建模 和小於1漏檢率的優異成效 布局全球、最有競爭力的AIAOI整體解決方案商 對新創者而言,面對商務拓展,天天都是挑戰,洪沛駿表示,公司規模小容易被大公司搶單、公司人才被高薪挖腳,缺乏深厚客戶關係,業務團隊不夠龐大等。如何克服呢洪沛駿相信唯有勤能補拙、提供更好服務、更即時反饋、創造更專業的方案去說服客戶,才是新創公司致勝的關鍵和競爭力。 從2020年創業至今,小柿智檢在商品核心策略佈局上總是反其道而行的超越同業競爭市場,積極在AI視覺檢測軟硬體整體解決方案向下扎根。洪沛駿期許小柿智檢未來將成為提供電子行業、半導業全球最具競爭力的AIAOI整體方案商,並提供最頂尖的AIAOI專業機設備給電子行業、半導體業客戶群。洪沛駿表示目前公司的AI六面瑕疵檢測篩選專業機技術能量已達到國內頂尖水準。為加速專業機研發更標準化並銷售到海外市場,現階段公司將進行募資計畫,希望借助資策會等法人協助進行更多商業串接與募資管道。對於中長期目標,小柿智檢將布局全球市場包含大陸和東南亞國家,同時跟隨OEM大廠的國際腳步全球布局,並在目標檢測項目下,持續發展特色產品及邁向國際場域擴散。

這是一張圖片。 This is a picture.
智慧工地安防平台

永億智慧工地安防平台示意圖 nbsp 在建築工地施工中,為控制工作場所的安全,實行安全防護措施及制定相關流程成為必要的條件。每位企業主都希望將工業安全風險降到最低,為了降低工安事故的機率,對於個人防護設備 Personal Protective Equipment,PPE及防護措施的檢測尤其重要,永億智慧工地安防平台,採用AI嵌入式系統,不僅能夠檢測工人是否正確佩戴安全帽等,並提供進出工地門禁管理,對工人的身份授權進行驗證。 智慧工地安防平台,亦是政府在推動智慧建築標章環節,其中「智慧工地管理」被列為「維運管理」指標三大項目之一,說明「智慧工地管理」重要性,本解方案依門禁管理、監視器管理、安全管理、環璄監測等面向之,AIOT 解決方案。 功能特色 nbsp

【解決方案】運用極現科技4D無人機雲端平台 巡檢成本降為五分之一
運用極現科技4D無人機雲端平台 巡檢成本降為五分之一

無人機執行智慧巡檢工作日益普及,大型石化廠及太陽能電廠也持續導入無人機應用。位於新竹的極現科技(earthbook)以自有技術建立4D雲端平台,提供無人機、軟體及數據分析平台服務,應用於太陽能電廠及石化廠執行智慧巡檢工作,總成本只有軟硬體購置等傳統做法的五分之一,時間更由一個月縮短至24小時左右,效益十分可觀。 對於長期處在高溫壓危險環境的石化業者而言,廠區設施的安全管控與巡檢是不可承受的重。「只要能提高石化業場內設施巡檢和風險辨識能力,資源的投入絕對不是問題」石化業者語重心長表示,面對廠區仰賴人力巡檢、龐大廠區空間、看不見的製程設施破損死角,導入無人機4D AI巡檢雲端平台將提升石化業者高效、安全的設施巡檢服務,更降低設備停機的風險發生。 成立於2018年3月的極現科技公司,已是國內創業競賽的常勝軍,包括2019年OPEN DATA創新商業實務戰冠軍、2020年並獲選進入微軟新創加速器、2021年獲選NVIDIA新創AI團隊,產品已上架微軟Azure平台,更獲得國發基金及國內大型集團投資,技術實力與服務深獲市場肯定。 擅長空間資訊處理及軟體技術的極現科技創辦人暨執行長徐偉城表示,在創業之初即承接國家太空中心衛星3D拍攝排程系統,深耕地理資訊整合成3D影像領域,隨著無人機硬體技術日益成熟,公司營運轉向無人機市場,並結合AI影像辨識系統,建立4D雲端DaaS平台,所提供的服務包括網路下單空拍服務DaaS、5GAIoT雲端平台SaaS及enterpriseAPI伺服器軟體等三項服務,以滿足無人機在智慧城市、設施巡檢、工程管理、災害應變、汙染監測等應用需求,將無人機服務的價值發揮最大化。 智慧空拍巡檢 定期追蹤 一眼望穿廠區設備健康狀態 台灣石化廠的數量和廠區面積龐大,缺乏足夠人力去執行整全性的設備巡檢,加上石化廠產生高溫易燃、腐蝕性的化學物質必須經由管線和儲存槽進行傳輸與儲存,長久以來可能造成管線破裂和儲存槽堵塞的風險危機,進而衍伸石化廠區嚴重的工安災害事故、設備停機及產能停滯發生。 觀察石化業者在設備巡檢的人員短缺,目前極限科技已導入無人機4D AI巡檢雲端平台結合AI影像辨識技術於石化廠區落地實證,透過無人機結合自主開發APP軟體服務操作,並連結現場空拍蒐集數據到雲端平台,達到石化廠設備管線、儲存槽巡檢全自動又即時性的空拍監控,更確保每次空拍執行任務時,總是能精準掌握指定巡檢物件的拍攝位置和角度,有效彌補過去廠區人力巡檢時人為監測的落差。 徐偉城指出,石化廠的巡檢無人機採用雙光鏡頭,一種是可見光,另一種為熱紅外線,可以透過溫度狀況來判斷管線異常阻塞,讓客戶從遠端就可在earthbook網站立即看到廠區巡檢狀態,提升客戶的巡檢效率與準確性。 4D空拍數據平台滿足智慧城市、交通、工程管理、汙染監測多元應用 DaaS網路即買即用 創新空拍商業模式可節省15成本 極現科技除了提供4D空拍數據平台,也提供DaaSDrone as a Service 服務,客戶可以在網站下單購買服務之後,極現協助媒合有專業證照的空拍人員到現場服務,客戶可透過平台掌握實際操作情況,並可迅速取得空拍數據,並研判是否有異常情況,能隨時預警。 以太陽能電廠監測服務為例,因太陽能電廠廠區面積大分布廣,又位於偏僻的屏東,而客戶總部在台北,對於屏東的電廠巡檢,客戶只要透過DaaS服務模式,直接網路下訂單並上傳屏東廠區的地圖,等客戶取得報價後,公司就委託當地屏東飛手去現場執行太陽能電廠空拍巡檢服務,過程中無人機的路線皆由AI自動計算好航線規劃,並將空拍數據傳輸到客戶雲端帳號,在台北總部的客戶就可在earthbook的網站即時看到太陽能電廠巡檢狀況如太陽能面板髒污狀況、灰塵偵測或太陽能電磁異常發熱等,有效幫助客戶大幅降低人事執行成本,高效率完成太陽能電廠巡檢服務。 導入石化廠的DaaS網路下單空拍服務 根據估算,太陽能發電廠客戶以自購或委託外界進行無人機拍攝居多而造成人事成本過高。在極現科技長期提供客戶空拍機和DaaS商業模式服務下,可為客戶節省45空拍成本,同時讓客戶於空拍24小時候後取得空拍巡檢報告,加速協助客戶高效率判斷太陽能面板異常問題。 期許成為最大空拍數據服務公司 將進軍東南亞市場 從2018年創立至今,極現科技即以創新思維在空拍市場快速成長,積極拓展空拍數據應用服務,現階段除了努力經營台灣市場外,將進軍東南亞國家,首站選擇在基礎建設需求量大的印尼。徐偉城期許earthbook成為全球最大的空拍數據服務平台,除了剛完成國發基金及大型集團的首輪募資外,為了跨足國際市場,一方面不斷精進無人機的數據服務及AI技術創新,另一方面,也需要法人如資策會的協助,尋找到對公司有互補的策略性投資人,分階段完成成為跨國空拍數據公司的目標。 極現科技創辦人暨執行長徐偉城