:::

【110年 解決方案】 InfuseAI專注打造 PrimeHub MLOps 軟體平台 降低企業導入 AI 技術⾨檻

有鑑於人工智慧(AI)發展迅速,為了加速AI應用落地,InfuseAI打造一站式AI部署平臺軟體PrimeHub,希望能夠降低AI導入門檻,協助企業快速轉型成功。 成立於2018年的InfuseAI工合股份有限公司,由兩位臺灣開源社群資深開發者g0v共同發起人高嘉良和KKTIX創辦人薛良斌共同創立,主要產品是AI部署平臺軟體PrimeHub。

InfuseAI營運長薛良斌分享MLOps落地導入應用

▲InfuseAI營運長薛良斌分享MLOps落地導入應用

InfuseAI營運長薛良斌表示,AI 專案開發是⼀個迭代的過程,在AI產品生命週期從資料蒐集、開發、部署模型到監控等過程中,隱藏許多技術債,導致AI專案週期拉長、成本增加,效益大打折扣。更有甚者,根據統計,資料科學家有65%的工時不是花在模型開發上,AI的實現除了開發外,還包括維運及跨團隊協作等議題。種種因素,均造成AI發展的速度跟不上公司發展需求。

薛良斌指出,AI發展速度跟不上企業需求所產生的問題,可從以下兩方面具體展現:

• AI模型的建置速度:過去需要 1~2 年的時間,才能完成⼀項AI專案。但是隨著企業導入AI,專案數量與AI模型數量都會以倍數增加。

• AI模型部署落地後的營運問題:AI 模型的⽣命週期在部署落地後才開始。隨著資料累積,可以重新訓練 AI 模型以提升效能。但是也因為模型數量成長,⾯臨到營運問題以及運算資源瓶頸。

因此,InfuseAI所研發的產品MLOps平台——PrimeHub,就涵蓋了AI模型的開發、訓練管理,到營運面的部署、監控等流程,透過流暢的⾃動化 AI ⼯作流程,提供企業一站式讓AI能真正落地的平台服務。 PrimeHub 採⽤開放式架構,並整合各種AI開發工具,包括Jupyter Notebook互動式開發環境以及主流深度學習框架,並以Docker Image方式打包,可以提供一鍵快速部署和執行。同時,PrimeHub Apps 彙整第三⽅⼯具,打造 MLOps ⽣態系。

MLOps生態系

換言之,InfuseAI 團隊除持續添加更多 PrimeHub Apps 中的第三方應用服務,也正積極與更多廠商合作,將 AI 模型自動化平台無縫串接至 PrimeHub。同時 InfuseAI 更期待能與更多聚焦於 AI 技術領域的廠商以及 SI 夥伴合作,激發更多 MLOps 平台上的應用,進一步推動規模化的AI應用落地。 成軍三年多來,InfuseAI 的客戶包括台灣人工智慧學校、玉山金控、永豐金控、臺大醫院、奇美醫院等。其中,InfuseAI與台灣⼈⼯智慧學校密切合作,解決各種教學⽅⾯的需求。各分校的助教只需要在 PrimeHub 平台簡單地操作,所有管理⼯作就⾃動完成。學員在 PrimeHub 的⾃助平台建立⼀致的預裝環境,學員可以同時間執⾏深度學習運算,透過容器化隔離,彼此不⼲擾。而助教可根據課程進度,決定需要載入的課程資料。系統會在學員開啟環境時,⾃動載入課程檔案與資料集。既快速⽅便,⼜可節省下載流量。

⽟⼭⾦控於2018 年積極投入AI 開發,並採購 GPU 運算資源。發現多⼈、多專案同時進⾏,需要完善的基礎建設來加速。期望導入管理平台,以協助運算資源管理、資料授權等⼯作。PrimeHub 協助集中控管運算資源,提升使⽤效率。管理者只需要在 UI 介⾯設定各專案資源配額、資料授權,⽤⼾就可以在⾃助平台秒開研發環境。

薛良斌表示,PrimeHub平台希望協助企業AI開發規模化、更快部署模型從數個⼯作天減少到數⼩時內,同時也運用API及APPs來達到⾃動化及最佳化⼯作流程。PrimeHub的收費採年訂閱制,將持續優化平臺環境,也能彈性針對不同客戶提供客製化服務,現階段提供三種解決方案,包括PrimeHub Enterprise Edition 企業版、PrimeHub Deploy 輕量化的模型部署管理⽅案及PrimeHub Community Edition等,提供使用者依據需求選用。

(本文源自於「AI Engineering線上小聚」內容精選整理)

推薦案例

這是一張圖片。 This is a picture.
智慧工地安防平台

永億智慧工地安防平台示意圖 nbsp 在建築工地施工中,為控制工作場所的安全,實行安全防護措施及制定相關流程成為必要的條件。每位企業主都希望將工業安全風險降到最低,為了降低工安事故的機率,對於個人防護設備 Personal Protective Equipment,PPE及防護措施的檢測尤其重要,永億智慧工地安防平台,採用AI嵌入式系統,不僅能夠檢測工人是否正確佩戴安全帽等,並提供進出工地門禁管理,對工人的身份授權進行驗證。 智慧工地安防平台,亦是政府在推動智慧建築標章環節,其中「智慧工地管理」被列為「維運管理」指標三大項目之一,說明「智慧工地管理」重要性,本解方案依門禁管理、監視器管理、安全管理、環璄監測等面向之,AIOT 解決方案。 功能特色 nbsp

【解決方案】小柿智檢 以「AOIAI」雙劍合璧,軟加硬體千錘百鍊 打通外觀瑕疵檢測任督二脈
小柿智檢 以「AOI+AI」雙劍合璧,軟加硬體千錘百鍊 打通外觀瑕疵檢測任督二脈

品質檢測,如雙刃劍一直是台灣製造業者又愛又痛的課題。當AI深度學習進入傳統製造業的工業視覺檢測中,不僅可節省檢測人力投入、解決人工目視標準不一,克服傳統自動光學檢測AOI有限的視覺辨認及瑕疵檢測盲點,更能即時溯源品質問題成因。小柿智檢研發的AIAOI視覺檢測整體解決方案,融合軟體與硬體創造高效外觀瑕疵檢測能力,幫助電子代工客戶創造低於1漏檢率及少於3過殺率的高效品檢水準。 成立於2020年的小柿智檢,雖然是兩年的新創但並非從零開始,創辦人暨執行長洪沛駿與核心團隊曾深入富士康工廠多年,參與無數智慧工廠相關解決方案與製程改善,擁有深厚的AI深度學習開發能量,並累積世界級AI應用落地豐富經驗。看見AI工業檢測必定是製造業邁向工業40的最後一哩路,洪沛駿毅然決定將AI深度學習技術落地於產值高的智慧製造領域,並專精投入在AI工業視覺檢測開發。 對於製造業而言,產品檢測是所有品管最重要的一環,但傳統工業檢測面臨2大主要痛點 1人工目視檢測:現今整體製造業95以上仍仰賴人工目視檢查,使得人工目視品檢標準難一致性,並對細微物件目視檢測時,如被動元件或高反光元件會造成長期視力傷害。2傳統AOI自動光學檢測:對產品有限的視覺辨認能力與瑕疵檢測盲點,而其中外觀瑕疵檢測如碰刮傷、油汙、髒汙或毛絲等不可預期的細微瑕疵問題,也是AOI應用中一直無法克服的難關。 AIAOI視覺檢測整體解決方案 外觀瑕疵檢測的一大福音 當初在設計小柿智檢產品roadmap時,客群定位及強化客戶產品服務與價值是重要指標,更看見外觀瑕疵檢測一直是製造業未能解決的痛,洪沛駿表示。小柿智檢以工業品檢AI軟體為核心,提供AIAOI視覺檢測整體解決方案,主推三大產品,包含「QVI-T AI深度學習檢測建模平台軟體」、「AI六面瑕疵檢測篩選機」及「AI工業品檢平台」。主要服務客群以產能高、毛利率高的半導體封測、EMS電子代工、小金屬件加工等產業為主。針對客戶需求,小柿智檢提供對應的軟硬體服務,結合自主開發的AI深度學習軟體與硬體品檢設備,減輕產線人工目視負擔,有效提升工廠的生產品質。 為了幫助設備商及有開發能力技術工程師精準掌握產品外觀瑕疵檢測,小柿智檢自主開發QVI-T深度學習檢測軟體,可提供客戶瑕疵定位、瑕疵分類、瑕疵分割、異常檢測以及文字辨識等重點功能,有別傳統套軟體的固定的檢測法,可以根據不同產業檢測方式精進演算法,開發不同API以串接不同鏡頭的設備。此平台軟體設計非常輕量,架構在公有雲私有雲的SaaS軟體,主要是單純圖片上傳、做標記、訓練建模、驗證測試,完畢後提供使用者下載模型、SDK、API和報告,可有效幫助客戶達到AI推論功能。 目前市面工業檢測服務,以傳統AOI軟體工業檢測機居多,僅能解決產品輪廓量測如扣件的頭、長度等,無法真正提供細微商品表面瑕疵檢測如螺絲頭裂痕及牙傷,而市場上正缺少這種高精密瑕疵檢測業者,洪沛駿觀察。小柿智檢開發自主打造「AI六面瑕疵檢測篩選專用機」從過去客製化服務到現階段提供客戶標準化服務,提供扣件類在量測和表面瑕疵一次解決的標準化檢測服務,以及被動元件類產品高速表面瑕疵檢測。此專業機運用小柿智檢自主研發的AI深度學習AOI複合算法技術,透過可平行運算技術,可實現模型推論達3毫秒張,及實現被動元件之電極與本體多重複雜瑕疵檢出,此專業機主要落地於從扣件類、小金屬件到被動元件之檢測。 業界競爭力方面,AI六面瑕疵檢測篩選專業機提供的軟體硬體整合是小柿智檢重要核心競爭優勢,並非字面如此簡單,洪沛駿有感而發表示,此專機在工業檢測行業俗稱光學機構、電控、軟體及算法等領域高度集成整合,過程中需要不斷優化疊代,並需多次去客戶端驗證與修改,經長期千錘百鍊後,技術門檻也因此拉高。AI六面瑕疵檢測篩選專業機將是小柿智檢未來3-5年主力產品推動方向,相信AI結合量測技術和表面瑕疵檢測會是小柿智檢重要的核心競爭力來源,洪沛駿表示。 AI六面瑕疵檢測篩選專業機將是小柿智檢未來3-5年主力產品推方向 面對智慧工廠工業40蓬勃發展,常收到客戶詢問「品檢的數據是否有二次使用價值」,洪沛駿表示,小柿智檢推出的「AI工業品檢平台」具備機器學習機制,可藉由品檢數據二次使用,提供客戶生產品質即時監控預警、品質溯源分析、品質因子評估、製程參數預測與推薦多項功能。以成功導入汽車零組件廠為例,透AI工業品檢平台提供的製程參數預測與推薦,當我們知道產品瑕疵,依過去老師傅經驗建成一套model,再加上前段過來的接網數據,整合後我們有製程數據、來料數據、品檢數據之後,我們可以去預測這些機台參數是否跑掉,我們就可以去推薦某幾段的製程參數是否調高或調低。透過AI工業品檢平台,小柿智檢能幫助客戶將視覺品檢結果、製程數據及驗收標準,跟客戶工廠既有的MES系統對接,以提升生產品質,改善效率,降低成本。 在商業模式方面,小柿智檢在深度學習檢測建模平台軟體也提供軟體訂閱制,提供公有雲客戶以流量訂閱並依圖片上傳量進行收費,而使用私有雲客戶則採取每年授權金license收費機制。此外,公司也提供客戶在整體解決方案設備的買斷收費機制,並提供一年保固,之後每年收取耗材與軟體更新維護費。 反其道而行 軟硬兼施 小於1漏檢率15分鐘快速建模 面對製造業各樣少量多樣品檢需求,一般AI深度學習視覺檢測,通常要求客戶蒐集大量不良產品照片,既耗時標記,又造成客戶導入AI不順暢,不良品蒐集不到,導入周期長,落地充滿風險,不良樣品不夠始得模型不夠準。小柿智檢卻反其道而行,讓其產品「AI視覺檢測模型開發工具」透過客人提供的良品圖片進行訓練模型。讓AI學習良品相對容易,不需要標註,可快速壓縮時間完成建模。 以IPC電子業-研揚科技的落地應用為例,為了降低PCBA產線的品檢站人力投入並有標準化的品檢品質,小柿智檢提供PCBA AI視覺檢測軟硬體整體解決方案服務,並於工廠高自動化的流水線上進行in-line檢測,有效節省檢測人力投入,提升品檢率的標準化,改善人工目檢測造成標準不一問題。透過AI視覺檢測軟硬體整體解決方案導入,有效替客戶近兩年維持過殺率3以下,達到漏檢率小於1的高成效表現。另外,本方案提供不懂AI的從業人員可快速操作建模,透過安裝建模tool在設備上,當客戶有新的貨號需要建立模型時,僅須提供10張良品圖片在設備下掃描,只要15分鐘即可快速訓練建模。 在產品核心策略布局上,相較市場競爭對手單靠通用軟體服務搶佔所有製造業市場,但套用在工業檢測是行不通的,洪沛駿過去10年觀察,相信唯有軟體硬體才有技術門檻,並專注在一個行業與領域,採用標準化公司的AI六面瑕疵檢測篩選專用機才能夠複製與規模化,才能真正讓公司不斷邁向優化與創造產品競爭力,即使有其他競品想爭奪這塊餅也不容易,洪沛駿表示。 小柿智檢的AIAOI視覺檢測整體解決方案為客戶創造快速建模 和小於1漏檢率的優異成效 布局全球、最有競爭力的AIAOI整體解決方案商 對新創者而言,面對商務拓展,天天都是挑戰,洪沛駿表示,公司規模小容易被大公司搶單、公司人才被高薪挖腳,缺乏深厚客戶關係,業務團隊不夠龐大等。如何克服呢洪沛駿相信唯有勤能補拙、提供更好服務、更即時反饋、創造更專業的方案去說服客戶,才是新創公司致勝的關鍵和競爭力。 從2020年創業至今,小柿智檢在商品核心策略佈局上總是反其道而行的超越同業競爭市場,積極在AI視覺檢測軟硬體整體解決方案向下扎根。洪沛駿期許小柿智檢未來將成為提供電子行業、半導業全球最具競爭力的AIAOI整體方案商,並提供最頂尖的AIAOI專業機設備給電子行業、半導體業客戶群。洪沛駿表示目前公司的AI六面瑕疵檢測篩選專業機技術能量已達到國內頂尖水準。為加速專業機研發更標準化並銷售到海外市場,現階段公司將進行募資計畫,希望借助資策會等法人協助進行更多商業串接與募資管道。對於中長期目標,小柿智檢將布局全球市場包含大陸和東南亞國家,同時跟隨OEM大廠的國際腳步全球布局,並在目標檢測項目下,持續發展特色產品及邁向國際場域擴散。

【解決方案】2秒鐘完成結帳動作 Viscovery AI影像辨識助攻智慧零售
1 秒鐘完成結帳動作 Viscovery AI 影像辨識助攻智慧零售

近年來,人工智慧 Artificial Intelligence,簡稱 AI 已逐漸改變各行各業的運作模式,不過,絕大部分的工作仍然是由人類完成,AI 則扮演輔助的角色,因而出現了「AI Copilot」一詞,代表「由 AI 驅動的工具或助理」,旨在協助使用者完成各種任務,提高生產力和效率。 AI Copilot 的概念源自於「副駕駛」這個角色,在飛行中,副駕駛協助主駕駛員完成各項任務,確保飛行安全與效率。其實,工業革命的「機器」就開始有 Copilot 的影子,各種機器在不同領域中扮演「Copilot」的角色,輔助人類完成繁重的體力和重複性工作,大幅提升工廠生產效率,推動經濟快速發展。 隨著運算設備的進步、機器學習、深度學習、影像辨識等技術的突破,AI Copilot 的概念逐漸成形。AI Copilot 的發展標誌著從「機器輔助提升到智慧輔助的轉變」。早期的機器人只能完成預設的重複性工作,而現在的 AI Copilot 則能夠學習和適應新的環境與任務,並在實際應用中不斷優化自身表現。這一轉變不僅改變了人機交互的方式,也為各產業帶來了深遠的影響。 AI Copilot 的應用範圍涵蓋了各個行業,包括:金融、醫療、製造、教育、零售hellip等等,無處不在。 AI Copilot 於零售業的應用:AI 影像辨識結帳 在零售業,AI Copilot 的應用已經開始展現具體成果。 以 Viscovery 的 AI 影像辨識結帳系統為例,這套系統即為 AI Copilot 模式的一種,輔助店員加速結帳,或者輔助消費者簡化自助結帳流程。 nbsp 一般的結帳方式需要店員逐一掃描商品條碼,若是無條碼的商品,如:麵包、餐點,則需店員花時間先用肉眼確認品項,再一個個輸入到 POS 結帳系統中。根據一家連鎖麵包店實測,資深店員從「肉眼辨識」到「輸入一盤 6 顆麵包的商品資訊到結帳系統」的過程,就要 22 秒的時間,新進店員需要的時間可能更多。另外,根據一家日本麵包店業者分享,培訓員工認識、熟悉商品需要 1 至 2 個月的時間。 nbsp 現在有了 AI 影像辨識技術,店員可以把「辨識商品」的步驟交給 AI,由 AI 扮演 Copilot 的角色,1 秒內迅速辨識品項,加快結帳,整體節省 50 的結帳時間,優化顧客購物體驗。而培訓員工辨認麵包的時間成本,也能因此有效縮短。 nbsp 即便是帶有條碼的商品,AI 也可以在一秒內快速辨識多個品項,相比逐個掃條碼的方式,效率更高 nbsp 而有 AI 影像辨識「輔助」的自助結帳系統,則能夠讓消費者在沒有店員幫助的情況下,順利完成購物,省去刷條碼或在螢幕上查找品項的麻煩,提升購物體驗,在缺工、找不到店員的時代,也幫助店家降低營運成本。 nbsp AI 快速辨識多件結帳商品只要一秒鐘 圖片來源:Viscovery 近來,致力研發 AI 影像辨識結帳方案的新創在各國嶄露頭角,目前已知最輕量化的解決方案就在台灣,只要在結帳櫃檯安裝一支 Viscovery 的鏡頭與一台搭載 Viscovery AI 影像辨識軟體的平板,即可與店家既有的 POS 結帳系統串接,馬上啟用。 整合方式多元,有隨插即用的作法,也有與店家 POS 整合的 API 串接方案。 Viscovery AI 影像辨識系統可與店家現有的 POS 系統無痛整合 圖片來源:Viscovery AI 影像辨識結帳的導入實例 目前 Viscovery AI 影像辨識系統已導入台灣連鎖烘焙店、新加坡中式麵店、日本仙台百貨公司商辦超商 micormarket、日本麵包店與蛋糕店hellip等等。超過 700 萬筆交易筆數,都是透過這套 AI 系統完成,辨識超過 4000 萬件商品。這些使用案例展示了 Viscovery AI 影像辨識系統在零售行業的廣泛應用,未來將持續深耕、探索零售及餐飲運用 Vision AI 的各種可能。 nbsp Viscovery AI 影像辨識系統已導入日本、新加坡、台灣,使用於麵包店、蛋糕店、餐廳、便利商店等多個場域 圖片來源:Viscovery