有鑑於人工智慧(AI)發展迅速，為了加速AI應用落地，InfuseAI打造一站式AI部署平臺軟體PrimeHub，希望能夠降低AI導入門檻，協助企業快速轉型成功。 成立於2018年的InfuseAI工合股份有限公司，由兩位臺灣開源社群資深開發者g0v共同發起人高嘉良和KKTIX創辦人薛良斌共同創立，主要產品是AI部署平臺軟體PrimeHub。 ▲InfuseAI營運長薛良斌分享MLOps落地導入應用 InfuseAI營運長薛良斌表示，AI 專案開發是⼀個迭代的過程，在AI產品生命週期從資料蒐集、開發、部署模型到監控等過程中，隱藏許多技術債，導致AI專案週期拉長、成本增加，效益大打折扣。更有甚者，根據統計，資料科學家有65%的工時不是花在模型開發上，AI的實現除了開發外，還包括維運及跨團隊協作等議題。種種因素，均造成AI發展的速度跟不上公司發展需求。 薛良斌指出，AI發展速度跟不上企業需求所產生的問題，可從以下兩方面具體展現： • AI模型的建置速度：過去需要 1~2 年的時間，才能完成⼀項AI專案。但是隨著企業導入AI，專案數量與AI模型數量都會以倍數增加。 • AI模型部署落地後的營運問題：AI 模型的⽣命週期在部署落地後才開始。隨著資料累積，可以重新訓練 AI 模型以提升效能。但是也因為模型數量成長，⾯臨到營運問題以及運算資源瓶頸。 因此，InfuseAI所研發的產品MLOps平台——PrimeHub，就涵蓋了AI模型的開發、訓練管理，到營運面的部署、監控等流程，透過流暢的⾃動化 AI ⼯作流程，提供企業一站式讓AI能真正落地的平台服務。 PrimeHub 採⽤開放式架構，並整合各種AI開發工具，包括Jupyter Notebook互動式開發環境以及主流深度學習框架，並以Docker Image方式打包，可以提供一鍵快速部署和執行。同時，PrimeHub Apps 彙整第三⽅⼯具，打造 MLOps ⽣態系。 換言之，InfuseAI 團隊除持續添加更多 PrimeHub Apps 中的第三方應用服務，也正積極與更多廠商合作，將 AI 模型自動化平台無縫串接至 PrimeHub。同時 InfuseAI 更期待能與更多聚焦於 AI 技術領域的廠商以及 SI 夥伴合作，激發更多 MLOps 平台上的應用，進一步推動規模化的AI應用落地。 成軍三年多來，InfuseAI 的客戶包括台灣人工智慧學校、玉山金控、永豐金控、臺大醫院、奇美醫院等。其中，InfuseAI與台灣⼈⼯智慧學校密切合作，解決各種教學⽅⾯的需求。各分校的助教只需要在 PrimeHub 平台簡單地操作，所有管理⼯作就⾃動完成。學員在 PrimeHub 的⾃助平台建立⼀致的預裝環境，學員可以同時間執⾏深度學習運算，透過容器化隔離，彼此不⼲擾。而助教可根據課程進度，決定需要載入的課程資料。系統會在學員開啟環境時，⾃動載入課程檔案與資料集。既快速⽅便，⼜可節省下載流量。 ⽟⼭⾦控於2018 年積極投入AI 開發，並採購 GPU 運算資源。發現多⼈、多專案同時進⾏，需要完善的基礎建設來加速。期望導入管理平台，以協助運算資源管理、資料授權等⼯作。PrimeHub 協助集中控管運算資源，提升使⽤效率。管理者只需要在 UI 介⾯設定各專案資源配額、資料授權，⽤⼾就可以在⾃助平台秒開研發環境。 薛良斌表示，PrimeHub平台希望協助企業AI開發規模化、更快部署模型從數個⼯作天減少到數⼩時內，同時也運用API及APPs來達到⾃動化及最佳化⼯作流程。PrimeHub的收費採年訂閱制，將持續優化平臺環境，也能彈性針對不同客戶提供客製化服務，現階段提供三種解決方案，包括PrimeHub Enterprise Edition 企業版、PrimeHub Deploy 輕量化的模型部署管理⽅案及PrimeHub Community Edition等，提供使用者依據需求選用。 (本文源自於「AI Engineering線上小聚」內容精選整理)
有鑑於人工智慧(AI)發展迅速，為了加速AI應用落地，InfuseAI打造一站式AI部署平臺軟體PrimeHub，希望能夠降低AI導入門檻，協助企業快速轉型成功。 成立於2018年的InfuseAI工合股份有限公司，由兩位臺灣開源社群資深開發者g0v共同發起人高嘉良和KKTIX創辦人薛良斌共同創立，主要產品是AI部署平臺軟體PrimeHub。 ▲InfuseAI營運長薛良斌分享MLOps落地導入應用 InfuseAI營運長薛良斌表示，AI 專案開發是⼀個迭代的過程，在AI產品生命週期從資料蒐集、開發、部署模型到監控等過程中，隱藏許多技術債，導致AI專案週期拉長、成本增加，效益大打折扣。更有甚者，根據統計，資料科學家有65%的工時不是花在模型開發上，AI的實現除了開發外，還包括維運及跨團隊協作等議題。種種因素，均造成AI發展的速度跟不上公司發展需求。 薛良斌指出，AI發展速度跟不上企業需求所產生的問題，可從以下兩方面具體展現： • AI模型的建置速度：過去需要 1~2 年的時間，才能完成⼀項AI專案。但是隨著企業導入AI，專案數量與AI模型數量都會以倍數增加。 • AI模型部署落地後的營運問題：AI 模型的⽣命週期在部署落地後才開始。隨著資料累積，可以重新訓練 AI 模型以提升效能。但是也因為模型數量成長，⾯臨到營運問題以及運算資源瓶頸。 因此，InfuseAI所研發的產品MLOps平台——PrimeHub，就涵蓋了AI模型的開發、訓練管理，到營運面的部署、監控等流程，透過流暢的⾃動化 AI ⼯作流程，提供企業一站式讓AI能真正落地的平台服務。 PrimeHub 採⽤開放式架構，並整合各種AI開發工具，包括Jupyter Notebook互動式開發環境以及主流深度學習框架，並以Docker Image方式打包，可以提供一鍵快速部署和執行。同時，PrimeHub Apps 彙整第三⽅⼯具，打造 MLOps ⽣態系。 換言之，InfuseAI 團隊除持續添加更多 PrimeHub Apps 中的第三方應用服務，也正積極與更多廠商合作，將 AI 模型自動化平台無縫串接至 PrimeHub。同時 InfuseAI 更期待能與更多聚焦於 AI 技術領域的廠商以及 SI 夥伴合作，激發更多 MLOps 平台上的應用，進一步推動規模化的AI應用落地。 成軍三年多來，InfuseAI 的客戶包括台灣人工智慧學校、玉山金控、永豐金控、臺大醫院、奇美醫院等。其中，InfuseAI與台灣⼈⼯智慧學校密切合作，解決各種教學⽅⾯的需求。各分校的助教只需要在 PrimeHub 平台簡單地操作，所有管理⼯作就⾃動完成。學員在 PrimeHub 的⾃助平台建立⼀致的預裝環境，學員可以同時間執⾏深度學習運算，透過容器化隔離，彼此不⼲擾。而助教可根據課程進度，決定需要載入的課程資料。系統會在學員開啟環境時，⾃動載入課程檔案與資料集。既快速⽅便，⼜可節省下載流量。 ⽟⼭⾦控於2018 年積極投入AI 開發，並採購 GPU 運算資源。發現多⼈、多專案同時進⾏，需要完善的基礎建設來加速。期望導入管理平台，以協助運算資源管理、資料授權等⼯作。PrimeHub 協助集中控管運算資源，提升使⽤效率。管理者只需要在 UI 介⾯設定各專案資源配額、資料授權，⽤⼾就可以在⾃助平台秒開研發環境。 薛良斌表示，PrimeHub平台希望協助企業AI開發規模化、更快部署模型從數個⼯作天減少到數⼩時內，同時也運用API及APPs來達到⾃動化及最佳化⼯作流程。PrimeHub的收費採年訂閱制，將持續優化平臺環境，也能彈性針對不同客戶提供客製化服務，現階段提供三種解決方案，包括PrimeHub Enterprise Edition 企業版、PrimeHub Deploy 輕量化的模型部署管理⽅案及PrimeHub Community Edition等，提供使用者依據需求選用。 (本文源自於「AI Engineering線上小聚」內容精選整理)
