:::

【110年 解決方案】 InfuseAI專注打造 PrimeHub MLOps 軟體平台 降低企業導入 AI 技術⾨檻

有鑑於人工智慧(AI)發展迅速,為了加速AI應用落地,InfuseAI打造一站式AI部署平臺軟體PrimeHub,希望能夠降低AI導入門檻,協助企業快速轉型成功。 成立於2018年的InfuseAI工合股份有限公司,由兩位臺灣開源社群資深開發者g0v共同發起人高嘉良和KKTIX創辦人薛良斌共同創立,主要產品是AI部署平臺軟體PrimeHub。

InfuseAI營運長薛良斌分享MLOps落地導入應用

▲InfuseAI營運長薛良斌分享MLOps落地導入應用

InfuseAI營運長薛良斌表示,AI 專案開發是⼀個迭代的過程,在AI產品生命週期從資料蒐集、開發、部署模型到監控等過程中,隱藏許多技術債,導致AI專案週期拉長、成本增加,效益大打折扣。更有甚者,根據統計,資料科學家有65%的工時不是花在模型開發上,AI的實現除了開發外,還包括維運及跨團隊協作等議題。種種因素,均造成AI發展的速度跟不上公司發展需求。

薛良斌指出,AI發展速度跟不上企業需求所產生的問題,可從以下兩方面具體展現:

• AI模型的建置速度:過去需要 1~2 年的時間,才能完成⼀項AI專案。但是隨著企業導入AI,專案數量與AI模型數量都會以倍數增加。

• AI模型部署落地後的營運問題:AI 模型的⽣命週期在部署落地後才開始。隨著資料累積,可以重新訓練 AI 模型以提升效能。但是也因為模型數量成長,⾯臨到營運問題以及運算資源瓶頸。

因此,InfuseAI所研發的產品MLOps平台——PrimeHub,就涵蓋了AI模型的開發、訓練管理,到營運面的部署、監控等流程,透過流暢的⾃動化 AI ⼯作流程,提供企業一站式讓AI能真正落地的平台服務。 PrimeHub 採⽤開放式架構,並整合各種AI開發工具,包括Jupyter Notebook互動式開發環境以及主流深度學習框架,並以Docker Image方式打包,可以提供一鍵快速部署和執行。同時,PrimeHub Apps 彙整第三⽅⼯具,打造 MLOps ⽣態系。

MLOps生態系

換言之,InfuseAI 團隊除持續添加更多 PrimeHub Apps 中的第三方應用服務,也正積極與更多廠商合作,將 AI 模型自動化平台無縫串接至 PrimeHub。同時 InfuseAI 更期待能與更多聚焦於 AI 技術領域的廠商以及 SI 夥伴合作,激發更多 MLOps 平台上的應用,進一步推動規模化的AI應用落地。 成軍三年多來,InfuseAI 的客戶包括台灣人工智慧學校、玉山金控、永豐金控、臺大醫院、奇美醫院等。其中,InfuseAI與台灣⼈⼯智慧學校密切合作,解決各種教學⽅⾯的需求。各分校的助教只需要在 PrimeHub 平台簡單地操作,所有管理⼯作就⾃動完成。學員在 PrimeHub 的⾃助平台建立⼀致的預裝環境,學員可以同時間執⾏深度學習運算,透過容器化隔離,彼此不⼲擾。而助教可根據課程進度,決定需要載入的課程資料。系統會在學員開啟環境時,⾃動載入課程檔案與資料集。既快速⽅便,⼜可節省下載流量。

⽟⼭⾦控於2018 年積極投入AI 開發,並採購 GPU 運算資源。發現多⼈、多專案同時進⾏,需要完善的基礎建設來加速。期望導入管理平台,以協助運算資源管理、資料授權等⼯作。PrimeHub 協助集中控管運算資源,提升使⽤效率。管理者只需要在 UI 介⾯設定各專案資源配額、資料授權,⽤⼾就可以在⾃助平台秒開研發環境。

薛良斌表示,PrimeHub平台希望協助企業AI開發規模化、更快部署模型從數個⼯作天減少到數⼩時內,同時也運用API及APPs來達到⾃動化及最佳化⼯作流程。PrimeHub的收費採年訂閱制,將持續優化平臺環境,也能彈性針對不同客戶提供客製化服務,現階段提供三種解決方案,包括PrimeHub Enterprise Edition 企業版、PrimeHub Deploy 輕量化的模型部署管理⽅案及PrimeHub Community Edition等,提供使用者依據需求選用。

(本文源自於「AI Engineering線上小聚」內容精選整理)

推薦案例

【解決方案】光禾感知科技智慧球場體驗 AR互動讓看球變得更加有趣
光禾感知Qubby AI智能客服 助企業從客服到知識管理全面升級

「你們營業時間是幾時」、「產品功能跟特點是什麼」、「現在有什麼優惠」、「產品有沒有報固」、「產品送修有沒有配合廠商」,對消費者來說,每一次的詢問都是獨一無二的客戶體驗,但對企業單位,這些問題每天接觸的重複性高達90以上。光禾感知科技Qubby AI智能客服能協助企業把握每次與消費者接觸的契機,持續提供高品質的客戶服務,並透過AI優化服務流程,打造高效服務團隊。 nbsp台灣第一個 IMSNS 虛擬人即時語音互動AI客服:Qubby AI 資訊化時代造成消費行為改變,企業紛紛佈局品牌官網App、實體店面、經銷通路、第三方電商等線上線下平台,增加與消費者接觸的通路,但相對造成客服人員更大的業務負擔,需要多管道監測以便即時提供服務。光禾感知科技Qubby AI智能客服助企業一個帳號就能整合管理網頁、LINE、Facebook Messenger、WhatsApp和多媒體互動機等多元平台,服務支援29國語言, 7 X 24第一時間服務海內外客戶,滿足顧客需求建立良好關係,創造源源不絕的重要價值客戶。 Qubby AI智能客服特點:節省教育訓練時間、AI標準化回覆、支援IMSNS、提高客服效率、優化服務體驗、Web網頁隨處適用 nbsp3步驟高效打造企業專屬AI智能客服,免設計QA 為協助企業建立高效團隊,光禾感知科技憑藉多年海內外專案經驗,結合厚實的技術能量,將Qubby AI智能客服建置濃縮為3步驟。步驟一為創造形象,將企業形象擬人化,可上傳頭貼照片、創建現實風格或動漫風格的3D虛擬人,或是客製真人形象,將過往單向的企業溝通模式轉化為雙向的互動服務模式,不僅提升顧客品牌好感度,更是創造有溫度的服務不可或缺的一環。步驟二是選擇聲音,Qubby AI智能客服能以文字、預設QampA、語音的方式與顧客互動,語音可以選擇系統預設AI人聲,或是以AI克隆真人聲音,支援轉化29國語音,宛如本人親自服務,提升顧客品牌信賴度。步驟三建立知識庫,僅需上傳PDF即可創造AI大腦知識庫,中文文本AI翻譯支援語系,不用在一題一題設計問答,AI機器訓練學習企業及產品知識文案,自動抓取用戶問題相關知識內容,整合知識回覆,大幅縮短建置與訓練時間。 nbspQubby AI智能客服另一特色為可將「性格」,如活潑、自信、溫柔等特質引入角色中,並賦予「志向」和「使命」等特質,使客服更具靈活性,貼合企業品牌形象。結合產業Know-How,更可成為業界專屬AI客服應用,如台灣第一個專為牙醫打造的AI客服Qubby AI DentalGPT,針對牙醫知識、衛教資訊和診所常見問題,已訓練成專屬AI模型和資料庫,並整合為使用便捷的懶人包。 企業僅需3步驟:創造形象、選擇聲音、建立知識庫,就能快速打造專屬Qubby AI智能客服 nbsp Qubby AI多元應用,助企業從客服到知識管理全面升級 Qubby AI智能客服已應用於醫療業、金融業、電子業、會議展覽業、教育業、百貨零售業、公關服務業、名人等各式行業,服務內容從企業對外的產品銷售、活動推廣、客戶服務,到對內的HR助手、知識管理、法令遵循、技術維護應用等皆可使用,已成為企業最聰明且高效、直接的事業夥伴。 nbsp除助服務流程優化,讓人員可專注在處理真正困難與有價值的問題上,Qubby AI後台數據完整紀錄顧客使用AI客服的筆數、時間、平台、裝置、對話紀錄等,並可匯出資料,進一步從對話內容當中挖掘顧客洞察,開創新型態服務搶佔商機。 Qubby AI智能客服後台完整記錄用戶資訊與數據 nbsp推出免費體驗14天體驗 徵求經銷代理商共拓海內外市場 為協助企業數位轉型,OSENSE光禾感知科技 Qubby AI智能客服推出免費14天體驗方案,提供AI文字與預計語音客服、AI知識庫建置、每月6000則訊息使用量,及體驗3D虛擬人預設角色,降低企業對AI解決方案的疑慮。除深耕台灣市場,光禾感知科技積極邁進國際,如美國、日本、東南亞,於2024年1月已和東南亞最大診所管理系統廠商簽署合約,將Qubby AI智能客服帶往南向,期望為東南亞的醫療機構和民眾提供全面的AI數位服務與解決方案,創造更優質的醫療體驗,並擴大智慧醫療生態圈。 AI正掀新一次的工業革命,根據Gartner推估,全球約有 1,700 萬名客服人員任職於客服中心。客服中心 95 的成本來自人事,即使自動化 10 的服務量,每年就可省下上百億美元。從人工智慧科技基金會發布的2023 台灣產業 AI 化大調查也可發現,台灣仍有近半企業未使用AI服務,可見AI商機之龐大,光禾感知科技積極徵求經銷商與代理商,共拓海內外市場。

【解決方案】7毫秒內分離人聲 洞見未來科技協助聽損者「聽說更簡單」
7毫秒內分離人聲 洞見未來科技協助聽損者「聽說更簡單」

某週四下午,下了一場傾盆大雨,然而,位於台北小巨蛋附近的洞見未來科技RelaJet台北體驗中心內,客戶預約全滿,主要是聽損人士前來試聽運用人聲分離引擎設計製造出來的助輔聽器,對於聽損人士而言,能夠有平價、輕巧、降噪效果佳的助輔聽器可用,真可謂一大福音。 「希望幫助有需要的使用者,再次聽見世界的精彩」這是同為聽損人士的RelaJet創辦人暨執行長陳柏儒體貼的期望,他最懂得聽損者的需求,也希望藉由洞見未來科技獨特的人聲增幅助聽技術,能夠造福更多的人。 萬元有找的輔聽器 造福廣大聽損者 成立於2018年的RelaJet,是陳柏儒與哥哥陳宥任共同創辦的公司。RelaJet所研發的多人聲分離引擎搭配高通藍牙音訊平台,將動輒8-10萬元的進口助聽器價格壓低到萬元有找,就是希望能研發平價、降噪效果佳、可運用無線傳輸連結手機的好商品。 公司成立後的前2年,主要研發多人聲分離引擎,讓降噪效果更佳,搭載上高通藍牙耳機晶片之後,音訊處理時間極短,大約7毫秒就能強化主要人聲、降低周圍噪音干擾,只需要傳統助聽器醫療標準16毫秒不到一半的時間,幾乎「零延遲」。 洞見未來科技推出平價助輔聽器,大大嘉惠聽損者 陳宥任解釋,主要是運用高通晶片的邊緣運算,加上極簡化的演算法才能做到極低延遲及聲音可以處理更好的降噪度,同時助聽器可涵蓋18個頻道,傳統的助聽器涵蓋的範圍是4-48個頻道,未來RelaJet會朝更多頻道逐步邁進。 根據統計,全球聽覺障礙者總計47億人,其中,已開發國家聽力輔具配戴率平均為30,其中以歐美國家最多。台灣有近150萬人失能性聽損,其中,中老年族群失能性聽損就佔了30,而輔具配戴率僅有10,比率相當低。 陳宥任進一步分析,輔具配戴率偏低有兩個原因,一、國際大品牌平均售價高達8-20萬元,可使用期限3年,不僅售價高、養護成本也高,讓很多人卻步;二、在吵雜環境下,噪音也被放大,使用者仍然不一定能聽得清楚,並且聲音參數無法即時、自由調整,需要常回到門市調校不是很方便。三、大部分機種無法連接手機,不方便聽損者接聽聽電話。 運用高通藍牙晶片 產品開發速度大躍進 有鑑於此,曾在聯發科擔任半導體工程師的陳柏儒負責技術研發,有法務背景的陳宥任主責公司的管理與營運,兄弟合作無間,組建團隊運用AI人工智慧演算法與晶片串接,學習數據庫內幾千小時的音檔,透過神經網路與深度學習技術,研發出低延遲、高降噪的人聲增幅助聽技術。並在2019年將此聲音處理技術整合至高通藍牙晶片,並獲得高通台灣新創競賽獲得冠軍、高通全球擴展計畫夥伴的榮譽,讓產品開發速度大躍進,2021年在台灣推出自有品牌Otoadd系列助輔聽產品,並受到市場的青睞以及有廣大聽損者的好評。 根據不同消費者的需求,有不同的產品設計,陳宥任表示,Otoadd具有輔聽功能的無線耳機N1,屬於頸掛式入門款,售價一副9,500元,可以一邊帶輔聽器一邊聽電話,運用手機App即可控制降噪強度及聲量大小。未來也將研發周邊配件,以符合年長者的需求。該輔聽器除了在台北、高雄體驗中心可預約試聽外,也可在PChome商城、台哥大myfone商城、樂齡網等輔具通路販售。 另一款為針對輕度到重度聽損者設計的Classic R助聽器,於2021年獲得日本Good Design設計獎,這款產品自去年底上市,對於先天性聽損者具有吸引力,用過的人都說在吵雜的環境下也能比過去聽得更清楚,也感受到藍牙連接手機通話、看影片的便利。預估此一商品也將在今年下半年外銷海外市場。 此外,今年6月即將上市的助聽器藍牙功能二合一功能產品,大小就如同一般藍牙耳機,主力客群鎖定在意外觀的聽損者,一方面體積較小、無線耳機造型設計美觀,加上也可接聽電話,若經衛福部許可上市之後,符合資格的聽損者還可以向政府申請補助。 RelaJet下一階段將進軍海外市場 以美國為灘頭堡 有趣的一個問題是,因應疫情關係,全民都必須配戴口罩,無法讀唇語,此對聽損者的影響是如何呢陳宥任表示,此時就能凸顯RelaJat的優勢了。由於每位聽損者聽力強弱不同,助聽器僅能補充到適當音量,協助聽損者聽取6-7成內容,餘3成仍須仰賴讀嘴唇及手勢。而在疫情期間,為了防疫,人人都戴口罩,口罩也讓聲音有所遮蔽,RelaJat人聲分離引擎也能校正補強,使戴口罩者的聲音分離清晰,方便聽損者辨識。 除了台灣市場之外,RelaJet下一階段將進軍海外市場,預計今2022年將取得ISO 13485醫材品質管理系統認證及美國醫療器材許可證,以美國為灘頭堡,以自有品牌或是成品貼牌方式銷售海外。 除了台灣市場之外,RelaJet住輔聽器下一階段將進軍美國市場

【解決案例】神經元科技 動鑑觀顫 以眼為始 最佳智慧醫療輔助者
神經元科技 動鑑觀顫 以眼為始 最佳智慧醫療輔助者

放眼全球及台灣這塊土地,因眩暈而飽受痛苦的病患逐年攀升。面對眩暈檢測,大部分的人會選擇交由醫師診斷或入院搭配神經醫學影像工具如MRI或CT進行判讀,然而卻可能造成眩暈誤診、患者過度診斷、醫療資源浪費等狀況發生,無法有效回溯病患眩暈實際狀況。為解決眩暈在臨床長久痛點,神經元科技(Neurobit)開發智慧穿戴醫療裝置-NeuroSpeed智慧眼鏡及AI輔助系統,提供眩暈快篩的AI智慧解決方案,輔助醫師快速篩檢腦部疾病達80以上準確率及90以上敏感度的高效檢測力。 神經元科技成立於2016年,共同創辦人包含楊鈞程、陳維澄、黃勁勛與王經富因四人修習台大醫工所與創意創業學程共同開設「生醫創新與商業化」課程的因緣際會下,一同踏上創業旅程。神經元科技的核心團隊成員主要由醫工、資訊、神經內科醫師、專利、商學等跨領域專家組成,共同創業理念是不斷發掘探勘在醫療臨床上未解決之痛點。看見病患因眩暈飽受痛苦,神經元科技因此發想出自主開發高效又實用的穿戴式智慧醫療裝置NeuroSpeed智慧眼鏡,結合硬體AI輔助決策系統軟體,提供眩暈快篩的AI智慧解決方案。 神經元科技執行長楊鈞程表示,看見台灣和全球飽受到眩暈之苦的民眾比例很高,在台灣有高達3民眾(約70萬)因為眩暈而苦,而美國大約有1千萬人口因眩暈前往就診,從數據可見眩暈醫護市場相當龐大。對於診間的眩暈診斷快篩,目前醫院的快篩工具主要透過神經理學檢查,大部分透過問卷式量表去處置,診斷會過度仰賴病人主訴及醫師的經驗判定,缺乏量化指標,造成眩暈誤診及喪失黃金治療時間。而對於入院急診的眩暈病患,過往醫療診斷會過度仰賴神經醫學影像工具如電腦斷層檢查(CT)或磁振造影(MRI)進行診斷,經觀察發現器材量不足問題,以美國來說入院急診後能即時接受MRI診斷的人口不到3,而能接受CT診斷人口不到50。然而,若過度使用CT或MRI診斷可能又造成病患過度診治,甚至有浪費醫療資源的問題發生。 為了幫助眩暈病患在診間和急診能正確且高效快篩分流與降低過度診斷,神經元科技開發的穿戴式智慧醫療裝置NeuroSpeed智慧眼鏡,相信對於整體醫療資源應用及病患診治會有很大幫助,楊鈞程表示,若非必要透過MRI去追蹤診斷下,本裝置可作為現有MRI神經影像學工具之前及病患入院之後的快速篩檢,減少病人過度診斷。NeuroSpeed的檢查法是透過眼球震顫快篩,找出潛在腦部疾病患者,此技術的檢查法是觀察受檢者在凝視靜止物體時,眼球的顫動狀態,與一系列眼球運動,藉此判斷腦部風險以作出相對應的診療。 NeuroSPeed智慧眼鏡 破解腦部疾病和眼睛疾病 臨床試驗敏感度達9成 在神經元科技積極研發下,目前已成功推出兩代 NeuroSpeed智慧眼鏡產品,第一代NeuroSpeed主要提供醫師即時觀察高畫質的眼球影像與眼球運動反應相關檢查數據參考,並沒有輔助診斷的服務。第二代NeuroSpeed可提供醫師做紀錄、追蹤、存處及查看相關眼球運動分析及瞳孔區域的辨識,藉此可有效診斷中樞與經與周邊神經系統方面的疾病。由於第二代NeuroSpeed產品具備輔助醫師達分析診斷之功能,已被列為美國二級醫療器材,必須通過美國FDA認證才可對外販售。現階段此產品已完成pre-submission,待生物相容性試驗完成後會進行送件審查,預計明年第二代NeuroSpeed將順利取得美國FDA認證。 在實際驗證場域方面,目前NeuroSpeed已與新北雙和醫院和台中慈濟醫院攜手合作臨床驗證,其臨床結果證實針對中風等中樞神經疾病和其他前庭系統疾病的分類判斷,加上NeuroSpeed智慧眼鏡的設計輕便好攜帶、檢測快速又易操作、具備自動判讀之功能特性,有效輔助醫師能快速篩檢出眩暈病患潛在的腦部疾病風險。與國外醫療中心的場域驗證,主要以入院急診的眩暈病患,醫師可透過NeuroSpeed智慧裝置去判讀中風診斷的現象,目前上述合作醫院的臨床試驗準確度達80,敏感度達90。 神經元科技開發智慧穿戴醫療裝置NeuroSpeed智慧眼鏡 除了成為醫師在診間和急診快篩腦部疾病風險判讀的最佳智慧醫療輔助者,NeuroSpeed智慧眼鏡更協助醫師在斜視風險的檢測評估,透過神經元科技與三軍總醫院共同研發的「可攜式斜視及異常眼球運動診斷系統」,並以三軍總醫院為落地實證場域,提供醫生完整斜視術前評估及術後追蹤依據。本優異的研發技術成果更於2020年榮獲第17屆國家新創獎mdash臨床新創獎肯定。 我們知道很多疾病會造成先天或是後天的眼球運動異常,甚至造成斜視或是眼球震顫的症狀,其中在斜視部分,依據專家醫師諮詢調查,全球學齡兒童在斜視的盛行率是25,而台灣學齡兒童在斜視的盛行率約14左右,楊鈞程表示,臨床針對這些疾病症狀的診斷,主要分為眼球位置的偏向測量及眼球運動測試兩大類。經觀察發現目前眼球位置的偏向比較缺乏客觀的量化手法去診斷,主觀上採用眼球偏向的測量儀器來檢查。對神經元科技而言,目前透過NeuroSpeed儀器裝置和斜視及異常眼球運動診斷系統軟體能去整合客觀清晰的眼球影像、眼肌功能及眼位偏斜角度數據,作為符合臨床診斷準則之快速檢測服務,這些檢測的數據可作為醫師完整斜視術前評估及術後追蹤的依據,因此透過本系統可客觀有效的量化分析,可大幅降低患者手術上的醫療風險。 在商業模式方面,神經元科技主要與醫院合作,進行研究型的產品銷售, 相信公司預計明年通過FDA後將會有顯著的營收表現。目前神經元科技將 以國內首創穿戴式智慧醫療裝置NeuroSpeed智慧眼鏡與AI輔助系統,提供軟硬整合解決方案,輔助醫師快速篩檢腦部疾病及眼部疾病,提升病人黃金治療時間,減少社會的醫療照護成本,以創造三贏。 NeuroSpeed智慧眼鏡 輔助醫師快速篩檢腦部疾病及眼部疾病 放眼全球 智慧醫療器材的先驅者 生醫軟硬體系統整合新典範 神經元科技創業初期,技術研發和商務拓展曾面臨多方挑戰,楊鈞程有感而發表示,由於NeuroSpeed產品是國內首創開發的醫療性智慧眼鏡,無論是硬體原物料取得、技術規格開發與建立以及相關系統整合的挑戰度皆高於消費性電子產品。此外,匯集跨領域人才並將其整合為核心團隊所用也是創業挑戰。在商務拓展方面,公司雖然累積臨床驗證實績與相關的產出發表,但市場通路建立仍需要持續努力拓展,希望能持續借重資策會等法人協助,積極創造更多元的市場通路與對接潛在合作的廠商。為加速國際拓展和市場營運交流,現階段公司將進行新一輪募資規劃以滿足發展。 創業至今,神經元科技是以長期發展、穩定獲利為營運目標,楊鈞程表示,我們除了聚焦既有專業領域外,更對附加價值的產品進行開發應用,透過公司軟體開發和軟硬整合的研發能量累積,拓展到其他醫學科別及領域。楊鈞程期許神經元科技能成為智慧醫療器材的先驅者,並滿足使用者和患者需求為研發導向,更期許成為生醫軟硬體系統整合的典範。對於中長期布局,公司將促進產學交流與培植生醫人才;整合產業上下游資源,創造智慧醫療解決方案與平台;並積極開拓國外銷售市場如美國、歐洲國際布局以作為企業永續發展的願景。