:::

【113年 應用案例】 CCTV 智能影像搜索系統

查找某特定人物,尋找攜行李箱入廠人物進入高安區。人物及物件顏色特徵確定,人物藍黑色上衣,行李箱顏色黑色,透過CCTV 智能影像搜索系統,做物件與顏色檢索條件設定,可以成功搜尋到三段縮圖有出現關鍵標的影片,可以有效解決作業人員查找物件標的物,透過此系統查詢速度可比人工快6倍。

需求痛點

日月光高雄廠區內密布CCTV能及時監控廠區中的各個角落,但若在事件/事故發生時,無法在有限的時間可透過CCTV影像回放被找到,其背後之意涵與其中蘊藏之巨大風險自是不言而喻,而許多平時無人的區域也很容易成為治安上的死角。故如何更智能、更有效的監控占地龐大的廠區是全體半導體企業打造智慧廠區之一大重點。日月光高雄廠占地遼闊,其中有許多重要的場域需要監控人員進出以確保企業機密與員工安全。

(1) 自動化生產線與自動倉儲:半導體企業之自動化生產線與自動倉儲中常有AGVAutomated Guided Vehicle)無人車高速行駛,若有廠區人員不慎誤入AGV移動區域且無法對該人員發出警告,則當憾事發生將追悔莫及。

(2) 材料與產品存放區域:半導體相關製程之材料價值不菲,若存放材料或產品之區域遭人入侵則有損失高價材料、產品之風險。

(3) 高機密管制區:營業秘密關乎半導體相關企業之核心技術競爭力,若有人員侵入高機密管制區則有企業營業秘密外洩之風險,而營業秘密安全防護一直以來都是半導體相關企業最最重視之議題。

(4) 卸貨碼頭區:日月光L!碼頭區常有卸貨車輛進出,若人員闖入碼頭區則有發生人車擦撞、碰撞意外之風險。甚至堆放在碼頭區待出貨的貨物有失竊以及因人員碰撞後,貨物倒塌造成損毀,因而造成公司具大的信譽、金錢損失。更進一步的造成生產出貨的不便。

異常事件發生時,如何在海量數據中,快速搜尋符合條件的關鍵影像

日月光高雄廠有許多重要的場域都需要架設CCTV為安全把關,但CCTV的數量動輒上千支、上萬支,一旦發生事件要去搜索影像時,都要用人眼一一回放查找、搜索,耗時耗力效益不彰。有鑑於現今電腦視覺的發展,遂利用AI來替代人眼回放查找。

問題情境
問題情境

物件偵測

物件偵測資料來源分成兩個部份: 開源資料集OIDv4、以及日月光高雄廠CCTV影像檔案。針對OIDv4中,取出符合定義的九大類別物件訓練資料,其中有二類物件未能於OIDv4中搜索到可用資料,分別為刀子與汽油桶,其餘七種類別物件皆可從OIDv4中取出可用訓練資料,此訓練資料皆已有標記。而針對高雄廠CCTV影像檔案,從中抽取部分幀(Frame)的影像,並且對欲偵測的物件進行人工標記以做為訓練與測試資料。

九大物件
九大物件

顏色辨識

顏色辨識資料來源分成兩個部份: 網路圖像截圖、以及高雄廠CCTV影像檔案。目前並沒有找到針對顏色辨識應用的公開可下載的開源資料集,因此只能從網路蒐集圖像,於網路上搜索符合定義的九大類別物件的圖像,儲存圖像後將物件與背景分割,只保留物件的區塊,最後將圖像依照顏色做類別標記。另外針對高雄廠CCTV影像檔案,則使用物件偵測資料已標記好的bounding box擷取CCTV影像檔案中各個Frame的物件所在區塊之圖像,最後將肉眼可辨其顏色之圖像依照顏色做類別標記。針對每種物件類別皆有其專屬顏色定義,各種物件類別的顏色定義取決於此物件類別於現實生活中常見之顏色。

動態忽略免除混淆訓練

OIDv4訓練專案的物件偵測雛型模型時,因為此資料集的每張影像中,皆只有針對單一類別做標記,但影像中有可能包含其他欲偵測之類別未被標記,故針對此種情況,訓練時會使用動態忽略之技術使其不會有混淆訓練的情況。接著使用高雄廠取出的訓練資料用來Fine-Tune雛型模型提高物件於特定指定場域下的辨識率。最終選取訓練過程中於測試集計算之損失值最低的模型做為主要物件偵測模型。

動態忽略
動態忽略

AI幫你看

CCTV 智能影像搜索系統主要是做為監控影像的搜尋輔助系統,可以藉由設定搜尋物件條件來加速達到從影片找出目標事件的功能,僅需定義搜尋條件,即可快速產出關鍵物件的縮圖影片並進行回放確認,縮短昔日以人工調閱案件所須時間,查找時間快6倍,前端安全單位運用此平台可強化風險管理第一道防線之自行監督功能以及早採取因應措施。

推薦案例

這是一張圖片。 This is a picture.
實現無人商店夢想 喜鵲生活建構智能機產業未來

「喜鵲生活的DNA不會只有販賣機,我們相信販賣機結合科技、通路、人文,才能帶來令我們歡欣鼓舞的成果。」這是喜鵲生活官網上的一句話,讓販賣機帶來愉悅的生活,建構貼心、科技、永續的智能機產業未來,也是喜鵲生活創立的初衷。 成立於2018年的喜鵲生活,在成立4個月之後,即推出臺灣第一台自有品牌結合行動支付掃碼感應、藉由螢幕觸碰完成消費體驗、POS系統管理、數據聚集於後台的喜鵲U1智販機,讓消費者能同步世界的新零售腳步,體驗購買便利性、結帳安全性、視覺娛樂性、提升物流補貨效率的全新零售消費體驗。 傳統販賣機缺乏資訊可見度 AI技術協助資訊透明化 此次,喜鵲智能販賣機更搭載AI技術,提供可調整貨架空間、搭配工業電腦與大尺寸觸控顯示螢幕之自動販賣機,達成無店面商店之目的。 喜鵲生活表示,傳統販賣機最大問題即是缺乏資訊可見度。想要檢查庫存,就必須由補貨人員實際檢查每一部機器,這種做法既費時,成本也高。而當機器故障時,一般更是會長時間無法運作。大多數故障均無人通報,直到下次補貨人員抵達補貨才會發現。接著還必須等待維修技師排行程,而一等就可能需要數週的時間。 傳統販賣機缺乏即時互動性,當消費者投幣後遇到狀況時廠商無法當下處理。此外,傳統販賣機更缺乏彈性,無法應消費者偏好變化而調適。 傳統販賣機存在僅限零錢購物、支付工具單一;商品擺放數量有限,選擇性少等缺點。 受到COVID-19疫情影響,消費習慣轉為非接觸式的方式,致使無人化商店市場升溫。一般自動販賣機僅能擺放較單純的商品如飲料、食品等等。可販售的產業有限。而喜鵲開發出的專利販賣機可調整貨架空間,搭配升降貨梯,適用在各種類型的商品。此外,機台搭配工業電腦與大尺寸觸控顯示螢幕,能同時達到廣告託播的需求,預計朝無店面商店的方向邁進。 根據喜鵲生活觀察發現,近兩年來的消費者市場趨勢,消費者訴求便利生活、飲食消費型態重視餐飲體驗簡單快速,並且搭配手機連網訂購模式,而且熱飲及鮮食外送是兩大趨勢重點。而設置地點、販售品項、食用方式及多元付款方式是智能販售機的市場成長重點。 就便利性而言,臺灣消費者購買自動販賣機食品仍以車站、機場、學校、商業區公司附近為最高,多樣的付款方式也更獲得消費者支持,顯示未來自動販賣機可朝品項多元和支付方式多元兩大方向展開。 AI銷售預測技術整合後台管理 達到精準行銷目的 由於商品種類繁多,難以得知商品在不同因素如季節、市場情形、促銷活動等影響下的需求,容易造成缺貨或庫存過剩的狀況,喜鵲生活特別開發「AI銷售預測技術」,整合至後台管理系統,期能透過數據分析鎖定客戶購買偏好及意願,進而達到精準行銷之目的,進而做出精準的商業決策,有效分配有限資源。 導入AI系統可達精準行銷、庫存管理及供應鏈管理三大目標。 此一系統為專為供應鏈管理人員設計的調補貨決策輔助工具,透過 AI 預測未來銷量需求,協助企業有效優化產能、庫存及配貨策略。 其整體系統架構包括: 1資料探索性分析功能:針對資料內缺失值提供自動化補值、自動編碼及自動特徵篩選功能。 2建模功能 : 1提供迴歸Regression、時間序列Time Series Forecast共兩類預測問題類型之模型訓練功能。nbsp 2支援 Auto ML 自動建模,並由系統推薦提供最佳模型,亦可建立集成模型提升模型準度。nbsp 3支援多種演算法類型:Random Forest, XGBoost, GBM等演算法。nbsp 4支援多種時間序列模型:指數平滑、ARIMA、ARIMAX、間歇性需求、動態複迴歸等模型。nbsp 5支援多種模型評估指標:R, MAE, MSE, RMSE, Deviance, AUC, Lift top 1, Misclassification等指標。nbsp 6支援自動切割訓練資料集及Holdout驗證資料集,並可手動調整比例。nbsp 7支援自動模型集成學習 Stacked Ensemble、平衡函數學習 Balancing Classes、早停法 Early Stopping。nbsp 8支援同時建立多個模型,系統將依照建模需求配置資源,讓建模、預測等任務擁有獨立的運算資源且互不影響,在整體伺服器空間有上限的情況下,運算資源能有效率被利用。nbsp 9具有記憶體運算In-memory computing功能,可藉由大容量及高速的記憶體進行運算,避免大量從硬碟中讀寫檔案,提高運算效能。 3資料串接功能: 運用API嫁接,採用完整的資料串接自動化,不需要手動匯入資料,提高使用者體驗。 4圖表分析功能:針對商品銷量提供視覺畫圖表及基本統計值。 AI數據分析解決方案具備兩大優勢: 1創業機台租售 低成本開設無人實體店與連鎖零售業合作,透過智能機讓創業者以低於店面租金的成本經營零售生意。提供機台買賣及租賃兩種合作模式,依業者評估選擇。 2多型態商品上架 24小時隨時隨地販售商品,可上架達60多種多樣化商品,透明大櫥窗提升商品能見度,定期補貨及追蹤商品販售狀況,依需求調整產品類型。 近來網路與實體界線模糊化,顧客互動方式大幅改變,消費需求多變且個性化,零售業面臨前所未有的挑戰和不確定性,掌握數據成為關鍵。AI 數據分析解決方案能幫助零售業快速活化大量資料,打造無縫的個人化體驗,最佳化營運價值鏈並提升效率,強化企業核心競爭力。

這是一張圖片。 This is a picture.
基於人工智慧的PCBA表面瑕疵檢測改善

隨著AOIAI系統的導入,我們將能提高產品良率、降低成本,從業務面來看,更可提高客戶的信任度,增加營業收益。而且AI具有難以被模仿的優勢,並非如其它設備只要花錢就買的到,讓我們的競爭對手難以追上我們。 組弘發展現況 我們致力於IOT智慧製造上,自行開發的系統已有智慧物料系統、環境溫溼度監控系統、防錯料系統、智能採購算料系統、智慧物料盤點系統、錫膏管理系統、生管系統。過去我們曾詢問過其他廠商,有關AI檢驗PCBA表面瑕疵的可能性,每個廠商都希望我們能夠購買其設備,但實際驗證後都無法達到效果,此次與資服業者討論過後,定調為AOIAI的運作模式,方覺得有可行性。 組弘科技投入AOIAI檢測計畫,用於檢查SMT零件上的文字、焊點、極性、缺件hellip等,用AI替代人工來學習AOI檢測後定義為rdquo可能是不良品rdquo的部份,提升人員產值與降低誤判率。 產業痛點 nbspnbspnbsp 台灣缺工情形嚴重,尤其願意從事目視檢查的人更少,而且年齡相對較大,檢查遺漏的狀況越來越嚴重。所以在追求高品質電子產業中,最關鍵的瓶頸已經是生產後的檢查。過去的消費性產品,異常未能被檢出,只要在一定比例下,也可被接受。現在的汽車產業如果有不良未被檢出,即有可能造成人員死亡,所以汽車產業對於品質的要求極高。要想在汽車產業的供應鏈中生存,就必須解決異常無法被檢出的問題。 nbspnbspnbsp 而且隨著台灣工資越來越高,只能設法以AI技術,取代傳統人力,否則就算解決了異常流出,但相對高的人力成本依然無法在此產業中競爭。 應用技術與說明 nbspnbspnbsp 原本過程圖一,PCB從出來Reflow後,會經過AOI檢測,分出「疑似不良品」與良品,這時「疑似不良品」的部分約為20,再由人工針對這20的部分來做複判,再將「疑似不良品」的部分區分為良品與不良品。 nbspnbspnbsp 我們想要藉由AI的技術,將原本由人工複判這20的「疑似不良品」改由AI來做,複判出來一樣會有良品與「疑似不良品」,結果一樣會有「良品」與「疑似不良品」的產生,但此時「疑似不良品」約只剩下3,也就是說組弘作業人員的工作量會從20降到只有3。理論上是AOI檢查完後,再由AI來做複判,但從表面看起來似乎只有經過AOI而已,所以我們才將這個技術稱之為A0IAI檢測圖二。 原本AOI檢測過程 操作員將待測PCB板放入AOI檢測設備,輸出AOI 檢測不良品資訊,再經由人工逐一覆判是否為不良品。 AOIAI檢測過程 操作員將待測PCB板放入AOI檢測設備,輸出AOI檢測不良品資訊後, 進由AI先進行AOI檢測不良品的覆判,輸出AI檢測不良資訊後, 再經由人工逐一覆判是否為不良品。 流程差異 nbspnbspnbsp 藉由AOIAI系統的導入,我們除了能夠提升目視檢查人員的效率與良率外,我們有了這次AI的導入經驗,以後也可將AI與大數據的運用加入到組弘原有的智慧製造系統,使我們的智慧製造系統的效能更提升,更進一步的減輕員工的工作壓力。 導入前後差異說明 推廣策略 1nbspnbspnbspnbspnbspnbsp 同領域擴散:所有SMT製造業皆會遇到檢查瓶頸導致延誤出貨的狀況,導入此系統可解決目前缺工嚴重問題並提升出貨速度與品質,自行向客戶推廣或透過設備商銷售給相關需求者。 2nbspnbspnbspnbspnbspnbsp 異業擴散規劃:與AOI製造商洽談直接將AI系統掛在AOI系統內,增加其市場競爭力。 nbsp 獲利策略 1nbspnbspnbspnbspnbspnbsp 與AOI製造商合作收取授權金。 2nbspnbspnbspnbspnbspnbsp 與SMT製造業直接銷售AI系統。 3nbspnbspnbspnbspnbspnbsp 提供SMT製造業AOIAI系統訂閱制

【導入案例】化身大型AIOT科技遊樂場 海科館華麗轉身好吸睛
化身大型AIOT科技遊樂場 海科館華麗轉身好吸睛

臺灣是一個海洋國家,你去基隆八斗子漁港或潮境公園遊玩時,是否順道去占地48公頃的國立海洋科技博物館探索海洋世界的奧秘呢為了讓更多人親近海洋科技,基隆海科館導入科技服務,將場館化身為一個大型科技遊樂場,讓大小朋友都樂不思蜀,充分發揮「寓教於樂」的功能。 歷經長時間的規劃,北臺灣最大的基隆海洋科技博物館於2014年元月開幕營運,館內以海洋教育科技為主題,號稱擁有全臺最大的IMAX 3D海洋劇場,主題具有獨特性、又擁有新穎的視廳設備,理應成為基隆知名的地標景點。然而,原先的展覽規畫以靜態為主,內容相當專業,與民眾互動不足,曾經前往參觀的遊客也反映展出內容有限且十分無趣,整體消費者體驗評價欠佳。 海科館不滿意的前3項為周邊景點連結弱、展示內容不吸引人、展示內容少 根據海科館的統計數據顯示,海科館遊客結構當地民眾與外來客的比重約為 64,其中外地遊客以北部居多;交通方式以開車與客運方式為主;出遊類型以家族、親子、朋友居多;逗留時間為 1至2 小時。 再深入了解,遊客感到不滿意的前3項分別為周邊景點連結弱、展示內容不吸引人、展示內容少等,館方分析可能的原因包括部分展示內容的呈現方式過於專業,讓民眾看不懂,以及缺發互動體驗的元素,讓參展民眾覺得無趣,停留的時間匆促而短暫。分析遊客的輪廓可以發現,由於基隆科博館主要客源有半數以上來自於當地民眾,外來客必須以開車或大眾運輸方式前來,來一趟並不是那麼容易,因此,場館與展覽的設計必須導入更多的互動性及趣味性,讓本地客願意一來再來,外地客的停留時間也能拉長一點。並透過科技服務將博物館特色凸顯出來。 經由經濟部工業局AI團隊之一中華民國資訊軟體協會引薦,海科館就委託巨鷗科技協助解決場館無法吸引人的問題。 巨鷗科技初步訪談之後發現,許多遊客前往海科館,大多是受到海科館建築外型、周邊牆面所張貼的告示及懸掛的旗幟、或正在舉辦的活動所吸引;而遊客最感興趣的為 3D 海洋劇場,顯示內容以影音、實體景方式呈現較能吸引遊客。 七大AI科技導入 海科館帶動區域觀光人潮 巨鷗科技透過科技服務的導入,將占地48公頃的場域設計成AI語音導覽、尋寶解謎遊戲、AI展物互動活化、AI空間展館互動體驗、AI人流管控、Face AI互動式體驗、AI語音客服系統等7大服務,藉由AIoT物聯網以及雲端科技讓看展變有趣、不僅解決孩童靜態看展無趣的議題,並可提升雙倍學習效率,讓消費者對海科館的印象改觀,大大提升來客意願,也同步拉升區域觀光人潮。 國立海洋科技博物館導入AI語音導覽等七大科技應用服務。 巨鷗科技以改善海科館空間場域優化為目標,透過臺灣北部海濱鳥類特展的展覽背景為雛形,結合包括「人臉」、「肢體」、「人流」三大主軸,從提升功能的面向,來協助改善海科館對AI的應用。 在具體作法上,海科館及巨鷗科技首先針對場域內的特展進行篩選,先避免在已展出的展覽內進行水電工程、管路等相關建置,影響到展覽本身的觀看品質,轉而找出展期未到的場館先行導入,透過展覽本身的特點搭配一系列的科技服務進行導入。 在海科館內臺灣北部海濱鳥類特展施工內容與策展人討論,初步在展館入口處利用Bella X1做迎賓互動說明,接著搭配AI智慧導覽中文英文X1進行講解,搭配趣味性尋寶解謎集章活動-APP X1,讓民眾闖關,後續將鳥類特展內鳥種進行標本活化互動X1、甚至在展覽空間中導入AR之情境X1增添趣味性娛樂,最後在Face AI做人臉之互動測試臉部進行微笑打分數。nbsp 華麗變身後的海科館將成為親子最佳旅遊地點。圖海科館FB粉絲頁 海科館這套AIoT服務未來可延伸運用於各大展覽類博物館,甚至擴及到靜態美術館等地區,依據不同場域特點導入。同時也可透過政府專案及相關計畫推動,幫助農村再生,讓遊客不再只是去農村看看而已,添加趣味互動以擺脫對不同場域的刻板印象,應用服務範圍十分廣泛。