:::

【113年 應用案例】 CCTV 智能影像搜索系統

查找某特定人物,尋找攜行李箱入廠人物進入高安區。人物及物件顏色特徵確定,人物藍黑色上衣,行李箱顏色黑色,透過CCTV 智能影像搜索系統,做物件與顏色檢索條件設定,可以成功搜尋到三段縮圖有出現關鍵標的影片,可以有效解決作業人員查找物件標的物,透過此系統查詢速度可比人工快6倍。

需求痛點

日月光高雄廠區內密布CCTV能及時監控廠區中的各個角落,但若在事件/事故發生時,無法在有限的時間可透過CCTV影像回放被找到,其背後之意涵與其中蘊藏之巨大風險自是不言而喻,而許多平時無人的區域也很容易成為治安上的死角。故如何更智能、更有效的監控占地龐大的廠區是全體半導體企業打造智慧廠區之一大重點。日月光高雄廠占地遼闊,其中有許多重要的場域需要監控人員進出以確保企業機密與員工安全。

(1) 自動化生產線與自動倉儲:半導體企業之自動化生產線與自動倉儲中常有AGVAutomated Guided Vehicle)無人車高速行駛,若有廠區人員不慎誤入AGV移動區域且無法對該人員發出警告,則當憾事發生將追悔莫及。

(2) 材料與產品存放區域:半導體相關製程之材料價值不菲,若存放材料或產品之區域遭人入侵則有損失高價材料、產品之風險。

(3) 高機密管制區:營業秘密關乎半導體相關企業之核心技術競爭力,若有人員侵入高機密管制區則有企業營業秘密外洩之風險,而營業秘密安全防護一直以來都是半導體相關企業最最重視之議題。

(4) 卸貨碼頭區:日月光L!碼頭區常有卸貨車輛進出,若人員闖入碼頭區則有發生人車擦撞、碰撞意外之風險。甚至堆放在碼頭區待出貨的貨物有失竊以及因人員碰撞後,貨物倒塌造成損毀,因而造成公司具大的信譽、金錢損失。更進一步的造成生產出貨的不便。

異常事件發生時,如何在海量數據中,快速搜尋符合條件的關鍵影像

日月光高雄廠有許多重要的場域都需要架設CCTV為安全把關,但CCTV的數量動輒上千支、上萬支,一旦發生事件要去搜索影像時,都要用人眼一一回放查找、搜索,耗時耗力效益不彰。有鑑於現今電腦視覺的發展,遂利用AI來替代人眼回放查找。

問題情境
問題情境

物件偵測

物件偵測資料來源分成兩個部份: 開源資料集OIDv4、以及日月光高雄廠CCTV影像檔案。針對OIDv4中,取出符合定義的九大類別物件訓練資料,其中有二類物件未能於OIDv4中搜索到可用資料,分別為刀子與汽油桶,其餘七種類別物件皆可從OIDv4中取出可用訓練資料,此訓練資料皆已有標記。而針對高雄廠CCTV影像檔案,從中抽取部分幀(Frame)的影像,並且對欲偵測的物件進行人工標記以做為訓練與測試資料。

九大物件
九大物件

顏色辨識

顏色辨識資料來源分成兩個部份: 網路圖像截圖、以及高雄廠CCTV影像檔案。目前並沒有找到針對顏色辨識應用的公開可下載的開源資料集,因此只能從網路蒐集圖像,於網路上搜索符合定義的九大類別物件的圖像,儲存圖像後將物件與背景分割,只保留物件的區塊,最後將圖像依照顏色做類別標記。另外針對高雄廠CCTV影像檔案,則使用物件偵測資料已標記好的bounding box擷取CCTV影像檔案中各個Frame的物件所在區塊之圖像,最後將肉眼可辨其顏色之圖像依照顏色做類別標記。針對每種物件類別皆有其專屬顏色定義,各種物件類別的顏色定義取決於此物件類別於現實生活中常見之顏色。

動態忽略免除混淆訓練

OIDv4訓練專案的物件偵測雛型模型時,因為此資料集的每張影像中,皆只有針對單一類別做標記,但影像中有可能包含其他欲偵測之類別未被標記,故針對此種情況,訓練時會使用動態忽略之技術使其不會有混淆訓練的情況。接著使用高雄廠取出的訓練資料用來Fine-Tune雛型模型提高物件於特定指定場域下的辨識率。最終選取訓練過程中於測試集計算之損失值最低的模型做為主要物件偵測模型。

動態忽略
動態忽略

AI幫你看

CCTV 智能影像搜索系統主要是做為監控影像的搜尋輔助系統,可以藉由設定搜尋物件條件來加速達到從影片找出目標事件的功能,僅需定義搜尋條件,即可快速產出關鍵物件的縮圖影片並進行回放確認,縮短昔日以人工調閱案件所須時間,查找時間快6倍,前端安全單位運用此平台可強化風險管理第一道防線之自行監督功能以及早採取因應措施。

推薦案例

【導入案例】哈瑪星科技建構AI模型管理平台 加速AI落地應用
哈瑪星科技建構AI模型管理平台 加速AI落地應用

搭上AI列車,資服業者借助深厚的產業基礎,不僅自己轉型,也協助客戶轉型 成立已超過20年的哈瑪星科技,近年來不斷研發AI技術,並協助產業客戶導入AI。哈瑪星認為,執行一個完整的AI專案,除了AI理論知識、數據分析與模型訓練能力,實務上還需要依據客戶的需求開發數據串接API、建置資料庫、開發前端RWD網頁,甚至還需要考慮到版面設計與使用者體驗 User Experience。這些工作不僅對AI新創業者形成技術門檻,即便對已具規模的業者來說,每個專案反覆投入人力進行類似的功能開發,也難以累積技術經驗、加速業務成長。 機關客戶對於AI仍具備高度客製化之需求 以哈瑪星科技所執行的政府A機關的需求為例,用戶須針對特定管道的不實資訊進行管控,需要平台提供用來訓練模型和預測的數據接入功能,並可以在平台上完成自然語言處理NLP文本分類模型訓練與使用。當模型發現不實資訊時,需要即時透過通訊軟體通報相關負責同仁。而B機關的需求則是希望透過AI模型針對民眾陳情案件進行自動分類,並即時提供陳情民眾或案件承辦人員可參考之歷史案件資訊。儘管專案模式相似 數據接入、模型預測、警示通知,但在個別專案中,仍只能分別進行需求功能開發,無法重複利用既有的程式與模型來加速後續專案的執行。 在深入探討之後,哈瑪星科技發現企業面臨導入AI專案的痛點,包括導入成本高昂、專案時程冗長等,其中,在企業內難以齊備資料科學家、分析師、工程師、設計師等人才,而現階段的專案皆為集中解決特定領域需求,難以重複利用AI模型跨入其他應用領域,同時,因為工具集中在AI專案領域,無法滿足客戶提供整體解決方案。 換言之,在AI技術的落地上,由於AI資服業者往往面臨「人力有限」、「領域限縮」與「工具不足」等困境,致使專案執行成本高昂或時程冗長。這些都是業者們亟需解決的共通性問題。因此,若有一個AI模型應用服務管理平台,將可解決上述困難,不僅能夠快速導入降低成本,還有助於縮短專案時程,提供客戶一站式解決方案。 AI模型應用服務管理平台協助快速完成專案 因此,哈瑪星科技在經濟部工業局AI計畫支持下,進行「AI模型應用服務管理平台AISP研發計畫」,投入研發AISP產品,目的是為了讓AI資服業者能事半功倍地完成AI專案。 AI模型應用服務管理平台提供AI一站式解決方案 透過AISP,AI資服業者可透過既有的模組功能快速組裝數據API介接、模型管理與模型預測結果監控訂閱等需求功能。同時也提供常用的圖形化工具,幫助業者快速設計用戶所需要的互動式圖表或儀表板,有效降低執行專案所需要的人力成本,並縮短解決方案POC或導入時程,加速產業AI落地與擴散。 在產品商模上,短期內將廣邀具備AI專門領域技術的資服業者合作,藉由平台服務解決各類場域需求單位所面臨的AI導入問題,逐步建立平台品牌信賴感。 中期則盼以哈瑪星過往的成功經驗逐步拓展業務市場,聯合多家資服業者建立策略聯盟,針對專門領域可解決更多且廣泛的問題,並提供更多解決方案供場域單位選擇。 平台結合領域專家共同擴展海外市場 長期而言,在建立各項專門領域的AI策略聯盟後,平台將擁有大量針對專門領域的AI解決方案專家,累積大量的專案成功經驗後,哈瑪星科技期望AISP將能與專家業者們攜手合作,共同進軍拓展國際市場。 哈瑪星科技股份有限公司於民國89年延攬多位資深專業經理人及相關領域技術專長人才所組成,致力於軟體技術研發暨服務,並以建構成為國際級軟體公司為目標,積極促成各項跨國產業合作機會。公司在首任總經理的優良領導之下,已快速成長成為臺灣主要軟體公司之一。

【導入案例】赫銳特科技VCSEL封裝元件瑕疵導入AOI檢測 提升產能效率20
赫銳特科技VCSEL封裝元件瑕疵導入AOI檢測 提升產能效率20%

2017年,iPhone X的亮相讓提供 Face ID人臉解鎖的3D感測技術成為大熱門,也帶動了3D感測模組中的核心零元件VCSEL的發展。而VCSEL封裝元件入料瑕疵檢測,若透過AI推論模型可解決良率偏低產業難題,提升可靠度達95。 VCSEL技術現階段可被運用於諸多用途和各類終端消費市場,包括機器人、移動設備、監控、無人機,以及ARVR等。VCSEL在需求高速調製功能的應用(例如照相機和生物計量)中堪稱為不錯的解決方案。 VCSEL技術應用層面廣,也可應用於無人機。圖為佐翼科技農用無人機 VCSEL技術應用層面廣 AI技術助攻瑕疵檢測 赫銳特科技表示,VCSEL封裝元件市場也面臨到商業對手強力的削價競爭,需要進一步降低成本提升、產品競爭力,其中一個關鍵的難題就是將玻璃透鏡更換為環氧樹脂型透鏡。傳統玻璃透鏡的生產良率高,但成本較環氧樹脂透鏡高,因環氧樹脂經切割製程,側壁切割道上容易會有毛邊,造成尺寸過大,容易在打件時因為受熱而產生的應力釋放,將會直接導致光學透鏡破裂。 赫銳特科技指出,VCSEL環氧樹脂透鏡的入料檢測十分重要,在封裝空間的限制下,封裝與光學透鏡貼合的空間有限,且此光學透鏡會被侷限於一金屬框架內,若是沒有控管好尺寸公差,很容易在打件時因為受熱而產生的應力釋放會直接導致光學透鏡破裂,造成VCSEL封裝可靠度驗證良率損失最高達到10,造成生產成本增加。 為解決上述問題,赫銳特科技希望在VCSEL環氧樹脂透鏡的入料階段,可以藉由AI影像監控環氧樹脂元件的尺寸及外觀瑕疵,確認其尺寸是否合乎規格、切割邊緣是否平整、外觀是否瑕疵等。由於傳統的入料檢測,經通過大略的人眼目檢分辨好壞,為順利收集影像數據,首先需要解決影像蒐集的問題。 因此,赫銳特科技首先建立自動光學檢測裝置Automated Optical Inspection,AOI,自動光學檢測裝置包含X、Y、Z三軸動及高解析相機,及相關控制軟體自動記錄影像。蒐集完成後的影像資料,經opencv將測試影像Test與一標準正常影像Normal,進行影像對位後取出Test與Normal影像的差異部分,並可經由Pixel Mapping計算影像的像素面積進行比較完成初步篩檢。 承上之影像分類,進行手動標籤標示包含:正常、外觀瑕疵或形狀特徵差異之樣品,後進行演算法訓練與驗證,使用深度殘差網絡Residual neural network ResNet或其他相關演算法進行深度學習,以辨識出透鏡的優劣情形。 導入AOI檢測 提升產能效率達20以上 比較導入AI影像檢測的前後差異,導入前的VCSEL入料透鏡檢測,僅透過簡易的人工外觀檢測,將透鏡封裝在已固晶的VCSEL封裝體上,通過一般點亮檢測後,最後進行可靠度測試高溫回焊,失效樣品進再入重工流程。 但在導入AOI檢測之後,可提前將有問題的透鏡篩選出來,除了可以降低後續物料投入的成本,亦可減少失效情形降低重工的需要,因而提升可靠度驗證良率達95以上,預期可協助場域業者降低生產成本達10,提高產能效率達20以上。 導入AI影像檢測的前後之差異 赫銳特科技指出,這項技術是基於微小影像開發的AI應用技術,透過深度學習演算法辨識影像瑕疵,用來辨識瑕疵影像。而訓練後的網路來自動分類對應於預定類別的影像數據。透過參考影像就能辨識缺陷類別,因此不再需要繁瑣的編程。 而在工業機器視覺環境中,深度學習主要用於應用中的分類任務,例如在工業產品的檢驗或零件的辨識,未來隨著IOT穿戴裝置的發展,符合節能省電的潮流議題,光電元件尺寸將不斷的縮小,本技術未來也可應用在其他微小光電元件的外觀瑕疵檢測。

這是一張圖片。 This is a picture.
測試座接觸元件 AI 智能瑕疵檢測

在 5G、AIOT、汽車電子等下游發展迅速,全產業鏈有望受益於此消費市場。在產品需求動能逐漸增加的情況之下,提高生產效率與降低作業成本成為最重要的課題。為符合客戶各封裝產品類型的需求,穎崴科技一直致力於研發高度客製化測試座,但衍伸的作業痛點則是無法大批量與機台全自動化的作業,部分作業仍需依賴人工執行。 在本案 2021 年時測試座探針部分是委外製造,對現行與未來的大量需求下工時、成本、供給、品質是穎崴需面臨的課題。nbsp因探針的體積較小且材質屬於金屬類型,在現行人力目檢下需花上較多的時間調整焦距、亮度等以確保能看得清晰並判斷,而判斷標準會因人而異,容易因主觀意識或人員目檢疲勞產生誤判、作業疏失,導致不良品未檢出、流入客戶端手中,使客戶使用本公司的測試座產生誤判結果,導致客戶產品功能失效等問題,進而影響本公司的商譽。 本公司在接觸元件檢測良率為 9995,看似高良率,但以一個品檢人員平均一天能檢測 1 萬根針,不良品就有 5 根針,在僅 3 公分長寬的測試座上約有 1 千根針,只要有一根不良針可能導致客戶端測試不良。因現有作業模式為人力目檢,當外在因子若為人員疲勞,人員作業疏失,人員非量化判定即有可能造成不良品流出,因此接觸元件的品質必須嚴格把關。 nbsp曾尋求以光學檢測Rule-based進行外觀品質控管,但接觸元件材質為金屬製,對光線會產生射散、背景雜訊干涉、背景刮痕、材質等因素可能造成誤判,因而找到在 AI 技術方面的資服業者來解決我們的檢測難處。 開發 AOI 專用線掃設備 nbsp為了達成本公司 IC 測試座內動輒數千上萬支探針檢測需求,若以傳統面型取像與逐針取像,勢必因取像速度慢無法達到快速檢測以及節約人力的目標。針對此點,資服業者提出可試用 AOI 專用線掃模組方案,以 X 軸 63mm 為面寬,往復掃描測試座上的所有探針,經測試可一次掃描 89 支探針如下圖,大幅提升未來 AOI 機台的檢測效率。nbsp本案將進行上述創新的概念驗證POC,重點於線掃描設備的開發,針對本公司所提供的正常與異常探針進行取像、學習、訓練,先以逐針取像,訓練初步 AI 模型為驗證目標,以達初步認可。 本案客製化開發的線掃描取像模組 未來理想取像結果示意圖 以單一 AI 技術方案解決量檢測需求 nbsp統一以 AI DL CNN 學習方式,取代現行 Rule based 需逐一定義瑕疵,為滿足磨耗的量測需求與缺損異物的外觀瑕疵檢測需求,如機台同時採用採量測檢測兩套技術,除了成本增加外,亦影響檢測速度,則資服業者建議以線掃描設備取像,其解析度足以由 AI 同時判定外觀瑕疵及以大小圓點判斷針頂磨耗狀況,詳如下圖。 以線掃描像素方式,呈現針頂磨耗情形 nbsp依此 AI 檢測技術能符合穎崴的量測與檢測兩項需求,不僅在未來探針檢測上帶來更多的效益,也在 AI 技術方面帶來創新主軸。 改變人檢方式,提升工作效率與產品品質 經以上述硬軟雙劍合璧後線掃描硬體AI 軟體模式訓練,成功挑戰了 AOI 新興檢測應用,經本案 AI 落地 POC 驗證後,包含客製化線掃描模組及初步 AI 模型開發、驗證,計畫明年正式開發 AOI 機台,並導入 IC 測試座生產線。 未來展望 IC 測試座上游探針業者及下游 IC 廠使用者對 AOI 檢測機台均有需求,上游可確保探針出廠品質,下游使用者則可利用本機台定期檢測手中諸多 IC 測試座使用狀況,對未來需求勢必殷切,故本計畫 AOI 機台對 IC 測試產業於可見的未來必將造成極為正面的影響。