THine Value 以CDK為核心的新型相機系統開發環境,解決了相機與AI融合帶來的新課題

2019.05.21
  • 文章
  • 專欄
監視器、智慧型眼鏡、電子後視鏡、智慧家庭攝影機、生物辨識、智慧型手機、車用鏡頭、機器視覺・・・。今後,搭載相機模組的電子設備(相機系統)將會迅速增加,且應用AI(人工智慧)的各種圖像識別功能。但是,「相機+AI」的融合似乎會導致新問題產生。而這個難題來自相機模組的個體差異,就會使得AI變得無法正確地執行圖像識別。為了解決這個新的問題,THine Electronics開始著手建構以「相機開發工具-Camera Development Kit(CDK)」為核心的相機的開發環境。

「充斥著相機的世界」即將到來

不久的將來,我們所生活的地球應該會變成「充斥著相機的世界」吧。(圖1)
圖1「充斥著相機的世界」即將到來

街道上設置無數的監視器、防盜監視器;建築物入口處安裝生物辨識用鏡頭;行人們帶著智慧型眼鏡。住宅方面則設置電子鏡和看護長輩的智慧家庭攝影機;汽車配備有多個車用鏡頭確保乘客與行人的安全。另外,工廠使用許多機器視覺相機,在不需要人力的情況下也能製造出各式各樣的產品。

這些相機全都使用了AI(人工智慧)技術。使用AI對相機拍攝的圖像和影像進行各種認知處理。舉例來說,監視器的行人辨別;生物辨識用鏡頭的虹膜、指紋、靜脈等生物識別;智慧家庭攝影機的跌倒、掉落識別;車用鏡頭的行人與危險物的識別。


相機+AI帶來新的挑戰

透過這兩個機能的融合再再凸顯了「相機+AI」所帶來的新挑戰。由於相機模組的個體差異太大,導致AI無法進行正確的判斷。假若個體差異過大,則每個相機模組拍攝的影像在色調與亮度、訊噪比(S/N)等都會不同。結果,即使拍攝了相同的對象物,根據相機拍攝的影像也會出現差異,這將導致AI的圖像識別結果出現變化。

當然,不僅限於相機模組,連電子元件也存在某種程度的個體差異。但是,THine Electronics認為「相機模組的個體差異遠比半導體IC、被動元件等還要大出許多。」

這是為什麼呢。理由大致分為2點。首先,與一般的的半導體與被動元件不同,相機模組的特性定義、包括其特性的測量方法在業界尚未標準化。另一點是,製造商之間的製造環境也參差不齊。有些製造商在無塵室中製造;而有些製造商則在人來人往的工廠內製造。

相機模組是由Image sensor與鏡頭、致動器(音圈馬達 Voice Coil Motor,VCM)等組合而成。(圖2)
圖2 相機系統開發的生態系統

在這些構成要素中,鏡頭的個體差異特別大。此外,在相機模組的組裝過程中製造方參差不齊也是造成個體差異擴大的主要因素之一。


著手克服挑戰

假若無法輕易的解決相機模組帶來的個體差異問題,那麼「充斥著相機的世界」可能會大幅延遲。這對於相機模組廠商以及製造半導體影像訊號處理器(ISP:Image Signal Processor)的製造商來說可不是好現象。因此推出ISP的半導體製造商THine Electronics將針對新的挑戰提出對策。

當然,在某種程度上一直存在彌補這種個體差異的方法。這種方法分為兩個步驟。第一步,測試相機模組的鏡頭陰影(Lens Shading)和白平衡(White Balance)等特性,並將這些個體差異的情報儲存在相機模組內部的非揮發性記憶體中。接著第二步,基於這些個體差異的情報,使用集成在ISP的專用回路與韌體(Firmware)進行校正處理。透過這個方法,就能達到彌補相機模組之間的個體差異。

但是,要如實進行上述方法並不容易。有兩個主要原因。一是,必須要開發用於校正個體差異情報的ISP韌體。當然,在開發上需具有相機與軟體等相關的專門知識。另一個原因是,根據用途不同,需要校正的特性(項目)也會不同,因此會要求細微的「畫質上的講究」。

所謂畫質上的講究,舉例來說 : 在生物辨識應用的情況下,為了進行虹膜(Iris)、靜脈識別等 需要透過可見光與紅外線的組合得到具有易於認證的畫質圖像;數位相機和智慧型手機等,則是追求一種讓人們看了會感覺到美的「畫質製作」。此外,關於畫質,對於每個相機製造商來說都有其獨到的見解。這些差異必須予以反映。

提供「CDK+CAO」

因此THine Electronics準備了結合相機開發套件(CDK:Camera Development Kit)和CAO(Camera Application Option)組合的解決課題的方案。並與ISP一起,針對使用相機模組開發相機系統的製造商和承接此類製造商研發作業的獨立設計公司(IDH:Independent Design House)提供此一方案。

CDK是由軟體開發套件(SDK,Software Development Kit)和以GUI為基礎的參數設定工具組(3T:THine Tuning Tools)、測試板(EVB,Evaluation Board)3個部分所組成。使用它的話,幾乎無需撰寫程式即可開發韌體。使用CDK就能開發大多數上述用於校正個體差異情報的ISP韌體(圖3、圖4)。
圖3 創造出對人與機器容易辨別的圖像
 
圖4 創造出對AI容易辨別的圖像

另一方面,使用CAO和CDK的;組合換句話說就是「add-in tool」。使用它的話,可以校正各種用途的個體差異情報與細微的畫質講究。

但是如上所述,「CDK+CAO」會根據每個用途而有所不同。雖然CDK是所有使用者可以共同使用的工具,但CAO會依據使用者所需的不同具有不同規格。但THine Electronics要針對每個企業用戶開發最合適的CAO並不符合現實面


成為相機系統的Linux

於是THine Electronics正在思考聯合IDH來建構出用於相機系統開發的生態系統。

IDH會承包從電子設備廠商的相機系統開發作業。屆時如果採用THine Electronics的ISP和CDK,在開發過程中則可根據其用途開發出相對應的CAO。IDH可說是擅長開發相機系統的企業。可以想見IDH開發的CAO其完成度也會很高。

於是我們與IDH進一步討論,並讓其了解開發CAO可作為CDK的add-in tool提供給其他的電子設備廠商和IDH。也就是將CAO橫向展開。

另一方面,THine Electronics會將同意提供CAO的IDH認證為「ISP Gold Partner(IGP)」。被認證為IGP對IDH來說有相當大的優勢。即可向電子設備廠商展示其高度的技術能力;也會有更大的可能性藉此擴大客戶群。藉由創造出「win-win」的關係,為相機系統開發建立起生態系統。

THine Electronics的目標是將CDK打造成「相機系統的Linux」。Linux最初是一套開放原始碼的免收費電腦用作業系統(OS:Operating System)。後來許多公司開發了在Linux上執行的應用軟體和add-in tool等作為免收費或付費產品提供。因此Linux生態系統正在以非常大規模增長,並廣泛用於電腦、伺服器、超級電腦和嵌入式裝置。

在CDK方面,我們將與IDH攜手合作擴大企業用戶規模,並擴展CAO產品組合;以此來擴增企業用戶與IDH所建構的生態系統。將來,THine Electronics將做為提供ISP的半導體製造商以及完整生態系統的協調者。
 

改變相機的開發環境

將CDK定位為相機系統的Linux,這對我們來說是個相當具有挑戰性的目標;但我們描繪的最終目標卻更大。那就是「改變日本的相機開發環境」。

日本曾經是相機領域中的佼佼者。不管是工程師能力、商品企劃能力、貿易能力上都位居世界前列。但是現在呢?很難斷言日本是否還在世界前端。特別是在貿易方面,對於美中兩國的業務皆處於困境。

之所以造成這種情況的主要原因我們認為是「相機領域工程師資源短缺」。透過ISP業務我們實際感受到美中兩國的相機系統開發商擁有許多的相機領域工程師,且相較於日本能在更短的期間內完成開發作業。例如,在美國就算只有10~20人左右的小規模相機系統開發商,優秀的相機領域工程師也能擔任CTO(首席技術長)等,親手栽培出年輕優秀的工程師。

另一方面,感覺日本的相機系統開發工程師人數正在急速減少中。雖然經驗豐富的資深工程師仍活躍中,但年輕工程師的大量分配辨的困難,要將其技術傳承的機會恐怕會減少吧。在這些資深工程師從職場退休前,有其必要將日本高水平的相機技術傳承下去。

因此,THine Electronics旨在通過普及CDK來改變日本的相機系統開發環境,使日本再次重回相機領域頂端的位子。透過活用CDK+CAO,相機系統的開發門檻將會相對降低,可以使大家累績更多開發經驗。因此,可以提供相機領域工程師更多成長的環境。「我們希望有更多年輕工程師能夠參與相機系統的設計。為此我們將會繼續提供支援;期待著有越來越多的工程師繼承日本卓越的相機技術」。