嵌入式視覺(jué)技術(shù)不再局限于高度專業(yè)化的應(yīng)用，它在各類市場(chǎng)上擁有廣闊的用武之地

十年前，嵌入式視覺(jué)技術(shù)主要用于比較少見(jiàn)、高度專業(yè)化的應(yīng)用。今天，設(shè)計(jì)工程師們?cè)谠絹?lái)越多新興的工業(yè)、汽車和消費(fèi)電子應(yīng)用中為視覺(jué)應(yīng)用找到了用武之地。制造商一直以來(lái)都依賴于工業(yè)應(yīng)用中的機(jī)器視覺(jué)系統(tǒng)，但隨著先進(jìn)機(jī)器人技術(shù)和機(jī)器學(xué)習(xí)技術(shù)的涌現(xiàn)以及向工業(yè)4.0制造模式的轉(zhuǎn)變，嵌入式視覺(jué)應(yīng)用的疆土在逐步擴(kuò)大?，F(xiàn)代汽車采用的電子產(chǎn)品，尤其是高級(jí)駕駛輔助系統(tǒng)（ADAS）和車載信息娛樂(lè)系統(tǒng)的快速發(fā)展也為嵌入式視頻應(yīng)用帶來(lái)了契機(jī)。無(wú)人機(jī)、游戲系統(tǒng)、監(jiān)控和安防等消費(fèi)電子解決方案的開(kāi)發(fā)工程師看到了嵌入式視覺(jué)技術(shù)的優(yōu)勢(shì)。隨著網(wǎng)絡(luò)邊緣應(yīng)用領(lǐng)域?qū)χ悄芄δ艿男枨蟛粩嗌仙?，新興的AI解決方案將越來(lái)越依賴于嵌入式視覺(jué)技術(shù)。

我們已經(jīng)可以看到許多改變。首先，對(duì)于快速部署低成本嵌入式視覺(jué)解決方案而言至關(guān)重要的許多關(guān)鍵組件和工具終于面世了。如今，設(shè)計(jì)工程師可以從各種成本較低的處理器中進(jìn)行選擇，這些處理器具備小尺寸、高性能、低功耗的特性。同時(shí)，得益于快速增長(zhǎng)的移動(dòng)市場(chǎng)，設(shè)計(jì)工程師得以從攝像頭和傳感器的普及中受益。與此同時(shí)，軟件和硬件工具的改進(jìn)有助于簡(jiǎn)化開(kāi)發(fā)并加速上市進(jìn)程。本文將探討如何使用嵌入式視覺(jué)技術(shù)、采用嵌入式視覺(jué)技術(shù)的理由以及近期哪些應(yīng)用最有希望采用嵌入式視覺(jué)技術(shù)。

更強(qiáng)處理能力

根據(jù)定義，嵌入式視覺(jué)系統(tǒng)實(shí)際上涵蓋了執(zhí)行圖像信號(hào)處理算法或視覺(jué)系統(tǒng)控制軟件的任何設(shè)備或系統(tǒng)。智能視覺(jué)系統(tǒng)中的關(guān)鍵部分是進(jìn)行實(shí)時(shí)高清數(shù)字視頻流處理的高性能計(jì)算引擎、大容量固態(tài)存儲(chǔ)、智能攝像頭或傳感器以及高級(jí)分析算法。這些系統(tǒng)中的處理器可以執(zhí)行圖像采集、鏡頭校正、圖像預(yù)處理和分割、目標(biāo)分析以及各種啟發(fā)式（heuristics）功能。嵌入式視覺(jué)系統(tǒng)設(shè)計(jì)工程師采用各種處理器，包括專為視覺(jué)應(yīng)用設(shè)計(jì)的通用CPU、圖象處理單元（GPU）、數(shù)字信號(hào)處理器（DSP）、現(xiàn)場(chǎng)可編程門陣列（FPGA）和專用標(biāo)準(zhǔn)產(chǎn)品（ASSP）。上述處理器架構(gòu)具備明顯的優(yōu)勢(shì)和短板。在許多情況下，設(shè)計(jì)工程師將多種處理器整合到一個(gè)異構(gòu)計(jì)算環(huán)境中。有時(shí)候，處理器則被集成到一個(gè)組件中。此外，一些處理器使用專用硬件來(lái)盡可能實(shí)現(xiàn)最高的視覺(jué)算法性能。諸如FPGA之類的可編程平臺(tái)為設(shè)計(jì)工程師提供了高度并行的計(jì)算密集型應(yīng)用架構(gòu)以及用于I/O擴(kuò)展等其他應(yīng)用的資源。

在攝像頭方面，嵌入式視覺(jué)系統(tǒng)設(shè)計(jì)工程師使用模擬攝像頭和數(shù)字圖像傳感器。數(shù)字圖像傳感器通常是需要可見(jiàn)光環(huán)境的CCD或CMOS傳感器陣列。嵌入式視覺(jué)系統(tǒng)也可用于感測(cè)其他數(shù)據(jù)，如紅外、超聲波、雷達(dá)和激光雷達(dá)。

越來(lái)越多的設(shè)計(jì)工程師開(kāi)始轉(zhuǎn)向采用攝像頭或各種傳感器的“智能攝像頭”作為視覺(jué)系統(tǒng)中所有邊緣電子設(shè)備的核心。其他系統(tǒng)將傳感器數(shù)據(jù)傳輸?shù)皆贫艘詼p少系統(tǒng)處理器的負(fù)載，在這個(gè)過(guò)程中系統(tǒng)功耗、占用空間和成本降至最低。但是，當(dāng)需要基于圖像傳感器數(shù)據(jù)進(jìn)行低延遲的關(guān)鍵決策時(shí)，這種方法將面臨問(wèn)題。

利用移動(dòng)優(yōu)勢(shì)

盡管嵌入式視覺(jué)解決方案早已面市多年，但該技術(shù)的發(fā)展速度受到了很多因素的限制。首先也是最重要的是，這項(xiàng)技術(shù)的關(guān)鍵要素仍沒(méi)有能夠以低成本的方式實(shí)現(xiàn)。特別是能夠?qū)崟r(shí)處理高清數(shù)字視頻流的計(jì)算引擎尚未普及。高容量固態(tài)存儲(chǔ)和高級(jí)分析算法的限制也帶來(lái)了挑戰(zhàn)。

最近市場(chǎng)上的三種發(fā)展趨勢(shì)有望徹底改變嵌入式視覺(jué)系統(tǒng)的面貌。首先，移動(dòng)市場(chǎng)的高速發(fā)展為嵌入式視覺(jué)設(shè)計(jì)工程師提供了海量的處理器可選方案，能夠以低功耗提供相對(duì)較高的性能。其次，MIPI聯(lián)盟推出的移動(dòng)行業(yè)處理器接口（MIPI）能夠?yàn)樵O(shè)計(jì)工程師提供替代方案，使用符合標(biāo)準(zhǔn)的硬件和軟件組件來(lái)構(gòu)建創(chuàng)新且具有成本效益的嵌入式視覺(jué)解決方案。最后，針對(duì)移動(dòng)應(yīng)用的低成本傳感器和攝像頭的激增，幫助嵌入式視覺(jué)系統(tǒng)設(shè)計(jì)工程師實(shí)現(xiàn)更好的解決方案并降低成本。

工業(yè)應(yīng)用

工業(yè)應(yīng)用領(lǐng)域中的機(jī)器視覺(jué)系統(tǒng)一直以來(lái)都是嵌入式視覺(jué)領(lǐng)域最有前景的應(yīng)用方向之一。機(jī)器視覺(jué)技術(shù)是其中最成熟和數(shù)量最多的應(yīng)用。它被廣泛用于制造過(guò)程和質(zhì)量管理應(yīng)用。通常，這些應(yīng)用領(lǐng)域中的制造商采用由一個(gè)或多個(gè)智能攝像頭與處理器模塊組成的緊湊型視覺(jué)系統(tǒng)。TransparencyMarketResearch的分析師預(yù)測(cè)，機(jī)器視覺(jué)市場(chǎng)將從2014年的157億美元增長(zhǎng)至285億美元（2021年）。

今天，設(shè)計(jì)工程師為這項(xiàng)技術(shù)找到很多潛力無(wú)限的全新應(yīng)用領(lǐng)域。例如，圖1中的機(jī)器視覺(jué)智能攝像頭非常適合用于監(jiān)控生產(chǎn)線上的制造設(shè)備。設(shè)計(jì)工程師可以使用FPGA實(shí)現(xiàn)圖像傳感器橋接，用作一個(gè)完整的攝像頭圖像信號(hào)處理流水線（ISP），以及提供GeVision或USBVision等互連解決方案。

圖1：機(jī)器視覺(jué)智能攝像頭中的FPGA

另一個(gè)例子是基于FPGA的視頻采集卡（圖2），它聚合了來(lái)自多個(gè)攝像頭的數(shù)據(jù)，并進(jìn)行圖像預(yù)處理，然后通過(guò)PCIe接口將數(shù)據(jù)發(fā)送到主處理器。

圖2：視頻采集卡

隨著越來(lái)越多的制造商采用工業(yè)4.0模式，工業(yè)市場(chǎng)對(duì)視覺(jué)系統(tǒng)的需求也將越來(lái)越大。在這個(gè)新時(shí)代，制造商將把先進(jìn)的機(jī)器人、機(jī)器學(xué)習(xí)、3D深度測(cè)繪和工業(yè)物聯(lián)網(wǎng)（IIoT）整合到一起以提高組織和生產(chǎn)能力。在2011年發(fā)布的一篇題為“工業(yè)4.0--未來(lái)智能制造”的文章中首次提出，工業(yè)4.0代表了工業(yè)革命歷史上的第四個(gè)階段。2012年，工業(yè)4.0工作組向德國(guó)聯(lián)邦政府提出了一套實(shí)施建議。

工業(yè)革命的第一階段工業(yè)1.0在制造業(yè)中引入了水和蒸汽動(dòng)力機(jī)械。勞動(dòng)分工環(huán)境下首次出現(xiàn)的電力驅(qū)動(dòng)批量生產(chǎn)技術(shù)奠定了工業(yè)2.0的基礎(chǔ)。工業(yè)的第三個(gè)時(shí)代從采用計(jì)算機(jī)開(kāi)始，初次涉足自動(dòng)化領(lǐng)域，在裝配線上用自動(dòng)化機(jī)器逐漸取代人類。

今天，制造商期望工業(yè)4.0能夠幫助他們實(shí)現(xiàn)又一次的飛躍，進(jìn)一步提高生產(chǎn)力。在“智慧工廠”這個(gè)概念的驅(qū)動(dòng)下，工業(yè)4.0將引入物理網(wǎng)絡(luò)系統(tǒng)來(lái)監(jiān)控智能工廠的生產(chǎn)過(guò)程并實(shí)現(xiàn)分權(quán)決策。這種模式將通過(guò)整合大數(shù)據(jù)與分析、IT與物聯(lián)網(wǎng)融合、機(jī)器人技術(shù)的最新進(jìn)展以及數(shù)字供應(yīng)鏈的迭代發(fā)展等理念推動(dòng)行業(yè)向著數(shù)字化轉(zhuǎn)型。最后，通過(guò)互聯(lián)網(wǎng)，這些物理系統(tǒng)將實(shí)現(xiàn)系統(tǒng)交互和人機(jī)交互，成為工業(yè)物聯(lián)網(wǎng)（IIoT）的一部分。

一個(gè)工業(yè)4.0智慧工廠將會(huì)是什么樣子？首先，它將為機(jī)器、設(shè)備、傳感器和人員提供廣泛的互操作性和高水平的通信能力。其次，它將具有很高的信息透明度，系統(tǒng)通過(guò)傳感器數(shù)據(jù)創(chuàng)建物理世界的虛擬映射，使得信息情境化。第三，智能工廠的決策行為將高度分散，物理網(wǎng)絡(luò)系統(tǒng)盡可能自主運(yùn)行。第四，這些工廠將提供高水平的技術(shù)援助，系統(tǒng)可以幫助彼此解決問(wèn)題、做出決策并幫助人類完成太難或危險(xiǎn)的任務(wù)。幾乎在所有情況下，制造商都將比以往更依賴嵌入式視覺(jué)系統(tǒng)。

當(dāng)然，采用這種新模式的制造商也將面臨諸多挑戰(zhàn)。他們必須要開(kāi)發(fā)可靠性極高和延遲極低的嵌入式視覺(jué)系統(tǒng)以確保物理網(wǎng)絡(luò)通信的正常工作。工業(yè)4.0將迫使制造商保持生產(chǎn)過(guò)程的完整性，同時(shí)減少人為監(jiān)管。當(dāng)他們?cè)诓渴疬@些新系統(tǒng)時(shí)會(huì)面臨資深人員不足的問(wèn)題。但好處遠(yuǎn)遠(yuǎn)超過(guò)了挑戰(zhàn)。工業(yè)4.0將會(huì)大幅提升危險(xiǎn)工作環(huán)境中工作人員的健康和安全保障。來(lái)自制造過(guò)程中各個(gè)層面的數(shù)據(jù)可幫助制造商能夠更簡(jiǎn)單有效地控制其供應(yīng)鏈。

汽車應(yīng)用

鑒于汽車領(lǐng)域中電子應(yīng)用的迅速增長(zhǎng)，汽車市場(chǎng)無(wú)疑是嵌入式視覺(jué)應(yīng)用最有潛力的發(fā)展領(lǐng)域。高級(jí)駕駛輔助系統(tǒng)和信息娛樂(lè)功能的推出有望快速推動(dòng)相關(guān)市場(chǎng)的增長(zhǎng)。ResearchandMarkets.com的分析師預(yù)測(cè)，2016年至2021年間，ADAS市場(chǎng)將以10.44％的復(fù)合年增長(zhǎng)率增長(zhǎng)。這些應(yīng)用中最常用的嵌入式視覺(jué)產(chǎn)品是攝像頭模塊。供應(yīng)商要么自己開(kāi)發(fā)分析工具和算法，要么采用來(lái)自外部開(kāi)發(fā)工程師的第三方IP。新興的汽車應(yīng)用領(lǐng)域之一是駕駛員監(jiān)控系統(tǒng)，該系統(tǒng)使用視覺(jué)應(yīng)用追蹤駕駛員頭部和身體動(dòng)作以進(jìn)行疲勞狀態(tài)識(shí)別。另一個(gè)是視覺(jué)系統(tǒng)，通過(guò)監(jiān)測(cè)看短信或飲食等潛在的駕駛員分心因素提高車輛操作安全。

但是汽車中的視覺(jué)系統(tǒng)可以做的遠(yuǎn)不止是監(jiān)控車內(nèi)發(fā)生的事情。從2018年起，有一些國(guó)家的法規(guī)將要求新車必須配備后視攝像頭，以幫助司機(jī)看到車輛后方的情況。像車道偏離預(yù)警系統(tǒng)這樣的新應(yīng)用將視頻和車道檢測(cè)算法結(jié)合起來(lái)，以評(píng)估汽車的位置。此外，市場(chǎng)需求也推動(dòng)了閱讀警示標(biāo)志、撞擊緩沖、盲點(diǎn)檢測(cè)、自動(dòng)泊車、倒車輔助等功能的發(fā)展。所有這些功能都有助于讓駕駛變得更安全。

汽車視覺(jué)和傳感系統(tǒng)的發(fā)展為實(shí)現(xiàn)真正的自動(dòng)駕駛奠定了基礎(chǔ)。例如，凱迪拉克將在2018年將其嵌入式視覺(jué)子系統(tǒng)集成到CT6轎車中，以實(shí)現(xiàn)業(yè)界首款解放雙手的駕駛技術(shù)SuperCruise。通過(guò)不斷分析駕駛員和道路情況，精確的LIDAR數(shù)據(jù)庫(kù)提供道路情況，而先進(jìn)的攝像頭、傳感器和GPS實(shí)時(shí)反應(yīng)道路的動(dòng)態(tài)狀況細(xì)節(jié)，這項(xiàng)新技術(shù)將使駕駛變得更加安全。總體而言，汽車制造商已經(jīng)形成了一致的想法，即現(xiàn)代車輛中的ADAS系統(tǒng)將需要前置攝像頭進(jìn)行車道檢測(cè)、行人檢測(cè)、交通標(biāo)志識(shí)別和緊急制動(dòng)功能。同時(shí)還需要側(cè)面和后面的攝像頭來(lái)支持停車輔助、盲點(diǎn)檢測(cè)和交叉車流警報(bào)功能。

汽車制造商面臨的一個(gè)挑戰(zhàn)是現(xiàn)有電子設(shè)備中的I/O數(shù)量有限。目前主流處理器僅具備兩個(gè)攝像頭接口。然而，許多ADAS系統(tǒng)需要多達(dá)8臺(tái)攝像頭才能滿足圖像質(zhì)量要求。設(shè)計(jì)工程師需要的解決方案要能夠?yàn)樗麄兲峁﹨f(xié)同處理資源，將來(lái)自多個(gè)攝像頭的視頻流拼接在一起，或基于攝像頭輸入執(zhí)行圖像處理功能，如白平衡、魚(yú)眼校正和除霧等，并通過(guò)單個(gè)數(shù)據(jù)流將數(shù)據(jù)發(fā)送到應(yīng)用處理器（AP）。例如，許多汽車制造商提供的ADAS系統(tǒng)中都具備鳥(niǎo)瞰視圖功能，駕駛員可以看到車輛上方20英尺處向下的現(xiàn)場(chǎng)視頻。ADAS系統(tǒng)通過(guò)將來(lái)自4個(gè)或更多攝像頭的數(shù)據(jù)拼接為寬視野圖像實(shí)現(xiàn)這一功能。

以前，設(shè)計(jì)工程師在驅(qū)動(dòng)每個(gè)顯示屏?xí)r都要使用一個(gè)處理器。而現(xiàn)在，設(shè)計(jì)工程師可以使用單個(gè)FPGA替代多個(gè)處理器，聚合所有攝像頭數(shù)據(jù)，將圖像拼接在一起，執(zhí)行預(yù)處理和后處理功能，并將圖像發(fā)送到系統(tǒng)處理器。圖3展示了360度鳥(niǎo)瞰汽車攝像系統(tǒng)的簡(jiǎn)化架構(gòu)，該系統(tǒng)從位于汽車周圍的4個(gè)攝像頭（前方、后方和兩側(cè)）收集數(shù)據(jù)。系統(tǒng)使用單個(gè)FPGA進(jìn)行各種預(yù)處理和后處理功能以及視頻數(shù)據(jù)拼接，提供顯示車輛周圍環(huán)境的360度視圖。在這種情況下，單個(gè)FPGA將取代多個(gè)處理器。

圖3：車輛360度鳥(niǎo)瞰攝像系統(tǒng)

消費(fèi)電子應(yīng)用

無(wú)人機(jī)、增強(qiáng)現(xiàn)實(shí)/虛擬現(xiàn)實(shí)（AR/VR）和其他消費(fèi)電子應(yīng)用為嵌入式視覺(jué)解決方案開(kāi)發(fā)者提供了巨大的機(jī)遇。今天，無(wú)人機(jī)設(shè)計(jì)工程師已經(jīng)知道同步無(wú)人機(jī)上的6個(gè)或更多攝像頭以創(chuàng)建全景視圖比構(gòu)建采用2個(gè)攝像頭并將其移動(dòng)180度的機(jī)械解決方案更便宜。同樣，AR/VR設(shè)計(jì)工程師將單個(gè)視頻流進(jìn)行快速轉(zhuǎn)化并將內(nèi)容分割為雙視頻流輸出。他們充分利用低成本移動(dòng)相關(guān)技術(shù)的優(yōu)勢(shì)，使用兩個(gè)MIPIDSI顯示屏，每個(gè)顯示屏對(duì)準(zhǔn)用戶的一只眼睛，實(shí)現(xiàn)低延遲、低功耗，增強(qiáng)深度感，為用戶提供更加身臨其境的體驗(yàn)（圖4）。

圖4：基于FPGA的虛擬現(xiàn)實(shí)系統(tǒng)

隨著游戲機(jī)行業(yè)的不斷發(fā)展，傳統(tǒng)的游戲控制器將被圖像傳感器和視頻分析器所取代，通過(guò)檢測(cè)身體動(dòng)作和面部表情來(lái)控制游戲。預(yù)計(jì)這些智能控制器將逐漸引入到其他消費(fèi)電子產(chǎn)品中，如電視機(jī)、個(gè)人電腦、智能手機(jī)和平板電腦。此外，智能家居應(yīng)用（如照明、加熱和空調(diào)設(shè)備）可能會(huì)采用類似的功能并添加圖像傳感器。最終這些攝像頭將取代傳統(tǒng)物理控制器。

總結(jié)

不久之前，嵌入式視覺(jué)技術(shù)還在很大程度上受到組件性能的限制。智能視覺(jué)解決方案中的許多關(guān)鍵組件，特別是實(shí)時(shí)處理高清數(shù)字視頻所需的計(jì)算引擎，價(jià)格高昂超出可接受的范圍。那些日子已經(jīng)一去不復(fù)返了！隨著移動(dòng)處理器的發(fā)展，低功耗FPGA和ASSP的出現(xiàn)，MIPI接口標(biāo)準(zhǔn)的推廣以及低成本攝像頭和傳感器的普及，設(shè)計(jì)工程師可將曾經(jīng)高度專業(yè)化的技術(shù)應(yīng)用到智能工廠自動(dòng)化、汽車電子和消費(fèi)電子領(lǐng)域。顯然嵌入式視覺(jué)技術(shù)將在這里發(fā)揮十分重要的作用。

題外話：

如何加速產(chǎn)品的上市進(jìn)程

對(duì)于快速發(fā)展的嵌入式視覺(jué)市場(chǎng)而言，有一點(diǎn)勿庸置疑：競(jìng)爭(zhēng)將會(huì)源源不斷。對(duì)于那些希望快速進(jìn)行開(kāi)發(fā)的設(shè)計(jì)工程師來(lái)說(shuō)，萊迪思半導(dǎo)體為嵌入式視覺(jué)解決方案提供了一個(gè)易于使用的快速原型設(shè)計(jì)開(kāi)發(fā)平臺(tái)。該嵌入式視覺(jué)開(kāi)發(fā)工具套件包括一個(gè)由三塊開(kāi)發(fā)板組成的模塊化平臺(tái)，其中包括CrossLinkVIP輸入橋接板、ECP5VIP處理器板以及HDMIVIP輸出橋接板。

CrossLinkVIP輸入橋接板提供2個(gè)用于連接索尼IMX高清攝像頭傳感器的MIPICSI-2接口。ECP5VIP處理器板包含一片ECP5FPGA，專為預(yù)處理和后處理進(jìn)行了優(yōu)化。該處理器板還通過(guò)NanoVestor連接器與HelionVision的高清（HD）圖像信號(hào)處理（ISP）IP支持外部圖像傳感器視頻輸入。憑借Sil1136IC，HDMIVIP輸出板可連接標(biāo)準(zhǔn)HDMI顯示器。

上述由三塊開(kāi)發(fā)板組成的開(kāi)發(fā)平臺(tái)提供了開(kāi)發(fā)機(jī)器人、無(wú)人機(jī)、ADAS、智能監(jiān)控和AV/VR系統(tǒng)等應(yīng)用所需的設(shè)計(jì)靈活性和低功耗特性。該套件已預(yù)先內(nèi)置雙CSI-2至HDMI演示。CrossLink橋接器件接收兩路攝像頭輸入信號(hào)，并將它們合并成單個(gè)數(shù)據(jù)流，然后通過(guò)并行接口將數(shù)據(jù)發(fā)送到ECP5FPGA。ECP5-85FPGA接收輸入圖像數(shù)據(jù)，并在將數(shù)據(jù)發(fā)送到HDMI輸出板之前執(zhí)行基本的圖像處理功能。然后輸出板將數(shù)據(jù)轉(zhuǎn)換為HDMI格式并將圖像呈現(xiàn)到標(biāo)準(zhǔn)顯示屏上。