人工智能終端應(yīng)用的可能性無(wú)限，舉凡智能型手機(jī)、汽車、照明等，都有機(jī)會(huì)成為所謂的邊緣運(yùn)算裝置。但在過(guò)去，運(yùn)算處理器是在數(shù)據(jù)中心有較為明顯的需求。目前邊緣運(yùn)算此一產(chǎn)業(yè)走向的大逆轉(zhuǎn)，已可從各芯片供貨商，如GPU、CPU等，以及硅智財(cái)（IP）授權(quán)商紛紛針對(duì)人工智能展開(kāi)布局，推出各自處理器縮小化的解決方案，明顯可見(jiàn)一斑。

隨著人工智能的發(fā)展，有越來(lái)越多應(yīng)用產(chǎn)品開(kāi)始在終端上進(jìn)行實(shí)時(shí)運(yùn)算，也就是所謂的邊緣運(yùn)算。不過(guò)，目前的處理器核心對(duì)許多終端裝置來(lái)說(shuō)，功耗仍嫌偏高。

AIoT浪潮興起小型處理器核心滿足邊緣運(yùn)算需求

索思未來(lái)（Socionext）戰(zhàn)略銷售組銷售部銷售項(xiàng)目總監(jiān)張育豪（圖1）表示，目前市場(chǎng)上主流的CPU或GPU核心規(guī)模很大，雖然運(yùn)算效能很強(qiáng)，但功耗也高，而且不易針對(duì)應(yīng)用進(jìn)行客制化設(shè)計(jì)。有鑒于此，Socionext采取用小型核心堆棧的設(shè)計(jì)架構(gòu)，其好處在于從云到端都可以采用同樣的處理器核心，且也較容易針對(duì)個(gè)別應(yīng)用進(jìn)行客制化，例如將CPU核心跟圖像處理核心（VPU）整合在單芯片上。

張育豪觀察，目前的人工智能應(yīng)用大多與影像相關(guān)，但不管是CPU或GPU，在進(jìn)行影像運(yùn)算時(shí)，功耗/性能比都不盡理想。這是因?yàn)镃PU跟GPU原本就不是為了處理影像而設(shè)計(jì)的芯片。CPU的強(qiáng)項(xiàng)在于進(jìn)行數(shù)據(jù)運(yùn)算，而GPU則適合用來(lái)進(jìn)行3D繪圖處理。因此，用CPU或GPU來(lái)進(jìn)行影像分析，其實(shí)效率不是太好。相較之下，專門為處理影像而設(shè)計(jì)的VPU，在圖像處理的功耗/性能比方面，是遠(yuǎn)勝過(guò)CPU跟GPU的。

舉例來(lái)說(shuō)，用CPU來(lái)對(duì)4K影像進(jìn)行處理跟分析，功耗預(yù)算大概是230瓦左右；若用GPU來(lái)進(jìn)行，功耗更可達(dá)到400?500瓦。但如果是用Socionext的解決方案，一顆核心的功耗只有5瓦左右，就算串聯(lián)多顆核心，也會(huì)比CPU或GPU來(lái)得省電許多。因此，張育豪認(rèn)為，在人工智能進(jìn)駐各類終端裝置的趨勢(shì)下，如果是與影像分析有關(guān)的人工智能應(yīng)用，VPU將有非常大的發(fā)展?jié)摿Αocionext本身?yè)碛袠I(yè)界領(lǐng)先的VPU技術(shù)，更是目前市場(chǎng)上唯一已經(jīng)有8K圖像處理芯片的芯片業(yè)者。

不管是針對(duì)大規(guī)模數(shù)據(jù)中心，或是在各種終端裝置上直接進(jìn)行邊緣運(yùn)算，功耗都是非常關(guān)鍵的考慮。功耗越高，則系統(tǒng)的散熱設(shè)計(jì)也越昂貴，不僅會(huì)增加終端裝置的生產(chǎn)制造成本，也會(huì)增加系統(tǒng)擁有者的總體持有成本（TCO）。

以數(shù)據(jù)中心為例，冷卻系統(tǒng)的電費(fèi)是相當(dāng)可觀的，如果處理器能更省電，空調(diào)冷卻的電費(fèi)也可以隨之降低。其他形形色色的終端裝置也一樣，當(dāng)芯片的功耗太高時(shí)，就得采用更大的散熱片，甚至用風(fēng)扇來(lái)散熱，這些都會(huì)造成產(chǎn)品的生產(chǎn)成本跟總體持有成本增加。

單一叢集配置更彈性DynamIQ推升大小核效率

針對(duì)小型處理器需求的增加，安謀國(guó)際（ARM）日前在處理器架構(gòu)上，也宣布了大幅度調(diào)整，也就是DynamIQ技術(shù)。DynamIQ達(dá)成了上一代big.LITTLE架構(gòu)在單一運(yùn)算叢集上無(wú)法實(shí)現(xiàn)的大小核彈性配置，對(duì)異質(zhì)運(yùn)算及人工智能這類應(yīng)用帶來(lái)相當(dāng)明顯的效率提升。其將作為未來(lái)ARMCortex-A系列處理器的基礎(chǔ)，亦同時(shí)代表了業(yè)界在多核處理程序設(shè)計(jì)上的新紀(jì)元。

ARM行動(dòng)通訊暨數(shù)字家庭市場(chǎng)資深營(yíng)銷經(jīng)理林修平（圖2）表示，DynamIQ可以說(shuō)是ARMbig.LITTLE的第二代硬件架構(gòu)，其最主要的特點(diǎn)在于其可以在同一個(gè)叢集（Cluster）中同時(shí)擺放大小核，且電源（Power）與頻率（Clock）都可以單獨(dú)作管理。在第一代的大小核架構(gòu)中，一個(gè)叢集只能擺放大核或小核，因此在執(zhí)行轉(zhuǎn)換任務(wù)時(shí)，必須經(jīng)過(guò)快?。–ache）轉(zhuǎn)換。但在DynamIQ中，由于所有任務(wù)都將能在同個(gè)叢集中運(yùn)作，在任務(wù)切換上，便會(huì)相對(duì)迅速很多。

林修平指出，由于人工智能所需要的運(yùn)算量很大，同時(shí)需要很多矩陣乘法，透過(guò)DynamIQ的架構(gòu)，將能做1+3、1+7、2+2+4等設(shè)計(jì)配置。在過(guò)去的big.LITTLE架構(gòu)中，由于一個(gè)叢集最多即是4核（大核（Big）4核，小核（LITTLE）4核），是沒(méi)有辦法做到1+7的。DynamIQ所帶來(lái)的多元變化SoC設(shè)計(jì)配置，將能幫助應(yīng)用達(dá)到CPU優(yōu)化，進(jìn)而讓效能與功耗能更往上提升。

DynamIQ的頻率可以單獨(dú)管理，也將帶來(lái)很大好處。第一代的大小核，在同一個(gè)叢集當(dāng)中，頻率是統(tǒng)一的，但DynamIQ可以讓同一叢集中的不同核心，依據(jù)運(yùn)算需求在不同的頻率下運(yùn)作。

此外，林修平也表示，DynamIQ還可連接外部的硬件加速器。以人工智能來(lái)說(shuō)，不同應(yīng)用會(huì)有不同的軟硬件加速需求，例如加速器、DSP、CPU、GPU等，像是在高階智能型手機(jī)上，可能會(huì)放置加速器，來(lái)使其表現(xiàn)度達(dá)到最好、功耗達(dá)到最低，不過(guò)這也會(huì)增加集成電路的成本。因此，若是比較大眾化的產(chǎn)品，則可能會(huì)利用系統(tǒng)上現(xiàn)有的CPU、GPU，來(lái)滿足人工智能的需要。

更多資訊請(qǐng)關(guān)注工業(yè)機(jī)器人頻道