【谷歌推出首款終端AI芯片EdgeTPU，發(fā)力IoT市場】7月26日消息，谷歌于美國當(dāng)?shù)貢r間周三發(fā)布了用于邊緣計算的新版AI芯片——微型AI加速器EdgeTPU，可實現(xiàn)物聯(lián)網(wǎng)設(shè)備上的機(jī)器學(xué)習(xí)模型運(yùn)算。

兩年前，谷歌推出可以輕松完成AI任務(wù)的張量處理單元TPU(TensorProcessingUnits)。隨著連接設(shè)備的爆炸性增長，以及對隱私、機(jī)密性、低延遲和帶寬限制的需求，谷歌正將AI模型從云端轉(zhuǎn)移到終端。EdgeTPU作為CloudTPU處理器的簡化版本，將谷歌云的AI功能移植到物聯(lián)網(wǎng)上，使傳感器等設(shè)備能更快更便捷地處理數(shù)據(jù)。

一、把AI帶到邊緣：EdgeTPU

EdgeTPU是谷歌專門設(shè)計的ASIC芯片，用于在邊緣設(shè)備上運(yùn)行TensorFlowLiteML模型進(jìn)行推理。它在較小的物理和功耗范圍內(nèi)提供高性能，并在邊緣部署高精度AI，能夠使用戶以高效率的方式在高分辨率視頻上以每秒30幀的速度同時執(zhí)行多幀最先進(jìn)的AI模型。CloudIoT產(chǎn)品管理部門負(fù)責(zé)人AntonyPassemard表示，EdgeTPU的大小比1美分還要小許多。

目前，在為顯示面板生產(chǎn)玻璃的過程中，該檢測設(shè)備每秒可處理200多張玻璃圖像。

▲EdgeTPU和CloudTPU對比

作為CloudTPU互補(bǔ)的產(chǎn)品，EdgeTPU向用戶提供端到端和云端到端的硬件+軟件AI基礎(chǔ)架構(gòu)，以便于部署基于AI的解決方案。不同于CloudTPU，它只用于機(jī)器學(xué)習(xí)推理，不用于相關(guān)模型訓(xùn)練，因此可以以超低功率的方式進(jìn)行計算，適合物聯(lián)網(wǎng)設(shè)備采用。EdgeTPU使用的軟件和服務(wù)是CloudIoTEdge和物聯(lián)網(wǎng)操作系統(tǒng)AndroidThings。它可以使用TensorFlowLite和NNAPI兩種機(jī)器學(xué)習(xí)框架，以及EdgeTPU、GPU和CPU三種硬件加速器。憑借其高性能、小尺寸和低功耗的特點，EdgeTPU能在邊緣設(shè)備上實現(xiàn)本地實時進(jìn)行高質(zhì)量的AI運(yùn)算。

這款芯片不僅僅是一個硬件解決方案。它結(jié)合了定制硬件、開放軟件和最先進(jìn)的AI算法，為邊緣提供高質(zhì)量、易于部署的AI解決方案。

EdgeTPU具有較高的每瓦性能和較小的占地面積，可實現(xiàn)廣泛的工業(yè)用例，例如預(yù)測性維護(hù)，異常檢測，機(jī)器視覺，機(jī)器人，語音識別等等。它可以被應(yīng)用在制造、醫(yī)療保健、零售、智能空間、運(yùn)輸?shù)取?/p>

二、EdgeTPU的配套軟件：CloudIoTEdge

谷歌還推出了CloudIoTEdge軟件平臺，可將訓(xùn)練好的機(jī)器學(xué)習(xí)模型移植到邊緣計算基礎(chǔ)設(shè)施的設(shè)備上運(yùn)行。該平臺有兩個關(guān)鍵組件。

其一是EdgeIoTCore。這是AzureIoTEdge設(shè)備管理器和協(xié)議網(wǎng)關(guān)，可將邊緣設(shè)備安全地連接到云、啟用軟件和固件更新，以及使用CloudIoTCore管理數(shù)據(jù)交換。

其二是EdgeML。它是TensorFlowLiteML工具的精簡版，在本地運(yùn)行預(yù)先訓(xùn)練好的TensorFlowLiteML模型，可以顯著提高邊緣設(shè)備的處理能力和多功能性。這使得下一波機(jī)器學(xué)習(xí)應(yīng)用程序和用例成為可能。

此外，該平臺還利用了谷歌專用的硬件加速器ASIC芯片EdgeTPUTM。

▲CloudIoTEdge的工作原理

CloudIoTEdge將谷歌云強(qiáng)大的數(shù)據(jù)處理和機(jī)器學(xué)習(xí)擴(kuò)展到數(shù)十億邊緣設(shè)備，如機(jī)器人手臂、風(fēng)力渦輪機(jī)和石油鉆井平臺等，因此他們可以實時處理來自傳感器的數(shù)據(jù)并在本地預(yù)測結(jié)果。CloudIoTEdge可在AndroidThings或基于Linux的操作系統(tǒng)上運(yùn)行。

結(jié)語：打通EdgeTPU的生態(tài)

為了實現(xiàn)EdgeTPU的快速開發(fā)和測試，谷歌為開發(fā)者提供了開發(fā)套件EdgeTPUdevelopmentkit。該套件包括一個模塊化系統(tǒng)(SOM)，結(jié)合EdgeTPU、NXPCPU、Wi-Fi和Microchip等安全組件。該套件將在今年10月對開發(fā)者開放，也可以注冊申請?zhí)崆霸L問(申請鏈接：http://t.cn/ReLmOSK)。

此外，谷歌還推出了兩款A(yù)IY設(shè)備，即AIYEdgeTPU開發(fā)板和AIYEdgeTPU加速器。AIYEdgeTPU開發(fā)板內(nèi)置EdgeTPU、NXPCPU處理器、集成GPU、8GBeMMC閃存、Wi-Fi功能和加密芯片。其長約3-4個10美元硬幣，寬約2-3個10元硬幣。

谷歌推出首款終端AI芯片EdgeTPU，發(fā)力IoT市場

AIYEdgeTPU加速器是一個帶了type-C接口的USB設(shè)備，內(nèi)置EdgeTPU處理器，可連接到Linux和AndroidThings系統(tǒng)，并支持在TensorFlowLite框架下運(yùn)行。

谷歌推出首款終端AI芯片EdgeTPU，發(fā)力IoT市場

這兩款A(yù)IY設(shè)備暫無提前申請渠道，將在今年秋天上市。