人工智能和微處理器的結(jié)合為單片機開辟了新的市場。它使越來越多的新的應(yīng)用程序和用例能夠使用簡單的單片機和人工智能加速來促進智能控制。這些由AI啟動的單片機提供了一種獨特的DSP計算和機器學(xué)習(xí)能力(ML)來進行推理,目前正被用于各種各樣的應(yīng)用,如關(guān)鍵字識別、傳感器融合、振動分析和語音識別。高性能的單片機能夠在視覺和成像方面提供更復(fù)雜的應(yīng)用,如面部識別、指紋分析和自主機器人。

　　人工智能技術(shù)

　　下面是一些能夠使用iot設(shè)備的人工智能技術(shù):

　　機器學(xué)習(xí) :機器學(xué)習(xí)算法基于代表性數(shù)據(jù)建立模型,使設(shè)備能夠在沒有人為干預(yù)的情況下自動識別模式。ML供應(yīng)商提供了訓(xùn)練模型所需的算法、API和工具,這些模型可以被構(gòu)建到嵌入式系統(tǒng)中。然后,這些嵌入式系統(tǒng)使用預(yù)先訓(xùn)練的模型來驅(qū)動基于新輸入數(shù)據(jù)的推論或預(yù)測。例如傳感器中心,關(guān)鍵詞識別,預(yù)測維護和分類。

　　深入學(xué)習(xí) 深度學(xué)習(xí)是一種機器學(xué)習(xí),通過使用神經(jīng)網(wǎng)絡(luò)的許多層來從復(fù)雜的輸入數(shù)據(jù)中提取更高層次的特性和見解來訓(xùn)練系統(tǒng)。深度學(xué)習(xí)與非常大、多樣和復(fù)雜的輸入數(shù)據(jù)一起工作,并使系統(tǒng)能夠迭代學(xué)習(xí),隨著每一步的進行改進結(jié)果。運用深入學(xué)習(xí)的應(yīng)用實例有圖像處理、客戶服務(wù)的聊天機器人和面部識別。

　　自然語言處理(NLP) :NLP是人工智能的一個分支,處理系統(tǒng)與人類之間使用自然語言的互動。NLP幫助系統(tǒng)理解和解釋人類語言(文本或語音),并在此基礎(chǔ)上做出決策。例如語音識別系統(tǒng)、機器翻譯和預(yù)測打字.

　　計算機視覺 :機器/計算機視覺是一個人工智能領(lǐng)域,培訓(xùn)機器收集、解釋和理解圖像數(shù)據(jù),并根據(jù)這些數(shù)據(jù)采取行動。機器從相機上收集數(shù)字圖像/視頻,使用深入學(xué)習(xí)的模型和圖像分析工具,以精確地識別和分類物體,并根據(jù)它們"看到"的東西采取行動。例如制造裝配線故障檢測、醫(yī)療診斷、零售店的面部識別和無人駕駛汽車測試。

　　母嬰健康評估計劃

　　過去,人工智能是具有強大CPU核心、大內(nèi)存資源和用于分析的云連接的MPS和GPS的權(quán)限。不過,近年來,隨著智能化程度的日益提高,我們開始看到在嵌入式AOT應(yīng)用程序中使用單片機。移動到邊緣是由延遲和成本因素驅(qū)動的,涉及到將計算移動到更接近數(shù)據(jù)的位置。基于單片機的iot設(shè)備上的人工智能能夠?qū)崟r決策和更快地響應(yīng)事件,具有帶寬需求較低、功率較低、延遲時間較低、成本較低和安全性較高的優(yōu)點。由于最近的單片機具有較高的計算能力,以及薄神經(jīng)網(wǎng)絡(luò)(NN)框架的可用性,而這些框架更適合于在這些終端設(shè)備中使用的資源受限的單片機。

　　神經(jīng)網(wǎng)絡(luò)是一個節(jié)點的集合,被安排在一個層中,接收上一層的輸入,并生成一個輸出,該輸出是從輸入的加權(quán)和偏置和中計算出來的。這個輸出沿著所有的輸出連接傳遞到下一層。在訓(xùn)練過程中,訓(xùn)練數(shù)據(jù)被輸入到網(wǎng)絡(luò)的第一個或輸入層,每個層的輸出被傳遞到下一個。最后一層或輸出層生成模型的預(yù)測值,這些預(yù)測值與評估模型錯誤的已知預(yù)期值進行比較。訓(xùn)練過程涉及到在每次迭代中使用一個叫做反傳播的過程來完善或調(diào)整網(wǎng)絡(luò)每個層的權(quán)重和偏差,直到網(wǎng)絡(luò)的輸出與預(yù)期值密切相關(guān)。換句話說,網(wǎng)絡(luò)從輸入數(shù)據(jù)集中反復(fù)"學(xué)習(xí)",并逐步提高輸出預(yù)測的準(zhǔn)確性。

　　神經(jīng)網(wǎng)絡(luò)的訓(xùn)練需要非常高的計算性能和內(nèi)存,通常在云中進行。經(jīng)過訓(xùn)練,該預(yù)訓(xùn)練的NN模型嵌入到單片機中,并作為基于訓(xùn)練的新輸入數(shù)據(jù)的推理引擎。

　　這種推理生成需要比模型的訓(xùn)練低得多的計算性能,因此適合于單片機。這種預(yù)先訓(xùn)練的NN模型的權(quán)重是固定的,可以放在閃存,從而減少SRAM的需求量,使其適合于更多的資源受限的單片機。

　　關(guān)于婦幼保健單位的實施

　　在單片機上實施AOOT涉及到幾個步驟。最常見的方法是使用現(xiàn)有的神經(jīng)網(wǎng)絡(luò)(NN)框架模型之一,如卡菲或張力流巖,適合于基于單片機的終端設(shè)備解決方案。用于機器學(xué)習(xí)的NN模型的培訓(xùn)是由人工智能專家使用人工智能供應(yīng)商提供的工具在云端進行的。利用AI供應(yīng)商和單片機制造商的工具,對單片機進行了NN模型的優(yōu)化和集成。采用預(yù)先訓(xùn)練的NN模型對單片機進行了推斷。

　　流程的第一步是完全脫機完成,從終端設(shè)備或應(yīng)用程序捕獲大量數(shù)據(jù),然后用于培訓(xùn)NN模型。模型的拓?fù)浣Y(jié)構(gòu)由AI開發(fā)人員定義,以充分利用可用數(shù)據(jù)并提供該應(yīng)用程序所需的輸出。對NN模型的訓(xùn)練是通過迭代地將數(shù)據(jù)集傳遞到模型中來完成的,目的是持續(xù)地減少模型輸出時的錯誤。國家網(wǎng)絡(luò)框架中有一些工具可以在這個過程中提供幫助。

　　在第二步中,這些經(jīng)過培訓(xùn)的模型被轉(zhuǎn)換成適合于單片機的格式,這些模型被優(yōu)化用于某些功能,如關(guān)鍵字識別或語音識別。這個過程的第一步是使用AI轉(zhuǎn)換工具將它轉(zhuǎn)換為平面緩沖文件。這可以選擇性地通過量化器運行,以減少尺寸和優(yōu)化它的單片機。然后將該平面緩沖區(qū)文件轉(zhuǎn)換為C代碼,并將其作為運行時可執(zhí)行文件傳輸?shù)侥繕?biāo)單片機。

　　這個單片機,配備了預(yù)先訓(xùn)練的嵌入式人工智能模型,現(xiàn)在可以部署在終端設(shè)備。當(dāng)新數(shù)據(jù)輸入時,它將通過模型運行,并在培訓(xùn)的基礎(chǔ)上生成一個推理。當(dāng)新的數(shù)據(jù)類出現(xiàn)時,NN模型可以被送回云端進行再培訓(xùn),新的再培訓(xùn)模型可以在單片機上編程,可能通過OTA(空)固件升級。

　　可以用兩種不同的方式來架構(gòu)基于mcu的AI解決方案。為了討論這個問題,我們假設(shè)在目標(biāo)單片機中使用ARM皮質(zhì)M核。

　　在第一種方法中,將轉(zhuǎn)換的NN模型在皮層-MCPU核心上執(zhí)行,并使用CMS-NN庫進行加速。這是一個簡單的配置,可以處理沒有任何額外的硬件加速度,適合于更簡單的AI應(yīng)用程序,如關(guān)鍵字定位,振動分析和傳感器樞紐。

　　一個更復(fù)雜和更高性能的選擇包括一個NN加速器或微神經(jīng)處理單元(U-NSP)硬件在單片機。這些U-NPS在資源受限的iot終端設(shè)備中加速機器學(xué)習(xí),并可能支持壓縮,從而降低模型的功率和尺寸。它們支持能夠完全執(zhí)行音頻處理、語音識別、圖像分類和對象檢測的大多數(shù)公共NN網(wǎng)絡(luò)的操作員。不受u-n-n支持的網(wǎng)絡(luò)可以回到主CPU核心,并由cms-nn庫加速。在此方法中,NN模型被執(zhí)行在UNP上。

　　這些方法只展示了在基于單片機的設(shè)備中集成AI的幾種方法。隨著單片機將性能邊界推到更高的層次,更接近于來自MPPS的預(yù)期,我們希望開始看到包括輕量級學(xué)習(xí)算法和推理在內(nèi)的完整的AI功能,直接建立在單片機上。

　　在邊緣的人工智能是未來

　　未來,關(guān)于資源受限的單片機系統(tǒng)的人工智能的實施將呈指數(shù)級增長,隨著單片機系統(tǒng)推進性能界限,模糊了單片機和MPS之間的界線,越來越多的適合于資源受限設(shè)備的"薄"NN模型開始出現(xiàn),我們將繼續(xù)看到新的應(yīng)用程序和用例出現(xiàn)。

　　將來,隨著單片機性能的提高,除了推理之外,我們可能會看到輕量級學(xué)習(xí)算法的實現(xiàn),直接在單片機上運行。這將為單片機制造商開辟新的市場和應(yīng)用,并將成為它們的一個重大投資領(lǐng)域。