在技術(shù)發(fā)展的歷史上，技術(shù)先獨(dú)立發(fā)展再相互融合以改變世界的例子比比皆是。原子能和噴氣式發(fā)動(dòng)機(jī)的融合催生了核航空母艦，改變了20世紀(jì)大部分戰(zhàn)爭(zhēng)的形態(tài)。計(jì)算機(jī)和射頻通信的融合產(chǎn)生了智能手機(jī)，同時(shí)也重新定義了我們與技術(shù)以及彼此之間的互動(dòng)方式。今天，嵌入式電子和人工智能 (AI) 的融合正日益成為下一個(gè)具有顛覆性的技術(shù)組合。接下來(lái)我們就看一下這種融合的發(fā)展演變。

歡迎來(lái)到網(wǎng)絡(luò)邊緣

人工智能的概念最早出現(xiàn)在古希臘人的著作中，但直到20世紀(jì)上半葉，才開(kāi)始將其作為一種實(shí)際技術(shù)進(jìn)行開(kāi)發(fā)。從根本上來(lái)說(shuō)，AI使數(shù)字技術(shù)像人腦一樣，能夠與模擬世界有效互動(dòng)、響應(yīng)溝通。為了使AI在現(xiàn)實(shí)世界的應(yīng)用具有實(shí)用性，比如自動(dòng)駕駛車(chē)輛，在處理多個(gè)動(dòng)態(tài)輸入時(shí)，電子設(shè)備和物理世界之間的交互必須接近瞬時(shí)完成。值得慶幸的是，隨著機(jī)器學(xué)習(xí)算法的發(fā)展，嵌入式電子系統(tǒng)也在不斷進(jìn)步。他們的聯(lián)姻催生了邊緣計(jì)算的概念。

邊緣計(jì)算獲得了過(guò)去只有云端強(qiáng)大的處理硬件才能實(shí)現(xiàn)的處理能力，并將這種能力帶給了位于物理-數(shù)字接口邊緣的本地設(shè)備。再加上微控制器和傳感器等廉價(jià)而穩(wěn)健的嵌入式組件的普及，給自動(dòng)化領(lǐng)域，無(wú)論是規(guī)模上還是功能上都帶來(lái)了一場(chǎng)革命。

TensorFlow Lite: 微型硬件上的大ML算法

TensorFlow是Google主導(dǎo)開(kāi)發(fā)的一套開(kāi)源軟件庫(kù)，使開(kāi)發(fā)人員能夠輕松地將復(fù)雜的數(shù)值計(jì)算算法和機(jī)器學(xué)習(xí)（ML）集成到他們的項(xiàng)目中（圖1）。按照Google的說(shuō)法，這些庫(kù)為Python（所有平臺(tái)上的Python 3.7+）和C提供穩(wěn)定的應(yīng)用程序編程接口，另外還提供沒(méi)有向后兼容保證的C++、Go、Java 和JavaScript API。此外，還針對(duì)Apple公司的Swift語(yǔ)言提供了一個(gè)alpha版本。

圖1：Google的TensorFlow Lite for Microcontrollers網(wǎng)站。（資料來(lái)源：Google）

TensorFlow為深度神經(jīng)網(wǎng)絡(luò) (DNN) 的開(kāi)發(fā)和利用提供了所謂的端到端機(jī)器學(xué)習(xí)支持。 DNN是ML的一種實(shí)現(xiàn)，它特別擅長(zhǎng)模式識(shí)別以及對(duì)象檢測(cè)與分類(lèi)。TensorFlow庫(kù)支持機(jī)器學(xué)習(xí)過(guò)程的兩個(gè)階段，即訓(xùn)練和推理。首先是深層神經(jīng)網(wǎng)絡(luò)的訓(xùn)練，這需要大量算力，通常由服務(wù)器級(jí)硬件和圖形處理單元 (GPU) 提供。最近開(kāi)發(fā)了被稱(chēng)為張量處理單元 (TPU) 的專(zhuān)用集成電路來(lái)支持這種訓(xùn)練。第二階段是推理，即利用現(xiàn)實(shí)世界中經(jīng)過(guò)訓(xùn)練的DNN來(lái)響應(yīng)新的輸入，按照培訓(xùn)好的模型分析這些輸入，并根據(jù)分析結(jié)果提出建議。這應(yīng)該是嵌入式產(chǎn)品開(kāi)發(fā)人員比較感興趣的階段。

TensorFlow Lite for Microcontrollers（TensorFlow庫(kù)的一個(gè)子集）專(zhuān)門(mén)用于在內(nèi)存受限的設(shè)備上執(zhí)行推理，大多數(shù)嵌入式系統(tǒng)應(yīng)用中都存在這種設(shè)備。它不允許您訓(xùn)練新網(wǎng)絡(luò)，這仍然需要較高端的硬件。

實(shí)用為王：ML應(yīng)用實(shí)例

人工智能、神經(jīng)網(wǎng)絡(luò)和機(jī)器學(xué)習(xí)等術(shù)語(yǔ)可以看成是科幻小說(shuō)或行話(huà)。那么這些新興技術(shù)的現(xiàn)實(shí)意義何在？

運(yùn)行在嵌入式系統(tǒng)上的AI算法的目標(biāo)，是以比傳統(tǒng)程序或面向?qū)ο蟮木幊谭椒ǜ咝У姆绞教幚韨鞲衅魇占恼鎸?shí)世界數(shù)據(jù)。也許在大家的意識(shí)中，最明顯的使用案例是從傳統(tǒng)汽車(chē)到具有自動(dòng)輔助功能（如車(chē)道偏離警報(bào)和防撞系統(tǒng)）的汽車(chē)，再到無(wú)人駕駛汽車(chē)這個(gè)最終目標(biāo)的發(fā)展歷程。不過(guò)，深度學(xué)習(xí)還有其他一些不那么明顯的用例，雖然你不知道，但已經(jīng)在使用了。智能手機(jī)中的語(yǔ)音識(shí)別或Amazon Alexa等虛擬助手均使用了深度學(xué)習(xí)算法。其他用例包括用于安防領(lǐng)域的面部檢測(cè)和/或背景替換、sans綠幕、遠(yuǎn)程會(huì)議軟件（如Zoom）等。

同時(shí)使用機(jī)器學(xué)習(xí)算法和互聯(lián)網(wǎng)連接的設(shè)備（如物聯(lián)網(wǎng)設(shè)備）的一個(gè)巨大優(yōu)勢(shì)是，隨著時(shí)間的推移，產(chǎn)品可以通過(guò)簡(jiǎn)單的無(wú)線固件更新來(lái)集成新的或經(jīng)過(guò)更好訓(xùn)練的模型。這意味著產(chǎn)品可以逐漸變得更加智能，并且不局限于制造時(shí)可能實(shí)現(xiàn)的功能，只要新型號(hào)和固件不超出硬件的物理內(nèi)存和處理能力即可。

圖2：將TensorFlow模型轉(zhuǎn)換為可在微控制器等內(nèi)存受限設(shè)備上使用的版本。（資料來(lái)源：NXP）

工作流程

根據(jù)TensorFlow Lite for Microcontrollers的附帶文檔，開(kāi)發(fā)人員的工作流程可以分為五個(gè)關(guān)鍵步驟（圖2）， 具體如下：

在選擇與TensorFlow Lite庫(kù)一起使用的兼容嵌入式平臺(tái)時(shí)，開(kāi)發(fā)人員應(yīng)注意以下幾點(diǎn)：

接下來(lái)的步驟

Google提供四個(gè)事先訓(xùn)練好的模型作為示例，可用于在嵌入式平臺(tái)上運(yùn)行。只需稍做修改，就能在各種開(kāi)發(fā)板上使用。這些示例包括：

審核編輯：郭婷