人工智能(AI)通常是一件通用的解決問題的利器,隨時準備迎接任何挑戰。而有些時候,它被認為預示著文明本身的終結。作為工程師,我們如何才能在開發應用程序的過程中更好地利用人工智能,或者更正確地利用機器學習(ML)呢? 人工智能領域的最新進展真的會讓我們變得多余嗎?

提到人工智能(AI),無疑是吸引主流媒體注意的一種重要方式。由于互聯網和云服務的發展,再加上時不時有問題的數據源,新的人工智能驅動的服務似乎無處不在。點擊幾下鼠標后,你的文字可以放進Morgan·Freeman的嘴里,或者你的圖像融入到一件新的藝術品中,這些有趣而發人深省的想法,要在嵌入式系統中實現并非易事,但這是該行業內部正在發生的事情。

大多數嵌入式系統使用基于規則的編程方法來實現其功能。給定一組輸入數據,一系列if/else或switch語句決定如何響應。對于有限數量的輸入,這種方法效果很好。然而,在某些時候,輸入的數量或它們之間關系的微妙之處使得很難定義明確的、程序化的規則。

舉個例子,想象一下工廠里有一臺馬達一周7天、每天24小時運轉。經驗告訴我們,隨著時間的推移,會發生磨損,軸承潤滑脂會變稠,進而改變機器的啟動時間、噪聲、振動模式、電機工作溫度和電流等參數。定期維護是當今應對這一挑戰的方式,但它會導致固定的停機時間,從而中斷生產。

此外,它不太可能捕捉到由軸、軸承、套管或夾具的細微斷裂引起的即將發生的故障。經過正確訓練后,人工智能方法可以使用復雜的數據源組合來確定潛在故障。如果這種智能可以部署到基于微控制器的系統中,那么就會得到一個經濟實惠的監控系統,既節省了時間和金錢,又減少了不必要的潤滑和零件更換造成的浪費。

1 將智能引入微控制器中

在微控制器層面,我們談論的是機器學習(ML),而不是 Al。這意味著對機器進行編程,使用通過分析可用數據制定的規則來做出決策。雖然微控制器的功能強大到足以執行這樣的ML算法,但從訓練數據中學習仍然超出了它們的能力范圍,如果不是云服務器,至少需要一臺臺式計算機來執行。Edge Impulse成立于2019年,開發了一個專門用于嵌入式系統中ML的平臺,并成功地與全球半導體供應商進行合作推廣。

任何ML應用程序的起點都是數據。雖然一些應用(比如自動駕駛)需要TB級的訓練數據,但簡單的基于微控制器的系統可以從少量(幾千字節)的數據中學習。因此,將數據從板上取出并放到Edge Impulse環境中是第一個挑戰。最初的想法是使用 Arduino的串行接口將其發送到您的PC,然后從那里將其作為文本文件上傳。然而,他們的平臺是為了直接獲取數據。

2 數據:Al的食物

其中一個工具是Data Forwarder,這是一個命令行(CLI)應用程序,可以將數據從開發板直接發送到Edge Impulse環境。使用用戶名和密碼即可在PC上的串行端口和服務器之間建立鏈接。在微控制器方面,所需要的只是通過串行接口以逗號或制表符分隔的格式輸出數據。如果采樣率相對較低,那么這是直接從傳感器收集代表性數據的理想方法(見圖1)。更強大的嵌入式系統(如樹莓派或NVIDIA Jetson Nano)可以使用提供的軟件開發工具包(SDK)。它也支持麥克風和攝像頭等傳感器產生更可觀的數據量。

數據上傳后,下一步就是定義“脈沖”。它們由兩個部分組成:第一部分將數據切片成更小的塊,并使用信號處理技術提取特征,這確保了可用的傳感器數據被轉換成第二個信號處理階段信息的一致性;第二部分是學習和分類的過程(見圖2)。在一個示例項目“連續運動識別”中,很好地解釋了如何配置這些塊來分析加速度計數據并將此輸入分類為4種手勢之一。

這是任何ML開發中最關鍵的一步,通常需要橫向思維和多次迭代來確定最佳方法。有時候,忽略一些傳感器輸入是最好的解決方案,而其他時候,則需要更多的數據。你甚至可能會發現正在過度學習,或者選擇的神經網絡模型不適合你試圖進行的分類。另一個至關重要的步驟是異常分類。在示例項目中,有4種定義的手勢。然而,需要排除其他類似于學習手勢的動作。良好的異常檢測提供了魯棒性更好的ML結果。

最后一步是部署。通過web界面下載所選設備的固件,以便集成到你的應用程序中。對于Arduino,會生成一個庫,而對于其他微控制器,則可以生成一個C++文件。當然,微控制器的性能差別很大。為了確保最佳結果,Edge Impulse提供了EON 調諧器。該工具可以通過使用目標設備、內存大小和延遲等信息進一步提高檢測精度,加快推理速度,并降低內存需求(見圖3)。

3 實際應用中的ML

實際的應用程序正在使用這種方法來嵌入ML功能。SlateSafety的BAND集成了一系列生物識別傳感器,以監測在具有挑戰性的情況下工作的工人(見圖4)。這些人員包括從急救人員到穿戴重型個人防護裝備(PPE)的工業工人,比如消防員。他們的產品通常會將數據上傳到云端,這樣就可以監測用戶的生命體征了。

但是,特別是在災難情況下,網絡連接可能不完整甚至根本不存在。開發團隊利用Edge Impulse將邊緣ML集成到現有產品中,并對歷史生物識別數據進行了訓練。使用EON Tuner,該算法針對硬件進行了優化,然后使用無線更新進行部署。現在,即使在沒有無線連接的情況下,BAND也可以在存在熱衰竭風險時向佩戴者提供警告。

4 利用Al改進產品開發

當然,人工智能并不一定要集成到產品中,它也可以用于產品的開發。今天,許多復雜的應用程序都是使用基于模型的方法開發的,本質上是使用軟件和物理學的數學方程來描述事物是如何工作的。然而,這種方法也有其局限性,這就使Monolith和他們的自學AI平臺有了用武之地。

該平臺能夠根據已經收集到的數據學習復雜系統的物理特性。例如,車輛在測試軌道上進行一系列測試,多個傳感器監測偏航和滾轉以及車輪速度和加速度。收集不同懸架剛度的數據,可以很好地了解車輛對一系列駕駛情況的反應。通常情況下,這些數據將被分析,從而在下一次試車時應用新的設置。Monolith可以評估第一組測試運行的數據,并以很高的精度預測懸架變化的結果。該結果可用于更快地磨練最佳懸架設置,減少所需的額外物理測試運行次數。

這種方法也可以應用于計量。燃氣表必須非常準確,以確保正確計費。但當儀表必須測量一系列不同的氣體時,這是具有一定挑戰性的。對客戶來說,模擬超聲波儀表已經將純粹的數學分析推向了極限,使得重復的測試過程成為實現所需認證的唯一校準解決方案。幸運的是,所有的測試都產生了豐富的數據集用于分析。使用自學習AI模型,所需的測試量下降了高達70%,顯著加快了開發速度。

5 大幅壓縮AI計算成本

像DARPA大挑戰賽這樣的比賽,團隊建造了可以穿越蜿蜒路線的自動駕駛汽車,引發了人們對自動駕駛汽車的興趣。近20年后的今天,已經投入了大量資金,但收效甚微,似乎只有Waymo提供了真正的自動駕駛汽車乘車服務,但這些服務僅在美國的鳳凰城和舊金山運營。其中一個問題是,讓一臺計算機控制汽車是非常具有挑戰性的。車輛不僅要不斷評估周圍的情況,還必須預測其他司機和道路使用者的行為,比如行人和騎自行車的人可能不遵守交通規則。

目前的情況是,汽車的電氣和電子(E/E)架構正在發生變化,以滿足未來自動駕駛汽車的需求。隨著大量傳感器提供大量數據,行業正在轉向自動網聯車。目前,這種方法正在形成先進的駕駛員輔助系統(ADAS),它通過控制制動、加速和轉向,可以在駕駛員犯錯時介入。根據美國汽車工程師協會(SAE)的車輛自動駕駛水平,高檔車輛目前達到了L2+級,其中一些達到了L3級。然而,完全的“解放雙手”級別的自動駕駛是L5級,所以我們還有很長一段路要走。

Eurotech等公司正在支持該行業加快必要算法的開發。目前,一次8小時的試駕會收集120 TB的數據,這些數據必須返回實驗室進行處理和分析。AI算法的改進可以在實驗室中使用收集到的數據進行測試,但支持現場測試和算法開發的數據很少。

利用在液體冷卻方面的經驗,Eurotech提供了一系列能夠勝任這項任務的邊緣Al硬件,本質上是可以放在汽車后備箱里的小型超級計算機。像DYNACOR40 36這樣的設備經過加固,可以在公路和越野車輛中使用。這款無風扇計算機采用16核英特爾至強 CPU(64 GB RAM),最多兩個NVIDIA GV100 GPU(32 GB RAM),提供237

TFLOPS來處理深度學習應用程序(見圖5)。幾個千兆以太網接口支持攝取大量傳感器數據,包括雷達、攝像頭和激光雷達等數據,并將這些數據注入32 TB的固態存儲器中。通過在試駕期間進行更多的推理和強化測試,實現L5級自動駕駛的過程可能會顯著加快。

6 AI會危及我們的工作嗎?

社交媒體上正在討論AI的進步是否會危及創意產業的工作崗位。OpenAI推出的DALL·E2將自然語言需求轉化為圖像(見圖6)。但是,也許更令人印象深刻的是它能夠真實地編輯現有圖像。例如,它可以移除前景或背景中的物體。此外,如果給它一幅荷蘭畫家維米爾(Vermeer)的作品,Al可以擴展它的“戴珍珠耳環的女孩”,使人們對畫中她所處的房間有一個可信的印象。

然而,作家(比如Elektor和其他知名媒體的編輯團隊)對ChatGPT的推出感到震驚。這種Al可以以會話方式和多種語言與用戶進行交互。到目前為止,關于碳化硅(SiC)MOSFET和氮化鎵(GaN)晶體管優點的討論,以及它們相對于硅MOSFET的優點,已經出現了高度精準的效果。因此,即使是小眾話題,似乎也被很好地涵蓋了。

雖然這個工具非常聰明,但它只知道訓練之前相關話題的答案。因為它不是持續學習的,所以不會了解最新的時事或最新的K pop樂隊劇(shame)。另一個小問題是,過了一段時間,答案似乎變得有點老套和公式化。

總之,嵌入式系統和AI越來越多地被用于創建智能、自主設備和系統中。嵌入式系統為AI算法的運行提供了硬件和軟件平臺,而AI算法使這些系統能夠以更智能和更人性化的方式感知、分析和響應其環境。隨著嵌入式系統和AI的能力不斷提高,我們期待在機器人、醫療保健、交通運輸等領域看到一系列令人興奮的新應用。

審核編輯：彭菁