邊緣智能是自問世以來最具顛覆性的創(chuàng)新之一 的物聯(lián)網(wǎng) （IoT）。雖然物聯(lián)網(wǎng)產(chǎn)生了數(shù)十億的智能， 連接設(shè)備為基于 AI 傳輸無數(shù) TB 的傳感器數(shù)據(jù) 云計算，另一場革命正在進行中：機器學(xué)習(xí)（ML） 邊緣設(shè)備。隨著越來越多的智能遷移到網(wǎng)絡(luò)邊緣，恩智浦 通過提供成本、性能和功耗優(yōu)化來擁抱這一趨勢 處理解決方案，推動 ML 技術(shù)跨多個市場 應(yīng)用程序，為最終用戶提供增強安全性的好處， 更好的隱私和更低的延遲。

開發(fā) ML、深度學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)應(yīng)用程序傳統(tǒng)上具有 是數(shù)據(jù)科學(xué)家和人工智能專家的領(lǐng)域。但這種情況正在改變 更多的 ML 工具和技術(shù)已經(jīng)可用于抽象出一些 開發(fā)機器學(xué)習(xí)應(yīng)用程序的復(fù)雜性。一個恰當?shù)睦邮?恩智浦的eIQ（“邊緣智能”）ML開發(fā)環(huán)境。eIQ 提供 全面的工作流工具集、推理引擎、神經(jīng)網(wǎng)絡(luò) （NN） 編譯器、優(yōu)化的庫和技術(shù)，可簡化和加速 ML 面向所有技能水平的用戶進行開發(fā)，從嵌入式開發(fā)人員開始 在他們的第一個深度學(xué)習(xí)項目中，向?qū)Ｗ⒂诟呒墝ο蟮膶＜医榻B 檢測、分類、異常檢測或語音識別解決方案。

eIQ ML 軟件于 2018 年推出，現(xiàn)已發(fā)展到支持系統(tǒng)級 面向恩智浦 i.MX 系列的應(yīng)用和ML算法支持，來自 低功耗 i.MX RT交叉微控制器（MCU）到多核 i.MX 8和 i.MX 基于 Arm Cortex-M 和 Cortex-A 內(nèi)核的 8M 應(yīng)用處理器。

幫助ML開發(fā)人員提高工作效率，更熟練地掌握恩智浦 i.MX 8個處理平臺，我們顯著擴展了eIQ軟件 環(huán)境，包括新的 eIQ 工具包工作流工具、基于 GUI 的 eIQ 門戶 開發(fā)環(huán)境和 DeepViewRT?推理引擎 針對 i.MX 和 i.MX RT 設(shè)備進行了優(yōu)化。

圖1.eIQ 工具包和 eIQ 門戶功能的高級演示 和工作流程。

讓我們仔細看看這些強大的 eIQ 新增功能如何 軟件環(huán)境可以幫助簡化 ML 開發(fā)，提高生產(chǎn)力， 并為開發(fā)人員提供更多選擇和更大的靈活性。

eIQ 工具包：為每個人啟用“ML”

考慮到機器學(xué)習(xí)、神經(jīng)網(wǎng)絡(luò)和深度的潛在復(fù)雜性 學(xué)習(xí)應(yīng)用程序 - 以及 ML 開發(fā)人員的不同需求 - 一個簡單的 “一刀切”工具不是答案。更好的方法是提供 全面而靈活的工具包，可擴展以滿足技能和需求 ML 開發(fā)人員的經(jīng)驗水平。為此，我們添加了強大的 易于使用的 eIQ 工具包適用于 eIQ ML 開發(fā)環(huán)境，支持 開發(fā)人員導(dǎo)入數(shù)據(jù)集和模型以及訓(xùn)練、修剪、量化、驗證 并在恩智浦 i.MX 8M系列中部署神經(jīng)網(wǎng)絡(luò)模型和ML工作負載 的應(yīng)用處理器和 i.MX RT 分頻 MCU 產(chǎn)品組合。是否 是開始您的第一個 ML 項目的嵌入式開發(fā)人員，精通 數(shù)據(jù)科學(xué)家或 AI 專家，您將找到合適的工具包功能 匹配您的技能水平并簡化您的 ML 項目。

圖2.eIQ 門戶提供了一個數(shù)據(jù)集策展人來幫助您注釋和 組織所有訓(xùn)練數(shù)據(jù)。

eIQ 工具包提供簡單的工作流程和 ML 應(yīng)用程序 例子。該工具包還提供了一個直觀的、基于 GUI 的開發(fā)選項 使用 eIQ 門戶和使用命令行主機工具的選項，如果 你更喜歡。如果您想利用現(xiàn)成的開發(fā)解決方案或 需要恩智浦或我們值得信賴的專業(yè)服務(wù)和支持 合作伙伴，該工具包可讓您輕松訪問我們不斷增長的選項列表 來自Au-Zone Technologies等公司的eIQ Marketplace。

圖3.eIQ 門戶提供了一種方便的模型驗證方法和 測量精度。

使用 eIQ 門戶，您可以輕松創(chuàng)建、優(yōu)化、調(diào)試、轉(zhuǎn)換和 導(dǎo)出ML模型，以及從TensorFlow，ONNX導(dǎo)入數(shù)據(jù)集和模型 和 PyTorch ML 框架。您可以使用您的數(shù)據(jù)訓(xùn)練模型 “自帶數(shù)據(jù)”（BYOD） 流程，從預(yù)訓(xùn)練數(shù)據(jù)庫中進行選擇 模型或使用“自帶模型”（BYOM） 導(dǎo)入預(yù)訓(xùn)練模型 流，例如Au-Zone技術(shù)的高級檢測模型。通過遵循簡單的 BYOM 過程，您可以使用 基于公共或私有云的工具，然后將模型傳輸?shù)絜IQ 在適當?shù)墓鑳?yōu)化推理引擎上運行的工具包。

圖4.eIQ 門戶為 BYOM 和 BYOD 提供了一種靈活的方法。

目標圖形級分析功能為開發(fā)人員提供運行時 微調(diào)和優(yōu)化系統(tǒng)參數(shù)、運行時性能、 用于在 i.MX 設(shè)備上執(zhí)行的內(nèi)存使用情況和神經(jīng)網(wǎng)絡(luò)架構(gòu)。

加速恩智浦最新的eIQ推理引擎

機器學(xué)習(xí)開發(fā)項目的核心是推理引擎 – ML 應(yīng)用程序的運行時組件。除了支持 使用各種基于社區(qū)的開源推理引擎進行推理 針對 Glow、ONNX 和 TensorFlow Lite 等 i.MX 設(shè)備和 MCU 進行了優(yōu)化，我們 已將 DeepViewRT 推理引擎添加到我們的 eIQ ML 軟件開發(fā)中 環(huán)境。

DeepViewRT與我們的合作伙伴Au-Zone Technologies合作開發(fā)，是一種專有的推理引擎，可提供穩(wěn)定，更長的時間 術(shù)語供應(yīng)商維護的解決方案，補充了基于社區(qū)的開放解決方案 推理引擎。

圖5.DeepViewRT 為 ML 應(yīng)用程序提供了穩(wěn)定、生產(chǎn)就緒且靈活的推理引擎。

DeepViewRT推理引擎可作為恩智浦MCUXpresso的中間件提供。 適用于Linux的SDK和Yocto BSP發(fā)布?基于操作系統(tǒng)的開發(fā)。

審核編輯：郭婷