當LiteOS遇上Mindspore，為物聯網插上AI的翅膀

來源：嵌入式資訊精選

9月10日，在2020年中國嵌入式技術大會，嵌入式人工智能技術與應用分論壇上，華為MindSpore端側開發專家翟智強做了精彩分享，演講主題為《MindSpore在LiteOS端側AI技術實踐及探索》。講解了在物聯網端側資源受限、硬件種類繁多、指令差異化較大等多種挑戰下，MindSpore結合LiteOS在模型壓縮、性能優化、流水線處理等方面的一些工程化實踐，以及在混合精度量化、硬件平臺自適應等方向的技術探索

MindSpore是華為自研的全場景訓練推理一體化深度學習框架和平臺，覆蓋了云、手機、IoT等各個領域AI技術，LiteOS是輕量級物聯網操作系統。

在過去，一些AI算法的訓練和推理都是在云上或者服務器上去實現的，但是隨著手機、可穿戴、物聯網等終端設備硬件計算能力的不斷提升，以及算法模型設計本身的演進，大小更小、能力更強的模型逐漸能夠部署到端上運行。在最貼近數據源頭的設備側實現機器學習，減少了端側與云（服務）側的數據傳輸，降低了響應時延，可以大大提升用戶的體驗。

端側AI及其面臨的挑戰

為了解決端側AI及其面臨的挑戰，我們推出了LiteOS+ MindSpore Lite 面向物聯網端側的輕量級AI解決方案，突破端側設備資源受限、算力低等限制，設計提供超輕量級AI推理解決方案，幫助開發者快速部署AI模型，滿足智能設備端側AI應用需求，提升Mobile& IoT解決方案的競爭力。

基于LiteOS的端側AI框架圖

LiteOS 現已集成 MindSpore 輕量級AI推理框架，在LiteOS Studio中輸入模型文件，例如人臉識別、指紋識別等模型文件，MindSpore進行模型解析、優化，生成模型AI代碼，再鏈接預置算子庫后與LiteOS工程進行編譯，即可將AI模型快速部署到端側實現端側AI推理。

LiteOS Studio開發流程