機器學習（ML）和人工智能（AI）不再局限于高端服務器或云平臺。得益于集成電路（IC）和軟件技術的新發展，在微型控制器和微型計算機上實現機器學習算法和深度學習神經網絡成為可能。這些安裝在邊緣的嵌入式設備不必再依賴遠程服務器或云來洞察傳感器數據或用戶輸入。

像 TinyML這樣的軟件框架正在發展成為微控制器專用的機器學習解決方案，而傳統的深度學習框架也可以在功能強大的微型計算機上實現。這提供了幾個優勢：

首先，這些設備不依賴于網絡連接或云服務的可用性來為系統添加人工智能。其次，微控制器和微型計算機比基于網絡的人工智能服務服務器更省電。

現在，微控制器還可以在紐扣電池上運行時執行特定的人工智能任務。與通常需要數千美元的高端工作站相比，具備機器學習功能的微控制器成本不到幾百美元。在邊緣設備上實施人工智能的另一個好處是保護用戶數據隱私，減少網絡攻擊和黑客入侵的機會。微控制器無處不在，可以大規模部署用于機器學習任務。

目前有多種單板微控制器和微型計算機可用于開發人工智能嵌入式應用。讓我們來了解一下這些頂級平臺。

英偉達?（NVIDIA?）Jetson Nano開發者套件

英偉達?（NVIDIA?）Jetson Nano開發者套件是可用于在邊緣部署人工智能軟件的最靈活的自主機器之一。這款微型計算機可以并行運行多個神經網絡。

Jetson Nano基于四核ARM A57處理器和128核英偉達?（NVIDIA?）Maxwell GPU，可提供472 GFLOPS的計算機性能。它還內置4GB 64位LPDDR4內存（1600 MHz）。它有兩種供電模式，5W/10W，5V直流輸入，板卡售價僅為99美元。

只需插入一張包含系統映像的 MicroSD卡，即可輕松上手。使用英偉達?（NVIDIA?）JetPack SDK對電路板進行人工智能應用編程。最新的SDK提供了基于Ubuntu 18.04的完整Linux環境。該SDK還提供支持英偉達?（NVIDIA?）CUDA工具包10.0的加速圖形以及Tensor RT5和cuDNN 7.3等GPU加速庫。

支持的機器學習框架包括 PyTorch、Keras、TensorFlow、Caffe/Caffee2、MXNet等。SDK還支持用于計算機視覺的OpenCV和用于機器人應用的ROS。

此外，該開發人員工具包還包括一個 DeepStream SDK，可為基于人工智能的視頻和圖像處理提供完整的流分析工具包。英偉達?（NVIDIA?）可實時處理多達8個高清全動態視頻流。Jetson Nano是為圖像分類、分割、物體檢測和定位、視頻增強、姿態估計和語音處理等應用部署基于人工智能的推理工作負載的絕佳平臺。

該電路板具有千兆以太網、HDMI 2.0、Display Port 1.3、MIPI CSI-2攝像頭接口、四個USB 3.0端口、一個MicroSD卡插槽和一個40引腳GPIO針座。電路板可通過5V直流桶形插孔適配器或微型USB端口供電。功耗可設置為5瓦。攝像頭接口兼容800萬像素IMX219和Raspberry Pi的攝像頭模塊V2。

Jetson Nano能夠通過實時計算機視覺推斷多個深度神經網絡（DNN）模型。甚至可以通過遷移學習在本地保留神經網絡。該電路板是各種應用的絕佳選擇，包括具有智能邊緣分析功能的物聯網、多傳感器自主機器人、視頻分析、圖像識別和手勢識別。

Google Coral

Google Coral開發板是目前用于邊緣機器學習推斷的最節能的開發板。Coral Dev基于恩智浦i.MX 8M SoC（包括四核Cortex A53和Cortex-M4F），集成了GC7000 Lite圖形處理器和Google Edge TPU，可提供4 TOPS的計算性能。此外，每TOPS的功耗僅為0.5瓦。內存為1或4 GB LPDDR。

該開發板需要 5V直流電源供電，其GPIO兼容3V3。板載8GB eMMC內存和一個MicroSD卡插槽。開發板售價149.99美元。

Coral Dev的一個優勢是它將機器學習與無線連接結合在一起。除了千兆以太網，Coral Dev還包括WiFi（802.11b/g/n/ac 2.4/5GHz）和藍牙4.2。另一個優點是其可拆卸的系統模塊（SoM）可在原型設計和生產之間有效擴展。最大的缺點是它只支持TensorFlow Lite，不支持其他深度學習框架。不過，這塊電路板運行的是Debian Linux的衍生版本，支持多種流行的Linux工具，這一點非常有用。

如果您計劃使用 TensorFlow Lite部署ML推斷，那么Coral Dev是您的理想之選，而且上市時間最短。該板卡的計算性能令人印象深刻，能以400 FPS的速度執行MobileNet v2的最新移動視覺模型。用戶幾乎可以在Coral Dev上完成TensorFlow Lite框架范圍內的任何工作。

Orange Pi 5 Plus

Orange Pi 5 Plus是香橙派頂級系列的開發板，它配備了強大的處理器和足夠的內存，可以處理高級計算和任務，如訓練機器學習模型。它采用了瑞芯微RK3588八核64位處理器，具體為四核A76+四核A55，采用了8nm工藝設計，主頻最高可達2.4GHz，集成ARM Mali-G610,內置3D GPU，兼容OpenGL ES1.1/2.0/3.2、OpenCL 2.2和Vulkan 1.2；內嵌的NPU支持INT4/INT8/INT16/FP16混合運算，算力高達6TOPS，可以滿足絕大多數終端設備的邊緣計算需求；它配備了4GB、8GB、16GB、32GBLPDDR4/LPDDR4X內存和一個eMMC閃存插座，可以外接16GB/32GB/64GB/128GB/256GB eMMC模塊，用戶就可以根據自己的需要定制存儲容量。

Orange Pi 5 Plus提供多種接口，可連接不同的設備和外設，確保了連接選擇的多樣性。它具有2個HDMl輸出端口,1個輸入HDMl端口，最高可解碼8K@60P視頻，兩個PCIe擴展的2.5G以太網接口，配備一個支持安裝NVMe固態硬盤的M.2 M-Key插槽，一個支持Wi-Fi6/BT模塊的M.2 E-Key插槽。此外，Orange Pi 5 Plus有2個USB 3.0、2個USB 2.0、2個Type-C（其中一個為電源接口）。

Orange Pi 5 Plus的一個突出特點是它的聯網能力。它有兩個2.5 Gbps以太網端口，支持Wi-Fi 6/BT模塊，為與各種傳感器和設備進行無縫通信提供了充足的帶寬。

Orange Pi 5 Plus支持Orange Pi官方研發的操作系統Orange Pi OS，同時，支持Android12、Debian11、Ubuntu22.04等操作系統。

總之，Orange Pi 5 Plus為各種項目和應用提供了一個功能強大、用途廣泛的解決方案。憑借其處理能力、聯網能力和GPIO功能，它為各種應用和項目奠定了堅實的基礎。它的性能、可擴展性和具有競爭力的價格使其成為那些希望探索單板計算機功能的用戶的一個極具吸引力的選擇。