YY3568開發板是 「風火輪科技」 基于Rockchip RK3568 芯片平臺設計的開發板,四核 64Cortex-A55 核,主頻最高達 2GHz,集成雙核心架構GPU以及高效能NPU,芯片性能優異。開發板功能接口豐富,多媒體性能強悍、可在物聯網、工業控制、智慧交通、輕量級人工智能等領域發揮獨特優勢。
RKNPU已經經過了幾代的發展,趨近成熟。RK3399pro和RK1808初次引入了 RKNPU,相比傳統的CPU和GPU相比傳統的CPU和GPU,在深度學習運算能力上有比較大幅度的提升。接下來在RV1109和RV1126上使用了第二代NPU,提升了NPU的利用率。第三代NPU應用在RK3566和RK3568上,搭載全新NPU自研架構,而RK3588搭載的為第四代NPU,提高了帶寬利用率,支持了多核擴展。
什么是rknn
RKNN:瑞芯微的神經網絡計算框架,它提供了一系列的工具和庫,幫助開發者更輕松地構建、訓練和部署神經網絡模型。RKNN支持各種流行的深度學習框架,如TensorFlow、PyTorch等,并提供了豐富的API接口,方便開發者進行模型轉換、優化和部署。通過RKNN,開發者可以更高效地利用RKNPU的計算能力,實現更快速、更準確的神經網絡推理。
什么是rknpu
RKNPU:瑞芯微的神經網絡處理單元,旨在在移動設備和邊緣設備上高效地執行深度學習推理任務。它針對神經網絡模型進行了優化,能夠提供高性能、低功耗的推理計算能力。通過高效的計算和低延遲的處理,RKNPU可以幫助開發者實現各種人工智能和機器學習應用,如圖像識別、語音識別、自然語言處理等。
什么是rknn-toolkit2
RKNN-Toolkits:瑞芯微的神經網絡工具包,它為開發者提供了一系列實用的工具和庫,用于加速神經網絡的開發和部署。RKNN-Toolkits包含了各種常用的工具,如模型轉換工具、性能分析工具、調試工具等,方便開發者進行模型的訓練、測試和優化。此外,RKNN-Toolkits還提供了豐富的示例代碼和文檔,幫助開發者快速上手并掌握如何使用瑞芯微的神經網絡解決方案。
rknn-toolkit2環境搭建
安裝Miniconda
Conda 是一個開源的軟件包管理系統和環境管理系統,它可以用于安裝、管理和升級軟件包和依賴項。
下載并安裝Miniconda,安裝完成之后會自動設置環境變量,重新打開終端:
rice@rice:~$mkdir-p~/rknn/tools/miniconda rice@rice:~$cd~/rknn/tools/miniconda rice@rice:~/rknn/tools/miniconda$wgethttps://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh rice@rice:~/rknn/tools/miniconda$./Miniconda3-latest-Linux-x86_64.sh
在用戶目錄下新建.condarc文件,并輸入如下內容
rice@rice:~$vim.condarc channels: -defaults show_channel_urls:true channel_alias:https://mirrors.tuna.tsinghua.edu.cn/anaconda default_channels: -https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/main -https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/free -https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/r -https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/pro -https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/msys2 custom_channels: conda-forge:https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud msys2:https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud bioconda:https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud menpo:https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud pytorch:https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud simpleitk:https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud
創建RKNN虛擬環境
為了避免環境導致一系列問題,使用conda創建rknn虛擬環境,使用如下命令;命令執行之后,首先會要求安裝一些列軟件包,輸入 y 確認即可。
rice@rice:~/rknn$condacreate-nrknnpython=3.8
激活rknn虛擬環境,命令如下
rice@rice:~/rknn$condaactivaterknn
安裝rknn_toolkit2
創建rknn_toolkit2目錄,命令如下:
rice@rice:~$mkdir-p~/rknn/tools/rknn_toolkit2
將requirements_cp38-1.4.0.txt和rknn_toolkit2-1.4.0_22dcfef4-cp38-cp38-linux_x86_64.whl拷貝到目錄:~/rknn/tools/rknn_toolkit2
安裝numpy,命令如下:
rice@rice:~$pipinstallnumpy==1.16.6-ihttps://pypi.tuna.tsinghua.edu.cn/simple
安裝瑞芯微提供的requirements_cp38-1.4.0.txt文件的依賴包,命令如下:
rice@rice:~$cd~/rknn/tools/rknn_toolkit2 rice@rice:~/rknn/tools/rknn_toolkit2$pipinstall-rrequirements_cp38-1.4.0.txt-ihttps://pypi.tuna.tsinghua.edu.cn/simple
安裝瑞芯微的rknn_toolkit2,命令如下:
rice@rice:~/rknn/tools/rknn_toolkit2$pipinstall-rrequirements_cp38-1.4.0.txt-ihttps://pypi.tuna.tsinghua.edu.cn/simple
注意:如果遇到invalid version‘1.4.0-22dcfef4'的問題輸入下面這兩句命令
pipinstalluninstallsetuptools pipinstallinstallsetuptools==49.6.0-ihttps://pypi.tuna.tsinghua.edu.cn/simple
安裝pycharm
官網下載pycharm,下載路徑:~/rknn/tools/,官網鏈接:https://www.jetbrains.com/pycharm/。
解壓安裝pycharm,執行命令:
rice@rice:~$cd~/rknn/tools rice@rice:~/rknn/tools$tar-xzvfpycharm-community-2023.1.tar.gz rice@rice:~/rknn/tools$cdpycharm-community-2023.1/bin/ rice@rice:~/rknn/tools/pycharm-community-2023.1/bin/$./pycharm.sh
安裝完后進入pycharm軟件,如下圖:
創建pycharm工程
通過pycharm創建工程,新建項目,選擇好工程存放目錄
選擇解析器為“先前配置的解析器”,配置為rknn的模擬器的解析器,如下圖:
創建完成之后,打開 Pycharm 內置終端,可以看到默認已經幫我們激活了RKNN虛擬環境,如下圖所示
rknn 模型推理
通過pycharm打開rknn-toolkit2提供的examples,我們使用rknn-toolkit2提供的onnx的實例。onnx目錄:rknn-toolkit2/examples/onnx/yolov5
默認的工程推理之后不顯示出結果,我們需要將test.py中輸出顯示的注釋去掉
執行test.py腳本,即可以看到其推理的結果
yy3568 模型推理
我們將yy3568安裝ubuntu系統,官方提供了yy3568的ubuntu系統,直接下載安裝即可,教程連接如下:https://wiki.youyeetoo.cn/zh/YY3568
默認的yy3568的ubuntu系統提供了一個實例,目錄:/rockchip-test/rknn_ssd_demo_Linux。進入這個目錄,運行demo:
youyeetoo@smartfly:~$cd/rockchip-test/rknn_ssd_demo_Linux youyeetoo@smartfly:/rockchip-test/rknn_ssd_demo_Linux$ youyeetoo@smartfly:/rockchip-test/rknn_ssd_demo_Linux$./rknn_ssd_demo./model/RK356X/ssd_inception_v2.rknn./model/bus.jpg?
-
芯片
+關注
關注
455文章
50714瀏覽量
423157 -
AI
+關注
關注
87文章
30728瀏覽量
268892 -
人工智能
+關注
關注
1791文章
47183瀏覽量
238264 -
開發板
+關注
關注
25文章
5032瀏覽量
97375 -
RK3568
+關注
關注
4文章
514瀏覽量
5034
原文標題:YY3568 部署AI能力
文章出處:【微信號:風火輪技術團隊,微信公眾號:風火輪技術團隊】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
評論