本文旨在為已購買IVP07A盒子的用戶提供設備端的部署指南，使用此指南的前提：在開發系統上已安裝搭建好相應的框架；已完成模型的處理，包括：模型量化、模型轉換等；且已完成代碼工程的編譯，并通過相應框架生成設備端適配的可執行程序，具體的操作流程請參考相應的《開發環境搭建指南》完成系統環境搭建。

開發環境：?開發系統：Ubuntu18.04 64位 X86操作系統 ?內存：大于4G ?儲存空間：大于10G ?系統語言：en_US.UTF-8（MindStudio） ?編譯器：g++或aarch64-linux-gnu-g++ ?python版本：python3.7.5 ?智能工作站型號：英碼科技IVP07A

聲明—IVP07A內包含SVP_NNN一個算力核，適配SVP架構。

準備工作就緒后，環境部署流程正式開始！

環境部署步驟

步驟1：安裝CH340驅動；

步驟2：設備插入網線、電源線、且通過Type-C線連接電腦；

邊緣計算盒子IVP07A

步驟3：連接后，要在設備管理器查看是否連接成功，并記錄端口號；

步驟4：通過串口工具連接設備端，可使用MobaXterm、Xshell等工具，選擇端口號，bps為115200；

步驟5：連接設備后，執行命令加載設備端驅動及ko文件，./insmod.sh以及./init.sh（如設備端版本為Ubuntu20.04則上電時已自動加載驅動和ko文件）；

步驟6：根據連接的網口配置ip地址以及網關地址

ifconfig eth0 xxx.xxx.xxx.xxx netmask 255.255.255.0 up

// ip地址，請自行填入

執行route命令，進行網關配置；

route add default gw xxx.xxx.xxx.xxx // 網關地址，請自行填入

配置完畢后，需要ping通本機的ip；

步驟7：yolov3網絡模型需要開發者自行準備，本樣例的預測框準確率與網絡模型的迭代次數相關，因此開發者需使用自己訓練后的yolov3模型，這里僅供示例。把yolov3模型及權重文件放入相應路徑下；

步驟8：通過MindStudio工具啟動ATC功能進行模型轉換，把yolov3模型文件轉換為SoC設備端識別的離線模型（.om模型）。在MindStudio轉換界面配置相應的參數，包括Type和Images File等，且需要設置profiling工具啟動的參數；

步驟9：轉換成功后，會在指定目錄下生成離線模型以及精度比對文件、轉換數據文件等。把離線模型放入工程目錄下。執行編譯命令，生成可執行程序；

步驟10：需要在虛擬機以及設備上安裝nfs，并且把編譯后的工程文件及所需的動態庫放在nfs文件夾下，之后在設備端通過nfs掛載到虛擬機的文件夾；

參考命令：

mount -t nfs ip地址:/xxx/xxx/xxx /mnt -o nolock

ip地址為您虛擬機的IP地址

/xxx/xxx/xxx為您虛擬機內nfs文件夾掛載路徑

步驟11：聲明SDK包內動態庫； 參考命令： export LD_LIBRARY_PATH=/mnt/mpp/out/lib/svp_npu 聲明路徑為sdk包內mpp文件夾下動態庫的路徑

步驟12：執行命令進行推理后會打印相關數據，并在目錄下生成預測框坐標點的txt文件./main 3；

以下為輸出示例：

步驟13：在工程目錄下，執行命令啟動生成預測框的腳本即可產生圖片預測結果，下圖為示例圖； 參考命令： python3.7.5 ../script/drawbox.py -i ../data/2.jpg -t yolov(1/2/3/4)_detResult.txt

步驟14：配置了profiling相關參數的代碼后，模型推理完成時會在工程目錄下生成一個JOB文件夾，該文件夾內記錄了模型推理的性能指標；

步驟15：采集完成后需要執行腳本進行解析性能指標，需要進入到msprof下執行腳本，解析后會在JOB文件夾下生成sqlite文件夾，里面包含了各性能指標的db文件；

參考命令： python3.7.5 msprof.py import -dir /home/hyq/rootfs/yolo/job

步驟16：得到解析坐標后，執行相應命令即可導出指標為可視化表格；

參考命令：

python3.7.5 msprof.py export summary -dir /home/hyq/rootfs/yolo/job --format csv

步驟17：以下為op_summary的表格示例，該表格內記錄了每一層算子的時間、推理耗時、調用接口耗時等性能指標；

至此，英碼科技智能視頻分析邊緣計算盒子IVP07A設備端環境部署成功！

審核編輯 黃昊宇