熊旗
- 24年智能車競賽地平線賽道國獎獲得者
- 創(chuàng)客孵化營成員
- 嵌入式AI大膽玩家
- 目標是減少開發(fā)者煩惱

Part.1開發(fā)者日記
Showtime:RDK模型一站式開發(fā)工具功能展示

Part.2開發(fā)者日記故事的開始:一個念頭引發(fā)的技術挑戰(zhàn)
“ 之前在使用的RDK X3的時候,看到過前輩關于新一代量化轉換工具鏈使用教程,這個工具真的非常的方便!能非常快速的完成X3上模型的量化,不過針對X5的工具仍在開發(fā)......"
于是熊旗大膽決定“讓我來!”
他決定仿照前輩的X3可視化工具鏈來制作一個適配X5的可視化量化轉換工具鏈。
“我的初步構想便是這個可視化工具鏈能夠逐步適配地瓜機器人ModelZoo里的所有模型,實現(xiàn)一站式從模型的訓練到模型的轉換最后到部署,使之能夠更加輕松便捷的服務新拿到RDK的同學們。”
Part.3開發(fā)者日記領域展開:魔法的使用方法
于是在經過一段時間的研發(fā)后,熊旗的工具鏈初版完成。目前,模型的訓練和導出已全面支持YOLO系列,實現(xiàn)了從訓練到轉換的完整流程,能有效幫助開發(fā)者更直觀地理解和優(yōu)化模型。
Docker使用(推薦)
# step 1 拉取docker鏡像(阿里云倉庫)docker pull crpi-0uog49363mcubexr.cn-hangzhou.personal.cr.aliyuncs.com/skyxz/rdk_toolchain:v1.3# step 2 創(chuàng)建文件夾映射mkdir ~/datasetexport dataset_path=~/dataset# Run-Method-1 臨時創(chuàng)建容器(自行修改--shm-size配置)docker run -it --rm --gpus all --shm-size=32g --ipc=host -e PYTORCH_CUDA_ALLOC_CONF=max_split_size_mb:128 -e CUDA_LAUNCH_BLOCKING=1 -p 5000:5000 -p 8080:8080 -v "$dataset_path":/data crpi-0uog49363mcubexr.cn-hangzhou.personal.cr.aliyuncs.com/skyxz/rdk_toolchain:v1.3# Run-Method-2 永久創(chuàng)建容器(自行修改--shm-size配置)docker run -it --rm --gpus all --shm-size={你的內存大小例如:32g} --ipc=host -e PYTORCH_CUDA_ALLOC_CONF=max_split_size_mb:128 -e CUDA_LAUNCH_BLOCKING=1 -p 5000:5000 -p 8080:8080 -v "$dataset_path":/data crpi-0uog49363mcubexr.cn-hangzhou.personal.cr.aliyuncs.com/skyxz/rdk_toolchain:v1.3 手動構建docker鏡像
手動構建docker鏡像
# step 1 :從百度云下載源碼(倉庫中僅有前端后端實現(xiàn))https://pan.baidu.com/s/1fz_DueWNr3uKDLO7KkNwZw?pwd=7jy3# step 2 解壓并進入項目目錄# step 3 構建dockerdocker build -t rdk_toolchain .# step 4 創(chuàng)建文件夾映射mkdir ~/datasetexport dataset_path=~/dataset# Run-Method-1 臨時創(chuàng)建容器(自行修改--shm-size配置)docker run -it --rm --gpus all --shm-size=32g --ipc=host -e PYTORCH_CUDA_ALLOC_CONF=max_split_size_mb:128 -e CUDA_LAUNCH_BLOCKING=1 -p 5000:5000 -p 8080:8080 -v "$dataset_path":/data crpi-0uog49363mcubexr.cn-hangzhou.personal.cr.aliyuncs.com/skyxz/rdk_toolchain:v1.3# Run-Method-2 永久創(chuàng)建容器(自行修改--shm-size配置)docker run -it --rm --gpus all --shm-size={你的內存大小例如:32g} --ipc=host -e PYTORCH_CUDA_ALLOC_CONF=max_split_size_mb:128 -e CUDA_LAUNCH_BLOCKING=1 -p 5000:5000 -p 8080:8080 -v "$dataset_path":/data crpi-0uog49363mcubexr.cn-hangzhou.personal.cr.aliyuncs.com/skyxz/rdk_toolchain:v1.3
直接下載源碼使用
# step 1 :從百度云下載源碼(倉庫中僅有前端后端實現(xiàn))https://pan.baidu.com/s/1fz_DueWNr3uKDLO7KkNwZw?pwd=7jy3# step 2 : 安裝依賴pip3 install -r requirements_docker.txt# step 3 :運行腳本即可bash start_services.sh
盡管其他模型如 ResNet、FCOS 仍在支持計劃中,但由于模型量化和轉換部分的高自由度,目前已能夠覆蓋絕大多數(shù)模型的轉換需求。
Part.4開發(fā)者日記Dev前必看:避坑指南 Loading...
當前頁面的任務正在進行的時候請不要切換至其他頁面!切至其他頁面后再切回本頁面無法恢復原先內容!也無法結束進行中的進程了!
當停止某項操作時(如停止訓練)有時停止按鈕可能會卡住無反應,這不是卡死了!這是后臺正在嘗試殺死進程中,幾秒后再次點擊停止即可退出!
當遇到無法結束進程或是在任務進行中切換至其他頁面時請停止Docker以結束后臺正在運行中的進程!
部分日志輸出為紅色不一定是報錯!進程是否因為報錯結束請以訓練狀態(tài)標志為準!
除了模型導出的onnx會放在原pt模型路徑下之外,其他所有運行的結果將保存在/app/logs下
版本進化論:可持續(xù)發(fā)展ing
已支持所有模型的量化轉換操作
已完成ModelZoo中YOLO全系列的訓練與導出實現(xiàn)
TODO V2.0
即將支持ResNet系列模型、FCOS等模型
即將實現(xiàn)PC端轉換后模型推理檢查
推文有沒有讓你意猶未盡?還有哪些沒講到的部分讓你撓頭?別急!熊旗已經準備好了——
RDK可視化工具還有哪些隱藏玩法? 開發(fā)過程中遇到的坑,怎么優(yōu)雅避開? 關于模型適配、優(yōu)化、擴展性……
你問,熊旗答!
一個人敲代碼是孤獨的,但一群人一起敲,就變成了一場狂歡——
3月4日晚上7:00,在深夜一個人debug前,不妨預約地瓜機器人視頻號和Bilibili,和熊旗一起把代碼聊出花
-
RDK
+關注
關注
0文章
18瀏覽量
9102 -
開發(fā)者
+關注
關注
1文章
601瀏覽量
17192 -
模型轉換
+關注
關注
0文章
4瀏覽量
5234
發(fā)布評論請先 登錄
相關推薦
將YOLOv4模型轉換為IR的說明,無法將模型轉換為TensorFlow2格式怎么解決?
為什么Caffe模型可以直接與OpenVINO?工具套件推斷引擎API一起使用,而無法轉換為中間表示 (IR)?
VirtualLab Fusion應用:光波導k域布局可視化(“神奇的圓環(huán)”)
添越智創(chuàng)基于 RK3588 開發(fā)板部署測試 DeepSeek 模型全攻略
2024年AI開發(fā)者中間件工具生態(tài)全面總結
【ELF 2學習板試用】利用RKNN-Toolkit2實現(xiàn)rknn模型轉換
七款經久不衰的數(shù)據(jù)可視化工具!
【附實操視頻】聆思CSK6大模型開發(fā)板接入國內主流大模型(星火大模型、文心一言、豆包、kimi、智譜glm、通義千問)
如何實現(xiàn)園區(qū)大屏可視化?

2024 TUYA全球開發(fā)者大會盛大啟幕,Cube AI大模型重磅首發(fā)!

2024 TUYA全球開發(fā)者大會盛大啟幕,Cube AI大模型重磅首發(fā)!

評論