資料介紹
軟件簡介
OpenPPL 是基于自研高性能算子庫的推理引擎,擁有極致調優的性能;提供云原生環境下 的 AI 模型多后端部署能力,支持 OpenMMLab 等深度學習模型的高效部署。
架構如下:
高性能
設計微架構友好的任務/數據/指令等多級并行策略,自研 NV GPU、 x86 CPU 計算庫,滿足部署場景對神經網絡推理、常用圖像處理的性能需求
- 支持 GPU T4 平臺 FP16 推理
- 支持 CPU x86 平臺 FP32 推理
- 核心算子優化,平均性能領先業界
OpenMMLab 部署
支持 OpenMMLab 檢測、分類、分割、超分等系列前沿模型,同時提供模型前后處理所需圖像處理算子
- 遵循 ONNX 開放標準,提供 ONNX 轉換支持
- 支持網絡動態特性
- 提供 MMCV 算子高性能實現
云上多后端部署
面向云端異構推理場景,支持多平臺部署
- 支持 x86 FMA & AVX512、NV Turing 架構
- 支持異構設備并行推理
下載該資料的人也在下載
下載該資料的人還在閱讀
更多 >
- 基于AdderNet的深度學習推理加速器
- 基于深度學習的神經協同過濾推薦系統 5次下載
- 基于預訓練模型和長短期記憶網絡的深度學習模型 19次下載
- 3小時學習神經網絡與深度學習課件下載 0次下載
- 基于計算機視覺和NLP的跨媒體問答與推理 8次下載
- 基于深度學習的圖像修復模型及實驗對比 20次下載
- 深度模型中的優化與學習課件下載 3次下載
- 一種基于機器學習的流簇大小推理模型 34次下載
- 深度學習模型的對抗攻擊及防御措施 75次下載
- 深度學習入門:基于Python的理論與實現電子書 32次下載
- MXNet深度學習計算平臺中文學習筆記免費下載 3次下載
- python機器學習和深度學習的學習書籍資料免費下載 95次下載
- 深度學習基礎教程之DLBook深度學習中文版電子教材免費下載 0次下載
- 深度學習是什么?了解深度學習難嗎?讓你快速了解深度學習的視頻講解 16次下載
- 最基本的深度學習系統的硬件指南 1次下載
- 澎峰科技高性能大模型推理引擎PerfXLM解析 522次閱讀
- 深度學習中的無監督學習方法綜述 854次閱讀
- 基于深度學習的小目標檢測 994次閱讀
- Torch TensorRT是一個優化PyTorch模型推理性能的工具 1871次閱讀
- 視覺深度學習遷移學習訓練框架Torchvision介紹 934次閱讀
- 當深度學習遇上TDA4 1349次閱讀
- NADP加Triton搭建穩定高效的推理平臺 964次閱讀
- 機器學習的第二階段:推理 6040次閱讀
- Xavier的硬件架構特性!Xavier推理性能評測 1.8w次閱讀
- 多智體深度強化學習研究中首次將概率遞歸推理引入AI的學習過程 4925次閱讀
- 一種基于FPGA的高性能DNN加速器自動生成方案 5569次閱讀
- 深度學習和機器學習深度的不同之處 淺談深度學習的訓練和調參 4342次閱讀
- 對比深度學習和經典機器學習,分別介紹這兩種技術的優缺點 2.6w次閱讀
- 如何區分深度學習與機器學習 1965次閱讀
- 深度學習開源框架,AI從業者的選擇之路 2414次閱讀
下載排行
本周
- 1山景DSP芯片AP8248A2數據手冊
- 1.06 MB | 532次下載 | 免費
- 2RK3399完整板原理圖(支持平板,盒子VR)
- 3.28 MB | 339次下載 | 免費
- 3TC358743XBG評估板參考手冊
- 1.36 MB | 330次下載 | 免費
- 4DFM軟件使用教程
- 0.84 MB | 295次下載 | 免費
- 5元宇宙深度解析—未來的未來-風口還是泡沫
- 6.40 MB | 227次下載 | 免費
- 6迪文DGUS開發指南
- 31.67 MB | 194次下載 | 免費
- 7元宇宙底層硬件系列報告
- 13.42 MB | 182次下載 | 免費
- 8FP5207XR-G1中文應用手冊
- 1.09 MB | 178次下載 | 免費
本月
- 1OrCAD10.5下載OrCAD10.5中文版軟件
- 0.00 MB | 234315次下載 | 免費
- 2555集成電路應用800例(新編版)
- 0.00 MB | 33566次下載 | 免費
- 3接口電路圖大全
- 未知 | 30323次下載 | 免費
- 4開關電源設計實例指南
- 未知 | 21549次下載 | 免費
- 5電氣工程師手冊免費下載(新編第二版pdf電子書)
- 0.00 MB | 15349次下載 | 免費
- 6數字電路基礎pdf(下載)
- 未知 | 13750次下載 | 免費
- 7電子制作實例集錦 下載
- 未知 | 8113次下載 | 免費
- 8《LED驅動電路設計》 溫德爾著
- 0.00 MB | 6656次下載 | 免費
總榜
- 1matlab軟件下載入口
- 未知 | 935054次下載 | 免費
- 2protel99se軟件下載(可英文版轉中文版)
- 78.1 MB | 537798次下載 | 免費
- 3MATLAB 7.1 下載 (含軟件介紹)
- 未知 | 420027次下載 | 免費
- 4OrCAD10.5下載OrCAD10.5中文版軟件
- 0.00 MB | 234315次下載 | 免費
- 5Altium DXP2002下載入口
- 未知 | 233046次下載 | 免費
- 6電路仿真軟件multisim 10.0免費下載
- 340992 | 191187次下載 | 免費
- 7十天學會AVR單片機與C語言視頻教程 下載
- 158M | 183279次下載 | 免費
- 8proe5.0野火版下載(中文版免費下載)
- 未知 | 138040次下載 | 免費
評論
查看更多