AI推理框架軟件ONNX Runtime正式支持龍架構
近日，知名AI推理框架開源社區ONNX Runtime正式發布支持龍架構的版本1.17.0。今后，用戶可以直接使用ONNX Runtime開源社區發布的版本在龍芯平臺完成AI推理類應用的開發和部署，標志著龍架構軟件生態得到進一步完善。
ONNX Runtime（ORT）是近年來興起的AI推理框架軟件，被大量AI應用作為基礎AI推理引擎。ORT可支持PyTorch、Tensorflow、TFLite等多種格式的模型輸入，以及CPU、GPU、IoT、NPU、FPGA等多樣化算力后端。
在ONNX Runtime 社區1.17.0版本的研制過程中，龍芯中科技術團隊與社區保持緊密合作，期間向ONNX Runtime社區代碼倉庫提交了7697行代碼，對矩陣乘法、卷積、轉置等核心算子進行深度向量優化。在社區支持下，龍架構優化代碼通過了檢視、測試驗證等質量保證流程，ONNX Runtime社區自1.17.0版本起正式實現對龍架構的原生支持。
未來，龍芯中科將繼續與AI領域的國際開源軟件社區攜手合作，助力AI領域的生態發展和技術創新，為用戶帶來更優產品，實現更大價值。
審核編輯：劉清
聲明：本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人，不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用，如有內容侵權或者其他違規問題，請聯系本站處理。
舉報投訴
-
FPGA
+關注
關注
1629文章
21743瀏覽量
603558 -
龍芯中科
+關注
關注
0文章
274瀏覽量
7634 -
NPU
+關注
關注
2文章
286瀏覽量
18624
原文標題：AI推理框架軟件ONNX Runtime正式支持龍架構
文章出處：【微信號：gh_53fadbdbd4d4，微信公眾號：龍芯中科】歡迎添加關注！文章轉載請注明出處。
發布評論請先 登錄
相關推薦
迅龍軟件受邀參加華為昇思人工智能框架峰會，展示昇思X香橙派的創新AI案例
產業界、學術界力量，共建人工智能框架開源生態，共探人工智能框架新未來。作為華為昇騰APN伙伴，迅龍軟件受邀參加此屆大會，并攜旗下基于昇騰AI
Arm成功將Arm KleidiAI軟件庫集成到騰訊自研的Angel 機器學習框架
KleidiAI 技術融入騰訊混元自研的 Angel 機器學習框架。這一合作旨在提高移動端人工智能 (AI) 服務的推理性能和效率，為用戶提供卓越
基于迅為RK3588開發板的AI圖像識別方案
操作）算力的高性能神經網絡處理器單元（NPU）。這款NPU不僅擁有強大的計算能力，支持TensorFlow、Caffe、Tflite、Pytorch、Onnx NN、Android NN 等常見框架
發表于 08-13 11:26
摩爾線程攜手東華軟件完成AI大模型推理測試與適配
近日，摩爾線程與東華軟件云筑AI創新中心宣布，雙方已完成大模型推理測試與適配。依托摩爾線程的全功能GPU國產算力，東華軟件打造安全可信的基于私有化大模型的“智多型（A.I.Cognif
STM CUBE AI錯誤導入onnx模型報錯的原因？
使用cube-AI分析模型時報錯，該模型是pytorch的cnn轉化成onnx
```
Neural Network Tools for STM32AI v1.7.0 (STM.ai
發表于 05-27 07:15
進一步解讀英偉達 Blackwell 架構、NVlink及GB200 超級芯片
，第五代NVLink、InfiniBand網絡和NVIDIA
Magnum IO?軟件的支持，確保企業和廣泛GPU計算集群的高效可擴展性。
HGX B200 深度學習推理能力
英偉達第五代 NVLink
發表于 05-13 17:16
將yolov5s的模型轉成.onnx模型，進行cube-ai分析時報錯的原因？
報錯顯示張量不能大于四維的，想請教解決一下，我再此之后通過onnx-simplifier對.onnx進行簡化之后再通過cube-ai進行分析還是出現上述報錯，懇求指導，謝謝您！
發表于 03-15 06:54
微軟推出ONNX Runtime Web，利用WebGPU優化瀏覽器機器學習性能
作為微軟的 JavaScript 庫，ONNX Runtime Web 使得網絡開發者能在瀏覽器環境下部署機器學習模型，并提供多種硬件加速的后端支持。
通過新的ONNX導出器簡化模型導出流程
和深度學習模型的基本原理，并提供了一個通用的文件格式，因此你可以保存并與各種工具一起使用,這樣你就可以在你喜歡的框架中進行開發而且不用太擔心與其相關的推理邏輯。
工商網監
評論