?近期,澎峰科技與沐曦完成了對PerfXLM(推理引擎)、PerfXCloud(大模型服務平臺)與沐曦的曦云系列通用計算GPU的聯合測試,測試結果表明PerfXLM、PerfXCloud軟件與沐曦GPU產品實現了全面兼容。
PerfXLM高性能大模型推理引擎與沐曦GPU硬件平臺完成適配,PerfXLM采用云邊端一體架構,支持云端和本地大模型推理。經過雙方聯合測試,PerfXLM對沐曦GPU硬件平臺的兼容性、穩定性和可靠性上取得極大領先,部分指標實現了對NVIDIA A100的反超。PerfXLM 針對部分大模型的計算性能優化成果堪稱卓越,多個主流模型在在該平臺的推理總吞吐速度實現了最高達到50%的性能提升。標志著雙方在CUDA生態兼容上實現再次突破。
PerfXCloud大模型服務平臺與沐曦的GPU硬件平臺完成適配,并完成了超80種大模型的推理、微調(包括Qwen系列、Yi-Coder系列、DeepSeek系列、Llama系列、ChatGLM系列等)支持,兼容性在國內處于領先地位。未來,雙方將不斷豐富模型倉庫,以滿足多樣化的應用需求,為用戶提供更優質和便捷的模型服務,幫助智算中心升級進化為超級AI Foundry。
此次合作,為國產計算軟硬融合和產業鏈合作建立了示范。未來,雙方將以市場需求為導向,共同探索更多可能性,為實現大模型人工智能技術的自主可控和可持續發展貢獻力量。
-
gpu
+關注
關注
28文章
4766瀏覽量
129189 -
澎峰科技
+關注
關注
0文章
57瀏覽量
3197 -
沐曦
+關注
關注
0文章
27瀏覽量
1186
原文標題:澎峰科技計算軟件棧與沐曦GPU完成適配和互認證
文章出處:【微信號:perfxlab,微信公眾號:perfxlab】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
評論