DeepSeek為人工智能AI產(chǎn)業(yè)帶來一場(chǎng)革命,為企業(yè)級(jí)AI應(yīng)用私有化部署場(chǎng)景(Private AI)注入強(qiáng)勁動(dòng)力。作為企業(yè)級(jí)私有化AI Infra平臺(tái),云軸科技ZStack智塔攜手昇騰AI實(shí)現(xiàn)了DeepSeek V3/R1/ Janus Pro三種模型的高效部署,并充分發(fā)揮DeepSeek開源模型和低成本高性能特點(diǎn),為企業(yè)提供安全高效的AI基礎(chǔ)設(shè)施方案,進(jìn)一步推動(dòng)AI的企業(yè)級(jí)商用進(jìn)程。
從7B到671B模型尺寸
適配企業(yè)數(shù)據(jù)中心AI算力資源
AI Infra平臺(tái)ZStack智塔在算力層提供計(jì)算、存儲(chǔ)、網(wǎng)絡(luò)、安全等基礎(chǔ)資源和服務(wù)。智能異構(gòu)調(diào)度引擎自動(dòng)匹配硬件特性,高度適配昇騰算力資源,提供從高效蒸餾7B小模型到滿血671B大模型的靈活選擇,滿足企業(yè)數(shù)據(jù)中心多樣化算力需求。
昇騰310:作為面向邊緣計(jì)算和推理場(chǎng)景的高能效AI產(chǎn)品,昇騰310具備出色的推理性能和功耗比。ZStack智塔充分利用昇騰310的優(yōu)勢(shì),通過模型優(yōu)化和算力調(diào)度,在 R1 蒸餾模型、Janus Pro 模型的推理任務(wù)中實(shí)現(xiàn)高效能比,為企業(yè)提供經(jīng)濟(jì)高效的AI部署方案。
昇騰910:昇騰910具有強(qiáng)大的浮點(diǎn)計(jì)算能力,適用于大規(guī)模模型訓(xùn)練。ZStack智塔通過優(yōu)化計(jì)算資源分配和任務(wù)調(diào)度,充分挖掘昇騰910的性能潛力,加速DeepSeek等大模型的推理過程,滿足企業(yè)對(duì)高性能AI算力的需求。
支持DeepSeek三種模型
滿足企業(yè)不同AI場(chǎng)景需求
AI Infra平臺(tái)ZStack智塔在模型層提供模型開發(fā)和應(yīng)用所需的各種基礎(chǔ)工具和組件,支持開源和閉源模型的全生命周期管理。基于昇騰系列硬件支持,ZStack智塔可高效運(yùn)行DeepSeek V3、R1和Janus Pro模型。
DeepSeek V3:適用于通用型自然語言處理任務(wù)。利用昇騰硬件的強(qiáng)大算力,V3模型能夠在 AI Infra 上實(shí)現(xiàn)高性能的訓(xùn)練和推理,并通過多機(jī)互聯(lián)提升模型的計(jì)算效率,滿足企業(yè)對(duì)于大規(guī)模自然語言處理的需求。
DeepSeek R1:專注于復(fù)雜推理任務(wù)。借助昇騰硬件的強(qiáng)大算力和互聯(lián)性能,R1模型在處理復(fù)雜計(jì)算和大規(guī)模數(shù)據(jù)時(shí)表現(xiàn)出色,提升推理速度和準(zhǔn)確性,提供面向推理模型的長(zhǎng)上下文。
DeepSeek Janus Pro:擅長(zhǎng)多模態(tài)理解與生成。通過昇騰硬件的異構(gòu)計(jì)算能力,Janus Pro模型可高效處理圖像數(shù)據(jù)類型,實(shí)現(xiàn)跨模態(tài)的信息融合和生成,滿足企業(yè)在多媒體內(nèi)容分析、智能客服等領(lǐng)域的需求。
提供企業(yè)靈活性與定制化服務(wù)
構(gòu)建新一代企業(yè)數(shù)智化平臺(tái)
AI Infra平臺(tái)智塔可以根據(jù)企業(yè)自身需求,基于昇騰在私有云或混合云環(huán)境中部署DeepSeek模型,從而確保數(shù)據(jù)的安全性和隱私保護(hù);還提供裸金屬、虛擬機(jī)和容器計(jì)算資源的彈性擴(kuò)展,支持與多種硬件和軟件的集成,使得企業(yè)能夠輕松地將AI能力整合到現(xiàn)有系統(tǒng)中,滿足企業(yè)級(jí)用戶對(duì)AI應(yīng)用的多樣化需求。
AI Infra平臺(tái)是企業(yè)加速釋放AI生產(chǎn)力的關(guān)鍵引擎平臺(tái),它聚焦企業(yè)級(jí)AI應(yīng)用的私有化部署場(chǎng)景(Private AI)。賽迪顧問在《2025中國(guó)AI Infra平臺(tái)市場(chǎng)發(fā)展研究報(bào)告》中認(rèn)為,2025年是中國(guó)AI Infra平臺(tái)應(yīng)用元年,預(yù)計(jì)2024年、2025年將分別達(dá)到19.4億元和36.1億元,2025年同比增長(zhǎng)將超過86%。
-
AI
+關(guān)注
關(guān)注
87文章
32902瀏覽量
272404 -
Zstack
+關(guān)注
關(guān)注
0文章
9瀏覽量
9547 -
昇騰
+關(guān)注
關(guān)注
1文章
150瀏覽量
6750 -
DeepSeek
+關(guān)注
關(guān)注
1文章
690瀏覽量
544
原文標(biāo)題:ZStack智塔攜手昇騰AI,支持DeepSeek三種模型私有化部署
文章出處:【微信號(hào):HWS_yunfuwu,微信公眾號(hào):華為數(shù)字中國(guó)】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
軟通動(dòng)力入選2025十大DeepSeek部署典型案例
潤(rùn)和軟件將持續(xù)深化“昇騰+DeepSeek”技術(shù)路線
湖南 DeepSeek+昇騰云技術(shù)應(yīng)用沙龍成功舉辦,拓維信息助力 AI 新范式探索

昇騰推理服務(wù)器+DeepSeek大模型 技術(shù)培訓(xùn)在圖為科技成功舉辦

中軟國(guó)際攜手華為云助力北京昌平上線DeepSeek政務(wù)大模型
紹興數(shù)據(jù)局率先實(shí)現(xiàn)政務(wù)環(huán)境下的DeepSeek模型部署

研華發(fā)布昇騰AI Box及Deepseek R1模型部署流程
華為推出昇騰DeepSeek大模型一體機(jī)
添越智創(chuàng)基于 RK3588 開發(fā)板部署測(cè)試 DeepSeek 模型全攻略
研華邊緣AI Box MIC-ATL3S部署Deepseek R1模型

評(píng)論