DeepSeek開源模型的推出,不僅為AI技術(shù)的普及和應(yīng)用提供了強(qiáng)有力的支持,也開啟了行業(yè)創(chuàng)新與變革的新篇章。憑借其開放性、高效性和易用性,DeepSeek開源模型正在成為推動(dòng)AI技術(shù)普惠化的重要力量。
國(guó)產(chǎn)算力再提速:壁仞科技數(shù)小時(shí)
完成全系列模型適配
推理效率已成為目前行業(yè)各公司發(fā)展的核心競(jìng)爭(zhēng)力。憑借壁仞科技自主研發(fā)的壁礪TM系列產(chǎn)品出色的兼容性能,僅用數(shù)小時(shí)即完成對(duì)DeepSeek R1全系列蒸餾模型的支持,涵蓋了從1.5B到70B各等級(jí)參數(shù)版本,包括LLaMA蒸餾模型和千問蒸餾模型。為開發(fā)者提供高性能、低成本的大模型部署與開發(fā)解決方案。這也讓壁仞科技成為少數(shù)實(shí)現(xiàn)國(guó)際、國(guó)內(nèi)多模型同步高效適配的芯片平臺(tái)之一,證明了國(guó)產(chǎn)芯片對(duì)復(fù)雜AI應(yīng)用任務(wù)的駕馭能力。
DeepSeek提供了一種高效的模型蒸餾技術(shù),能夠?qū)⒋笠?guī)模模型的能力遷移至更小、更高效的版本,并且通過Multi-Head Latent Attention(MLA)和DeepSeek MoE兩大核心技術(shù),顯著降低顯存占用,優(yōu)化模型性能。此次壁仞科技壁礪TM系列產(chǎn)品在較短時(shí)間內(nèi)成功支持DeepSeek全系列蒸餾模型,也意味著其在AI推理任務(wù)中具備強(qiáng)大的兼容性和易用性,能夠滿足日益增長(zhǎng)的AI應(yīng)用需求。
壁仞科技AI算力平臺(tái)升級(jí):
云端體驗(yàn)DeepSeek R1模型服務(wù)
即日起,壁仞AI算力平臺(tái)正式上線 DeepSeek R1 蒸餾模型推理服務(wù),全球開發(fā)者可云端體驗(yàn) 1.5B、7B、8B、14B、32B、70B 全系列模型服務(wù)。
該服務(wù)具備以下兩大核心優(yōu)勢(shì):
1、零部署成本:免去硬件采購(gòu)與環(huán)境搭建,實(shí)現(xiàn)“開箱即用”的云端推理體驗(yàn)。
2、多場(chǎng)景覆蓋:針對(duì)LLM等不同任務(wù)預(yù)置優(yōu)化配置方案。
壁仞科技AI算力平臺(tái)邀請(qǐng)客戶體驗(yàn)
第一步:通過郵箱申請(qǐng)登錄賬號(hào),賬號(hào)申請(qǐng)郵箱地址:developer@birentech.com
第二步:通過點(diǎn)擊文章底部“閱讀原文”或復(fù)制網(wǎng)址登錄使用:
https://sgc.birentech.com:1443/
壁仞AI算力平臺(tái)提供六個(gè)模型的使用環(huán)境
目前,壁仞科技已構(gòu)建起從底層硬件到模型服務(wù)的完整AI技術(shù)棧,可為中小企業(yè)和研究機(jī)構(gòu)提供“芯片+模型”的端到端解決方案。未來將繼續(xù)加大研發(fā)投入,推動(dòng)芯片技術(shù)和開發(fā)者生態(tài)的迭代升級(jí),力爭(zhēng)在更多領(lǐng)域取得突破。
產(chǎn)業(yè)協(xié)同:壁仞科技攜手
多家戰(zhàn)略伙伴打造AI合作新范式
壁仞科技已聯(lián)合上海智能算力科技有限公司、中興通訊、科華數(shù)據(jù)、無問芯穹、開源中國(guó)(Gitee AI)、UCloud、一驀科技等戰(zhàn)略伙伴,基于壁礪TM系列訓(xùn)推產(chǎn)品106M、106B、106E、110E,憑借先進(jìn)的芯片架構(gòu)、高效的多模型適配能力、廣泛的數(shù)據(jù)精度支持以及強(qiáng)大的解碼能力,全面開展包括R1在內(nèi)的DeepSeek全系列模型的適配與上線,以滿足不同規(guī)模參數(shù)量模型的部署需求:
輕量級(jí)模型(1.5B-8B):適配智能終端與邊緣計(jì)算設(shè)備,實(shí)現(xiàn)低延時(shí)實(shí)時(shí)推理。
中大規(guī)模模型(14B-32B):服務(wù)于大規(guī)模企業(yè)級(jí)應(yīng)用和高并發(fā)任務(wù),滿足數(shù)據(jù)安全與定制化需求。
大規(guī)模模型(70B):依托云端超算集群,支撐前沿AI研究與復(fù)雜任務(wù)處理。
壁仞AI算力平臺(tái)與DeepSeek R1的深度融合,不僅實(shí)現(xiàn)了國(guó)產(chǎn)自主技術(shù)路線的可行性,更通過開源協(xié)作與硬件創(chuàng)新,為開發(fā)者提供了“高性能+低成本”的創(chuàng)新體驗(yàn)。在AI技術(shù)的推動(dòng)下,應(yīng)用場(chǎng)景不斷拓展,壁仞科技有望在更多領(lǐng)域?qū)崿F(xiàn)突破,推動(dòng)國(guó)產(chǎn)芯片占據(jù)重要地位,引領(lǐng)行業(yè)發(fā)展趨勢(shì)。
-
AI
+關(guān)注
關(guān)注
87文章
32937瀏覽量
272590 -
算力
+關(guān)注
關(guān)注
1文章
1062瀏覽量
15219 -
壁仞科技
+關(guān)注
關(guān)注
1文章
61瀏覽量
2945 -
DeepSeek
+關(guān)注
關(guān)注
1文章
697瀏覽量
576
原文標(biāo)題:DeepSeek R1在壁仞國(guó)產(chǎn)AI算力平臺(tái)發(fā)布,全系列模型一站式賦能開發(fā)者創(chuàng)新
文章出處:【微信號(hào):Birentech,微信公眾號(hào):壁仞科技Birentech】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
DeepSeek推動(dòng)AI算力需求:800G光模塊的關(guān)鍵作用
壁仞科技支持DeepSeek-V3滿血版訓(xùn)練推理
研華發(fā)布昇騰AI Box及Deepseek R1模型部署流程
安霸大算力AI芯片接入DeepSeek R1
研華邊緣AI Box MIC-ATL3S部署Deepseek R1模型

IBM在watsonx.ai平臺(tái)推出DeepSeek R1蒸餾模型
Gitee AI 聯(lián)合沐曦首發(fā)全套 DeepSeek R1 千問蒸餾模型,全免費(fèi)體驗(yàn)!

壁仞科技順利部署DeepSeek R1千問蒸餾模型
扣子平臺(tái)支持DeepSeek R1與V3模型
Krea發(fā)布Deepseek R1驅(qū)動(dòng)的Chat功能
云天勵(lì)飛上線DeepSeek R1系列模型

英偉達(dá)發(fā)布DeepSeek R1于NIM平臺(tái)
壁仞科技參與中國(guó)移動(dòng)呼和浩特智算中心,共筑AI算力新基石
壁仞科技為中國(guó)移動(dòng)呼和浩特智算中心提供強(qiáng)大算力
壁仞科技加入中國(guó)移動(dòng)“融創(chuàng)未來”算力網(wǎng)絡(luò)創(chuàng)新聯(lián)合體

評(píng)論