國(guó)產(chǎn)高端GPU芯片提供商瀚博半導(dǎo)體(以下簡(jiǎn)稱“瀚博”)已完成DeepSeek-V3與R1全系列模型訓(xùn)推適配,單機(jī)可支持V3與R1 671B全量滿血版模型部署。
迅速完成DeepSeek-V3與R1全量滿血版適配
普惠AI應(yīng)用創(chuàng)新
瀚博產(chǎn)品全面支持DeepSeek-V3與R1全系列模型在數(shù)據(jù)中心、企業(yè)私有化和邊緣智能部署。
瀚博VGX VA16 AIGC大模型一體機(jī)方案支持DeepSeek-V3與R1 671B全量模型及R1的各個(gè)蒸餾模型。憑借單服務(wù)器高達(dá)1TB或2TB的超大顯存,單機(jī)可本地支持DeepSeek-V3與R1 671B模型的實(shí)時(shí)高精度推理,8機(jī)可有效地支持DeepSeek-V3與R1 671B模型的全參微調(diào),在多種內(nèi)容生成任務(wù)中展現(xiàn)優(yōu)異性能,為廣大企業(yè)提供高性價(jià)比和超低成本的私有化部署解決方案。
與此同時(shí),瀚博全系列大模型加速卡產(chǎn)品支持DeepSeek-V3、R1 671B全量模型以及R1蒸餾模型在數(shù)據(jù)中心靈活可擴(kuò)展部署,推動(dòng)API成本進(jìn)一步降低。
另外,瀚博邊緣智算模組產(chǎn)品支持DeepSeek-R1 7B/13B蒸餾模型在車路云和機(jī)器人等邊緣計(jì)算場(chǎng)景的低功耗低成本高性能部署,助力智慧交通、智慧工業(yè)、具身智能等行業(yè)應(yīng)用落地。
躍進(jìn)始于開(kāi)源 擴(kuò)容智算生態(tài)
無(wú)疑,因開(kāi)源戰(zhàn)略和技術(shù)創(chuàng)新,DeepSeek正在重塑全球AI產(chǎn)業(yè)版圖。瀚博GPU與DeepSeek的適配,有助于加速國(guó)內(nèi)AI產(chǎn)業(yè)鏈自主發(fā)展,完善智算生態(tài)。
在適配過(guò)程中,瀚博在軟硬件協(xié)同優(yōu)化方面做了大量工作,確保DeepSeek-V3和R1在瀚博平臺(tái)上發(fā)揮最大效能,并為模型的持續(xù)優(yōu)化以及大規(guī)模部署奠定了堅(jiān)實(shí)基礎(chǔ)。瀚博迅速集成DeepSeek的開(kāi)源模型,為客戶和合作伙伴提供高性能的算力資源,顯著提升了模型的推理效率,同時(shí)節(jié)省了硬件成本,有助于加速尖端AIGC應(yīng)用和體驗(yàn)的垂直類開(kāi)發(fā)和規(guī)模部署。
未來(lái),瀚博將持續(xù)深化與開(kāi)源社區(qū)合作,秉持“為數(shù)字和像素世界提供浩瀚算力”的使命和愿景,充分發(fā)揮瀚博在異構(gòu)計(jì)算領(lǐng)域的軟硬件優(yōu)勢(shì),全方位、深層次地推動(dòng)更大規(guī)模部署,推進(jìn)智算生態(tài)繁榮。
歡迎咨詢基于瀚博半導(dǎo)體GPU的DeepSeek-V3/R1商業(yè)落地方案!
我們非常重視與每一位客戶的交流與溝通。如果您有意了解基于瀚博半導(dǎo)體GPU的DeepSeek-V3/R1商業(yè)落地方案,或者對(duì)瀚博的產(chǎn)品和服務(wù)有任何建議,歡迎掃描下方二維碼,填寫表單告訴我們。您的反饋將是我們不斷進(jìn)步的動(dòng)力,同時(shí)我們的銷售團(tuán)隊(duì)也會(huì)為您提供詳細(xì)的解答和專業(yè)的服務(wù)。期待您的聲音。
關(guān)于瀚博
瀚博半導(dǎo)體是一家高端GPU芯片提供商,成立于2018年12月,注冊(cè)地在中國(guó)上海。瀚博半導(dǎo)體為人工智能核心算力和圖形渲染、內(nèi)容生成提供全棧式芯片解決方案。瀚博秉持“為數(shù)字和像素世界提供浩瀚算力”的使命和愿景,潛心研發(fā)核心技術(shù),目前擁有自主研發(fā)的核心IP以及兩代GPU芯片,提供圖形渲染GPU、數(shù)據(jù)中心AI GPU和邊緣AI GPU三大產(chǎn)品線。
瀚博憑借前沿的自主原創(chuàng)架構(gòu)、強(qiáng)大的軟硬件融合開(kāi)發(fā)能力以及豐富的設(shè)計(jì)經(jīng)驗(yàn)研發(fā)出高質(zhì)量的GPU產(chǎn)品,瀚博兩代芯片現(xiàn)已量產(chǎn)并商業(yè)化落地,賦能人工智能與云端圖形渲染產(chǎn)業(yè),助力大模型與生成式人工智能、智算數(shù)據(jù)中心、智慧工業(yè)、機(jī)器人與具身智能、智慧交通、車路協(xié)同、數(shù)字孿生、工業(yè)軟件、云手機(jī)、云電腦、云渲染等應(yīng)用落地。
-
芯片
+關(guān)注
關(guān)注
459文章
51891瀏覽量
433209 -
gpu
+關(guān)注
關(guān)注
28文章
4880瀏覽量
130342 -
模型
+關(guān)注
關(guān)注
1文章
3460瀏覽量
49768 -
DeepSeek
+關(guān)注
關(guān)注
1文章
749瀏覽量
957
原文標(biāo)題:瀚博完成DeepSeek全版本訓(xùn)推適配,單機(jī)支持V3與R1 671B滿血版部署
文章出處:【微信號(hào):瀚博半導(dǎo)體VastaiTech,微信公眾號(hào):瀚博半導(dǎo)體VastaiTech】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
HarmonyOS NEXT開(kāi)發(fā)實(shí)戰(zhàn):DevEco Studio中DeepSeek的使用
瀚博半導(dǎo)體與新華三集團(tuán)達(dá)成戰(zhàn)略合作
DeepSeek一體機(jī):加速AI訓(xùn)推超融合,推動(dòng)行業(yè)智能化落地

東軟睿馳NeuSAR OS完成DeepSeek深度適配
云從科技從容大模型訓(xùn)推一體機(jī)成功適配DeepSeek
云天天書大模型訓(xùn)推一體機(jī)成功適配DeepSeek
【實(shí)測(cè)】用全志A733平板搭建一個(gè)端側(cè)Deepseek算力平臺(tái)
景嘉微完成DeepSeek R1系列模型適配
天數(shù)智芯加速DeepSeek全系列模型適配
AIBOX 全系產(chǎn)品已適配 DeepSeek-R1

海光信息技術(shù)團(tuán)隊(duì)成功適配DeepSeek大模型
“兆瀚”算力產(chǎn)品強(qiáng)力支持DeepSeek,共筑國(guó)產(chǎn)AI新生態(tài)!

吉利星睿大模型與DeepSeek完成深度融合
DeepSeek-R1全尺寸版本上線Gitee AI
昆侖芯率先完成Deepseek訓(xùn)練推理全版本適配

評(píng)論