加速AI應(yīng)用“遍地開花”，中科馭數(shù)基于DPU的算力底座方案亮相2023全球AI芯片峰會(huì)
9月15日，2023全球AI芯片峰會(huì)（GACS 2023）在深圳舉行，聚集了全球AI芯片產(chǎn)業(yè)的領(lǐng)軍者和中堅(jiān)力量，共探AI芯片的求新、求變、求索之徑。中科馭數(shù)高級(jí)副總裁張宇應(yīng)邀在智算中心算力與網(wǎng)絡(luò)高峰論壇發(fā)表題為《基于DPU的高效AI大模型算力底座》的重要演講。
▲中科馭數(shù)高級(jí)副總裁張宇受邀發(fā)表重要演講
隨著人工智能從高端科研領(lǐng)域向人們?nèi)粘９ぷ魃钔七M(jìn)，傳統(tǒng)數(shù)據(jù)中心都在向智算中心演進(jìn)。DPU提供智算中心所必須的大帶寬和低時(shí)延能力，使更多的CPU/GPU算力真正服務(wù)于業(yè)務(wù)，從而為新型的智算中心提供了更高效的算力底座，成為智算中心必備的核心組件。張宇在演講中介紹，在處理大規(guī)模數(shù)據(jù)和復(fù)雜任務(wù)時(shí)，傳統(tǒng)算力集群往往面臨性能限制，受到單節(jié)點(diǎn)算力瓶頸和集群效率瓶頸的雙重挑戰(zhàn)。中科馭數(shù)基于DPU的AI算力底座，充分利用了DPU異構(gòu)計(jì)算加速能力，并結(jié)合自研DOE的算子卸載技術(shù)，以及基于RDMA實(shí)現(xiàn)數(shù)據(jù)處理集群的算網(wǎng)融合加速，有效破解了分布式環(huán)境下數(shù)據(jù)處理集群難題，DPU算子性能提升15倍，數(shù)據(jù)集群整體性能提升2-5倍，計(jì)算性能顯著提升，實(shí)現(xiàn)降本增效。
聲明：本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人，不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用，如有內(nèi)容侵權(quán)或者其他違規(guī)問題，請(qǐng)聯(lián)系本站處理。
舉報(bào)投訴
-
中科馭數(shù)
+關(guān)注
關(guān)注
0文章
123瀏覽量
4008
原文標(biāo)題：加速AI應(yīng)用“遍地開花”，中科馭數(shù)基于DPU的算力底座方案亮相2023全球AI芯片峰會(huì)
文章出處：【微信號(hào)：yusurtech，微信公眾號(hào)：馭數(shù)科技】歡迎添加關(guān)注！文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
中科馭數(shù)憑借在DPU芯片領(lǐng)域的積累被認(rèn)定為北京市知識(shí)產(chǎn)權(quán)優(yōu)勢(shì)單位
。 作為DPU新型算力基礎(chǔ)設(shè)施領(lǐng)軍企業(yè)，中科馭數(shù)一直致力于推動(dòng)
中科馭數(shù)受邀出席華泰證券金融科技峰會(huì)
近日中科馭數(shù)作為創(chuàng)新生態(tài)伙伴，受邀參與華泰證券在香港舉辦的2024年度金融科技峰會(huì)。中科馭
算力大模型持續(xù)火熱誰來為智算中心降降溫
瓦時(shí)，相當(dāng)于同期三峽電站累計(jì)發(fā)電量的兩倍以上。“雙碳”目標(biāo)下，數(shù)據(jù)中心的“高算效、低能耗”發(fā)展已是大勢(shì)所趨。 遍地開花 AI計(jì)算正“熱辣滾燙” 生成式AI的爆發(fā)推動(dòng)了基于
中科馭數(shù)受邀出席中國科學(xué)院大學(xué)校友論壇
分享《DPU——連接算力基礎(chǔ)設(shè)施的“樞紐”》主題演講，以其深厚的學(xué)術(shù)背景與豐富的行業(yè)經(jīng)驗(yàn)，向與會(huì)嘉賓分享中科馭
中科馭數(shù)分析DPU在云原生網(wǎng)絡(luò)與智算網(wǎng)絡(luò)中的實(shí)際應(yīng)用
CCF Chip 2024，精彩不能停！7月21日下午，中科馭數(shù)在第二屆中國計(jì)算機(jī)學(xué)會(huì)（CCF）芯片大會(huì)的“馭
IaaS+on+DPU(IoD)+下一代高性能算力底座技術(shù)白皮書
、VMware、Palo Alto 等公司紛紛推出相關(guān)解決方案。這些方案背后共同的本質(zhì)思想是：將云計(jì)算的 IaaS 層組件從服務(wù)器側(cè)卸載后圍繞 DPU 構(gòu)筑高性能算
發(fā)表于 07-24 15:32
中科馭數(shù)：DPU是構(gòu)建高效智算中心基礎(chǔ)設(shè)施的必選項(xiàng)
日前，在江蘇省未來網(wǎng)絡(luò)創(chuàng)新研究院、網(wǎng)絡(luò)通信與安全紫金山實(shí)驗(yàn)室舉辦的“2024智算網(wǎng)絡(luò)技術(shù)與應(yīng)用創(chuàng)新峰會(huì)”上，中科馭數(shù)作為
中科馭數(shù)發(fā)布第三代DPU芯片K2 Pro，較上一代能耗降低30%
基于該芯片的自研芯片架構(gòu)和專用的指令集技術(shù)。 ? 該公司表示，之所以發(fā)布一整套技術(shù)而非單顆芯片，是因?yàn)樗鼈兿嗷ヒ蕾嚒⑾嗷ピ鰪?qiáng)，共同構(gòu)成了一個(gè)高效、靈活且功能強(qiáng)大的DPU解決
中科馭數(shù)CEO鄢貴海：從計(jì)算系統(tǒng)的三個(gè)視角重新審視DPU的核心價(jià)值
如何找準(zhǔn)價(jià)值定位？而中科馭數(shù)作為國內(nèi)DPU先行者，又將如何解題，引領(lǐng)DPU行業(yè)進(jìn)入到一個(gè)全新的高度？ 6月19日，在
芯片軟件全上陣 DPU“全家桶”來了！中科馭數(shù)成功舉辦2024產(chǎn)品發(fā)布會(huì)
6月19日，中科馭數(shù)2024產(chǎn)品發(fā)布會(huì)在北京中關(guān)村展示中心正式舉辦。聚焦自研DPU核心技術(shù)，中科馭
中科馭數(shù)發(fā)布高性能DPU芯片K2-Pro
在信息技術(shù)領(lǐng)域，每一次芯片技術(shù)的突破都代表著行業(yè)的一次飛躍。近日，DPU領(lǐng)域的領(lǐng)軍企業(yè)中科馭數(shù)宣布，成功研發(fā)并發(fā)布了其第三代
中科馭數(shù)馭云、超低時(shí)延網(wǎng)絡(luò)案例雙雙入選第七屆數(shù)字中國建設(shè)峰會(huì)數(shù)字化轉(zhuǎn)型典型應(yīng)用案例
入選。 作為國內(nèi)領(lǐng)先的DPU芯片及解決方案提供商，中科馭數(shù)基于自研KPU
深度踐行“IaaS on DPU”理念，中科馭數(shù)正式發(fā)布“馭云”高性能云異構(gòu)算力解決方案！
?高性能云異構(gòu)算力解決方案，為企業(yè)提供更快部署、更強(qiáng)性能和更高吞吐的云算力解決方案。 在發(fā)布環(huán)節(jié)
DPU技術(shù)賦能下一代AI算力基礎(chǔ)設(shè)施
4月19日，在以“重構(gòu)世界 奔赴未來”為主題的2024中國生成式AI大會(huì)上，中科馭數(shù)作為DPU新型算
明天線上見！DPU構(gòu)建高性能云算力底座——DPU技術(shù)開放日最新議程公布！
技術(shù)在不同行業(yè)中的應(yīng)用解決方案有哪些？能帶來怎樣的業(yè)務(wù)效果？ 3月29日本周五，中科馭數(shù)集結(jié)產(chǎn)品大咖及解決方案專家團(tuán)，誠邀您參加以“
工商網(wǎng)監(jiān)
評(píng)論