重要消息
節(jié)后開工第一天,靈汐科技團隊聯(lián)合類腦技術社區(qū)(“腦啟社區(qū)“)的開發(fā)者,僅用半天時間就完成了DeepSeek-R1系列模型在靈汐KA200芯片及相關智算卡的適配,助力國產(chǎn)大模型與類腦智能硬件系統(tǒng)的深度融合。據(jù)“腦啟社區(qū)“的開發(fā)者反饋,在DeepSeek-R1-Distill-Qwen的1.5B、7B等系列模型測試中,模型在4K上下文情形下體驗順暢,具備交付客戶使用的能力。后續(xù),靈汐科技也將聯(lián)合產(chǎn)業(yè)生態(tài)伙伴及腦啟社區(qū),適時發(fā)布云上服務。
靈汐科技的類腦芯片領啟KA200(-S) 基于全新的存算一體、眾核并行、異構融合架構,能高效支持深度學習神經(jīng)網(wǎng)絡、生物神經(jīng)網(wǎng)絡和大規(guī)模腦仿真。單芯片集成 25 萬神經(jīng)元和 2500 萬突觸(稠密模式),可擴展支持 200 萬神經(jīng)元和 20 億突觸的集成計算(稀疏模式),支持混合精度計算(48TOPS@INT8 和 24TFLOPS@FP16)。不僅有強大的視頻圖像處理和算法支持能力,也具有對各類LLM語言大模型及多模態(tài)模型的支撐能力。基于靈汐科技KA200的產(chǎn)品系列,已經(jīng)具備了“云、邊、端“全覆蓋的大模型部署和高性能、低功耗的推理部署能力。靈汐的相關產(chǎn)品已在電力能源、交通、城市治理、低空智能裝備等領域形成了規(guī)模化商用。
近期DeepSeek大模型引發(fā)了業(yè)界的廣泛討論,有相關評論方認為DeepSeek的大模型技術路線創(chuàng)新有較大影響,而未來國產(chǎn)化、支撐大模型的新型架構芯片則會對產(chǎn)業(yè)形成更具顛覆性的效應。2024年初開始,類似存算一體架構芯片及其對大模型推理的提升效果,也引發(fā)了眾多研究討論。靈汐科技“存算一體、眾核并行、 異構融合”的芯片架構及其應用不斷迭代,將為業(yè)內(nèi)帶來新的潛在突破。
-
芯片
+關注
關注
459文章
51816瀏覽量
432050 -
神經(jīng)網(wǎng)絡
+關注
關注
42文章
4793瀏覽量
102006 -
大模型
+關注
關注
2文章
2873瀏覽量
3606 -
DeepSeek
+關注
關注
1文章
716瀏覽量
790
原文標題:靈汐芯片快速實現(xiàn)DeepSeek 適配,助力國產(chǎn)大模型與類腦智能硬件融合
文章出處:【微信號:北京靈汐科技有限公司,微信公眾號:北京靈汐科技有限公司】歡迎添加關注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
相關推薦
香橙派發(fā)布OrangePi RV2本地部署Deepseek-R1蒸餾模型指南

如何使用OpenVINO運行DeepSeek-R1蒸餾模型

RK3588開發(fā)板上部署DeepSeek-R1大模型的完整指南
行芯完成DeepSeek-R1大模型本地化部署
香橙派發(fā)布OrangePi 5Plus本地部署Deepseek-R1蒸餾模型指南

了解DeepSeek-V3 和 DeepSeek-R1兩個大模型的不同定位和應用選擇
超星未來驚蟄R1芯片適配DeepSeek-R1模型
AIBOX 全系產(chǎn)品已適配 DeepSeek-R1

后摩漫界M30芯片成功適配DeepSeek-R1系列模型
deepin UOS AI接入DeepSeek-R1模型
芯動力神速適配DeepSeek-R1大模型,AI芯片設計邁入“快車道”!

評論