最近的當(dāng)紅炸子雞DeepSeek,無論是行業(yè)內(nèi)還是行業(yè)外都在研究。畢竟現(xiàn)在各行各業(yè)都想利用AI為自己服務(wù),圖像處理領(lǐng)域也不例外。于是便有很多人向我們咨詢RK3588+DeepSeek有沒有“搞頭”?
首先回答一下:僅靠RK3588自身是不現(xiàn)實(shí)的!但是可以外掛高算力模塊。
DeepSeek的作用主要是作為一個(gè)前端決策大腦,在圖像處理時(shí)可以幫我們對圖像處理板處理的數(shù)據(jù)進(jìn)行智能化決策,是實(shí)現(xiàn)全自動(dòng)化作業(yè)的步驟之一。
要達(dá)到這個(gè)目的,需要的數(shù)據(jù)不可估量,因此越是大參數(shù)版本的DeepSeek模型越好,像完整版的DeepSeek模型671B的參數(shù)量級,以RK3588現(xiàn)在6.0TOPS的算力來看,顯然不可能。
不久前有工程師成功在RK3588上部署了DeepSeek,但也僅僅是跑起來了DeepSeek R1(Qwen2 1.5B)模型。1.5B什么概念,也就能處理處理輕量級的文字任務(wù),而且也不能做到快速實(shí)時(shí)響應(yīng)。除了算力問題,模型的移植也是難點(diǎn),很多網(wǎng)絡(luò)層,瑞芯微的平臺并不支持。
但這至少表明,在RK3588上運(yùn)行DeepSeek是能夠?qū)崿F(xiàn)的,只是被自身硬件所限制。
如果在RK3588圖像處理板的基礎(chǔ)上外掛高算力模塊,打造一個(gè)更高算力的RK3588圖像處理板,理論上就能實(shí)現(xiàn)DeepSeek高參數(shù)模型的應(yīng)用。
目前這個(gè)方向,我們整個(gè)團(tuán)隊(duì)也在深入研究,相信很快就會有結(jié)果。
-
AI
+關(guān)注
關(guān)注
87文章
33442瀏覽量
273989 -
RK3588
+關(guān)注
關(guān)注
7文章
389瀏覽量
5343 -
DeepSeek
+關(guān)注
關(guān)注
1文章
749瀏覽量
957
發(fā)布評論請先 登錄
相關(guān)推薦
RK3588主板:多元場景的硬核“芯”力量

RK3588 EVB開發(fā)板原理圖講解【八】 RK3588 power Tree
Banana Pi開源社區(qū)基于瑞芯微RK3588開發(fā)板,DeepSeek開發(fā)利器
Banana Pi開源社區(qū)基于瑞芯微RK3588開發(fā)板,DeepSeek開發(fā)利器

添越智創(chuàng)基于 RK3588 開發(fā)板部署測試 DeepSeek 模型全攻略
ATK-DLRK3588開發(fā)板deepseek-r1-1.5b/7b部署指南
實(shí)戰(zhàn)案例 | 眺望RK3588 RKLLM部署DeepSeek-R1全流程

在RK3588開發(fā)板上部署并測試DeepSeek模型

PET_RK3588_CORE核心板

RK3588與RK3576區(qū)別解析

評論