最近的當紅炸子雞DeepSeek,無論是行業(yè)內(nèi)還是行業(yè)外都在研究。畢竟現(xiàn)在各行各業(yè)都想利用AI為自己服務(wù),圖像處理領(lǐng)域也不例外。于是便有很多人向我們咨詢RK3588+DeepSeek有沒有“搞頭”?
首先回答一下:僅靠RK3588自身是不現(xiàn)實的!但是可以外掛高算力模塊。
DeepSeek的作用主要是作為一個前端決策大腦,在圖像處理時可以幫我們對圖像處理板處理的數(shù)據(jù)進行智能化決策,是實現(xiàn)全自動化作業(yè)的步驟之一。
要達到這個目的,需要的數(shù)據(jù)不可估量,因此越是大參數(shù)版本的DeepSeek模型越好,像完整版的DeepSeek模型671B的參數(shù)量級,以RK3588現(xiàn)在6.0TOPS的算力來看,顯然不可能。
不久前有工程師成功在RK3588上部署了DeepSeek,但也僅僅是跑起來了DeepSeek R1(Qwen2 1.5B)模型。1.5B什么概念,也就能處理處理輕量級的文字任務(wù),而且也不能做到快速實時響應(yīng)。除了算力問題,模型的移植也是難點,很多網(wǎng)絡(luò)層,瑞芯微的平臺并不支持。
但這至少表明,在RK3588上運行DeepSeek是能夠?qū)崿F(xiàn)的,只是被自身硬件所限制。
如果在RK3588圖像處理板的基礎(chǔ)上外掛高算力模塊,打造一個更高算力的RK3588圖像處理板,理論上就能實現(xiàn)DeepSeek高參數(shù)模型的應(yīng)用。
目前這個方向,我們整個團隊也在深入研究,相信很快就會有結(jié)果。
-
AI
+關(guān)注
關(guān)注
87文章
32021瀏覽量
270890 -
RK3588
+關(guān)注
關(guān)注
7文章
359瀏覽量
4709 -
DeepSeek
+關(guān)注
關(guān)注
1文章
454瀏覽量
192
發(fā)布評論請先 登錄
相關(guān)推薦
快速上手RK3588:藍牙模塊測試

Banana Pi開源社區(qū)基于瑞芯微RK3588開發(fā)板,DeepSeek開發(fā)利器
Banana Pi開源社區(qū)基于瑞芯微RK3588開發(fā)板,DeepSeek開發(fā)利器

添越智創(chuàng)基于 RK3588 開發(fā)板部署測試 DeepSeek 模型全攻略
ATK-DLRK3588開發(fā)板deepseek-r1-1.5b/7b部署指南
實戰(zhàn)案例 | 眺望RK3588 RKLLM部署DeepSeek-R1全流程

在RK3588開發(fā)板上部署并測試DeepSeek模型

PET_RK3588_CORE核心板

RK3588與RK3576區(qū)別解析

評論