最近的當紅炸子雞DeepSeek,無論是行業(yè)內還是行業(yè)外都在研究。畢竟現(xiàn)在各行各業(yè)都想利用AI為自己服務,圖像處理領域也不例外。于是便有很多人向我們咨詢RK3588+DeepSeek有沒有“搞頭”?
首先回答一下:僅靠RK3588自身是不現(xiàn)實的!但是可以外掛高算力模塊。
DeepSeek的作用主要是作為一個前端決策大腦,在圖像處理時可以幫我們對圖像處理板處理的數(shù)據(jù)進行智能化決策,是實現(xiàn)全自動化作業(yè)的步驟之一。
要達到這個目的,需要的數(shù)據(jù)不可估量,因此越是大參數(shù)版本的DeepSeek模型越好,像完整版的DeepSeek模型671B的參數(shù)量級,以RK3588現(xiàn)在6.0TOPS的算力來看,顯然不可能。
不久前有工程師成功在RK3588上部署了DeepSeek,但也僅僅是跑起來了DeepSeek R1(Qwen2 1.5B)模型。1.5B什么概念,也就能處理處理輕量級的文字任務,而且也不能做到快速實時響應。除了算力問題,模型的移植也是難點,很多網(wǎng)絡層,瑞芯微的平臺并不支持。
但這至少表明,在RK3588上運行DeepSeek是能夠實現(xiàn)的,只是被自身硬件所限制。
如果在RK3588圖像處理板的基礎上外掛高算力模塊,打造一個更高算力的RK3588圖像處理板,理論上就能實現(xiàn)DeepSeek高參數(shù)模型的應用。
目前這個方向,我們整個團隊也在深入研究,相信很快就會有結果。
-
AI
+關注
關注
88文章
34412瀏覽量
275690 -
RK3588
+關注
關注
7文章
407瀏覽量
5619 -
DeepSeek
+關注
關注
1文章
782瀏覽量
1414
發(fā)布評論請先 登錄
RK3588S和RK3588S2差異說明

RK3588主板:多元場景的硬核“芯”力量

Banana Pi開源社區(qū)基于瑞芯微RK3588開發(fā)板,DeepSeek開發(fā)利器
Banana Pi開源社區(qū)基于瑞芯微RK3588開發(fā)板,DeepSeek開發(fā)利器

添越智創(chuàng)基于 RK3588 開發(fā)板部署測試 DeepSeek 模型全攻略
ATK-DLRK3588開發(fā)板deepseek-r1-1.5b/7b部署指南
實戰(zhàn)案例 | 眺望RK3588 RKLLM部署DeepSeek-R1全流程

在RK3588開發(fā)板上部署并測試DeepSeek模型

PET_RK3588_CORE核心板

評論