最近的當紅炸子雞DeepSeek,無論是行業內還是行業外都在研究。畢竟現在各行各業都想利用AI為自己服務,圖像處理領域也不例外。于是便有很多人向我們咨詢RK3588+DeepSeek有沒有“搞頭”?
首先回答一下:僅靠RK3588自身是不現實的!但是可以外掛高算力模塊。
DeepSeek的作用主要是作為一個前端決策大腦,在圖像處理時可以幫我們對圖像處理板處理的數據進行智能化決策,是實現全自動化作業的步驟之一。
要達到這個目的,需要的數據不可估量,因此越是大參數版本的DeepSeek模型越好,像完整版的DeepSeek模型671B的參數量級,以RK3588現在6.0TOPS的算力來看,顯然不可能。
不久前有工程師成功在RK3588上部署了DeepSeek,但也僅僅是跑起來了DeepSeek R1(Qwen2 1.5B)模型。1.5B什么概念,也就能處理處理輕量級的文字任務,而且也不能做到快速實時響應。除了算力問題,模型的移植也是難點,很多網絡層,瑞芯微的平臺并不支持。
但這至少表明,在RK3588上運行DeepSeek是能夠實現的,只是被自身硬件所限制。
如果在RK3588圖像處理板的基礎上外掛高算力模塊,打造一個更高算力的RK3588圖像處理板,理論上就能實現DeepSeek高參數模型的應用。
目前這個方向,我們整個團隊也在深入研究,相信很快就會有結果。
-
AI
+關注
關注
87文章
33280瀏覽量
273579 -
RK3588
+關注
關注
7文章
386瀏覽量
5246 -
DeepSeek
+關注
關注
1文章
731瀏覽量
840
發布評論請先 登錄
相關推薦
RK3588主板:多元場景的硬核“芯”力量

RK3588 EVB開發板原理圖講解【八】 RK3588 power Tree
Banana Pi開源社區基于瑞芯微RK3588開發板,DeepSeek開發利器
添越智創基于 RK3588 開發板部署測試 DeepSeek 模型全攻略
ATK-DLRK3588開發板deepseek-r1-1.5b/7b部署指南
實戰案例 | 眺望RK3588 RKLLM部署DeepSeek-R1全流程

在RK3588開發板上部署并測試DeepSeek模型

PET_RK3588_CORE核心板

RK3588與RK3576區別解析

評論