日前,香橙派官方發(fā)布OrangePi AI Stuido、OrangePi AIpro(20T)本地部署Deepseek-R1蒸餾模型指南,通過在邊緣進行離線部署,幫助用戶實現(xiàn)高效端側(cè)智能,確保數(shù)據(jù)處理的安全性和可控性。
據(jù)了解,DeepSeek-R1專為數(shù)學、代碼生成和復雜邏輯推理任務設計,通過大規(guī)模強化學習(RL)提升推理能力,還摒棄監(jiān)督微調(diào)(SFT),采用純強化學習(GRPO算法)訓練基座模型。同時,DeepSeek-R1提供了高效模型蒸餾技術,可將大規(guī)模模型能力遷移至更小、更高效的版本,優(yōu)化模型性能、開源應用。經(jīng)蒸餾后的DeepSeek-R1模型支持部署于端側(cè),大幅降低計算資源需求,顯著提升端側(cè)設備的AI推理效率。
目前,香橙派已經(jīng)發(fā)布在OrangePi AI Stuido、OrangePi AIpro(20T)上運行Deepseek-R1蒸餾模型的操作指南,香橙派表示,未來將加大研發(fā)投入,攜手昇騰推動不同算力等級的產(chǎn)品與DeepSeek等優(yōu)質(zhì)模型相結(jié)合,進一步降低端側(cè)AI的門檻,為客戶創(chuàng)造更大的AI價值。


據(jù)了解,OrangePi AIpro(20T)是香橙派聯(lián)合昇騰AI打造的高算力開發(fā)板,根植于昇騰AI技術,集AI計算、ISP、圖形輸出等功能于一體,釋放高達20 TOPS的AI算力。可配12/24GB運行內(nèi)存,匯聚了MIPI DSI、雙MIPI CSI、USB3.0、Type-C、雙HDMI2.0、雙2.5G以太網(wǎng)、支持SATA/NVMe SSD 2280的M.2插槽等各類流行的接口。OrangePi AIpro(20T)依托昇騰AI基礎軟硬件能力的基礎,融合大模型與訓推一體化優(yōu)勢,實現(xiàn)端邊云全場景無縫部署,是構(gòu)建昇騰計算產(chǎn)品、使能上層軟件和應用的底座,有高算力、高能效等特性。

OrangePi AI Studio采用昇騰AI技術路線,融合“ARM core,AI core,Vector core,Image core”于一體,提供“基礎通用算力+超強AI算力+編解碼核心”,充分滿足推訓一體AI任務需求,擁有48GB /96GB LPDDR4X,速率高達4266Mbps。
OrangePi AI Studio匯聚了Type-C(USB4.0)、電源接口、電源按鍵、LED指示燈等,可廣泛應用于OCR識別、目標識別、人臉識別、搜索推薦、大模型多模態(tài)、內(nèi)容審核、VR智能、數(shù)字醫(yī)療、物聯(lián)網(wǎng)等諸多AI應用場景。

-
開發(fā)板
+關注
關注
25文章
5646瀏覽量
103985 -
香橙派
+關注
關注
2文章
44瀏覽量
12124 -
大模型
+關注
關注
2文章
3111瀏覽量
4009 -
DeepSeek
+關注
關注
1文章
793瀏覽量
1621
發(fā)布評論請先 登錄
香橙派AIpro(20T)走進北京大學、上海交通大學等高校鯤鵬昇騰科教創(chuàng)新卓越中心特訓營

創(chuàng)思遠達與昇騰合作推動AI PC應用創(chuàng)新
2025昇騰AI開發(fā)者創(chuàng)享日浙江站成功舉辦,現(xiàn)場演示OrangePi AIpro(20T)部署DeepSeek模型開發(fā)全流程

潤和軟件將持續(xù)深化“昇騰+DeepSeek”技術路線
昇騰推理服務器+DeepSeek大模型 技術培訓在圖為科技成功舉辦

研華發(fā)布昇騰AI Box及Deepseek R1模型部署流程
華為推出昇騰DeepSeek大模型一體機
香橙派發(fā)布OrangePi AIpro(20T)本地部署Deepseek-R1蒸餾模型指南!

評論