近日,飛騰騰云S5000C和飛騰騰銳D3000成功實現對DeepSeek全系列大模型的端到端支持,覆蓋數據中心和終端場景,本地部署的推理效率與國外同類產品架構解決方案相當。
近年來,飛騰積極擁抱AI浪潮,致力于推動國產芯片與AI技術的深度融合,去年7月,飛騰攜手生態伙伴打造并發布了 全棧國產化智算中心解決方案,為眾多行業提供從端到云的智能化算力服務。2024年,DeepSeek-V2.5 234B大模型便已在飛騰騰云S5000C平臺成功實現穩定運行?;陲w騰騰云S5000C的設備搭配8塊國產AI卡,其整體性能可達到國外平臺性能的80%左右,已支撐行業用戶在項目中使用。
今年春節期間,DeepSeek發布了最新的DeepSeek-V3和R1版本后,憑借其卓越的性能和極高的性價比,迅速成為科技領域的焦點,為開發者和企業提供了更高效、更靈活的私有化部署解決方案。飛騰技術團隊第一時間在AI實驗室進行了其在飛騰騰云S5000C平臺和飛騰騰銳D3000上本地部署驗證,形成整體解決方案,助力用戶構建端到端國產平臺DeepSeek大模型智算環境。
在數據中心側,基于飛騰騰云S5000C的服務器可以與多款AI加速卡配合實現DeepSeek蒸餾版和全量版部署。飛騰AI實驗室在單機8卡服務器平臺已進行蒸餾版DeepSeek-R1-Distill-Llama-70B版本測試,實測推理速度可達到22tokens/s,本地部署的推理效率與國外同類產品架構解決方案相當。完整版DeepSeek R1 671B模型采用分布式推理框架,基于四機32卡AI服務器集群運行可部署成功,為企業級私有化部署提供完善的軟硬件解決方案。
在用戶終端側,基于飛騰騰銳D3000的臺式機可以本地部署DeepSeek-R1 7B蒸餾版模型,搭配1張國產推理卡,實現AI PC能力,助力用戶建立安全可靠的本地知識助手。
飛騰平臺已實現端到端支持DeepSeek全系列、眾多開源和國產頭部大模型的本地化部署,為企業級和個人應用提供全國產化、軟硬一體、性價比高、安全、開放的全棧解決方案,與行業客戶和生態伙伴一同助力行業的數字化轉型和智能化升級!
-
飛騰CPU
+關注
關注
0文章
3瀏覽量
1870 -
DeepSeek
+關注
關注
1文章
629瀏覽量
388
原文標題:飛騰CPU × DeepSeek大模型,雙芯加持全系列穩跑
文章出處:【微信號:TJ_PHYTIUM,微信公眾號:Phytium飛騰】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
RK3588開發板上部署DeepSeek-R1大模型的完整指南
源誠技術M720智能模組成功運行DeepSeek模型
添越智創基于 RK3588 開發板部署測試 DeepSeek 模型全攻略
了解DeepSeek-V3 和 DeepSeek-R1兩個大模型的不同定位和應用選擇
【實測】用全志A733平板搭建一個端側Deepseek算力平臺
飛騰CPU成功支持DeepSeek全系列大模型
中軟國際科創中心上線DeepSeek模型
龍芯3號CPU成功運行DeepSeek R17B模型
在龍芯3a6000上部署DeepSeek 和 Gemma2大模型
龍芯處理器成功運行DeepSeek大模型

云天勵飛上線DeepSeek R1系列模型

飛騰CPU產品在油氣工控領域新突破
CPU平臺主板之飛騰通用主板系列—GM9-2002

評論