在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

后摩漫界M30芯片成功適配DeepSeek-R1系列模型

后摩智能 ? 來源:后摩智能 ? 2025-02-08 10:42 ? 次閱讀

DeepSeek開源模型的熱度席卷全球,其高效性和易用性正在成為推動AI技術(shù)普惠化的重要力量。后摩智能作為國產(chǎn)存算一體AI芯片的領(lǐng)軍企業(yè),自研的后摩漫界M30芯片成功適配DeepSeek-R1-Distill-Qwen系列模型,包括1.5B、7B、14B等。這一成果不僅證明了存算一體芯片架構(gòu)在大模型高效部署中的顯著優(yōu)勢,也為端邊大模型的廣泛應(yīng)用提供了強大的技術(shù)支撐。

DeepSeek-R1-Distill-Qwen-7B模型在M30上運行

性能數(shù)據(jù):

· 上下文長度:8K

· 首字速度:<1s

· Decode速度:17 tokens/s

后摩智能的M30芯片專為端邊部署大模型而設(shè)計,其低功耗的核心優(yōu)勢使其在端邊應(yīng)用場景中表現(xiàn)出色,M30芯片具備強大的物理算力,達到100~256 TOPS@INT8,同時典型功耗僅為12~35W,能夠在保持高性能的同時顯著降低能耗。此次適配DeepSeek-R1-Distill-Qwen系列模型的成功,進一步驗證了M30芯片在處理復(fù)雜AI任務(wù)時的高效性和穩(wěn)定性。隨著AI技術(shù)向端側(cè)和邊緣側(cè)的快速轉(zhuǎn)移,后摩智能的存算一體技術(shù)的突破為國產(chǎn)AI芯片在端邊大模型領(lǐng)域的應(yīng)用樹立了新的標桿,也為未來更多創(chuàng)新應(yīng)用的落地奠定了堅實基礎(chǔ)。

為了更好地推動端邊大模型的廣泛應(yīng)用,后摩智能推出了基于M30芯片打造的系列產(chǎn)品——力謀SM30計算模組、力謀LM30智能加速卡、力謀BX30 計算盒子,以滿足不同場景下的多樣化需求。

力謀SM30計算模組

以力謀SM30計算模組為例,這是一款是基于M30芯片打造的智算模組(SoM),支持PCIe EP模式。該模組以其小巧的體積、強勁的性能和極低的功耗,成為小型化設(shè)備和功耗敏感嵌入式場景的理想選擇。力謀SM30計算模組的物理算力為50/100 TOPS@INT8,典型功耗低于23W,支持8路FHD的編解碼,并兼容PCIe 4.0接口。其低功耗和高性能的特點使其能夠在資源受限的環(huán)境中高效運行,為邊緣計算和端側(cè)設(shè)備提供了強大的算力支持。

DeepSeek開源模型以其高效的推理能力和較低的部署成本,正在推動AI技術(shù)的普惠化。后摩智能自研的存算一體架構(gòu),突破了傳統(tǒng)馮·諾依曼架構(gòu)的瓶頸,將存儲與計算緊密結(jié)合,大幅減少了數(shù)據(jù)傳輸延遲,呈現(xiàn)出大算力、低功耗的獨特優(yōu)勢,顯著提升了模型運行效率。通過后摩智能存算一體芯片與DeepSeek模型的架構(gòu)級協(xié)同,不僅驗證了國產(chǎn)技術(shù)棧的完整競爭力,更創(chuàng)造了AI普惠化的中國范式——讓每瓦特算力都能承載最前沿的智能。

全球AI大模型賽道進入戰(zhàn)略窗口期,DeepSeek通過模型創(chuàng)新構(gòu)建輕量化智能基座,后摩智能的存算一體芯片則以物理級能效突破重構(gòu)計算邊界。這種從底層芯片到頂層模型的顛覆式創(chuàng)新,必將催生大模型落地新定律,期待國產(chǎn)技術(shù)組合能夠“改寫天命”,開辟出超越摩爾定律的進化路徑。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • AI
    AI
    +關(guān)注

    關(guān)注

    87

    文章

    31601

    瀏覽量

    270403
  • 后摩智能
    +關(guān)注

    關(guān)注

    0

    文章

    26

    瀏覽量

    1249
  • DeepSeek
    +關(guān)注

    關(guān)注

    1

    文章

    96

    瀏覽量

    25

原文標題:開源破局 x 低功耗守護 : Deepseek與存算一體如何演繹AI界的"哪吒鬧海"?

文章出處:【微信號:后摩智能,微信公眾號:后摩智能】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏

    評論

    相關(guān)推薦

    DeepSeek-R1本地部署指南,開啟你的AI探索之旅

    R1 2025.01.20 DeepSeek-R1 發(fā)布,DeepSeek R1DeepSeek AI 開發(fā)的第一代推理
    的頭像 發(fā)表于 02-08 10:30 ?80次閱讀
    <b class='flag-5'>DeepSeek-R1</b>本地部署指南,開啟你的AI探索之旅

    deepin UOS AI接入DeepSeek-R1模型

    DeepSeek-R1 模型自發(fā)布以來吸引了眾多用戶關(guān)注,為了讓 deepin 用戶更好地體驗這一前沿技術(shù),UOS AI 現(xiàn)已適配接入 DeepSeek-R1 端側(cè)
    的頭像 發(fā)表于 02-08 09:52 ?61次閱讀

    在龍芯3a6000上部署DeepSeek 和 Gemma2大模型

    serve 2.運行deepseek-r1模型 到以下網(wǎng)站選擇不同參數(shù)的大模型 https://ollama.com/library/deepseek-r1 新開一個終端執(zhí)行如下
    發(fā)表于 02-07 19:35

    芯動力神速適配DeepSeek-R1模型,AI芯片設(shè)計邁入“快車道”!

    近期,國產(chǎn)大模型 DeepSeek-R1橫空出世,迅速成為AI領(lǐng)域的焦點。 芯動力在24小時內(nèi)完成了與DeepSeek-R1模型適配
    的頭像 發(fā)表于 02-07 16:55 ?108次閱讀
    芯動力神速<b class='flag-5'>適配</b><b class='flag-5'>DeepSeek-R1</b>大<b class='flag-5'>模型</b>,AI<b class='flag-5'>芯片</b>設(shè)計邁入“快車道”!

    DeepSeek-R1全尺寸版本上線Gitee AI

    DeepSeek 全套蒸餾模型以及 V3 版本上線,經(jīng)過 Gitee AI 和沐曦團隊兩天緊鑼密鼓的適配和機器籌備,DeepSeek-R1
    的頭像 發(fā)表于 02-07 15:25 ?208次閱讀

    網(wǎng)易有道全面接入DeepSeek-R1模型

    近日,網(wǎng)易有道宣布了一個重要決定,即全面接入DeepSeek-R1模型。這一舉措標志著網(wǎng)易有道在AI技術(shù)方面邁出了重要一步,將為用戶帶來更加智能化、個性化的學(xué)習(xí)體驗。 據(jù)悉,網(wǎng)易有道將以
    的頭像 發(fā)表于 02-07 14:42 ?280次閱讀

    原生鴻蒙版小藝App上架DeepSeek-R1, AI智慧體驗更豐富

    2月5日,HarmonyOS NEXT的小藝 App正式上架DeepSeek-R1 Beta版,幫助消費者在代碼編寫、數(shù)學(xué)計算、邏輯推理等方面提供智能問詢服務(wù)。華為小藝上架的DeepSeek-R1
    的頭像 發(fā)表于 02-07 13:24 ?77次閱讀

    DeepSeek-R1實現(xiàn)自動生成Manim動畫

    ? 作者:算力魔方創(chuàng)始人/英特爾創(chuàng)新大使劉力 前面我們分享了在本地運行能與OpenAI-o1 能力相媲美的DeepSeek-R1 模型。本文將介紹如何使用DeepSeek-R1實現(xiàn)自動
    的頭像 發(fā)表于 02-07 12:31 ?518次閱讀
    用<b class='flag-5'>DeepSeek-R1</b>實現(xiàn)自動生成Manim動畫

    鯤云科技AI芯片CAISA 430成功適配DeepSeek R1模型

    鯤云科技全新一代的可重構(gòu)數(shù)據(jù)流 AI 芯片 CAISA 430 成功適配 DeepSeek R1 蒸餾
    的頭像 發(fā)表于 02-07 09:57 ?284次閱讀
    鯤云科技AI<b class='flag-5'>芯片</b>CAISA 430<b class='flag-5'>成功</b><b class='flag-5'>適配</b><b class='flag-5'>DeepSeek</b> <b class='flag-5'>R1</b><b class='flag-5'>模型</b>

    靈汐KA200芯片完成DeepSeek-R1系列模型適配

    節(jié)后開工第一天,靈汐科技團隊聯(lián)合類腦技術(shù)社區(qū)(“腦啟社區(qū)“)的開發(fā)者,僅用半天時間就完成了DeepSeek-R1系列模型在靈汐KA200芯片及相關(guān)智算卡的
    的頭像 發(fā)表于 02-06 15:40 ?221次閱讀

    云天勵飛上線DeepSeek R1系列模型

    -Distill-Llama-70B大模型DeepSeek V3/R1 671B MoE大模型也在有序適配中。
    的頭像 發(fā)表于 02-06 10:39 ?150次閱讀
    云天勵飛上線<b class='flag-5'>DeepSeek</b> <b class='flag-5'>R1</b><b class='flag-5'>系列</b><b class='flag-5'>模型</b>

    中軟國際JointPilot平臺上線DeepSeek-R1模型

    析)人工智能應(yīng)用平臺成功接入DeepSeek-R1模型,為企業(yè)提供更加豐富、高效的大模型應(yīng)用場景落地服務(wù)。
    的頭像 發(fā)表于 02-06 09:55 ?259次閱讀

    對標OpenAI o1,DeepSeek-R1發(fā)布

    今天,我們正式發(fā)布 DeepSeek-R1,并同步開源模型權(quán)重。 DeepSeek-R1 遵循 MIT License,允許用戶通過蒸餾技術(shù)借助 R1 訓(xùn)練其他
    的頭像 發(fā)表于 01-22 13:46 ?453次閱讀
    對標OpenAI o<b class='flag-5'>1</b>,<b class='flag-5'>DeepSeek-R1</b>發(fā)布

    智能推出邊端大模型AI芯片M30,展現(xiàn)出存算一體架構(gòu)優(yōu)勢

    電子發(fā)燒友網(wǎng)報道(文/李彎彎)近日,智能推出基于存算一體架構(gòu)的邊端大模型AI芯片——
    的頭像 發(fā)表于 07-03 00:58 ?4373次閱讀

    智能引領(lǐng)AI芯片革命,推出邊端大模型AI芯片M30

    的技術(shù)實力,推出了基于存算一體架構(gòu)的邊端大模型AI芯片——??
    的頭像 發(fā)表于 06-28 15:13 ?762次閱讀
    主站蜘蛛池模板: 久久精品国产免费看久久精品 | 日本不卡在线观看免费v | 午夜剧场黄 | 日本三级香港三级人妇99 | 人人看人人做人人爱精品 | 日日夜夜精品 | 国内精品久久久久影院薰衣草 | 日本三级2018亚洲视频 | 美女被免网站在线视频 | 操操操操网 | 五月婷婷久久综合 | 国产亚洲精品久久久久久午夜 | 天天狠天天操 | h版欧美一区二区三区四区 h网站亚洲 | 日韩在线视频免费观看 | 久久福利精品 | 久久精品国波多野结衣 | 国产精品国产主播在线观看 | 小雪被老外黑人撑破了视频 | 福利片第一页 | 国产精品看片 | 免费高清一级欧美片在线观看 | 中文字幕一区二区三区5566 | 国产中文99视频在线观看 | 国产成人教育视频在线观看 | 五月婷婷六月爱 | 成人99国产精品一级毛片 | 久久天天躁狠狠躁狠狠躁 | 四虎影院在线观看网站 | 久久精品人人做人人看 | 狠狠操狠狠插 | 天天干天天玩天天操 | 日日射天天射 | 国内自拍 亚洲系列 欧美系列 | 婷婷激情狠狠综合五月 | 国产在线干 | 免费永久视频 | 亚洲成在人线影视天堂网 | 一区二区三区四区国产精品 | 久久免费香蕉视频 | 中文字幕一区二区三区不卡 |