在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

鯤云科技AI芯片CAISA 430成功適配DeepSeek R1模型

鯤云科技 ? 來源:鯤云科技 ? 2025-02-07 09:57 ? 次閱讀

鯤云科技全新一代的可重構數據流 AI 芯片 CAISA 430 成功適配 DeepSeek R1 蒸餾模型推理,這一創新舉措為大模型應用的高效部署帶來了全新的解決方案,標志著可重構數據流 AI 技術與大模型融合發展的又一重要里程碑,也展示了鯤云科技的可重構數據流技術的技術通用性和生態友好。

全新一代可重構數據流 AI 芯片 CAISA 430

此次適配的 CAISA 430 芯片是鯤云科技基于第四代可重構數據流架構技術研發,于 2023 年底回片,并于 2024 年實現量產,相較于上一代產品,其實測性能、通用性等關鍵指標實現了跨越性提升。該芯片采用國內成熟的 12nm 制程工藝生產,端到端芯片利用率最高可達 90%,有效算力指標表現突出。此外,憑借鯤云自主研發的 RainBuilder 編譯工具鏈,CAISA 430 支持所有常用的 AI 算子和算法模型,展現出強大的通用性,可以滿足不同深度學習算法的推理需求。

7af83a84-e475-11ef-9310-92fbcf53809c.png

▲ Rainbuilder 編譯工具鏈

鯤云科技基于 CAISA 芯片推出了一系列 AI 算力產品,包括面向邊緣端、數據中心進行深度學習推斷的 AI 專用計算加速的星空加速卡 X3、X3A、N460H,面向低算力場景的星空 X6A、N430S/P/E 邊緣小站,以及基于星空加速卡系列推出的智能計算服務器等,為計算機視覺、語音語義及大模型應用提供高性能、低延時、高算力性價比的 AI 算力支持。

高效適配,為 DeepSeek R1 推理提供底層 AI 算力支持

DeepSeek R1 作為一款先進的推理模型,基于 Transformer 架構,其參數規模龐大,對硬件的計算能力和內存容量提出了極高要求。CAISA 430 芯片憑借其高算力性價比和強大的通用性,能夠為 DeepSeek R1 推理提供有力支持。CAISA 430 的高芯片利用率確保了在處理大規模模型時能夠充分利用硬件資源,減少計算資源的浪費,從而提高推理效率。同時,CAISA 430 的可重構數據流架構能夠根據 DeepSeek R1模型的特點進行動態配置,生成面向該模型的高性能定制化流水線,進一步優化推理性能。

7b11bcd4-e475-11ef-9310-92fbcf53809c.png

▲ DeepSeek R1 Llama 8B模型在RainBuilder上編譯過程圖示

鑒于 CAISA 430 強大的通用性,原生支持 DeepSeek R1 蒸餾模型的開源基礎模型,DeepSeek R1 的QWen和 Llama 模型可直接在 CAISA 430 上運行,不需要復雜的適配工作,技術團隊主要進行了精度驗證和性能優化,適配模型包括已發布的 DeepSeek-R1-Distill-Qwen-1.5B、DeepSeek-R1-Distill-Qwen-7B、DeepSeek-R1-Distill-Qwen-14B、DeepSeek-R1-Distill-Qwen-32B、DeepSeek-R1-Distill-Llama-8B、DeepSeek-R1-Distill-Llama-70B。

7b2d1b28-e475-11ef-9310-92fbcf53809c.png

▲ DeepSeek R1 Llama 8B模型運行圖示

大模型友好:助力 AI 應用高效部署,加速人工智能落地

在大模型時代,如何高效地部署和運行這些模型成為了一個關鍵問題。CAISA 430 芯片的適配為 DeepSeek R1 推理提供了更加靈活和高效的解決方案,能夠為不同規模和需求的 AI 項目提供底層算力支持。

高精度和強大推理能力的應用場景,CAISA 430 能夠充分發揮其高實測性能的優勢,滿足 DeepSeek R1 模型的計算需求。

對資源有限的應用場景,CAISA 430 的通用性和可重構性讓用戶可以根據實際情況對模型進行優化和調整,降低硬件資源的消耗。

基于可重構數據流架構底層優勢,適配后的CAISA430芯片算力產品的優勢主要體現在:

產品形態多樣:支持邊緣盒子、一體機、AI 服務器、算力中心服務器集群等邊緣至中心不同產品形態,適配不客戶不同場景的AI推理需求;

適配算法豐富:配套的星云 AI 開發平臺支持超過 400 種視覺模型、視覺大模型、大語言模型等算法模型,可靈活搭配按需使用,無論是復雜的視覺識別任務還是大規

模的語言處理應用,都能高效運行;

行業方案落地:配套的星空系列算力平臺,提供深入行業、滿足行業需求的 AI 解決方案,當前已落地覆蓋超過 30 個行業,幫助客戶加速落地智能化項目。

截止到目前,CAISA 系列芯片產品已服務上千客戶,落地 5000+項目,實現規模化的業務落地,充分驗證了商業可行性。

CAISA 芯片在短時間內快速完成DeepSeek R1 大模型適配,充分展示了 CAISA 系列可重構數據流架構芯片在高算力利用率的同時,可以做到對于深度學習算法的通用、便捷、快速支持,體現了 CAISA 芯片與工具鏈經過 4 代架構迭代后的深厚積累。未來,鯤云科技將沿著 CAISA 創新架構的全新技術路線,提供下一代計算平臺基座,加速千行百業人工智能產品落地。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • AI
    AI
    +關注

    關注

    88

    文章

    34421

    瀏覽量

    275772
  • 鯤云科技
    +關注

    關注

    0

    文章

    48

    瀏覽量

    4039
  • DeepSeek
    +關注

    關注

    1

    文章

    783

    瀏覽量

    1430

原文標題:鯤云科技CAISA 430適配DeepSeek R1推理,開啟高效AI應用新時代

文章出處:【微信號:鯤云科技,微信公眾號:鯤云科技】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦
    熱點推薦

    ORinNano離線部署Deepseek R1模型教程

    ORinNano離線部署Deepseek R1模型教程
    的頭像 發表于 04-10 15:32 ?339次閱讀
    ORinNano離線部署<b class='flag-5'>Deepseek</b> <b class='flag-5'>R1</b>大<b class='flag-5'>模型</b>教程

    研華發布昇騰AI Box及Deepseek R1模型部署流程

    。這一舉措標志著研華在AI邊緣計算領域邁出了重要一步。 研華邊緣AI Box MIC-ATL3S依托昇騰芯片的強大異構計算能力,結合研華在邊緣計算領域的高可靠特點,為用戶提供了高效、穩定的AI
    的頭像 發表于 02-19 10:41 ?681次閱讀

    安霸大算力AI芯片接入DeepSeek R1

    安霸(Ambarela)在人工智能領域持續發力,已成功在多款 AI 芯片,包括 N 系列大算力 AI 芯片上本地部署了
    的頭像 發表于 02-17 13:36 ?465次閱讀

    景嘉微JM11 GPU已流片,JM、景宏系列完成DeepSeek R1系列模型適配

    電子發燒友網綜合報道,近日,景嘉微JM系列、景宏系列與DeepSeek R1系列成功適配,進一步推動 DeepSeek
    發表于 02-15 00:01 ?2077次閱讀
    景嘉微JM11 GPU已流片,JM、景宏系列完成<b class='flag-5'>DeepSeek</b> <b class='flag-5'>R1</b>系列<b class='flag-5'>模型</b><b class='flag-5'>適配</b>

    研華邊緣AI Box MIC-ATL3S部署Deepseek R1模型

    隨著深度求索(DeepSeek)大模型的發布引發行業熱議,研華科技基于昇騰Atlas平臺邊緣AI Box MIC-ATL3S正式發布與Deepseek
    的頭像 發表于 02-14 16:08 ?1222次閱讀
    研華邊緣<b class='flag-5'>AI</b> Box MIC-ATL3S部署<b class='flag-5'>Deepseek</b> <b class='flag-5'>R1</b><b class='flag-5'>模型</b>

    了解DeepSeek-V3 和 DeepSeek-R1兩個大模型的不同定位和應用選擇

    DeepSeek-V3 和 DeepSeek-R1 是深度求索公司(DeepSeek)推出的兩個不同定位的大模型,其核心差異主要體現在目標場景、能力側重和技術優化方向上。以下是二者的實
    發表于 02-14 02:08

    超星未來驚蟄R1芯片適配DeepSeek-R1模型

    日前,超星未來研發團隊成功完成了驚蟄R1芯片DeepSeek-R1模型適配工作,實現了與用戶
    的頭像 發表于 02-13 14:05 ?573次閱讀

    景嘉微與DeepSeek系列成功適配,拓展邊端應用

    近日,國內領先的芯片設計企業景嘉微宣布,其JM系列、景宏系列芯片成功適配DeepSeek R1
    的頭像 發表于 02-12 14:32 ?765次閱讀

    景嘉微完成DeepSeek R1系列模型適配

    景嘉微JM系列、景宏系列與DeepSeek R1系列的成功適配,進一步推動 DeepSeek
    的頭像 發表于 02-12 14:03 ?500次閱讀

    Deepseek R1模型離線部署教程

    DeepSeek-R1,是幻方量化旗下AI公司深度求索(DeepSeek)研發的推理模型DeepSeek-R1采用強化學習進行后訓練,旨
    的頭像 發表于 02-12 09:37 ?1634次閱讀
    <b class='flag-5'>Deepseek</b> <b class='flag-5'>R1</b>大<b class='flag-5'>模型</b>離線部署教程

    Gitee AI 聯合沐曦首發全套 DeepSeek R1 千問蒸餾模型,全免費體驗!

    模型相比,較小尺寸的 DeepSeek 蒸餾版本模型 更適合企業內部實施部署,可以極大的降低落地成本 。 同時,這次 Deepseek R1
    的頭像 發表于 02-10 09:56 ?619次閱讀
    Gitee <b class='flag-5'>AI</b> 聯合沐曦首發全套 <b class='flag-5'>DeepSeek</b> <b class='flag-5'>R1</b> 千問蒸餾<b class='flag-5'>模型</b>,全免費體驗!

    AIBOX 全系產品已適配 DeepSeek-R1

    國產AI模型DeepSeek以出色的性價比和高效的模型技術,迅速成為全球AI關注的焦點。Firefly開源團隊率先實現AIBOX系列產品對
    的頭像 發表于 02-08 17:30 ?516次閱讀
    AIBOX 全系產品已<b class='flag-5'>適配</b> <b class='flag-5'>DeepSeek-R1</b>

    扣子平臺支持DeepSeek R1與V3模型

    近日,新一代AI應用搭建平臺“扣子”宣布了一項重要更新,即正式支持DeepSeekR1和V3模型,并向廣大用戶開放免費體驗。 扣子平臺一直以來都致力于為用戶提供便捷、高效的
    的頭像 發表于 02-08 13:42 ?992次閱讀

    后摩漫界M30芯片成功適配DeepSeek-R1系列模型

    DeepSeek開源模型的熱度席卷全球,其高效性和易用性正在成為推動AI技術普惠化的重要力量。后摩智能作為國產存算一體AI芯片的領軍企業,自
    的頭像 發表于 02-08 10:42 ?792次閱讀

    云天勵飛上線DeepSeek R1系列模型

    -Distill-Llama-70B大模型DeepSeek V3/R1 671B MoE大模型也在有序適配中。
    的頭像 發表于 02-06 10:39 ?595次閱讀
    云天勵飛上線<b class='flag-5'>DeepSeek</b> <b class='flag-5'>R1</b>系列<b class='flag-5'>模型</b>
    主站蜘蛛池模板: 黄色大秀 | 午夜影视啪啪免费体验区入口 | 日本黄色高清视频网站 | 欧美hhh | 欧美一区二区三区综合色视频 | 亚洲视频精选 | 亚洲午夜一区 | 亚洲欧美在线视频免费 | www日本黄色| 欧美三级在线 | 午夜毛片免费看 | 婷婷操| 免费色黄网站 | 中国农村一级片 | 免费看片免 | 高清激情小视频在线观看 | 欧美三级影院 | 午夜.dj高清在线观看免费8 | 午夜影视剧场 | 国产午夜免费一区二区三区 | 国产精品虐乳在线播放 | 欧美成网 | 亚洲伊人久久大香线蕉结合 | 一级片a级片 | 最近2018中文字幕2019视频 | 欧美最猛性xxxx高清 | 美女视频一区二区三区在线 | 你懂得在线网址 | 日韩综合图区 | 男人天堂bt| 五月婷丁香| 99久久婷婷国产综合精品电影 | 久久国产午夜精品理论篇小说 | 亚洲美女爱爱 | 午夜日| 天天做天天爱天天一爽一毛片 | 在线视频亚洲欧美 | 美国bj69video18| 人阁色第四影院在线观看 | 老师在办公室被躁得舒服小说 | 性福利视频 |