在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

RISC-V新CPU為端側大模型落地應用提供新范式

RISCV國際人才培養認證中心 ? 2024-11-20 01:08 ? 次閱讀

縱觀歷史,但凡能夠大幅提升生產力的技術必將大規模應用并深刻改變社會發展進程。以大模型為代表的新AI第一次使智能體具備了主動學習和泛化能力,為生產力的發展帶來質的飛躍,未來數字世界和物理世界的絕大多數事物都將接入大模型新AI,進行智能化升級,引發新一輪工業革命。

互聯網和移動互聯網的發展歷史表明,越貼近用戶,其應用場景越大,產業價值越高。大模型最大的應用場景在終端和邊緣端。未來所有的終端和邊緣端設備都值得用大模型重新做一遍,為數十萬億規模的電子信息制造業提供增量市場和高質量發展的機遇。

大模型需要在資源有限的終端設備上高效運行,對芯片的AI部署通用性、易用性、經濟性等提出了更高的要求。進迭時空的實踐表明,RISC-V作為開源開放的下一代計算架構,以通用CPU核為基礎,結合少量DSA定制和大量微架構創新,不僅具備完整CPU功能,更擁有強大的原生AI算力,可以為端側大模型落地應用提供全新的解決方案。

1

RISC-V新CPU提供強大的AI通用性

進迭時空SpacemiT Key StoneK1憑借其開放性和可編程性,能夠輕松接入ONNXRuntime等主流開源生態。這一特性不僅降低了部署大量現有AI模型的門檻,還天然支持了timm、onnx modelzoo、ppl modelzoo等開源模型倉庫的模型,以及所有的公開onnx模型。這意味著,無論是傳統的小模型還是當下火熱的大模型,如qwen系列、llama系列、minicpm系列、phi系列、chatglm系列、gemma系列等,都能在這款AI CPU上得到高效支持。

尤其是,進迭時空SpacemiT Key StoneK1的原生AI算力具有極強的可編程性,支持主流低bit量化方式,從而極大地降低了大模型的帶寬需求。K1芯片運行主流的5億參數大模型可以實現每秒20個token的優異性能。

2

RISC-V新CPU提供強大的AI便捷性

借助主流開源生態,進迭時空不僅擴充了模型倉庫,還實現了低成本的遷移ONNXRuntime生態中的各種案例。此外,通過云端通用AI助手,用戶只需通過自然語言描述,即可實現AI部署。由于AI CPU支持全集ONNX算子,用戶只需修改模型路徑和攝像頭設備號,即可成功進行部署,極大地簡化了操作流程。

3

RISC-V新CPU構建本地大模型推理應用

進迭時空在SpacemiT Key StoneK1芯片上構建了以通義千問(qwen2.5-1.5B-coder)為基礎的本地AI助手。借助本地AI助手,用戶可以通過自然語言描述實現AI部署,無需依賴網絡連接,進一步提升了AI應用的便捷性和安全性。



未來,進迭時空將繼續堅持RISC-V+AI技術路線,通過技術創新帶來更具競爭力的解決方案,為大模型在終端和邊緣端的普及提供強有力的支持。


來源:進迭時空

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • cpu
    cpu
    +關注

    關注

    68

    文章

    11015

    瀏覽量

    215354
  • RISC-V
    +關注

    關注

    46

    文章

    2463

    瀏覽量

    48087
  • 大模型
    +關注

    關注

    2

    文章

    2959

    瀏覽量

    3700
收藏 人收藏

    評論

    相關推薦
    熱點推薦

    大象機器人攜手進迭時空推出 RISC-V 全棧開源六軸機械臂產品

    識別聯調。 進迭時空致力于智能機器人提供完整全棧優化的RISC-V AI軟硬件解決方案,第一代RISC-V AI CPU芯片K1已完成A
    發表于 04-25 17:59

    AI、數據中心,RISC-V已“上桌”

    應用。 ? 最近超睿科技發布了UR-DP1000高性能桌面級RISC-V CPU,這款CPU擁有8個高性能自研RISC-V處理器核UR-CP100,12nm工藝下工作頻率2.0~2.3
    的頭像 發表于 03-21 00:04 ?1398次閱讀

    SiFive 推出高性能 Risc-V CPU 開發板 HiFive Premier P550

    一波 RISC-V 開發浪潮。P550 Premier 采用 ESWIN EIC7700X SoC,配備四核 SiFive P550 64 位 OOO CPU 集群,開發人員提供了創
    的頭像 發表于 12-16 11:16 ?1366次閱讀
    SiFive 推出高性能 <b class='flag-5'>Risc-V</b> <b class='flag-5'>CPU</b> 開發板 HiFive Premier P550

    RISC-V指令集概述

    RISC-V就是RISC的第五代指令集架構。而RISC-V目標就是“成為一種完全開放的指令集架構,可被任何學術機構或商業組織自由使用”。 RISC-V指令集由“基本指令集 + 擴展指令
    發表于 11-30 23:30

    RISC-V,即將進入應用的爆發期

    RISC-V是一種開放標準指令集架構 (ISA),最初由加州大學伯克利分校的研究人員于2010年開發。業界稱,這種開源特性芯片設計者提供了極大的靈活性,可以根據具體需求定制AI加速器。 而AI
    發表于 10-31 16:06

    加入全球 RISC-V Advocate 行列,共筑 RISC-V 的未來 !

    加入RISC-VAdvocate行列!我們正在尋找來自世界各地的RISC-V愛好者,通過全球推廣和參與,成為支持RISC-V進步的關鍵參與者。作為一名RISC-VAdvocate,您將
    的頭像 發表于 09-10 08:08 ?728次閱讀
    加入全球 <b class='flag-5'>RISC-V</b> Advocate 行列,共筑 <b class='flag-5'>RISC-V</b> 的未來 !

    RISC-V Summit China 2024 青稞RISC-V+接口PHY,賦能RISC-V高效落地

    沁恒在歷屆峰會上分享RISC-V在MCU領域的創新成果,和大家共同見證了本土RISC-V產業的成長。早在第一屆RISC-V中國峰會上,沁恒就公開了青稞RISC-V系列量產芯片的關鍵技術
    的頭像 發表于 08-30 18:18 ?2048次閱讀
    <b class='flag-5'>RISC-V</b> Summit China 2024  青稞<b class='flag-5'>RISC-V</b>+接口PHY,賦能<b class='flag-5'>RISC-V</b>高效<b class='flag-5'>落地</b>

    RISC-V Summit China 2024 | 青稞RISC-V+接口PHY,賦能RISC-V高效落地

    裝,針對各式客戶量體裁衣。 07 免費專業開發環境 MRS讓RISC-V落地更省 沁恒重視廣大工程師群體,通過配套、完善RISC-V的開發工具,客戶
    發表于 08-30 17:37

    2024 RISC-V 中國峰會:華秋電子助力RISC-V生態!

    百家業界領先企業及頂尖研究機構的專家學者,吸引了約3000名開發者、學者及行業精英親臨現場。在峰會前后,還策劃了超過20場豐富多彩的同期活動,全球開發者提供了一個深入交流、碰撞思想、共謀RISC-V
    發表于 08-26 16:46

    Imagination CPU 系列研討會 | RISC-V 平臺的性能分析和調試

    為了讓開發者及工程師深入了解Imagination的CPU產品及相關解決方案,Imagination將陸續推出5期線上研討會,包含:RISC-V平臺的性能分析和調試;RISC-V安全和全球平臺可信
    的頭像 發表于 08-10 08:28 ?425次閱讀
    Imagination <b class='flag-5'>CPU</b> 系列研討會 | <b class='flag-5'>RISC-V</b> 平臺的性能分析和調試

    risc-v的發展歷史

    本的RISC-V指令集架構,即RISC-V v2.0。這個版本32位和64位的RISC-V架構定義了基本的指令集,并概述了未來的擴展指令集
    發表于 07-29 17:20

    建設進展 | 全球首家 RISC-V 開源創新中心落地深圳

    創新中心】應運而生,即將落地!【RISC-V開源創新中心】是全球首家RISC-V線下載體,致力于打造全球領先的開源芯片產業高地。中心以項目合作、政策申報、人才培訓、
    的頭像 發表于 07-25 08:36 ?754次閱讀
    建設進展 | 全球首家 <b class='flag-5'>RISC-V</b> 開源創新中心<b class='flag-5'>落地</b>深圳

    RISC-V國際人才培養認證中心蔣學剛主任參加RISC-V工作委員會應用調研活動

    進一步推動RISC-V應用示范和生態建設,加強成員單位間溝通交流,2024年7月2日與3日,RISC-V工委會組織在深圳、廣州兩地的成員單位開展調研活動,了解RISC-V領域應用
    的頭像 發表于 07-10 08:37 ?1004次閱讀
    <b class='flag-5'>RISC-V</b>國際人才培養認證中心蔣學剛主任參加<b class='flag-5'>RISC-V</b>工作委員會應用調研活動

    數字EDA賦能RISC-V落地演進技術研討會成功舉辦

    為了推動RISC-V技術的落地與演進, 國家集成電路設計深圳產業化基地攜手思爾芯 ,于2024年6月18日下午成功舉辦了“數字EDA賦能RISC-V落地演進技術研討會”。
    的頭像 發表于 06-20 11:15 ?913次閱讀

    RISC-V的MCU與ARM對比

    開發者提供了豐富的資源和支持,降低了開發難度和成本。 成本 RISC-V :由于RISC-V是開源的,因此使用RISC-V的MCU可以顯著降低芯片設計和制造的費用。此外,
    發表于 05-27 15:58
    主站蜘蛛池模板: 羞羞影院男女午夜爽爽影视 | 男女互插小说 | 俄罗斯一级特黄黄大片 | 国产成人无精品久久久久国语 | 大黄网站色多多 | 成年网站在线在免费播放 | 97国产精品人人爽人人做 | 男人操女人免费 | 免费人成在线观看视频播放 | 国产成人啪午夜精品网站男同 | 欧美日韩一区二区不卡 | 免费一级片视频 | 国产成人影院 | 免费h视频 | 99热久久久久久久免费观看 | 加勒比色综合 | 久久亚洲精品成人综合 | 午夜视频网站在线观看 | 亚洲日本中文字幕天天更新 | 不卡视频一区 | 玖玖爱这里只有精品 | 色噜噜狠狠色综合欧洲 | 亚洲wwwwww| 亚洲看黄| 亚洲第一视频区 | 9984四虎永久免费网站 | 国产精品www夜色影视 | 人人做天天爱夜夜爽中字 | 美女黄页网 | 五月天婷婷色综合 | 欧美最猛黑人xxxx黑人猛交69 | 美女扒开内裤无遮挡禁18 | 91成人免费视频 | 久久免| 四虎最新永久在线精品免费 | 欧美一级片在线视频 | 色网站免费| 手机精品视频在线观看免费 | 天天噜噜噜 | 2021国产精品午夜久久 | 天天操夜夜操天天操 |