在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

Arm CPU適配通義千問Qwen3系列模型

Arm社區 ? 來源:Arm社區 ? 2025-05-12 16:37 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

近日,阿里巴巴開源了新一代通義千問模型 Qwen3,Arm 率先成為首批成功適配該模型的計算平臺廠商。與此同時,Arm 面向人工智能 (AI) 框架開發者的開源計算內核 Arm KleidiAI 與阿里巴巴開源的輕量級深度學習框架 MNN 已深度集成。得益于此,Qwen3-0.6B、Qwen3-1.7B 及 Qwen3-4B 三款模型能夠在搭載 Arm 架構 CPU 的移動設備上無縫運行,為用戶提供卓越的端側 AI 推理能力。

作為阿里巴巴最新開源的混合推理模型,Qwen3 在 AIME、LiveCodeBench 等權威評測集上斬獲了同尺寸開源模型 SOTA。其中,Qwen3-0.6B、Qwen3-1.7B、Qwen3-4B 等三款模型兼具低功耗和高性能等優勢,非常適合在移動端進行部署。

在 AI 模型快速迭代、日新月異的當下,開發者亟需一個具備可擴展性的通用技術底座,以便高效利用每一個新模型的優勢。作為業界性能最強、能效最高的計算平臺,Arm 為開發者提供了無縫優化其 AI 工作負載所需的卓越性能、能效、靈活性和可擴展性。Arm CPU 能滿足不斷發展的 AI 工作負載需求,是開發者的理想之選,它不僅能在模型推出時迅速實現適配與支持,還能隨著模型的演進,通過 Arm 異構計算策略與 GPU、加速器及網絡技術的共生協作,實現 AI 系統的最佳優化。在此次阿里 Qwen3 模型推出后,運行結果顯示,Qwen3-0.6B、Qwen3-1.7B 及 Qwen3-4B 三款模型在基于 Arm 架構 CPU 的移動設備上,運行和響應速度大幅提升,為終端用戶帶來了極致的 AI 推理能力。

雙方圍繞千問大模型持續緊密合作,今年三月,Arm 與阿里巴巴淘天集團在搭載基于 Arm Cortex-X925 的旗艦移動系統級芯片 (SoC) 的智能設備上,通過 KleidiAI 與 MNN 的集成,模型預填充(指 AI 模型在生成響應之前先對提示詞輸入進行處理)性能提升了 57%,以及解碼(指處理提示詞后從 AI 模型生成文本的過程)性能提升了 28%。這一性能提升,使得運行在搭載 Arm CPU 上的通義千問 Qwen2-VL-2B-Instruct,其端側多模態 AI 工作負載的性能顯著增進,帶來全新的用戶體驗!

展望未來,Arm 也將一如既往助力開發者在端側設備上提供更加復雜的多模態體驗,為新一輪智能計算浪潮奠定堅實基礎,在 AI 的不斷演進中,實現體驗的持續躍升!

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • ARM
    ARM
    +關注

    關注

    134

    文章

    9337

    瀏覽量

    376097
  • cpu
    cpu
    +關注

    關注

    68

    文章

    11062

    瀏覽量

    216454
  • 阿里巴巴
    +關注

    關注

    7

    文章

    1637

    瀏覽量

    48152
  • 模型
    +關注

    關注

    1

    文章

    3504

    瀏覽量

    50194

原文標題:Arm CPU 精準適配阿里 Qwen3 開源模型,實現卓越端側 AI 推理能力

文章出處:【微信號:Arm社區,微信公眾號:Arm社區】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    廣和通加速通義Qwen3在端側全面落地

    6月,廣和通宣布:率先完成通義Qwen3系列混合推理模型在高通QCS8550平臺端側的
    的頭像 發表于 06-25 15:35 ?157次閱讀

    壁仞科技完成Qwen3旗艦模型適配

    近日,在高效適配Qwen3系列模型推理后,壁仞科技宣布完成旗艦版Qwen3-235B-A22B模型
    的頭像 發表于 05-16 16:23 ?347次閱讀

    Intel OpenVINO? Day0 實現阿里通義 Qwen3 快速部署

    本文將以 Qwen3-8B 為例,介紹如何利用 OpenVINO 的 Python API 在英特爾平臺(GPU, NPU)Qwen3 系列模型
    的頭像 發表于 05-11 11:36 ?748次閱讀
    Intel OpenVINO? Day0 實現阿里<b class='flag-5'>通義</b> <b class='flag-5'>Qwen3</b> 快速部署

    NVIDIA RTX 5880 Ada與Qwen3系列模型實測報告

    近日,阿里巴巴通義團隊正式推出新一代開源大語言模型——Qwen3 系列,該
    的頭像 發表于 05-09 15:05 ?801次閱讀
    NVIDIA RTX 5880 Ada與<b class='flag-5'>Qwen3</b><b class='flag-5'>系列</b><b class='flag-5'>模型</b>實測報告

    NVIDIA使用Qwen3系列模型的最佳實踐

    阿里巴巴近期發布了其開源的混合推理大語言模型 (LLM) 通義 Qwen3,此次 Qwen3
    的頭像 發表于 05-08 11:45 ?1014次閱讀
    NVIDIA使用<b class='flag-5'>Qwen3</b><b class='flag-5'>系列</b><b class='flag-5'>模型</b>的最佳實踐

    MediaTek天璣9400率先完成阿里Qwen3模型部署

    通義模型團隊在天璣 9400 旗艦移動平臺上率先完成 Qwen3 3)的端側部署。未來,
    的頭像 發表于 05-08 10:11 ?426次閱讀

    后摩智能NPU適配通義Qwen3系列模型

    近日,阿里云重磅推出Qwen3 系列開源混合推理模型。用時不到1天,后摩智能自研NPU迅速實現Qwen3 系列
    的頭像 發表于 05-07 16:46 ?471次閱讀

    寒武紀率先支持Qwen3系列模型

    近日,阿里Qwen團隊一口氣上新8大模型Qwen3正式發布并全部開源。
    的頭像 發表于 05-07 15:51 ?346次閱讀

    在openEuler上基于vLLM Ascend部署Qwen3

    近日,阿里巴巴正式發布新一代Qwen大語言模型系列Qwen3Qwen3-MoE),在模型規模
    的頭像 發表于 05-07 14:44 ?532次閱讀
    在openEuler上基于vLLM Ascend部署<b class='flag-5'>Qwen3</b>

    幾B都有!BM1684X一鍵適配系列Qwen3

    Qwen3發布,大小尺寸通吃Qwen3一發布,登頂開源大模型排行榜!235B、32B、8B、4B、1.7B云邊端全尺寸模型,BF16和FP8兩種精度,一次性發布,無論云端大卡還是邊緣A
    的頭像 發表于 04-30 18:37 ?481次閱讀
    幾B都有!BM1684X一鍵<b class='flag-5'>適配</b>全<b class='flag-5'>系列</b><b class='flag-5'>Qwen3</b>

    上新:小米首個推理大模型開源 馬斯克:下周推出Grok 3.5

    似乎國內外AI競爭日趨白熱化,就在阿里巴巴發布Qwen3通義3)之后,引發業界廣泛關注;很多大廠在跟進,大
    的頭像 發表于 04-30 16:08 ?739次閱讀

    壁仞科技完成阿里巴巴通義Qwen3系列模型支持

    4月29日,阿里巴巴通義發布并開源8款新版Qwen3系列“混合推理模型”(簡稱“
    的頭像 發表于 04-30 15:19 ?659次閱讀

    阿里通義代碼模型系列開源

    近日,阿里云通義模型團隊宣布了一項重大決策:將通義代碼模型
    的頭像 發表于 11-14 15:26 ?925次閱讀

    通義三款主力模型再降價

    阿里云百煉平臺再次掀起降價風暴,三款通義主力模型——Qwen-Turbo、Qwen-Plus
    的頭像 發表于 09-20 16:46 ?1490次閱讀

    通義發布第二代視覺語言模型Qwen2-VL

    阿里巴巴旗下的通義近日宣布,其第二代視覺語言模型Qwen2-VL正式問世,并宣布旗艦模型
    的頭像 發表于 09-03 16:31 ?828次閱讀
    主站蜘蛛池模板: 四虎院影永久在线观看 | 最新欧美伦理网 | 国产精品欧美激情在线播放 | 一区二区三区影视 | 日本黄色大片在线观看 | 国产在线五月综合婷婷 | 综合免费一区二区三区 | 中日韩精品视频在线观看 | 免费看黄色片的软件 | 亚洲影院手机版777点击进入影院 | 69色视频| 伊人色婷婷综在合线亚洲 | 国产破苞合集 magnet | 亚洲男人的天堂久久香蕉网 | 香港日本三级在线播放 | 日本三级带日本三级带黄首页 | 国产激爽大片在线播放 | 国产黄大片在线观看 | 午夜爽爽爽 | 天堂网在线最新版www | 国产v精品成人免费视频400条 | 亚洲电影一区二区三区 | 日韩色爱 | 在线精品一区二区三区 | 色老头影院 | 国产香蕉75在线播放 | 可以免费看黄色的网站 | 中文字幕欧美日韩 | 操人网站 | 亚洲黄色三级网站 | 天天插天天 | 五月sese | 夜恋秀场欧美成人影院 | 色中色综合网 | 色香色香欲天天天影视综合网 | 啪啪网站色大全免费 | 天堂精品视频 | 四虎精品成人a在线观看 | 五月激情六月丁香 | 亚洲精品欧洲久久婷婷99 | dy888午夜秋霞影院不卡 |