在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

Arm Kleidi助力輕松加速AI工作負載

Arm社區 ? 來源:Arm社區 ? 2025-06-19 10:45 ? 次閱讀

正如 Arm 工程部軟件高級副總裁 Mark Hambleton 在《2025 年芯片新思維》報告中所說:人工智能 (AI) 的未來發展離不開軟硬件的協同。

然而,在由 Arm 贊助的新 CIO 報告中所述,開發者工作流程的碎片化限制了開發者創建和擴展新 AI 應用的速度,而這也是目前其所面臨的最大挑戰之一。

Arm 深知軟件對于釋放 AI 的真正潛力至關重要,因而從基礎架構和整個技術棧入手,致力于簡化 AI 開發流程,并支持新 AI 應用和工作負載實現無縫性能加速。

基礎架構

Arm 持續發展自身架構,作為軟硬件之間的重要接口。如今,從云端到邊緣側的廣泛市場中,Armv9 架構已成為智能手機、數據中心、高性能計算和汽車應用等領域的現代技術基礎。

Arm 不斷為最新的架構引入新的功能,例如此前推出的可伸縮矩陣擴展 (SME) 和可伸縮向量擴展 (SVE2),有助于在各類應用中加速生成式 AI 和常見機器學習 (ML) 工作負載。SME 借由在通用指令集中引入復雜矩陣處理能力,使開發者能夠在其 AI 應用中實現出眾性能,并無縫遷移到不同的生態系統。由此不僅擴大了運行 AI 工作負載的硬件范圍,還顯著提升了用戶體驗。

CPU 對開發者的價值

上述架構特性都集成到了 Arm 的 CPU 中,使之成為軟件開發者首選的目標平臺。因為 Arm CPU 廣泛應用于從云端到邊緣側的各種應用,適合作為大多數 AI 推理工作負載的直接目標平臺,被廣泛應用于數十億臺設備中,例如當今的智能手機,以及全球的云端和數據中心。通過選擇 Arm CPU 作為目標平臺,開發者能夠以更多類型的數據格式運行更廣泛的軟件,而無需為專用 NPU 開發多個版本的代碼。

CPU 為開發者提供了所需的一致性,避免了定制硬件解決方案所帶來的碎片化和效率低下。

正如 Hambleton 在《2025 年芯片新思維》報告中指出:AI 框架的互操作性是開發者的核心訴求。因此開發者通常默認選擇 CPU 后端,因為 CPU 的普遍性確保了更廣泛的兼容性。

此外,推動 AI 工作負載擴展的因素不僅限于架構的進步。

在 CIO 報告中,Arm 工程部機器學習工程副總裁 Nick Horne 表示,AI 已經從依賴云端的龐大模型演變為可在邊緣側或端側運行的更小、更高效的模型。他指出:如今,有些出色的模型可在你隨身攜帶的設備上運行并提供高質量的結果,某些情況下甚至能夠完全在 CPU 上運行。

對開源不變的承諾

Arm 與開源社區廣泛合作,致力于推動 AI 的普及,為開發者提供便捷途徑,使開發者能夠輕松獲取來自廣泛 Arm 生態系統合作伙伴的硬件,及時利用其中的最新架構特性和性能。

Horne 在 CIO 報告中強調了這一方法為開發者帶來的優勢。他指出:采用具有良好硬件抽象的開源 AI 框架,能夠顯著避免對靈活性的影響。

如此一來,開發者無需受限于特定硬件、云服務提供商或軟件平臺。

Kleidi 助力輕松加速 AI

Arm Kleidi 很好地體現了上述優勢的實際應用效果。Kleidi 提供開發者支持技術、資源和微內核庫,能夠為在 Arm CPU 上運行的模型輕松實現 AI 工作負載加速。由于 Kleidi 庫已集成到主流的開源 AI 框架和運行時中,包括 Google 的 MediaPipe、Meta 的 ExecuTorch 和 PyTorch、llama.cpp,騰訊的 Angel,以及阿里巴巴的 MNN。開發者無需額外工作即可獲得性能優化,從而節省時間、精力和成本。Kleidi 現已集成至 Arm 技術覆蓋的所有市場,包括移動端、云、數據中心、汽車和物聯網領域。

與行業領先的生態系統合作

從更廣泛的層面來看,Arm 通過行業領先的軟件生態系統,與眾多合作伙伴開展協作,致力于安全、大規模地部署 AI。例如,Arm 與 GitHub 就 GitHub Runners 項目開展合作,使開發者能夠更高效地在云端測試和部署訓練好的模型。近期,面向 GitHub CoPilot 的 Arm 擴展程序為開發者提供了完全集成的原生 Arm 工作流,包括準確的代碼生成、測試用例創建和錯誤修復功能。

此外,Arm 還通過各種舉措推動底層軟件和固件部署的簡化和加速,實現順暢的軟件開發。Linaro OneLab、Trusted Firmware 和 PSA Certified 等項目促進了各方協作,并為快速發展的邊緣側 AI 和高性能物聯網領域的安全軟件部署和支持提供了藍圖。在汽車行業,Arm 發起的面向嵌入式邊緣的可擴展開放架構 (SOAFEE) 致力于提供基于標準的框架,以實現軟件的規?;瘡陀茫瑥亩s短開發周期,滿足了軟件定義汽車 (SDV) 應用中對更多 AI 的空前需求,同時提升了駕駛體驗。

開放標準推動創新

最后,缺乏標準化實踐可能會阻礙創新,并可能在未來給開發者制造復雜難題。開放標準使開發者和研究人員可以在不同平臺之間無縫切換,同時專注于訓練、量化和部署,通過模型的持續創新創造價值。

借助軟件加速 AI 創新

為了讓 AI 技術充分發揮潛力,軟件開發流程需要簡化、加速并開放。Arm 技術及其生態系統通過專注于開放標準、硬件抽象并與不斷演變的框架保持兼容,助力實現面向未來的 AI 開發。開發者因而能夠在不同硬件上無縫創建和部署 AI 應用、模型和工作負載并提升性能,從而基于 Arm 平臺為 AI 時代打造更優質的軟件。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • ARM
    ARM
    +關注

    關注

    134

    文章

    9328

    瀏覽量

    375673
  • cpu
    cpu
    +關注

    關注

    68

    文章

    11054

    瀏覽量

    216269
  • AI
    AI
    +關注

    關注

    88

    文章

    34588

    瀏覽量

    276167

原文標題:選對運用軟件的方法,使 AI 創新如虎添翼

文章出處:【微信號:Arm社區,微信公眾號:Arm社區】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦
    熱點推薦

    Banana Pi 發布 BPI-AI2N & BPI-AI2N Carrier,助力 AI 計算與嵌入式開發

    架構,賦能多場景應用 BPI-AI2N 采用 RZ/V2N 處理器,集成 4 核 Arm? Cortex?-A55(1.8GHz)與 Cortex?-M33(200MHz),提供強勁的計算能力,同時兼顧
    發表于 03-19 17:54

    Oracle 與 NVIDIA 合作助力企業加速代理式 AI 推理

    Oracle 數據庫與 NVIDIA AI 相集成,使企業能夠更輕松、快捷地采用代理式 AI ? ? ? 美國加利福尼亞州圣何塞 —— GTC? —— 2025 年 3 月 18 日
    發表于 03-19 15:24 ?333次閱讀
    Oracle 與 NVIDIA 合作<b class='flag-5'>助力</b>企業<b class='flag-5'>加速</b>代理式 <b class='flag-5'>AI</b> 推理

    Arm Kleidi擴展到汽車市場 Arm Kleidi實現性能自動優化

    Arm 控股有限公司(納斯達克股票代碼:ARM,以下簡稱“Arm”)近日宣布將 Arm Kleidi 技術擴展到汽車市場。
    的頭像 發表于 03-14 15:36 ?974次閱讀

    Arm Cortex-A320 CPU助力嵌入式設備實現高能效AI計算

    Arm Cortex-A320 是目前最小型的 Armv9-A 架構 CPU。得益于該處理器的推出,開發者現在能有更多選擇決定如何處理物聯網邊緣人工智能 (AI) 工作負載。然而,面對
    的頭像 發表于 02-27 17:17 ?697次閱讀
    <b class='flag-5'>Arm</b> Cortex-A320 CPU<b class='flag-5'>助力</b>嵌入式設備實現高能效<b class='flag-5'>AI</b>計算

    Arm技術助力Google Axion處理器加速AI工作負載推理

    Arm Neoverse V2 平臺賦能的 Google Axion 處理器已在 Google Cloud 上正式上線,其中,C4A 是首款基于 Axion 的云虛擬機,為基于 CPU 的人工智能 (AI) 推理和通用云工作
    的頭像 發表于 02-14 14:11 ?447次閱讀
    <b class='flag-5'>Arm</b>技術<b class='flag-5'>助力</b>Google Axion處理器<b class='flag-5'>加速</b><b class='flag-5'>AI</b><b class='flag-5'>工作</b><b class='flag-5'>負載</b>推理

    HPC工作負載管理的關鍵要素

    HPC工作負載管理是一個復雜而精細的過程,涉及資源分配、作業調度、性能監控與優化以及故障處理與恢復等多個關鍵要素。下面,AI部落小編帶您了解HPC工作
    的頭像 發表于 02-08 09:53 ?292次閱讀

    亞馬遜云科技發布Amazon Q Developer,助力工作負載轉型

    在近日舉行的2024亞馬遜云科技re:Invent全球大會上,一項旨在加速大規模傳統工作負載轉型的新功能——Amazon Q Developer,正式亮相。這款功能強大的軟件開發生成式人工智能(
    的頭像 發表于 12-26 11:32 ?597次閱讀

    利用Arm Kleidi技術實現PyTorch優化

    PyTorch 是一個廣泛應用的開源機器學習 (ML) 庫。近年來,Arm 與合作伙伴通力協作,持續改進 PyTorch 的推理性能。本文將詳細介紹如何利用 Arm Kleidi 技術提升 A
    的頭像 發表于 12-23 09:19 ?959次閱讀
    利用<b class='flag-5'>Arm</b> <b class='flag-5'>Kleidi</b>技術實現PyTorch優化

    Arm KleidiAI助力提升PyTorch上LLM推理性能

    熱門的深度學習框架尤為突出,許多企業均會選擇其作為開發 AI 應用的庫。通過部署 Arm Kleidi 技術,Arm 正在努力優化 PyTorch,以
    的頭像 發表于 12-03 17:05 ?1420次閱讀
    <b class='flag-5'>Arm</b> KleidiAI<b class='flag-5'>助力</b>提升PyTorch上LLM推理性能

    Arm Neoverse如何加速實現AI數據中心

    在快速演進的云計算和人工智能 (AI) 時代,企業需要能助力其優化性能、降低成本并在市場競爭中保持領先的方法。Arm Neoverse 已成為眾多前沿企業的選擇,他們希望在推動創新的同時,能夠顯著
    的頭像 發表于 11-26 09:30 ?654次閱讀

    Arm推出GitHub平臺AI工具,簡化開發者AI應用開發部署流程

    專為 GitHub Copilot 設計的 Arm 擴展程序,可加速從云到邊緣側基于 Arm 平臺的開發。 Arm 原生運行器為部署云原生、Windows on
    的頭像 發表于 10-31 18:51 ?3271次閱讀

    Arm全面設計助力Arm架構生態發展

    ,通過該生態項目,Arm、三星晶圓代工廠 (Samsung Foundry)、ADTechnology 和 Rebellions 正在聯手向市場推出人工智能 (AI) CPU 芯粒 (chiplet) 平臺,面向云、高性能計算 (HPC) 以及
    的頭像 發表于 10-21 09:58 ?773次閱讀

    Arm Kleidi加速AI發展

    在持續快速發展的人工智能 (AI) 時代,我們堅定地支持全球數百萬開發者,確保他們能夠獲得所需的性能、工具和軟件庫,從而順利打造下一波令人驚嘆的 AI 體驗。
    的頭像 發表于 09-14 09:46 ?676次閱讀

    Arm KleidiAI軟件庫的功能解析

    推出了 Arm Kleidi,這是一項廣泛的軟件和軟件社區參與計劃,旨在加速 AI 發展。其中的第一個舉措是推出面向熱門 AI 框架的
    的頭像 發表于 09-05 15:41 ?852次閱讀
    <b class='flag-5'>Arm</b> KleidiAI軟件庫的功能解析

    使用Arm KleidiCV開源庫加速圖像處理性能

    對于在云端及邊緣等環境中運行的數百萬個人工智能 (AI) 工作負載,以及各類需要理解攝像頭和視頻數據的 AI 應用來說,計算機視覺 (CV) 都在其中起著關鍵作用。
    的頭像 發表于 09-03 11:32 ?2516次閱讀
    使用<b class='flag-5'>Arm</b> KleidiCV開源庫<b class='flag-5'>加速</b>圖像處理性能
    主站蜘蛛池模板: 手机在线色 | 免费国产zzzwww色 | 窝窝午夜看片成人精品 | 日本在线播放一区 | 福利视频自拍 | 丁香狠狠色婷婷久久综合 | 手机看片1024久久 | 亚洲酒色1314狠狠做 | 亚洲色图 在线视频 | 大伊人网| 91亚洲视频| 欧美激情综合 | 尤物啪啪| 成人伊人青草久久综合网 | 成年女人在线观看 | 玖玖玖精品视频免费播放 | 日韩精品视频免费观看 | 淫欲高三 | 女女同免费播放毛片 | 91大神免费视频 | 精品一区 二区三区免费毛片 | 夜夜爱网站 | 一区二区三区免费精品视频 | 免费鲁丝片一级观看 | 免费亚洲成人 | 美女视频一区二区三区 | 亚洲天堂成人在线 | 狠狠激情五月综合婷婷俺 | 久久国产午夜精品理论片34页 | 可以免费播放的在线视频 | 欧美日日日 | 特黄特色大片免费视频播放 | 女69女人poren25 | 在线观看视频一区二区 | 丁香五香天堂网卡 | 中文字幕第一页在线 | 亚洲伦理一区二区三区 | 一级片一级片一级片 | aaa一级片| 日本一区免费看 | 四虎影院海外永久 |