在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

為啥軟件成了人工智能加速器致勝的法寶?

pmkA_arm_china ? 來源:YXQ ? 2019-03-27 08:41 ? 次閱讀

隨著Arm生態系統的發展壯大,各種各樣的應用場景層出不窮。為了更好地在特定場景下得到更好的性能,能耗比等指標,針對特定應用場景的加速器市場也在蓬勃發展,近年來火熱的人工智能加速器(Artificial Intelligence Accelerator)就是一個典型例子。

一個高效的加速器,需要精心設計的硬件以及與之搭配的軟件,兩者缺一不可,否則用戶體驗會大打折扣,這也是為什么我們常常看到某些指標非常驚艷的加速器,在實際使用中體驗卻不盡如人意的原因。以人工智能加速器為例,其中基本的硬件加速單元就是乘加器的組合,但如何讓這些乘加器高效地進行并行計算,涉及到上層數據的打包、調度,需要大量的驅動軟件工作,而且大部分軟件開發者都是基于某種框架進行應用開發,具體見圖 1,所以驅動到框架的適配也很重要,甚至有一些框架不能滿足應用的需求,需要專門開辟通道進行優化。

圖1:ArmNPU軟硬件框架

開發一款高性能加速器,需要投入大量人力物力,如果不能大規模使用,那么投入回報比會大大降低,甚至虧本。如果加速器能和不同Arm系統輕松組合,拓展Arm系統的應用范圍,那么應用場景將會大大增加,生命周期也會延長。讓加速器適配不同的Arm系統,這對軟硬件接口和驅動提出了非常大的挑戰,因為今天的Arm產品非常豐富,從低功耗的微處理器,主流的移動平臺,到高端的服務器,高性能計算處理器都有相應產品。對于一個加速器團隊來說,針對盡可能多的Arm配置組合進行開發驗證成本將非常高昂,這里面不單單涉及IP/EDA的采購,還有系統的搭建維護,但如果沒有這些IP又無法將整個業務流程完整驗證,甚至影響軟硬件接口的設計優化。

有沒有方法高效地解決加速器配套驅動,框架,應用軟件開發的問題呢?Fast Model!

圖2:使用DS-5調試運行在Fast Model中的系統軟件

在Fast Model的例子系統中,Arm給出了一系列Arm核,相關IP組合的子系統模型,以及相應OS,開發工具DS-5,方便客戶快速搭建軟件開發平臺,調整軟硬件接口,進行驅動以及上層軟件的開發,具體參考圖3。

整個開發流程如下:

1.在Fast Model的例子系統中找到你需要的平臺,和對應的Bootloader, Firmware,OS軟件,并將他們順利運行

2. 將Fast Model的子系統導出生成SystemC的模型子系統模塊

3. 編寫加速器的功能模型,通過AMBA PV總線和Fast Model導出的子系統模塊進行連接

4. 編寫驅動在目標OS中操作加速器

5. 在模型平臺上進行軟件框架,應用匹配移植

Arm提供了絕大部分市面可見設計的類似子系統,無論是基于Arm v7/v8單核,多核,多cluster系統,還是包含最新架構特性的CPU系統,加速器開發團隊都可以在Fast Model的例子程序里面找對類似子系統范例進行適配,在設計之初就可以解決不同系統的適配性問題。Fast Model也提供工具讓開發者對例子系統進行修改,生成新的子系統以滿足需要。在加速器設計之初,軟件硬件人員就可以一起利用豐富多樣的例子系統進行架構的探索,對穩定軟硬件接口非常有幫助,而穩定的接口定義對長期的產品演進至關重要。

圖3:基于Fast Model的加速器軟件開發

至此開發者已經完成了大部軟硬件接口,驅動以及框架軟件開發工作,但驅動中的時序問題還沒有完全解決,因為Fast Model是一款功能型模型,它為了提高運行速度(50-200MHz),犧牲了時序信息。對于時序信息,開發者可以最后去仿真平臺甚至最終芯片上去調節,而此時軟件測試用例和框架都已經完成,這將大大節省占用仿真平臺(MHz)進行調試排錯的時間,從而降低成本。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 軟件
    +關注

    關注

    69

    文章

    5137

    瀏覽量

    89041
  • 人工智能
    +關注

    關注

    1805

    文章

    48849

    瀏覽量

    247545

原文標題:為何軟件是人工智能加速器致勝的秘密?

文章出處:【微信號:arm_china,微信公眾號:Arm芯聞】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦
    熱點推薦

    支持實時物體識別的視覺人工智能微處理RZ/V2MA數據手冊

    DRP-AI 采用了一種由動態可重構處理(DRP)和 AI-MAC組成的人工智能加速器,該加速器加速
    的頭像 發表于 03-18 18:12 ?393次閱讀
    支持實時物體識別的視覺<b class='flag-5'>人工智能</b>微處理<b class='flag-5'>器</b>RZ/V2MA數據手冊

    嵌入式AI加速器DRP-AI 詳細介紹

    的嵌入式設備。此外,人工智能正在不斷發展,新的算法不時被開發出來。 在人工智能快速發展的過程中,瑞薩開發了人工智能加速器(DRP-AI)和軟件
    的頭像 發表于 03-15 16:13 ?916次閱讀
    嵌入式AI<b class='flag-5'>加速器</b>DRP-AI 詳細介紹

    USB4賦能人工智能加速器外設和其他邊緣設備

    能力以及更強通用性不斷增長的需求。 作為USB標準的最新版本之一,USB4支持高達40 Gbps的傳輸速率、更高的視頻帶寬,并與眾多設備兼容。它為邊緣端涉及人工智能和GPU加速器的應用、超高速外置存儲,以及高清內容創作與流式傳輸,開辟了新的可能性
    的頭像 發表于 02-22 17:07 ?926次閱讀

    從版本控制到全流程支持:揭秘Helix Core如何成為您的創意加速器

    加速器
    龍智DevSecOps
    發布于 :2024年11月26日 13:42:47

    嵌入式和人工智能究竟是什么關系?

    人工智能的結合,無疑是科技發展中的一場革命。在人工智能硬件加速中,嵌入式系統以其獨特的優勢和重要性,發揮著不可或缺的作用。通過深度學習和神經網絡等算法,嵌入式系統能夠高效地處理大量數據,從而實現
    發表于 11-14 16:39

    微軟攜手英偉達與GitHub推出生成式AI加速器

    近日,微軟宣布在英國推出一項重大合作項目——生成式人工智能加速器。這一項目由微軟、英偉達和GitHub三家科技巨頭強強聯手,旨在加速生成式人工智能技術的研發與應用。 生成式
    的頭像 發表于 11-05 14:58 ?783次閱讀

    《AI for Science:人工智能驅動科學創新》第6章人AI與能源科學讀后感

    幸得一好書,特此來分享。感謝平臺,感謝作者。受益匪淺。 在閱讀《AI for Science:人工智能驅動科學創新》的第6章后,我深刻感受到人工智能在能源科學領域中的巨大潛力和廣泛應用。這一章詳細
    發表于 10-14 09:27

    AI for Science:人工智能驅動科學創新》第4章-AI與生命科學讀后感

    閱讀這一章后,我深感人工智能與生命科學的結合正引領著一場前所未有的科學革命,以下是我個人的讀后感: 1. 技術革新與生命科學進步 這一章詳細闡述了人工智能如何通過其強大的數據處理和分析能力,加速生命科學
    發表于 10-14 09:21

    《AI for Science:人工智能驅動科學創新》第一章人工智能驅動的科學創新學習心得

    人工智能:科學研究的加速器 第一章清晰地闡述了人工智能作為科學研究工具的強大功能。通過機器學習、深度學習等先進技術,AI能夠處理和分析海量數據,發現傳統方法難以捕捉的模式和規律。這不僅極大地提高了數據處理
    發表于 10-14 09:12

    Samtec AI 應用詳述 | 人工智能加速器所需的連接

    數據挖掘、人工智能、機器學習、商業分析。 高性能互連是中央處理(CPU)和人工智能加速器之間的紐帶,在實現這些系統所需的可擴展性和靈活性方面發揮著至關重要的作用。 今天,我們將在文章
    發表于 09-29 13:44 ?1126次閱讀
    Samtec AI 應用詳述 | <b class='flag-5'>人工智能</b><b class='flag-5'>加速器</b>所需的連接<b class='flag-5'>器</b>

    risc-v在人工智能圖像處理應用前景分析

    長時間運行或電池供電的設備尤為重要。 高性能 : 盡管RISC-V架構以低功耗著稱,但其高性能也不容忽視。通過優化指令集和處理設計,RISC-V可以在處理復雜的人工智能圖像處理任務時表現出色。 三
    發表于 09-28 11:00

    名單公布!【書籍評測活動NO.44】AI for Science:人工智能驅動科學創新

    ! 《AI for Science:人工智能驅動科學創新》 這本書便將為讀者徐徐展開AI for Science的美麗圖景,與大家一起去了解: 人工智能究竟幫科學家做了什么? 人工智能將如何改變我們所生
    發表于 09-09 13:54

    報名開啟!深圳(國際)通用人工智能大會將啟幕,國內外大咖齊聚話AI

    8月28日至30日,2024深圳(國際)通用人工智能大會暨深圳(國際)通用人工智能產業博覽會將在深圳國際會展中心(寶安)舉辦。大會以“魅力AI·無限未來”為主題,致力于打造全球通用人工智能領域集產品
    發表于 08-22 15:00

    FPGA在人工智能中的應用有哪些?

    FPGA(現場可編程門陣列)在人工智能領域的應用非常廣泛,主要體現在以下幾個方面: 一、深度學習加速 訓練和推理過程加速:FPGA可以用來加速深度學習的訓練和推理過程。由于其高并行性和
    發表于 07-29 17:05

    KAIST開發出高性能人工智能加速器技術

    人工智能(AI)技術日新月異的今天,大規模AI模型的部署與應用正以前所未有的速度推動著科技進步與產業升級。然而,隨著模型復雜度和數據量的爆炸式增長,對計算資源尤其是內存容量的需求也急劇攀升,成為
    的頭像 發表于 07-12 09:59 ?886次閱讀
    主站蜘蛛池模板: 欧美黑人巨大xxx猛交 | 日韩特级毛片免费观看视频 | 天天天狠天天透天天制色 | 好吊色37pao在线观看 | 性色aⅴ闺蜜一区二区三区 性色成人网 | 天堂网www中文在线资源 | 日韩美女拍拍免费视频网站 | 欧美另类自拍 | 91国内在线观看 | 国产亚洲欧美日本一二三本道 | 天天草天天操 | 日本黄页网站在线观看 | 被啪漫画羞羞漫画 | 男人操女人在线观看 | 操www| 日本人的色道免费网站 | 天天插日日干 | 美女视频久久 | 中文4480yy私人免费影院 | 美女被羞羞产奶视频网站 | 国产天堂网 | www天堂在线| 亚洲视频一二 | 网站在线你懂的 | 日本加勒比视频在线观看 | 一级大片视频 | 欧美在线网站 | 69日本xxxxxxxxx56 69日本xxxxxxxxx78 | 亚洲午夜日韩高清一区 | 亚洲三级在线免费观看 | 久草3| 在线观看三级网站 | 婷婷久久综合九色综合九七 | 国产三级免费观看 | 沟沟人体一区二区 | cao草棚视频网址成人 | 欧美成人一区二区三区在线视频 | 久久这里只有精品1 | 日本免费网 | 一区二区三区视频观看 | 国产一级特黄aa大片在线 |