在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

算力由性能、規模和利用率三部分組成

Dbwd_Imgtec ? 來源:Imagination Tech ? 作者:Imagination Tech ? 2022-07-05 10:18 ? 次閱讀

1、算力由性能、規模和利用率三部分組成

算力 = (單芯片)性能 x 規模(即數量) x 利用率。

8388782c-fbfb-11ec-ba43-dac502259ad0.png

算力是由性能、規模、利用率三部分共同組成的,相輔相成,缺一不可:

有的算力芯片,可能可以做到性能狂飆,但較少考慮芯片的通用性易用性,然后芯片銷量不高落地規模小,那就無法做到宏觀算力的真正提升。

有的算力提升方案,重在規模投入,攤大餅有一定作用,但不是解決未來算力需求數量級提升的根本。

有的解決方案,通過各種資源池化和跨不同的邊界算力共享,來提升算力利用率,但改變不了目前算力芯片性能瓶頸的本質。

性能、規模、利用率,宏觀微觀,牽一發而動全身。管中窺豹終有偏,既要考慮多種因素協同設計,更要宏觀的統籌算力問題。

2、最核心的,通過超異構實現芯片性能的數量級提升

83980a62-fbfb-11ec-ba43-dac502259ad0.png

一方面,超異構可以通過集成更多的加速引擎來實現相比CPUGPU的性能的數量級提升,但更多的計算是在DSA架構引擎完成的,從單位晶體管資源的性能效率視角看,是和DSA在一個量級的。

工藝進步、3D封裝、Chiplet封裝等各種創新,支持數量級提升的設計規模。但要想充分利用這些價值,就需要創新的系統架構。超異構計算,通過分布式系統設計,可以駕馭數量級提升的更大的設計規模。因此,可以做到相比傳統DSA再繼續10倍甚至100倍的性能提升。

3、在超異構的約束下,實現規模化落地

3.1 芯片要更好地支持規模化

從微服務的視角,云計算是由不同的服務組成的分層服務體系:每一層就是一個服務族,然后不同層次的服務族組成整個云計算服務體系,這就是我們所熟悉的云計算三層服務IaaS、PaaS和SaaS。

83a22a6a-fbfb-11ec-ba43-dac502259ad0.png

更詳細的軟件堆棧如上圖所示,從非云系統所有的“服務”堆棧都需要用戶自己擁有并維護,經過IaaS、CaaS、PaaS、FaaS,再到最后的SaaS,一切都由供應商運營維護。從左到右的過程,就是“服務”堆棧的下層layer不斷地由云運營商接管的過程。

這是一個鮮明的“二八定律”案例:80%的任務由云運營商負責,20%的任務由用戶負責;站在用戶的角度,20%自己負責的任務價值占到80%,而運營商負責的部分只占到到20%的價值。

83b329d2-fbfb-11ec-ba43-dac502259ad0.png

因此,基于二八定律,我們可以把整個系統分為三部分:

基礎設施層。基礎設施層的任務都相對確定,適合DSA和ASIC處理引擎處理。

應用層可加速部分任務。基礎設施層是CSP使用,而應用層則是給到用戶應用。用戶的應用多種多樣,因此應用層的加速也需要一定程度的彈性。這樣,GPU和FPGA就相對比較合適。

應用層的不可加速部分。主要是一些通用的處理,如控制以及一些細粒度的計算。協處理器是CPU的一部分。因此,CPU適合各類通用任務處理,CPU負責兜底。

83be9db2-fbfb-11ec-ba43-dac502259ad0.png

如上圖所示,整個系統的處理有點像塔防游戲:DSA負責干粗活累活,大量的計算任務在DSA中完成;GPU是性能和靈活性折中一些,負責一些彈性加速的計算任務;CPU啥都能干,但性能較差,因此負責兜底,也就是其他處理引擎都干不了的,都放在CPU。

這樣,CPU+GPU+DSA+etc.的超異構計算架構就可以實現“包治百病”的、相對通用的計算架構和平臺,就可以實現在云、網、邊、端等大算力場景以及用戶的絕大部分覆蓋。

更多場景和更多用戶的覆蓋,這樣才能真正實現芯片的規模化落地。芯片的大規模落地之后,又進一步攤薄一次性研發成本,進一步降低成本,形成良性循環。

3.2 宏觀算力建設實現芯片規模化

83c9e73a-fbfb-11ec-ba43-dac502259ad0.png

要想持續不斷地增加算力,不可避免的就是建設更多的數據中心。2022年2月,國家發改委、中央網信辦、工業信息化部、國家能源局聯合印發通知,同意在京津冀、長三角、粵港澳大灣區、成渝、內蒙古、貴州、甘肅、寧夏等8地啟動建設國家算力樞紐節點,并規劃了10個國家數據中心集群。至此,全國一體化大數據中心體系完成總體布局設計,“東數西算”工程正式全面啟動。

“東數西算”通過構建數據中心、云計算、大數據一體化的新型算力網絡體系,將東部算力需求有序引導到西部,優化數據中心建設布局,促進東西部協同聯動。“東數西算”工程有三個總體思路:一是推動全國數據中心適度集聚、集約發展。通過在全國布局8個算力樞紐,引導大型、超大型數據中心向樞紐內集聚,形成數據中心集群。二是促進數據中心由東向西梯次布局、統籌發展。三是實現“東數西算”循序漸進、快速迭代。

除了大型云數據中心建設之外,也需要更多的邊緣數據中心和服務器、更多的超高算力的智慧終端,以及更智慧的網絡核心設備,來共同提升宏觀總算力。

4、在超異構的約束下,提升算力利用率

4.1 提升算力利用率的手段

云計算出現之前,部署一套互聯網系統,一般有兩種方式:小規模的時候,自己購買物理的服務器,然后租用運營商的機房;超過一定規模的時候,就需要自己建機房,租用運營商的網絡,自己運維數據中心的軟件和硬件。這個時候的算力資源是一個個孤島,整個業務的模式也非常之重,成本很高而且彈性不足。如果算力資源配置比較多,就意味著資源浪費和利用率低;如果算力資源配置比較少,就意味著無法支撐業務的發展,丟失關鍵的商業機會。

云計算通過互聯網按需提供IT資源,并且采用按使用量付費的方式。用戶可以根據需要從云服務商那里獲得技術服務,例如計算能力、存儲和數據庫,而無需購買、擁有和維護物理數據中心及服務器。云服務使用多少支付多少,可以幫助用戶降低運維成本,用戶可以根據業務需求的變化快速調整服務的使用。

其他如基于分布式云的邊緣計算、跨不同云廠家的MSP、算力網絡以及云網邊端融合等,都是盡可能的把算力資源整合成一個巨大的資源池,然后可以靈活的根據各種完全動態變化的需求來提供合適的算力。

我們分析一下,要想提升算力利用率,肯定不能是算力的孤島:

第一個階段,所有的設備是孤島,各自要實現各自的所有功能。軟件應用也是單機版,算力利用率很低,應用的規模受單個硬件規格的限制;

第二階段,有了互聯網,不同的設備可以進行協作。可以通過C/S架構實現跨設備的軟件應用協作。這樣,應用的規模就突破了單個設備的約束。

第三階段,所有的算力資源形成一個整體。可以自動的、任意的切分算力資源。軟件也升級成了MicroService架構。這樣可以根據設備的規格大小,運行合適大小合適數量的微服務。只有資源形成巨大的資源池,然后通過各種運營管理,才能真正提高算力的利用率。

4.2 芯片視角看算力利用率

資源池化是提升算力利用率的根本途徑,但資源要想池化,對硬件有很高的要求:

不同設備架構/接口一致。比如CPU等引擎架構一致(比如都是x86架構平臺),那么軟件可以運行在任何一個設備上,硬件也可以支持各種不同的軟件運行。比如NVMe SSD,可以被不同的用戶訪問,也可以同時或分時地支持多種用戶的工作。

支持虛擬化。一方面是資源粒度的問題,另一方面是資源自由和動態分配的問題,都可以通過虛擬化技術解決。虛擬化還可以實現不同架構/接口的抽象,屏蔽硬件差異。

83e87588-fbfb-11ec-ba43-dac502259ad0.png

通常,算力的平臺都是CPU,而且目前x86架構CPU占據了絕大部分市場份額,并且x86 CPU對虛擬化的支持也非常的好。CPU對資源池化的支持,或者說對算力更高利用率的支持,是相當的友好。

但是,隨著性能需求越來越高,不得不通過超異構計算來數量級提升算力的時候,問題出現了。在超異構的架構下,如何實現更高的靈活性,如何實現更高的擴展性,如何實現各類資源的輕松便捷地池化和共享,則是一個全新的挑戰:

處理引擎要支持虛擬化和高可擴展性;

軟件可以跨不同廠家的、不同架構處理引擎;

軟件可以跨跨CPU、GPU、DSA等不同類型處理引擎;

軟件可以跨云網邊端。

5、展望,云網邊端大融合

83fdf908-fbfb-11ec-ba43-dac502259ad0.png

在虛擬化的加持下,軟件可以實現完全高可用:軟件可以脫離硬件實體,隨意的尋找合適的平臺運行,自適應的在云、網、邊、端運行。

隨著CPU的性能瓶頸,I/O虛擬化技術完全硬件化的情況下,硬件接口直接暴露給軟件,這就需要云數據中心內部,以及跨云邊端的硬件平臺一致性。

要想實現跨云網邊端、跨不同廠家的芯片平臺、跨不同類型不同架構的處理引擎,就需要芯片、系統、框架和庫、以及上層應用的多方協同,就需要開源開放的超異構計算生態。

萬物互聯,當所有的設備算力資源匯集成一個大的共享資源池,算力資源將取之不盡用之不竭。

審核編輯 :李倩

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 芯片
    +關注

    關注

    457

    文章

    51344

    瀏覽量

    428170
  • gpu
    gpu
    +關注

    關注

    28

    文章

    4794

    瀏覽量

    129492
  • 算力
    +關注

    關注

    1

    文章

    1026

    瀏覽量

    14996
收藏 人收藏

    評論

    相關推薦

    交換機內存利用率過高會是什么問題

    在現代網絡架構中,交換機扮演著至關重要的角色,負責在網絡設備之間高效地轉發數據包。然而,隨著網絡規模的擴大和數據流量的增加,交換機的內存資源可能會變得緊張,導致內存利用率過高。這種情況如果不加
    的頭像 發表于 10-18 09:53 ?1101次閱讀

    實際的正弦波震蕩電路主要由哪三部分組成

    實際的正弦波振蕩電路主要由以下三部分組成,盡管有時在更詳細的描述中可能會提及四部分(包括穩幅環節),但以下三部分是構成正弦波振蕩電路的核心: 放大電路 : 放大電路是振蕩電路的核心部分
    的頭像 發表于 10-09 16:59 ?716次閱讀

    焊接專機是部分組成

    焊接專機在現代制造業中扮演著至關重要的角色,特別是在汽車、建筑和重工業等領域。了解焊接專機的組成部分,有助于更好地掌握其工作原理與應用。那么,焊接專機是部分組成的?本文將為您詳細介紹焊接專機
    的頭像 發表于 09-29 17:33 ?316次閱讀
    焊接專機是<b class='flag-5'>由</b>幾<b class='flag-5'>部分組成</b>的

    負載均衡服務部分組成?分別是什么

    均衡服務通常部分組成,分別是客戶端、負載均衡器、后端服務器、負載均衡算法、監控和健康檢查及會話保持。這六者互相協同工作,實現了流量的有效分發和系統的高可用性。這種結構不僅提高了系統的容錯能力,還能夠根據實際需求靈活調整資源配置,以應對不同的業務場景。
    的頭像 發表于 09-18 11:16 ?347次閱讀

    什么是labview?labview編寫的程序哪幾部分組成?

    通常以下幾個部分組成: 前面板(Front Panel) :這是用戶界面部分,用于顯示和控制程序。用戶可以通過前面板輸入數據、啟動程序、查看結果等
    的頭像 發表于 09-04 16:04 ?1055次閱讀

    集成運算放大器哪些部分組成?

    、集成運算放大器的組成 集成運算放大器主要由以下幾個部分組成: 輸入級:輸入級是運算放大器的前端部分,通常采用差分放大器結構。差分放大器兩個晶體管或MOSFET
    的頭像 發表于 08-01 11:28 ?1277次閱讀

    異構混訓整合不同架構芯片資源,提高利用率

    的解決方案。通過混合使用多種異構芯片,可以充分利用不同芯片的優勢,提高利用率,降低成本,
    的頭像 發表于 07-18 00:11 ?3658次閱讀

    簡述cnc機床哪幾部分組成

    加工、模具制造、航空航天、汽車制造等領域。CNC機床主要由以下幾個部分組成: 床身:床身是CNC機床的基礎部分,它支撐著整個機床的重量和運動部件。床身通常高強度的鑄鐵或鋼材制成,具有足夠的剛性和穩定性。床身的設計和制造質量直接
    的頭像 發表于 06-14 16:59 ?1891次閱讀

    相電路由哪三部分組成

    相電路作為一種高效、穩定的電力傳輸方式。它個主要部分組成相電源、相負載和
    的頭像 發表于 06-09 17:05 ?1565次閱讀

    數控銑床哪些部分組成的?各部分有什么關系

    數控銑床是一種高度自動化的機床,廣泛應用于機械加工、模具制造、航空航天等領域。它多個部分組成,各部分之間相互協作,共同完成加工任務。以下是對數控銑床各部分的詳細介紹: 床身:床身是數
    的頭像 發表于 06-07 10:39 ?2467次閱讀

    數控銑床哪些部分組成的?各部分的主要作用是什么?

    數控銑床是一種高精度、高效率的自動化機床,廣泛應用于機械加工領域。它多個部分組成,每個部分都有其特定的功能和作用。以下是對數控銑床各部分的詳細介紹: 床身(Base) 床身是數控銑床
    的頭像 發表于 06-07 10:35 ?5006次閱讀

    嵌入式微處理器三部分組成

    隨著科技的進步,嵌入式系統已成為現代技術不可或缺的部分,而嵌入式微處理器則是這些系統的核心。一塊小小的嵌入式微處理器如同人體的心臟,不僅支配著信息流動的通道,還負責處理各種復雜的任務
    的頭像 發表于 04-07 17:05 ?702次閱讀

    手機攝像頭組成結構及成像原理

    鏡頭透鏡、濾光裝置、鏡筒三部分組成,鏡頭參數有個,即焦距f′、相對孔徑D/f′和視場角2ω。
    的頭像 發表于 03-25 16:09 ?5957次閱讀
    手機攝像頭<b class='flag-5'>組成</b>結構及成像原理

    集成運算放大器哪些部分組成?各部分的作用是什么

    集成運算放大器是一種集成電路器件,多個部分組成。主要的部分包括輸入級、差動放大器、輸出級等。下面將詳細介紹每個部分的作用。 輸入級:輸入級主要負責輸入信號的放大和濾波。輸入級一般
    的頭像 發表于 02-22 10:35 ?4311次閱讀

    電動機工作原理是什么 電動機三部分組成

    電動機是將電能轉化為機械能的裝置。它在現代工業生產中扮演著非常重要的角色,廣泛應用于各個領域,如交通運輸、制造業、能源等。本文將詳細介紹電動機的工作原理以及它三部分組成。 一、電動機的工作原理
    的頭像 發表于 02-22 09:58 ?4266次閱讀
    主站蜘蛛池模板: 看日本黄大片在线观看 | 手机在线一区二区三区 | 成人一级视频 | 狠狠操欧美 | 久久精品亚洲精品国产色婷 | 成年免费大片黄在线观看免费 | 久久婷婷一区二区三区 | 欧美专区在线播放 | 黄页在线播放网址 | 亚洲一区二区免费在线观看 | 国内精品久久久久影院男同志 | 一色屋精品免费视频 视频 一色屋免费视频 | 天天干天天曰天天操 | 人人干人 | 精品国产理论在线观看不卡 | 三级第一页| 手机午夜视频 | 欧美18性欧美丶黑吊 | 国产香港日本三级在线观看 | 国产欧美日韩综合精品一区二区 | 黄色国产视频 | 无遮挡高清一级毛片免费 | 国产免费播放一区二区三区 | 1024国产你懂的日韩 | 美女污污网站 | 奇米视频7777| 亚洲 欧美 自拍 卡通 综合 | 欧美一区a | 中文三 级 黄 色 片 | 五月婷婷视频在线观看 | 日本一区二区三区在线网 | 欧美性一区二区三区 | 黄色片免费看视频 | 香蕉色网 | 日本黄色美女网站 | 丁香花五月天婷婷 | 黄页网站在线 | 欧美一卡二三卡四卡不卡 | 天天干天天色天天射 | 丁香综合激情 | 一级毛毛片毛片毛片毛片在线看 |