在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫(xiě)文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

未來(lái)的AI計(jì)算領(lǐng)域,將是CPU、GPU、IPU并行

如意 ? 來(lái)源:OFweek電子工程網(wǎng) ? 作者:Ai芯天下 ? 2020-10-19 16:04 ? 次閱讀

前言:

AI近些年的大火,直接促進(jìn)了CPUGPU的發(fā)展,而英偉達(dá)的GPU真正借此迅速成為AI市場(chǎng)的主流產(chǎn)品之一,其勢(shì)頭甚至蓋過(guò)了CPU。

而AI應(yīng)用需要專門(mén)的處理器,而IPU正是這樣的處理器。目前,AI在各行各業(yè)均得到廣泛應(yīng)用,IPU可以基于自身優(yōu)勢(shì)為世界的智能化進(jìn)程增添不竭動(dòng)力。

未來(lái)的AI計(jì)算領(lǐng)域,將是CPU、GPU、IPU并行

英偉達(dá)專注的GPU優(yōu)勢(shì)逐漸縮小

從專注圖像渲染崛起的英偉達(dá)的GPU,走的也是相當(dāng)于ASIC的技術(shù)路線,但隨著游戲、視頻渲染以及AI加速需要的出現(xiàn),英偉達(dá)的GPU也在向著GPGPU的方向演進(jìn)。

當(dāng)硬件更多的需要與軟件生態(tài)掛鉤時(shí),市場(chǎng)大多數(shù)參與者便會(huì)倒下。在競(jìng)爭(zhēng)清理過(guò)后,GPU形成了如今的雙寡頭市場(chǎng),并且步入相當(dāng)成熟的階段。

ASIC本身的成本、靈活性缺失,以及應(yīng)用范圍很窄的特點(diǎn),都導(dǎo)致它無(wú)法采用最先進(jìn)制程: 即便它們具備性能和能效優(yōu)勢(shì),一旦無(wú)法采用最先進(jìn)制程,則這一優(yōu)勢(shì)也將不再明顯。

為保持其在GPU領(lǐng)域的寡頭地位,使得英偉達(dá)必須一直保持先進(jìn)的制程工藝,保持其通用性,但是要犧牲一定的效能優(yōu)勢(shì)。

相比于來(lái)自類GPU的競(jìng)爭(zhēng),英偉達(dá)不應(yīng)該忽視Graphcore的IPU,特別是Graphcore一直都在強(qiáng)調(diào)其是為AI而生,面向的應(yīng)用也是CPU、GPU不那么擅長(zhǎng)的AI應(yīng)用。

未來(lái)的AI計(jì)算領(lǐng)域,將是CPU、GPU、IPU并行

利用AI計(jì)算打側(cè)面競(jìng)爭(zhēng)戰(zhàn)

不管CPU還是GPU都無(wú)法從根本上解決AI問(wèn)題,因?yàn)锳I是一個(gè)面向計(jì)算圖的任務(wù)、與CPU的標(biāo)量計(jì)算和GPU的矢量計(jì)算區(qū)別很大。

而另一邊的IPU,則為AI計(jì)算提供了全新的技術(shù)架構(gòu),同時(shí)將訓(xùn)練和推理合二為一,兼具處理二者工作的能力。

作為標(biāo)準(zhǔn)的神經(jīng)網(wǎng)絡(luò)處理芯片,IPU可以支持多種神經(jīng)網(wǎng)絡(luò)模型,因其具備數(shù)以千計(jì)到數(shù)百萬(wàn)計(jì)的頂點(diǎn)數(shù)量,遠(yuǎn)遠(yuǎn)超過(guò)GPU的頂點(diǎn)規(guī)模,可以進(jìn)行更高潛力的并行計(jì)算工作。

未來(lái)的AI計(jì)算領(lǐng)域,將是CPU、GPU、IPU并行

計(jì)算加上數(shù)據(jù)的突破可以讓IPU在原生稀疏計(jì)算中展現(xiàn)出領(lǐng)先IPU 10-50倍的性能優(yōu)勢(shì),到了數(shù)據(jù)稀疏以及動(dòng)態(tài)稀疏時(shí),IPU就有了比GPU越來(lái)越顯著的優(yōu)勢(shì)。

此外,如果是在IPU更擅長(zhǎng)的分組卷積內(nèi)核中,組維度越少,IPU的性能優(yōu)勢(shì)越明顯,總體而言,有4-100倍的吞吐量提升。

5G網(wǎng)絡(luò)切片和資源管理中需要用到的強(qiáng)化學(xué)習(xí),用IPU訓(xùn)練吞吐量也能夠提升最多13倍。

兩種芯片勢(shì)能英偉達(dá)與Graphcore的較量

Graphcore成立于2016年,是一家專注于機(jī)器智能、同時(shí)也代表著全新計(jì)算負(fù)載的芯片制造公司,其包括IPU在內(nèi)的產(chǎn)品研發(fā)擅長(zhǎng)大規(guī)模并行計(jì)算、稀疏的數(shù)據(jù)結(jié)構(gòu)、低精度計(jì)算、數(shù)據(jù)參數(shù)復(fù)用以及靜態(tài)圖結(jié)構(gòu)。

英偉達(dá)的潛在競(jìng)爭(zhēng)對(duì)手Graphcore的第二代IPU在多個(gè)主流模型上的表現(xiàn)優(yōu)于A100 GPU,兩者將在超大規(guī)模數(shù)據(jù)中心正面競(jìng)爭(zhēng)。

未來(lái),IPU可能在一些新興的AI應(yīng)用中展現(xiàn)出更大的優(yōu)勢(shì)。

未來(lái)的AI計(jì)算領(lǐng)域,將是CPU、GPU、IPU并行

第二代IPU相比第一代IPU有兩倍峰值算力的提升,在典型的CV還有NLP的模型中,第二代IPU相比第一代IPU則展現(xiàn)出了平均8倍的性能提升。

如果對(duì)比英偉達(dá)基于8個(gè)最新A100 GPU的DGX-A100,Graphcore 8個(gè)M2000組成的系統(tǒng)的FP32算力是DGX-A100的12倍,AI計(jì)算是3倍,AI存儲(chǔ)是10倍。

AI計(jì)算未來(lái)有三種計(jì)算平臺(tái)

第一種平臺(tái)是CPU,它還會(huì)持續(xù)存在,因?yàn)橐恍I(yè)務(wù)在CPU上的表現(xiàn)依然不錯(cuò);

第二種平臺(tái)是GPU,它還會(huì)持續(xù)發(fā)展,會(huì)有適合GPU的應(yīng)用場(chǎng)景。

第三種平臺(tái)是就是Graphcore的IPU。

IPU旨在幫助創(chuàng)新者在AI應(yīng)用上實(shí)現(xiàn)新的突破,幫助用戶應(yīng)對(duì)當(dāng)前在CPU、GPU上表現(xiàn)不太好的任務(wù)或者阻礙大家創(chuàng)新的場(chǎng)景。”盧濤副總指出。

目前GPU在全球已是大規(guī)模的商用部署,其次是Google的TPU通過(guò)內(nèi)部應(yīng)用及TensorFlow的生態(tài)占第二大規(guī)模,IPU處于第三,是量產(chǎn)的、部署的平臺(tái)。

與此同時(shí),Graphcore也在中國(guó)積極組建其創(chuàng)新社區(qū)。Graphcore已在微信、知乎、微博和GitHub開(kāi)通了官方頻道,旨在與開(kāi)發(fā)者、創(chuàng)新者、研究者更好地交流和互動(dòng)。

關(guān)于未來(lái)的AI計(jì)算領(lǐng)域,未來(lái)會(huì)是 “CPU、GPU、IPU并行” 的時(shí)代,GPU或部分CPU專注于業(yè)務(wù)場(chǎng)景的實(shí)現(xiàn)和落地,而IPU專為AI創(chuàng)新者帶來(lái)更多突破。

未來(lái)的AI計(jì)算領(lǐng)域,將是CPU、GPU、IPU并行

構(gòu)建生態(tài)鏈條IPU仍在路上

IPU想要在AI計(jì)算中擁有挑戰(zhàn)GPU地位的資格,除了在性能和價(jià)格上面證明自己的優(yōu)勢(shì)之外,還需要在為機(jī)器學(xué)習(xí)框架提供的軟件棧上提供更多選擇,獲得主流AI算法廠商的支持。

在標(biāo)準(zhǔn)生態(tài)、操作系統(tǒng)上也需要有廣泛的支持,對(duì)于開(kāi)發(fā)者有更方便的開(kāi)發(fā)工具和社區(qū)內(nèi)容的支持,才能從實(shí)際應(yīng)用中壯大IPU的開(kāi)發(fā)生態(tài)。

一個(gè)AI芯片從產(chǎn)出到大規(guī)模應(yīng)用必須要經(jīng)過(guò)一系列的中間環(huán)節(jié),包括像上面提到的支持主流算法框架的軟件庫(kù)、工具鏈、用戶生態(tài)等等,打通這樣一條鏈條都會(huì)面臨一個(gè)巨大挑戰(zhàn)。

目前申請(qǐng)使用Graphcore IPU開(kāi)發(fā)者云的主要是商業(yè)用戶和高校,個(gè)人研究者比較少。IPU開(kāi)發(fā)者云支持當(dāng)前一些最先進(jìn)和最復(fù)雜的AI算法模型的訓(xùn)練和推理。

和本世紀(jì)初的GPU市場(chǎng)一樣,在AI芯片市場(chǎng)步入弱編程階段,如今百家爭(zhēng)鳴的局面預(yù)計(jì)也將很快結(jié)束,市場(chǎng)在一輪廝殺后會(huì)剩下為數(shù)不多的參與者做最終對(duì)決。

現(xiàn)在要看的是在發(fā)展初期的逐一擊破階段,Graphcore是否真有定義并主控第三類芯片的魄力了。

不過(guò)從創(chuàng)新的架構(gòu)到芯片再到成為革命性的產(chǎn)品,Graphcore從芯片到落地之間的距離,需要易用的軟件和豐富的工具來(lái)支持,特別是對(duì)軟件生態(tài)依賴程度比較到的云端芯片市場(chǎng)。

結(jié)尾:

IPU不是GPU,這個(gè)可能是最大的一個(gè)挑戰(zhàn),但同時(shí)也是最大的一個(gè)機(jī)會(huì)。IPU并不是GPU的替代品或者類似品,所以不能拿GPU的邏輯來(lái)套用IPU的邏輯。

近兩年,AI 芯片出現(xiàn)了各種品類的井噴,可以預(yù)計(jì)未來(lái)IPU在各類AI應(yīng)用中將具有更大的優(yōu)勢(shì)。
責(zé)編AJX

聲明:本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • cpu
    cpu
    +關(guān)注

    關(guān)注

    68

    文章

    11044

    瀏覽量

    216089
  • gpu
    gpu
    +關(guān)注

    關(guān)注

    28

    文章

    4915

    瀏覽量

    130704
  • AI
    AI
    +關(guān)注

    關(guān)注

    88

    文章

    34364

    瀏覽量

    275576
收藏 人收藏

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    邊緣AI廣泛應(yīng)用推動(dòng)并行計(jì)算崛起及創(chuàng)新GPU滲透率快速提升

    是時(shí)候重新教育整個(gè)生態(tài)了。邊緣AI未來(lái)不屬于那些高度優(yōu)化但功能狹窄的芯片,而是屬于可編程的、可適配的并行計(jì)算平臺(tái),它們能與智能軟件共同成長(zhǎng)并擴(kuò)展。
    的頭像 發(fā)表于 06-11 14:57 ?96次閱讀

    Imagination與澎峰科技攜手推動(dòng)GPU+AI解決方案,共拓計(jì)算生態(tài)

    的繁榮發(fā)展。 本次合作將聚焦以下兩大方向: 聯(lián)合打造面向AI應(yīng)用的高性能計(jì)算解決方案 ? 依托 Imagination GPU并行計(jì)算和能效
    發(fā)表于 05-21 09:40 ?952次閱讀

    超越CPU/GPU:NPU如何讓AI“輕裝上陣”?

    電子發(fā)燒友網(wǎng)報(bào)道(文/李彎彎)NPU是一種專門(mén)為人工智能(AI計(jì)算設(shè)計(jì)的處理器,主要用于高效執(zhí)行神經(jīng)網(wǎng)絡(luò)相關(guān)的運(yùn)算(如矩陣乘法、卷積、激活函數(shù)等)。相較于傳統(tǒng)CPU/GPU,NPU在
    的頭像 發(fā)表于 04-18 00:05 ?1856次閱讀

    摩爾線程GPU原生FP8計(jì)算助力AI訓(xùn)練

    訓(xùn)練和推理,顯著提升了訓(xùn)練效率與穩(wěn)定性。摩爾線程是國(guó)內(nèi)率先原生支持FP8計(jì)算精度的國(guó)產(chǎn)GPU企業(yè),此次開(kāi)源不僅為AI訓(xùn)練和推理提供了全新的國(guó)產(chǎn)化解決方案,更對(duì)推動(dòng)國(guó)產(chǎn)GPU
    的頭像 發(fā)表于 03-17 17:05 ?492次閱讀
    摩爾線程<b class='flag-5'>GPU</b>原生FP8<b class='flag-5'>計(jì)算</b>助力<b class='flag-5'>AI</b>訓(xùn)練

    FPGA+AI王炸組合如何重塑未來(lái)世界:看看DeepSeek東方神秘力量如何預(yù)測(cè)......

    ? 異構(gòu)計(jì)算的興起:FPGA與CPUGPU、ASIC等其他計(jì)算單元的融合成為趨勢(shì)。通過(guò)異構(gòu)計(jì)算架構(gòu),F(xiàn)PGA能夠充分發(fā)揮其
    發(fā)表于 03-03 11:21

    GPU加速計(jì)算平臺(tái)的優(yōu)勢(shì)

    傳統(tǒng)的CPU雖然在日常計(jì)算任務(wù)中表現(xiàn)出色,但在面對(duì)大規(guī)模并行計(jì)算需求時(shí),其性能往往捉襟見(jiàn)肘。而GPU加速計(jì)算平臺(tái)憑借其獨(dú)特的優(yōu)勢(shì),吸引了行業(yè)
    的頭像 發(fā)表于 02-23 16:16 ?345次閱讀

    當(dāng)我問(wèn)DeepSeek AI爆發(fā)時(shí)代的FPGA是否重要?答案是......

    并行架構(gòu)使其在處理深度學(xué)習(xí)中的矩陣運(yùn)算、卷積運(yùn)算等任務(wù)時(shí),效率遠(yuǎn)高于傳統(tǒng)的CPUGPU。例如,在圖像識(shí)別任務(wù)中,F(xiàn)PGA可以通過(guò)并行處理多個(gè)卷積核,顯著加速特征提取過(guò)程。 ? 低延遲
    發(fā)表于 02-19 13:55

    GPU 加速計(jì)算:突破傳統(tǒng)算力瓶頸的利刃

    ,猶如一把利刃,成功突破了傳統(tǒng)算力的瓶頸。 傳統(tǒng)的 CPU 計(jì)算在面對(duì)大規(guī)模并行計(jì)算任務(wù)時(shí),往往顯得力不從心。CPU 核心數(shù)量有限,且設(shè)計(jì)側(cè)重于復(fù)雜的邏輯控制和串行處理,無(wú)法高效處理海
    的頭像 發(fā)表于 02-17 10:36 ?250次閱讀

    GPU渲染才是大勢(shì)所趨?CPU渲染與GPU渲染的現(xiàn)狀與未來(lái)

    在3D建模和渲染領(lǐng)域,隨著技術(shù)的發(fā)展,CPU渲染和GPU渲染這兩種方法逐漸呈現(xiàn)出各自獨(dú)特的優(yōu)勢(shì),并且在不同的應(yīng)用場(chǎng)景中各有側(cè)重。盡管當(dāng)前我們處在一個(gè)CPU渲染和
    的頭像 發(fā)表于 02-06 11:04 ?554次閱讀
    <b class='flag-5'>GPU</b>渲染才是大勢(shì)所趨?<b class='flag-5'>CPU</b>渲染與<b class='flag-5'>GPU</b>渲染的現(xiàn)狀與<b class='flag-5'>未來(lái)</b>

    《算力芯片 高性能 CPUGPUNPU 微架構(gòu)分析》第3篇閱讀心得:GPU革命:從圖形引擎到AI加速器的蛻變

    CPUGPU的演進(jìn)歷程,AI專用芯片或?qū)⒁I(lǐng)未來(lái)計(jì)算平臺(tái)的新方向。正如愛(ài)因斯坦所說(shuō):\"想象力比知識(shí)更重要\" —— 在芯片設(shè)計(jì)
    發(fā)表于 11-24 17:12

    【「算力芯片 | 高性能 CPU/GPU/NPU 微架構(gòu)分析」閱讀體驗(yàn)】--了解算力芯片GPU

    每個(gè)CUDA單元在 OpenCL 編程框架中都有對(duì)應(yīng)的單元。 倒金字塔結(jié)構(gòu)GPU存儲(chǔ)體系 共享內(nèi)存是開(kāi)發(fā)者可配置的編程資源,使用門(mén)檻較高,編程上需要更多的人工顯式處理。 在并行計(jì)算架構(gòu)中,線程
    發(fā)表于 11-03 12:55

    GPU加速計(jì)算平臺(tái)是什么

    GPU加速計(jì)算平臺(tái),簡(jiǎn)而言之,是利用圖形處理器(GPU)的強(qiáng)大并行計(jì)算能力來(lái)加速科學(xué)計(jì)算、數(shù)據(jù)分析、機(jī)器學(xué)習(xí)等復(fù)雜
    的頭像 發(fā)表于 10-25 09:23 ?540次閱讀

    為什么ai模型訓(xùn)練要用gpu

    GPU憑借其強(qiáng)大的并行處理能力和高效的內(nèi)存系統(tǒng),已成為AI模型訓(xùn)練不可或缺的重要工具。
    的頭像 發(fā)表于 10-24 09:39 ?881次閱讀

    名單公布!【書(shū)籍評(píng)測(cè)活動(dòng)NO.43】 算力芯片 | 高性能 CPU/GPU/NPU 微架構(gòu)分析

    ,即大模型專用AI超級(jí)計(jì)算機(jī)的中樞核心。 作者介紹: 濮元愷,曾就職于中關(guān)村在線核心硬件事業(yè)部,負(fù)責(zé)CPUGPU類產(chǎn)品評(píng)測(cè),長(zhǎng)期關(guān)注GPGPU
    發(fā)表于 09-02 10:09

    ai服務(wù)器是什么架構(gòu)類型

    架構(gòu)的AI服務(wù)器通常具有較高的通用性,可以運(yùn)行各種人工智能算法。但是,CPU架構(gòu)的AI服務(wù)器在處理大規(guī)模并行計(jì)算時(shí),性能可能不如GPU架構(gòu)的
    的頭像 發(fā)表于 07-02 09:51 ?1788次閱讀
    主站蜘蛛池模板: 天堂在线网 | 丁香激情五月 | 久久久久国产 | 亚洲最大毛片 | 狠狠色噜噜狠狠狠狠999米奇 | aa三级动态图无遮无挡 | 曰本三级香港三级人妇99视频 | 天堂资源在线8 | 天天草天天射 | 久久99国产精品久久99 | 黄蓉h肉辣文大全 | 色婷婷色99国产综合精品 | xxxx日本在线播放免费不卡 | 午夜免费福利视频 | 妖精视频亚洲 | 欧美极品另类 | 亚洲一区二区三区免费在线观看 | 天天做天天爱天天大综合 | 欧美国产精品主播一区 | 91极品女神私人尤物在线播放 | 女人本色高清在线观看wwwwww国产 | 午夜精品免费 | 亚洲日本视频在线观看 | 国产主播精品在线 | 精品视频在线观看视频免费视频 | 欧美成人精品久久精品 | 日本不卡免费高清视频 | 国产精品视频久久久久久 | 啪啪伊人网 | 国产亚洲一区二区在线观看 | 国产三级网| 男人在线网站 | 欧美aaaaaaaaaa| 好爽毛片一区二区三区四 | 麻生希痴汉电车avop130 | 亚洲爱婷婷色婷婷五月 | 狠狠干在线观看 | 天天操夜夜欢 | 亚洲一区欧美二区 | 亚洲精品精品一区 | 加勒比黑人喝羽月希奶水 |