91在线观看视频-91在线观看视频-91在线观看免费视频-91在线观看免费-欧美第二页-欧美第1页

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫(xiě)文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

異構(gòu)+Chiplet—通往數(shù)據(jù)中心的能效之路

奇異摩爾 ? 來(lái)源:奇異摩爾 ? 2023-06-21 15:50 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

隨著以大模型為代表的AIGC迅速崛起,數(shù)據(jù)到算力需求的持續(xù)暴漲,為數(shù)據(jù)中心帶來(lái)了巨大的考驗(yàn)。為填補(bǔ)算力鴻溝,下一代數(shù)據(jù)中心必須要具備更高的算力密度、更大的網(wǎng)絡(luò)規(guī)模,并能夠靈活地部署和更新海量新應(yīng)用。

在這一輪新的技術(shù)方向中,異構(gòu)計(jì)算架構(gòu)和Chiplet技術(shù)因能有效提升復(fù)雜場(chǎng)景計(jì)算效率,算力密度和網(wǎng)絡(luò)規(guī)模,被普遍視為通往數(shù)據(jù)中心未來(lái)的能效之路。

AIGC或?qū)⑺洪_(kāi)數(shù)據(jù)中心算力缺口

在AI大模型飛速發(fā)展之下,單個(gè)大語(yǔ)言訓(xùn)練驅(qū)動(dòng)AI訓(xùn)練服務(wù)器需求約2億美元,AI推理服務(wù)器方面,如ChatGPT在初期便可帶動(dòng)推理服務(wù)器需求約45億美元。

據(jù)中國(guó)信通院,2021年國(guó)內(nèi)IDC市場(chǎng)規(guī)模1500.2億元,同比增長(zhǎng)28.5%。據(jù)信通院預(yù)計(jì),隨著我國(guó)各地區(qū)、各行業(yè)數(shù)字化轉(zhuǎn)型深入推進(jìn)、AI訓(xùn)練需求持續(xù)增長(zhǎng)、智能終端實(shí)時(shí)計(jì)算需求增長(zhǎng),2022年國(guó)內(nèi)市場(chǎng)規(guī)模將達(dá)1900.7億元,同增26.7%。

算力作為大模型的核心引擎,計(jì)算方式簡(jiǎn)單粗暴,即實(shí)際擁有多少的GPU芯片,將直接決定其算力的大小。以ChatGPT為例,其模型計(jì)算主要基于微軟的Azure云服務(wù)進(jìn)行,本質(zhì)上是借助微軟自有的IDC資源,在云端完成計(jì)算過(guò)程后,再將結(jié)果返回給OpenAI。

AIGC所需的算力不是固定的,而是逐次遞增的。數(shù)據(jù)中心是承接AI計(jì)算需求的直接形式,其算力需求為AIGC的能力所驅(qū)動(dòng),也就是AIGC越聰明,其背后所需要的算力就越多,而供需雙方存在的現(xiàn)實(shí)差距,則讓數(shù)據(jù)中心的算力缺口變得愈加嚴(yán)重。

互聯(lián)網(wǎng)廠商布局ChatGPT同類(lèi)產(chǎn)品,或?qū)⒓哟蠛诵某鞘蠭DC算力供給缺口。艾瑞咨詢(xún)數(shù)據(jù)顯示,2021年國(guó)內(nèi)IDC行業(yè)下游客戶(hù)占比中,互聯(lián)網(wǎng)廠商居首位,占比為60%,國(guó)內(nèi)核心城市IDC算力供給缺口或?qū)⒓哟蟆?/p>

AIGC時(shí)代,智能算力崛起

隨著人工智能進(jìn)入新的發(fā)展周期,以及大模型的興起,傳統(tǒng)的芯片需求結(jié)構(gòu)發(fā)生了變化。盡管總體算力仍在增長(zhǎng),但通用計(jì)算力由CPU主導(dǎo)的比例正在下降,而智能計(jì)算力由GPU主導(dǎo)的比例逐漸增加。

目前,GPU在AI芯片市場(chǎng)的占比約為90%。根據(jù)VMR的數(shù)據(jù),2021年全球GPU行業(yè)市場(chǎng)規(guī)模為334.7億美元,隨著大型模型訓(xùn)練的成熟,預(yù)計(jì)到2030年將達(dá)到4773.7億美元,年均增長(zhǎng)率為34.35%。

新華三集團(tuán)副總裁、計(jì)算存儲(chǔ)產(chǎn)品線總裁徐潤(rùn)安在接受媒體采訪時(shí)表示,智能算力占比變大原因在于,x86架構(gòu)CPU單核性能強(qiáng)、通用性好。但AI場(chǎng)景需要多核、高并發(fā)、高帶寬芯片。綜合考慮成本、效率,GPU、DPU、NPU通常表現(xiàn)更好。CPU部分職能被其他專(zhuān)用芯片分擔(dān)。在他看來(lái),大模型會(huì)帶來(lái)巨大的智能算力消耗。

Chiplet:破局數(shù)據(jù)中心未來(lái)

近20年中,單一的制程微縮已被證明無(wú)法趕上對(duì)性能需求的步伐。尤其是在數(shù)據(jù)中心,情況遠(yuǎn)比客戶(hù)端產(chǎn)品更為復(fù)雜,一個(gè)非常典型的情況是多個(gè)客戶(hù)端在同一產(chǎn)品上運(yùn)行工作負(fù)載,如多核CPU或GPU。于是,人們開(kāi)始將未來(lái)依托在將計(jì)算單元、內(nèi)存等和其他模塊成在同一封裝上的Chiplet異構(gòu)集成路線之上。

Chiplet架構(gòu)對(duì)于服務(wù)器處理器而言意義非凡,大大降低了處理器的開(kāi)發(fā)門(mén)檻和成本,起到了巨大的推動(dòng)作用。正如AMD開(kāi)創(chuàng)性的chiplet產(chǎn)品所證明的那樣,轉(zhuǎn)向chiplet技術(shù)可以顯著改善數(shù)據(jù)中心的計(jì)算成本,并提高互連效率。迄今,全球主流服務(wù)器芯片廠商都開(kāi)始將chiplet納入自身產(chǎn)品的主要路徑之一。

就此,英特爾 IO 技術(shù)解決方案團(tuán)隊(duì)?wèi)?zhàn)略家Kurt Lender 總結(jié)了 chiplet 技術(shù)的影響“有合理的預(yù)期,未來(lái) 10 年的 HPC 采購(gòu)將利用 chiplet 技術(shù)更好地支持他們的科學(xué)工作負(fù)載。” AMD 的 CEO Lisa Su也表現(xiàn)出了同樣的期待,當(dāng)被問(wèn)及她是否認(rèn)為未來(lái) 10 年的 HPC 采購(gòu)指定定制chiplet設(shè)計(jì)的計(jì)算芯片而不是現(xiàn)成的商品時(shí),她回答“是”。

Kurt Lender 表示,創(chuàng)建基于 UCIe 的chiplet 設(shè)計(jì)在成本方面具有顯著的優(yōu)勢(shì),“有各種縱向擴(kuò)展和橫向擴(kuò)展的成本優(yōu)勢(shì),包括由于與單片硅設(shè)計(jì)相比占地面積更小而導(dǎo)致chiplet的高良率而節(jié)省的成本,以及能夠指定可以利用 HPC 冷卻功能的高密度、高功率封裝。在其最完整的表達(dá)中,基于chiplet 的架構(gòu)使設(shè)計(jì)人員能夠?qū)?lái)自多個(gè)供應(yīng)商的 IP 和不同職稱(chēng)工藝技術(shù)的芯粒快速集成到一個(gè)封裝中。”

關(guān)于隨著以大模型為代表的人工智能大規(guī)模計(jì)算的迅速崛起,數(shù)據(jù)中心的算力難題不斷加劇。而異構(gòu)和Chiplet會(huì)將數(shù)據(jù)中心的未來(lái)引向何處,還讓我們拭目以待。???????




審核編輯:劉清

聲明:本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • GPU芯片
    +關(guān)注

    關(guān)注

    1

    文章

    305

    瀏覽量

    6171
  • OpenAI
    +關(guān)注

    關(guān)注

    9

    文章

    1206

    瀏覽量

    8787
  • chiplet
    +關(guān)注

    關(guān)注

    6

    文章

    454

    瀏覽量

    12945
  • 奇異摩爾
    +關(guān)注

    關(guān)注

    0

    文章

    58

    瀏覽量

    3712
  • ChatGPT
    +關(guān)注

    關(guān)注

    29

    文章

    1589

    瀏覽量

    8994
  • 先進(jìn)封裝
    +關(guān)注

    關(guān)注

    2

    文章

    467

    瀏覽量

    589
  • 芯粒
    +關(guān)注

    關(guān)注

    0

    文章

    64

    瀏覽量

    269

原文標(biāo)題:異構(gòu)+Chiplet,通往數(shù)據(jù)中心的能效之路

文章出處:【微信號(hào):奇異摩爾,微信公眾號(hào):奇異摩爾】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    西門(mén)子G120XA變頻器:數(shù)據(jù)中心革命的核心引擎

    在數(shù)字經(jīng)濟(jì)爆發(fā)式增長(zhǎng)的今天,數(shù)據(jù)中心已成為支撐社會(huì)運(yùn)轉(zhuǎn)的"數(shù)字心臟"。然而,其龐大的能耗需求與綠色低碳目標(biāo)之間的矛盾日益凸顯——尤其是冷卻系統(tǒng)作為數(shù)據(jù)中心第二大能耗單元(占比約35%),正成為
    的頭像 發(fā)表于 07-03 17:44 ?82次閱讀
    西門(mén)子G120XA變頻器:<b class='flag-5'>數(shù)據(jù)中心</b><b class='flag-5'>能</b><b class='flag-5'>效</b>革命的核心引擎

    曙光數(shù)創(chuàng)SLiquid智能運(yùn)維系統(tǒng)解決數(shù)據(jù)中心運(yùn)維難題

    面對(duì)數(shù)字時(shí)代的海量需求,傳統(tǒng)數(shù)據(jù)中心正遭遇系統(tǒng)性挑戰(zhàn):告警風(fēng)暴引發(fā)的故障定位遲滯、困局導(dǎo)致的PUE優(yōu)化瓶頸、資產(chǎn)迷霧造成的資源錯(cuò)配、容量盲區(qū)引發(fā)的規(guī)劃失焦。這些問(wèn)題嚴(yán)重阻礙了數(shù)據(jù)中心
    的頭像 發(fā)表于 06-03 10:21 ?374次閱讀

    數(shù)據(jù)中心機(jī)房供配電體系構(gòu)建與智慧管控方案

    個(gè)交叉的系統(tǒng),涉及到市電供電、防雷接地、防靜電、UPS不間斷供電、柴油發(fā)電機(jī)等,每個(gè)系統(tǒng)互相交叉,互有影響,這就使我們?cè)谠O(shè)計(jì)時(shí)必須考慮多方面的因素。本文從數(shù)據(jù)中心的高壓供電系統(tǒng)到末端精密配電系統(tǒng)介紹數(shù)據(jù)中心供配電及
    的頭像 發(fā)表于 05-14 14:52 ?237次閱讀
    <b class='flag-5'>數(shù)據(jù)中心</b>機(jī)房供配電體系構(gòu)建與<b class='flag-5'>能</b><b class='flag-5'>效</b>智慧管控方案

    如何破解數(shù)據(jù)中心難題?該方案提供創(chuàng)新策略

    ,占總能耗的 86% 左右,但傳統(tǒng)管理手段難以追蹤實(shí)時(shí)。高昂的能源消耗不僅增加了運(yùn)營(yíng)成本,也給能源供應(yīng)帶來(lái)了巨大壓力。 政策法規(guī)推動(dòng): ? ? ? 2021 年 10 月,《數(shù)據(jù)中心
    的頭像 發(fā)表于 04-14 11:38 ?399次閱讀
    如何破解<b class='flag-5'>數(shù)據(jù)中心</b><b class='flag-5'>能</b><b class='flag-5'>效</b>難題?該方案提供創(chuàng)新策略

    數(shù)據(jù)中心困局怎么解?安科瑞電氣提供解決方案

    非常復(fù)雜,能源密度大,容易引發(fā)火災(zāi)等安全問(wèn),需要采取安全用電監(jiān)測(cè),以確保供電系統(tǒng)不受非授權(quán)人員干擾。 3、精細(xì)管理 數(shù)據(jù)中心能源消耗大,PUE壓力大,電費(fèi)成本高,通過(guò)搭建能源計(jì)量體系,可以實(shí)現(xiàn)精細(xì)化管理,提升PUE。 4、高
    的頭像 發(fā)表于 04-01 14:01 ?233次閱讀
    <b class='flag-5'>數(shù)據(jù)中心</b><b class='flag-5'>能</b><b class='flag-5'>效</b>困局怎么解?安科瑞電氣提供解決方案

    數(shù)據(jù)中心困局怎么解?這份方案給出妙方

    數(shù)據(jù)中心困局怎么解?這份方案給出妙方
    的頭像 發(fā)表于 03-14 08:05 ?227次閱讀
    <b class='flag-5'>數(shù)據(jù)中心</b><b class='flag-5'>能</b><b class='flag-5'>效</b>困局怎么解?這份方案給出妙方

    解鎖數(shù)據(jù)中心效能密碼:一站式綜合管理方案

    解鎖數(shù)據(jù)中心效能密碼:一站式綜合管理方案
    的頭像 發(fā)表于 03-08 08:13 ?239次閱讀
    解鎖<b class='flag-5'>數(shù)據(jù)中心</b>效能密碼:一站式綜合<b class='flag-5'>能</b><b class='flag-5'>效</b>管理方案

    數(shù)據(jù)中心發(fā)展與改造

    全球多數(shù)數(shù)據(jù)中心基礎(chǔ)設(shè)施已超六年,能耗高而效率低。隨著AI的發(fā)展,企業(yè)正致力于整合與提升的現(xiàn)代化改造。同時(shí)數(shù)據(jù)中心呈現(xiàn)規(guī)模化、高密化、綠色化發(fā)展趨勢(shì)。19821800313 一、目
    的頭像 發(fā)表于 02-28 16:50 ?366次閱讀
    <b class='flag-5'>數(shù)據(jù)中心</b>發(fā)展與改造

    安科瑞:以綜合管理解決方案,賦能人工智能時(shí)代的數(shù)據(jù)中心可持續(xù)發(fā)展

    在人工智能與可持續(xù)發(fā)展的雙重浪潮下,安科瑞憑借其綜合管理解決方案,不僅為數(shù)據(jù)中心行業(yè)提供了降本增效的實(shí)踐路徑,更推動(dòng)了全球數(shù)字基礎(chǔ)設(shè)施向綠色低碳轉(zhuǎn)型。未來(lái),隨著技術(shù)的持續(xù)迭代與生態(tài)合作的深化,安科瑞有望成為AI時(shí)代
    的頭像 發(fā)表于 02-21 15:37 ?418次閱讀
    安科瑞:以綜合<b class='flag-5'>能</b><b class='flag-5'>效</b>管理解決方案,賦能人工智能時(shí)代的<b class='flag-5'>數(shù)據(jù)中心</b>可持續(xù)發(fā)展

    安森美推動(dòng)數(shù)據(jù)中心革新

    隨著數(shù)據(jù)中心為了滿足人工智能(AI)計(jì)算的龐大處理需求而變得越來(lái)越耗電,提高能變得至關(guān)重要。與一般的搜索引擎請(qǐng)求相比,搭載AI的引擎需要消耗超過(guò)10倍的電力。加快功率半導(dǎo)體的創(chuàng)新以改善
    的頭像 發(fā)表于 11-14 09:41 ?549次閱讀

    安科瑞綜合管理系統(tǒng)在數(shù)據(jù)中心的應(yīng)用

    安全的供配電2)綠色低碳、節(jié)能降耗、提升PUE3)提高運(yùn)維效率、降低運(yùn)營(yíng)成本4)整體監(jiān)控平臺(tái)三、解決方案如下為AcrelEMS-IDC數(shù)據(jù)中心綜合管理系統(tǒng)的駕駛艙導(dǎo)覽圖,根據(jù)能源流向、信息流向及電壓等級(jí)變化
    的頭像 發(fā)表于 11-06 16:04 ?433次閱讀

    英特爾至強(qiáng)6核處理器助力數(shù)據(jù)中心變革

    在過(guò)去十年,越來(lái)越多的企業(yè)將業(yè)務(wù)遷移到云端,云計(jì)算成為推動(dòng)數(shù)據(jù)中心建設(shè)的主要驅(qū)動(dòng)力。隨著人工智能的不斷發(fā)展,尤其是大語(yǔ)言模型等AI技術(shù)的爆發(fā)和廣泛應(yīng)用,市場(chǎng)對(duì)算力的需求也在不斷增加,進(jìn)一步推動(dòng)
    的頭像 發(fā)表于 10-12 10:17 ?698次閱讀

    怎樣保障數(shù)據(jù)中心不間斷電源不斷電 提供可靠安全的供配電#數(shù)據(jù)中心

    數(shù)據(jù)中心配電系統(tǒng)
    安科瑞王金晶
    發(fā)布于 :2024年08月29日 14:51:36

    數(shù)據(jù)中心管理系統(tǒng)對(duì)配電系統(tǒng)、能耗、溫度、蓄電池等運(yùn)行狀態(tài)實(shí)時(shí)監(jiān)測(cè)

    數(shù)據(jù)中心綜合管理系統(tǒng)采集數(shù)據(jù)中心中低壓配電系統(tǒng)、環(huán)境等數(shù)據(jù),通過(guò)實(shí)時(shí)監(jiān)測(cè)、控制和預(yù)警可以幫助數(shù)據(jù)中心
    的頭像 發(fā)表于 08-22 10:09 ?945次閱讀
    <b class='flag-5'>數(shù)據(jù)中心</b><b class='flag-5'>能</b><b class='flag-5'>效</b>管理系統(tǒng)對(duì)配電系統(tǒng)、能耗、溫度、蓄電池等運(yùn)行狀態(tài)實(shí)時(shí)監(jiān)測(cè)

    安森美引領(lǐng)數(shù)據(jù)中心革命

    在當(dāng)今數(shù)字化轉(zhuǎn)型的浪潮中,數(shù)據(jù)中心作為支撐人工智能、云計(jì)算等關(guān)鍵技術(shù)的基礎(chǔ)設(shè)施,其能耗問(wèn)題日益凸顯。特別是隨著AI計(jì)算的蓬勃發(fā)展,數(shù)據(jù)中心對(duì)電力的需求急劇增加,傳統(tǒng)搜索引擎請(qǐng)求相比,AI引擎的電力消耗更是高達(dá)十倍以上。因此,提升數(shù)據(jù)中心
    的頭像 發(fā)表于 08-12 11:13 ?771次閱讀
    主站蜘蛛池模板: 免费人成在线 | 国产成人高清一区二区私人 | 国产爱搞| 日本免费在线一区 | 国产一区二区三区不卡观 | 两性色视频 | 国产成人教育视频在线观看 | 六九视频在线观看 | 上课被同桌摸下面做羞羞 | 91久久麻豆| 丝袜紧身裙国产在线播放 | 免费jlzzjlzz在线播放视频 | 狠狠色综合久久婷婷 | 人人看人人添人人爽 | 一区免费视频 | 免费二级c片观看 | 欧美一级高清免费播放 | 美女扒开腿让男生桶爽网站 | 亚洲综合资源 | 国产乱理论片在线观看理论 | 91伊人网 | 午夜黄色剧场 | 免费视频网站在线看视频 | 中文字幕精品一区二区2021年 | 窝窝午夜在线观看免费观看 | 三级视频网 | videossexotv极度另类高清 | 岛国午夜精品视频在线观看 | 国产午夜毛片v一区二区三区 | 日本一区二区视频 | 免费在线看黄色 | 我要看黄色一级毛片 | 五月天丁香婷婷开心激情五月 | 性色a v 一区 | 国产成人一区二区三中文 | 亚洲一区中文 | 五月激情综合网 | 国产精品免费拍拍1000部 | 99色视频在线观看 | 男女交性拍拍拍高清视频 | 久久三级国产 |