在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

阿里云暫停A100服務(wù)器出租,AI算力奇缺!國產(chǎn)AI芯片任重道遠

Carol Li ? 來源:電子發(fā)燒友網(wǎng) ? 作者:李彎彎 ? 2023-11-09 09:08 ? 次閱讀

電子發(fā)燒友網(wǎng)報道(文/李彎彎)上個月,美國發(fā)布更新針對AI芯片的出口管制規(guī)定,新措施意在填補去年10月發(fā)布法規(guī)中的漏洞。這樣意味著,除了英偉達A100/H100之外,其針對中國市場推出的替代版本A800/H800等GPU對華出售也將受到限制。

近日,阿里云A100服務(wù)器業(yè)務(wù)暫停出租的消息傳出。這反映出,美國對AI芯片的出口管制規(guī)定,已經(jīng)對中國的算力供應(yīng)造成影響。當(dāng)前的情況是,需求側(cè)大模型正在快速發(fā)展,對算力的需求不斷提升;供給側(cè)英偉達GPU芯片對華銷售受阻,市面上A100/A800等現(xiàn)貨價格水漲船高,算力租賃服務(wù)售價同樣如此。而阿里云在滿足自身大模型研發(fā)需求之外,也已經(jīng)沒有足夠多算力用于對外出租。

捉襟見肘的AI算力

目前,國內(nèi)各大互聯(lián)網(wǎng)廠商都已經(jīng)推出自己的大模型產(chǎn)品,并在不斷探索技術(shù)和應(yīng)用創(chuàng)新,同時各行各業(yè)的企業(yè),無論大小,都在嘗試將大模型技術(shù)引入自己的產(chǎn)品和解決方案中。而無論是大模型的研究和應(yīng)用,其訓(xùn)練和推理過程都需要依靠強大的算力作支撐。

百度、騰訊、字節(jié)、阿里作為國內(nèi)主要的云服務(wù)廠商。相較之下,購買和積累了更多的GPU產(chǎn)品。其中,字節(jié)跳動A100 和V100顯卡總數(shù)接近10萬塊,阿里巴巴集團也大概擁有10萬塊頂級顯卡。騰訊因為在2022年底砍掉一批英偉達訂單,其擁有的GPU數(shù)量較少。相對來說,百度所擁有的頂級GPU數(shù)量也偏少。

近年來,大模型熱潮如龍卷風(fēng)般襲來,這對GPU的需求不斷增加,上述各大廠商也加大了向英偉達GPU所下的訂單,以擴大自己的基礎(chǔ)硬件設(shè)施儲備。今年8月,百度、字節(jié)、騰訊和阿里向英偉達下單訂購50億美元的芯片,其中價值10億美元約10萬顆英偉達A800芯片,將在年內(nèi)交付。另外價值40億美元的芯片將于2024年交付。

然而,在上個月美國發(fā)布AI芯片出口管制新規(guī)之后,這些訂單都將不能如期交付。這意味著各大互聯(lián)網(wǎng)廠商面臨著不同程度的GPU芯片緊缺的局面。

阿里云此次暫停A100服務(wù)器對外出租可想而知就是如此。阿里云是全球領(lǐng)先的云計算服務(wù)提供商之一,它提供各種各樣的云計算產(chǎn)品和服務(wù),包括云服務(wù)器租賃。

阿里云云服務(wù)器租賃是一種將計算資源分配給用戶的服務(wù),用戶可以通過互聯(lián)網(wǎng)租用虛擬化的服務(wù)器資源。這些服務(wù)器資源是在阿里云數(shù)據(jù)中心中運行的,用戶只需要根據(jù)自己的需求選擇適合自己的云服務(wù)器,并根據(jù)需要支付租金。

在10月31日開幕的2023年云棲大會上,阿里巴巴集團董事會主席蔡崇信談到,在當(dāng)下的智能化時代,阿里巴巴要致力于打造AI時代最開放的云。他表示,目前,中國有80%的科技企業(yè)和一半的大模型公司都跑在阿里云上。

除了對外出租,阿里云正在研發(fā)和迭代自己的通義千問大模型,這對GPU算力的需求很高。舉例來看,OpenAI的GPT-3訓(xùn)練使用了128臺英偉達A100服務(wù)器(訓(xùn)練34天),對應(yīng)640P算力,GPT-4模型訓(xùn)練使用了3125臺英偉達A100 服務(wù)器(訓(xùn)練90-100天),對應(yīng)15625P算力。從GPT-3至GPT-4模型參數(shù)規(guī)模增加約10倍,用于訓(xùn)練的GPU數(shù)量增加了近24倍。

根據(jù)行業(yè)人士的推測,國內(nèi)頭部大模型廠商如果對標(biāo)GPT-3模型的訓(xùn)練需求,需要1920臺A100/A800服務(wù)器,對應(yīng)15360張GPU。如果對標(biāo)GPT-4模型的訓(xùn)練需求,則額外需要13705臺A100/A800服務(wù)器,對應(yīng)近11萬張GPU。

根據(jù)此前傳出的一份交流紀要里,阿里云AI專家提到,阿里云在云上有上萬片的A100,整體能夠達到10萬片,集團體量應(yīng)該是阿里云的5倍。該AI專家提到,大模型大規(guī)模的應(yīng)用,成本也很高,比如ChatGPT完成一個推理任務(wù),需要5張A100在2秒鐘之內(nèi)做一次推理。

大致來看,1萬張頂級顯卡才剛剛算是能夠跨進大模型的門。而如果要訓(xùn)練更高級別的大模型,對GPU的需求將會呈大幅度增長。就如上文所述,阿里云擁有大約1萬張A100,已經(jīng)足夠其訓(xùn)練大模型產(chǎn)品,然而如果它想訓(xùn)練出對標(biāo)GPT-4的模型,可能就要用上阿里集團目前所有的GPU卡。

逐漸能用的國產(chǎn)AI芯片

隨著大模型的研發(fā)和應(yīng)用,以及美國對AI芯片的出口管制,目前市場面現(xiàn)有的英偉達GPU芯片已經(jīng)漲到天價,而且所剩不多,各個算力租賃服務(wù)企業(yè)價格也在不斷上漲。阿里云或許是為了率先滿足自己對算力的需求,只得暫停A100服務(wù)器對外出租。

然而這些舉措都沒有辦法真正解決,目前國內(nèi)對可用于大模型訓(xùn)練和推理的AI芯片的需求問題。近日,面對美國加強對華人工智能芯片管制,英特爾率先提出應(yīng)變策略。據(jù)英特爾供應(yīng)鏈透露,英特爾已針對最新發(fā)布的Gaudi2推出降規(guī)版出貨,預(yù)計將不受新禁令影響。

不過,即使Gaudi2降規(guī)版短期內(nèi)能夠出貨,然而其性能必然是會大打折扣的。要知道,之前英偉達在符合去年10月法規(guī)的基礎(chǔ)上,推出的A800/H800,相對于A100/H100在關(guān)鍵性能上就已經(jīng)大幅限制,如今要符合更新后的出口管制規(guī)定,Gaudi2降規(guī)版計算性能還得更進一步下調(diào)。

期待國產(chǎn)AI算力芯片的突圍,才是長久之計。事實上,目前已經(jīng)有一些國產(chǎn)企業(yè)的人工智能芯片,受到客戶的青睞。比如弘信電子近日發(fā)布公告稱,已與上海燧原科技有限公司簽署采購協(xié)議,擬長期向燧原科技采購一定數(shù)量的人工智能加速卡及配套產(chǎn)品作為原材料。本次公司已正式向燧原科技下發(fā)9152片芯片采購訂單,計劃于年底前完成全部芯片的交付,快速形成國產(chǎn)算力落地。

近日也有消息傳出,百度為200臺服務(wù)器訂購了1600片昇騰910B AI芯片。到10月份,華為已向百度交付了超過60%的訂單。而且此前科大訊飛此前就已經(jīng)采用華為昇騰910B芯片,該公司還表示,當(dāng)前華為昇騰910B能力已經(jīng)基本做到可對標(biāo)英偉達A100。

總結(jié)

可以看到,在當(dāng)前大模型的不斷發(fā)展,及美國對AI芯片的出口管制下,算力已經(jīng)出現(xiàn)了極度緊缺的情況。雖然英特爾表示,已發(fā)布針對最新發(fā)布的Gaudi2推出降規(guī)版。然而可想而知其性能將會大打折扣,而且不能確保美國后續(xù)不會針對降規(guī)版也實施限制。長久來看,發(fā)展中國自己的AI算力芯片極其重要,而如今已經(jīng)有國產(chǎn)的AI芯片可以用于大模型的訓(xùn)練和推理,這無疑給國產(chǎn)AI芯片在未來的發(fā)展中增添了更多信心。






聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • AI
    AI
    +關(guān)注

    關(guān)注

    88

    文章

    34623

    瀏覽量

    276453
  • 阿里云
    +關(guān)注

    關(guān)注

    3

    文章

    1007

    瀏覽量

    43972
收藏 人收藏

    評論

    相關(guān)推薦
    熱點推薦

    AI 服務(wù)器電源如何迭代升級?

    AI 需求增長的今天,AI 服務(wù)器電源正陷入 “性能瓶頸與國產(chǎn)替代并行、場景適配與技術(shù)創(chuàng)新
    的頭像 發(fā)表于 06-23 14:51 ?35次閱讀

    AI新基建背后的中國芯力量——中微愛芯服務(wù)器芯片國產(chǎn)化替代全景解讀

    計算架構(gòu)已難以支撐AI技術(shù)的迭代速度。這一矛盾直接催生了AI服務(wù)器的快速發(fā)展——作為承載AI
    的頭像 發(fā)表于 06-20 13:55 ?389次閱讀
    <b class='flag-5'>AI</b><b class='flag-5'>算</b><b class='flag-5'>力</b>新基建背后的中國芯力量——中微愛芯<b class='flag-5'>服務(wù)器</b><b class='flag-5'>芯片</b><b class='flag-5'>國產(chǎn)</b>化替代全景解讀

    基于RAKsmart服務(wù)器AI大模型實時推理方案設(shè)計

    面對高并發(fā)請求、嚴格的響應(yīng)延遲要求及波動的業(yè)務(wù)負載,傳統(tǒng)本地化部署的瓶頸愈發(fā)顯著。RAKsmart服務(wù)器憑借其彈性計算資源池、分布式網(wǎng)絡(luò)架構(gòu)與全棧
    的頭像 發(fā)表于 05-13 10:33 ?176次閱讀

    從云端到終端:RAKsmart服務(wù)器構(gòu)筑AI平臺智慧城市全棧解決方案

    傳統(tǒng)服務(wù)器方案常面臨分散、運維復(fù)雜、能效比低等問題,導(dǎo)致AI算法難以高效落地。而RAKsmart服務(wù)器憑借其技術(shù)創(chuàng)新與全棧
    的頭像 發(fā)表于 05-09 09:47 ?165次閱讀

    RAKsmart服務(wù)器如何賦能AI開發(fā)與部署

    AI開發(fā)與部署的復(fù)雜性不僅體現(xiàn)在算法設(shè)計層面,更依賴于底層基礎(chǔ)設(shè)施的支撐能力。RAKsmart服務(wù)器憑借其高性能硬件架構(gòu)、靈活的資源調(diào)度能力以及面向AI場景的深度優(yōu)化,正在成為企業(yè)突破
    的頭像 發(fā)表于 04-30 09:22 ?214次閱讀

    智能服務(wù)器應(yīng)用領(lǐng)域

    加速金融模型訓(xùn)練與實時交易決策,頭部機構(gòu)平臺規(guī)模超3.8萬臺服務(wù)器?。 二、?醫(yī)療健康? 藥物研發(fā)與基因測序?:AI
    的頭像 發(fā)表于 04-21 09:09 ?263次閱讀
    智能<b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>服務(wù)器</b>應(yīng)用領(lǐng)域

    智能最具潛力的行業(yè)領(lǐng)域

    ?; 數(shù)據(jù)治理與聯(lián)合創(chuàng)新?:民生銀行與華為、阿里等共建AI實驗室,通過“數(shù)據(jù)湖+模型體系”提升服務(wù)精準(zhǔn)度?;
    的頭像 發(fā)表于 04-11 08:20 ?292次閱讀
    智能<b class='flag-5'>算</b><b class='flag-5'>力</b>最具潛力的行業(yè)領(lǐng)域

    RAKsmart服務(wù)器如何重塑AI高并發(fā)格局

    AI大模型參數(shù)量突破萬億級、實時推理需求激增的當(dāng)下,傳統(tǒng)服務(wù)器架構(gòu)的并發(fā)處理能力已逼近物理極限。RAKsmart通過“硬件重構(gòu)+軟件定義”的雙引擎創(chuàng)新,推出新一代AI服務(wù)器解決方案。
    的頭像 發(fā)表于 04-03 10:37 ?273次閱讀

    如何在RAKsmart服務(wù)器上實現(xiàn)企業(yè)AI模型部署

    AI模型的訓(xùn)練與部署需要強大的支持、穩(wěn)定的網(wǎng)絡(luò)環(huán)境和專業(yè)的技術(shù)管理。RAKsmart作為全球領(lǐng)先的服務(wù)器托管與計算
    的頭像 發(fā)表于 03-27 09:46 ?457次閱讀

    DeepSeek推動AI需求:800G光模塊的關(guān)鍵作用

    隨著人工智能技術(shù)的飛速發(fā)展,AI需求正以前所未有的速度增長。DeepSeek等大模型的訓(xùn)練與推理任務(wù)對的需求持續(xù)攀升,直接推動了
    發(fā)表于 03-25 12:00

    Firefly 服務(wù)器系列:覆蓋多個領(lǐng)域的高解決方案

    Firefly專注于以計算和大數(shù)據(jù)為核心的服務(wù)器產(chǎn)品開發(fā)與應(yīng)用,陸續(xù)推出支持多種計算單元的ARM服務(wù)器,覆蓋多個行業(yè)及領(lǐng)域,為客戶提供優(yōu)質(zhì)的解決方案。Firefly服務(wù)器系列產(chǎn)品
    的頭像 發(fā)表于 02-19 16:34 ?562次閱讀
    Firefly <b class='flag-5'>服務(wù)器</b>系列:覆蓋多個領(lǐng)域的高<b class='flag-5'>算</b><b class='flag-5'>力</b>解決方案

    巨人網(wǎng)絡(luò)與阿里深化AI合作

    巨人網(wǎng)絡(luò)近日宣布與阿里進一步深化合作關(guān)系,雙方將在游戲場景的AI落地應(yīng)用及生態(tài)建設(shè)等領(lǐng)域展開更為緊密的合作,共同推動
    的頭像 發(fā)表于 02-14 14:06 ?526次閱讀

    一體架構(gòu)創(chuàng)新助力國產(chǎn)AI芯片騰飛

    在灣芯展SEMiBAY2024《AI芯片與高性能計算(HPC)應(yīng)用論壇》上,億鑄科技高級副總裁徐芳發(fā)表了題為《存一體架構(gòu)創(chuàng)新助力國產(chǎn)
    的頭像 發(fā)表于 10-23 14:48 ?804次閱讀

    什么是AI服務(wù)器AI服務(wù)器的優(yōu)勢是什么?

    AI服務(wù)器是一種專門為人工智能應(yīng)用設(shè)計的服務(wù)器,它采用異構(gòu)形式的硬件架構(gòu),通常搭載GPU、FPGA、ASIC等加速芯片,利用CPU與加速芯片
    的頭像 發(fā)表于 09-21 11:43 ?1923次閱讀

    AI服務(wù)器:開啟智能計算新時代

    一、AI服務(wù)器的定義與特點 AI服務(wù)器的定義 AI
    的頭像 發(fā)表于 08-09 16:08 ?1591次閱讀
    主站蜘蛛池模板: 播放个毛片看看 | 国产h在线| 婷婷99精品国产97久久综合 | 无码一区二区三区视频 | 国产亚洲精品美女久久久 | 欧美全免费aaaaaa特黄在线 | 天天射天天爱天天干 | bt天堂网在线资源www | 色综合久久网女同蕾丝边 | 成年女人毛片免费视频 | 久久久午夜精品理论片 | 久久是精品| 一级毛片aaaaaa免费看 | 激情六月丁香婷婷 | 宅男午夜视频在线观看 | lsj老司机精品视频在线观看 | 四虎精品成人a在线观看 | 亚洲欧美视频在线 | 黄 色 片 在 线 看 | 男人扒开美女尿口无遮挡图片 | 色综合97天天综合网 | 久久天天躁狠狠躁夜夜躁综合 | 男女一进一出无遮挡黄 | 色噜噜狠狠色综合欧洲selulu | 日本一区三区二区三区四区 | 亚洲狼色专区 | 色婷婷综合激情 | 色香五月 | 九色综合伊人久久富二代 | 五月婷婷深深爱 | 三级视频网站在线观看 | 国产又粗又大又爽又免费 | 超大乳抖乳露双乳视频 | 亚洲精品第一 | 四虎免费影院在线播放 | 欧美国产三级 | 国产精品高清久久久久久久 | 视频在线观看一区二区三区 | 韩日毛片 | 男人女人的免费视频网站 | 日韩一区二区三区在线 |