在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

科技云報(bào)道:大模型的火燒到了AI服務(wù)器上

科技云報(bào)到 ? 來源:jf_60444065 ? 作者:jf_60444065 ? 2023-07-27 08:50 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

科技云報(bào)道原創(chuàng)。

大模型的紛爭(zhēng)已經(jīng)隨著各大入局者公布產(chǎn)品后,熱度逐漸退去,但是由大模型帶來的產(chǎn)業(yè)鏈高頻共振,已經(jīng)傳遞了算力層。

表現(xiàn)最為激烈的,就是AI服務(wù)器市場(chǎng)。大模型帶來的算力需求,直接引發(fā)了一波AI服務(wù)器搶購潮和漲價(jià)潮。

據(jù)《證券時(shí)報(bào)》報(bào)道,一家檢測(cè)企業(yè)透露,他們?cè)谌ツ?月購買的8臺(tái)AI服務(wù)器到今年三月已經(jīng)漲價(jià)到130萬每臺(tái),到現(xiàn)在價(jià)格飆升至160萬每臺(tái)。不到一年的時(shí)間,價(jià)格漲幅近20倍。

另外,AI服務(wù)器需求量大漲也直接引發(fā)了上游材料PPO(聚苯醚,用作高速覆銅板增強(qiáng)材料)的搶購潮,此前有業(yè)內(nèi)相關(guān)人士坦言,由于全球PPO主流廠商僅一家,隨著AI服務(wù)器的放量,PPO未來很有可能成為產(chǎn)業(yè)鏈上的緊缺環(huán)節(jié)之一。

在這樣的背景下,AI服務(wù)器廠商擴(kuò)產(chǎn)的消息也層出不窮。

鴻海集團(tuán)旗下負(fù)責(zé)AI服務(wù)器業(yè)務(wù)的鴻佰科技就曾被曝出規(guī)劃新增五到六條生產(chǎn)線,以應(yīng)對(duì)AI服務(wù)器客戶要求的消息。

市場(chǎng)火熱度可見一斑,這也直接點(diǎn)燃了資本市場(chǎng)。

從1月份開始,以浪潮信息、中際旭創(chuàng)、工業(yè)富聯(lián)為首的AI服務(wù)器概念股扶搖直上,多次漲停,甚至連長期虧損的寒武紀(jì),股價(jià)都一路飄紅。

爆火的“AI服務(wù)器”

AI服務(wù)器是什么?

AI服務(wù)器是一種專門設(shè)計(jì)用于執(zhí)行人工智能(AI)、機(jī)器學(xué)習(xí)(ML)、深度學(xué)習(xí)(DL)等計(jì)算密集型任務(wù)的高性能服務(wù)器。

AI服務(wù)器通常配備有高效能的中央處理器CPU)、圖形處理器(GPU)、張量處理器(TPU)或?qū)S玫腁I加速器,以及大量的內(nèi)存和存儲(chǔ)空間。

在異構(gòu)方式上,AI服務(wù)器可以為CPU+GPU、CPU+FPGA、CPU+TPU、CPU+ASIC或CPU+多種加速卡。

具體的設(shè)計(jì)和配置可以根據(jù)需要進(jìn)行大量并行處理的具體任務(wù)來進(jìn)行調(diào)整。

目前,使用比較廣泛的AI服務(wù)器是CPU+GPU。這也與傳統(tǒng)的服務(wù)器區(qū)分開來。

據(jù)悉,傳統(tǒng)服務(wù)器主要以CPU為算力提供者,但是在運(yùn)作的過程中需要引入大量分支跳轉(zhuǎn)中斷處理,這使得CPU的內(nèi)部結(jié)構(gòu)復(fù)雜,并不能滿足AI時(shí)代的需求。

而采用GPU并行計(jì)算的AI服務(wù)器,單卡核心數(shù)達(dá)到上千個(gè),擅長處理密集型運(yùn)算應(yīng)用,如圖形渲染、計(jì)算視覺和機(jī)器學(xué)習(xí)。

上述提及的檢測(cè)企業(yè)使用的AI服務(wù)器,基礎(chǔ)配置就包括8顆英偉達(dá)A100GPU和80G存儲(chǔ)器。

AI服務(wù)器對(duì)于AI、ML和DL的計(jì)算密集型任務(wù)來說非常有用。主要功能包括:

大數(shù)據(jù)處理:AI服務(wù)器能夠處理和分析大量數(shù)據(jù),這是訓(xùn)練AI和ML模型的關(guān)鍵。

并行計(jì)算:由于AI和ML算法需要對(duì)大量數(shù)據(jù)進(jìn)行復(fù)雜的計(jì)算,AI服務(wù)器通常使用可以并行處理大量數(shù)據(jù)的硬件,如GPU。

存儲(chǔ)和內(nèi)存:AI服務(wù)器通有大量的存儲(chǔ)空間和內(nèi)存,以便存儲(chǔ)和處理大量的數(shù)據(jù)。

網(wǎng)絡(luò)能力:AI服務(wù)器需要高速和低延遲的網(wǎng)絡(luò)連接,以便快速傳輸大量的數(shù)據(jù)。

其實(shí),這也解釋了為什么在大模型熱浪后,會(huì)引發(fā)AI服務(wù)器的搶購浪。大模型中包含著海量的數(shù)據(jù)參數(shù)、訓(xùn)練、運(yùn)行都需要更多的計(jì)算資源來處理,這就需要更高性能的AI服務(wù)器來支持。

當(dāng)然,這一次AI服務(wù)需求大漲最直接的原因是大模型時(shí)代的到來,但是實(shí)際上,AI服務(wù)器在這個(gè)節(jié)點(diǎn)爆發(fā),與AI技術(shù)、大數(shù)據(jù)的發(fā)展都有關(guān)。

總的來說,AI服務(wù)器的爆火可以歸結(jié)為以下幾個(gè)關(guān)鍵因素。

首先,大數(shù)據(jù)的崛起。現(xiàn)代社會(huì)的每個(gè)角落,無論是社交媒體、電子商務(wù)還是互聯(lián)網(wǎng)搜索,都在產(chǎn)生大量的數(shù)據(jù)。

這些數(shù)據(jù)需要通過復(fù)雜的算法進(jìn)行分析和解讀,以發(fā)現(xiàn)有用的模式和信息,而AI服務(wù)器就能提供足夠的計(jì)算能力來處理這些任務(wù)。

其次,AI和ML的普及也推動(dòng)了AI服務(wù)器的需求。AI和ML現(xiàn)在已經(jīng)廣泛應(yīng)用于各種行業(yè),包括醫(yī)療保健、金融、零售和交通等。

這些領(lǐng)域的進(jìn)步需要強(qiáng)大的計(jì)算能力來處理和分析數(shù)據(jù),訓(xùn)練和運(yùn)行復(fù)雜的AI和ML模型。

最后,云計(jì)算和邊緣計(jì)算的發(fā)展也為AI服務(wù)器的爆火提供了動(dòng)力。

云計(jì)算使得企業(yè)和組織能夠無需購買和維護(hù)昂貴的硬件就能獲得強(qiáng)大的計(jì)算能力,而邊緣計(jì)算則需要在接近數(shù)據(jù)產(chǎn)生地點(diǎn)的服務(wù)器上進(jìn)行數(shù)據(jù)處理和分析。

AI服務(wù)器國內(nèi)市場(chǎng)格局

AI服務(wù)器市場(chǎng)在過去的幾年里一直在持續(xù)增長,到現(xiàn)今,在大模型的加持下,AI服務(wù)器市場(chǎng)盤子越來越大。

據(jù)北京研精畢智信息咨詢發(fā)布的最新數(shù)據(jù)顯示,2022年全年,全球AI服務(wù)器行業(yè)市場(chǎng)出貨量達(dá)到85萬臺(tái),同比增長約11%,到2023年中旬,AI服務(wù)器市場(chǎng)出貨量接近60萬臺(tái),相比上年同期增長約39%。

未來,隨著自然語言處理和圖像、視頻等AI大模型的發(fā)展,算力需求的持續(xù)增長,預(yù)計(jì)到今年年底,全球AI服務(wù)器市場(chǎng)規(guī)模將超過200億美元。

到2025年,預(yù)計(jì)市場(chǎng)出貨量將提升至190萬臺(tái)左右,2022-2025年期間年平均增長率達(dá)41.2%。

就具體產(chǎn)業(yè)鏈來說,AI服務(wù)器產(chǎn)業(yè)鏈上游為CPU、GPU、內(nèi)存和硬盤等核心零部件,以及數(shù)據(jù)庫、操作系統(tǒng)和基礎(chǔ)管理軟件等軟件供應(yīng);下游為應(yīng)用市場(chǎng),包括互聯(lián)網(wǎng)、云計(jì)算和數(shù)據(jù)中心服務(wù)商等。

目前,主導(dǎo)市場(chǎng)的是一些主要的AI服務(wù)器制造商,包括華為、浪潮、聯(lián)想和中科曙光等,這些公司的服務(wù)器被廣泛應(yīng)用于AI和ML的研究和商業(yè)應(yīng)用。

不過,值得注意的是,浪潮信息于近日發(fā)布了一份營收凈利潤雙雙下滑的半年度業(yè)績預(yù)告。

其中,浪潮信息2023年上半年扣非凈利潤同比下滑88%-99%。對(duì)此,浪潮信息方面稱,2023年上半年,受全球GPU及相關(guān)專用芯片供應(yīng)緊張等因素的影響,營業(yè)收入出現(xiàn)下滑。

實(shí)際上,有行業(yè)人士分析,在AI服務(wù)器大火的背景下,浪潮信息業(yè)績不及預(yù)期,深層次原因還是在于傳統(tǒng)服務(wù)器行業(yè)整體不景氣,而目前浪潮信息AI服務(wù)器實(shí)際所占比例并不大。

浪潮信息此前曾表示,總體來看,公司AI服務(wù)器的整體業(yè)務(wù)占比在上升。AI服務(wù)器需求大漲帶來的業(yè)績,或許能在浪潮信息2023年年報(bào)才能體現(xiàn)。

不過,根據(jù)IDC發(fā)布的《2022年第四季度中國服務(wù)器市場(chǎng)跟蹤報(bào)告Prelim》,目前,在整個(gè)服務(wù)器市場(chǎng)(涵蓋AI服務(wù)器和傳統(tǒng)服務(wù)器)浪潮份額依舊以28.1%領(lǐng)先,但相比于去年30.8%的份額,還是有所下滑。

其實(shí)這也與說明一點(diǎn),傳統(tǒng)CPU服務(wù)器行業(yè)受到AI的影響,市場(chǎng)逐漸萎靡。未來以AI服務(wù)器為代表的異構(gòu)服務(wù)器或是大勢(shì)所趨。

在應(yīng)用市場(chǎng),數(shù)據(jù)顯示,全球市場(chǎng)中以Microsoft、Google、Meta和AWS為代表的四家北美云端供應(yīng)商采購量相對(duì)比較高。

2022年末,Microsoft以接近20%的采購量占據(jù)當(dāng)年首位;Google、Meta和AWS采購量占比排在之后,分別達(dá)到17%、15%和14%。

在國內(nèi),隨著科技廠商入局大模型已經(jīng)大模型創(chuàng)業(yè)的興起,AI算力基礎(chǔ)設(shè)施的加快建設(shè),對(duì)AI服務(wù)器的采購量占比也在相應(yīng)升高。

2022年年末,字節(jié)跳動(dòng)的AI服務(wù)器采購量大幅度提高,市場(chǎng)占比達(dá)到6%。

然而,市場(chǎng)也面臨著一些挑戰(zhàn)。首先,是能源消耗的問題。盡管AI服務(wù)器的性能在不斷提高,但其能耗也在增加。這對(duì)于環(huán)保和電力供應(yīng)來說都是一個(gè)問題。

其次,AI和ML的快速發(fā)展和變化要求服務(wù)器制造商必須持續(xù)投入研發(fā),以確保他們的產(chǎn)品能夠滿足最新的需求。

關(guān)于未來,國內(nèi)的AI服務(wù)器市場(chǎng)有很大的潛力。隨著AI、ML和DL的進(jìn)一步發(fā)展和應(yīng)用,預(yù)計(jì)對(duì)AI服務(wù)器的需求將繼續(xù)增長。

此外,隨著5G物聯(lián)網(wǎng)技術(shù)的普及,未來在邊緣計(jì)算領(lǐng)域?qū)I服務(wù)器的需求將會(huì)增加。

總的來說,盡管市場(chǎng)面臨著一些挑戰(zhàn),但AI服務(wù)器的快速發(fā)展和廣泛應(yīng)用表明,這是一個(gè)充滿活力和潛力的市場(chǎng)。

【關(guān)于科技云報(bào)道】

專注于原創(chuàng)的企業(yè)級(jí)內(nèi)容行家——科技云報(bào)道。成立于2015年,是前沿企業(yè)級(jí)IT領(lǐng)域Top10媒體。獲工信部權(quán)威認(rèn)可,可信云、全球云計(jì)算大會(huì)官方指定傳播媒體之一。深入原創(chuàng)報(bào)道云計(jì)算、大數(shù)據(jù)、人工智能、區(qū)塊鏈等領(lǐng)域。

審核編輯 黃宇

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 服務(wù)器
    +關(guān)注

    關(guān)注

    13

    文章

    9783

    瀏覽量

    87819
  • AI
    AI
    +關(guān)注

    關(guān)注

    88

    文章

    35008

    瀏覽量

    278727
  • 大模型
    +關(guān)注

    關(guān)注

    2

    文章

    3124

    瀏覽量

    4035
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    基于RAKsmart服務(wù)器AI模型實(shí)時(shí)推理方案設(shè)計(jì)

    面對(duì)高并發(fā)請(qǐng)求、嚴(yán)格的響應(yīng)延遲要求及波動(dòng)的業(yè)務(wù)負(fù)載,傳統(tǒng)本地化部署的算力瓶頸愈發(fā)顯著。RAKsmart服務(wù)器憑借其彈性計(jì)算資源池、分布式網(wǎng)絡(luò)架構(gòu)與全棧AI加速能力,為AI
    的頭像 發(fā)表于 05-13 10:33 ?218次閱讀

    如何在RAKsmart服務(wù)器實(shí)現(xiàn)企業(yè)AI模型部署

    AI模型的訓(xùn)練與部署需要強(qiáng)大的算力支持、穩(wěn)定的網(wǎng)絡(luò)環(huán)境和專業(yè)的技術(shù)管理。RAKsmart作為全球領(lǐng)先的服務(wù)器托管與計(jì)算服務(wù)提供商,已成為企
    的頭像 發(fā)表于 03-27 09:46 ?481次閱讀

    利用RAKsmart服務(wù)器托管AI模型訓(xùn)練的優(yōu)勢(shì)

    AI模型訓(xùn)練需要強(qiáng)大的計(jì)算資源、高效的存儲(chǔ)和穩(wěn)定的網(wǎng)絡(luò)支持,這對(duì)服務(wù)器的性能提出了較高要求。而RAKsmart服務(wù)器憑借其核心優(yōu)勢(shì),成為托管AI
    的頭像 發(fā)表于 03-18 10:08 ?257次閱讀

    Manus掀起AI熱潮,服務(wù)器面臨新挑戰(zhàn)

    近日,一款名為Manus的AI產(chǎn)品在網(wǎng)絡(luò)掀起波瀾,被譽(yù)為“全球首款真正意義的通用AIAgent”。Manus的火爆不僅展現(xiàn)了AI技術(shù)的巨大潛力,也凸顯了
    的頭像 發(fā)表于 03-07 10:30 ?372次閱讀

    儲(chǔ)存服務(wù)器與傳統(tǒng)存儲(chǔ)的區(qū)別 儲(chǔ)存服務(wù)器數(shù)據(jù)恢復(fù)方法

    服務(wù)器,即服務(wù)提供商的服務(wù)器。這些服務(wù)器通常位
    的頭像 發(fā)表于 02-01 10:02 ?1331次閱讀

    采用華為 Flexus 服務(wù)器 X 實(shí)例部署 MQTT 服務(wù)器完成設(shè)備

    一、前言 1.1 開發(fā)需求 這篇文章講解: 采用華為最新推出的 Flexus 服務(wù)器 X 實(shí)例 EMQX 服務(wù)器,搭建 MQTT 服務(wù)器
    的頭像 發(fā)表于 12-26 18:12 ?555次閱讀
    采用華為<b class='flag-5'>云</b> Flexus <b class='flag-5'>云</b><b class='flag-5'>服務(wù)器</b> X 實(shí)例部署 MQTT <b class='flag-5'>服務(wù)器</b>完成設(shè)備<b class='flag-5'>上</b><b class='flag-5'>云</b>

    GPU加速服務(wù)器怎么用的

    GPU加速服務(wù)器是將GPU硬件與計(jì)算服務(wù)相結(jié)合,通過服務(wù)提供商的平臺(tái),用戶可以根據(jù)需求靈活
    的頭像 發(fā)表于 12-26 11:58 ?443次閱讀

    海外輕量服務(wù)器是什么意思?如何使用

    海外輕量服務(wù)器是指位于海外數(shù)據(jù)中心內(nèi),采用虛擬化技術(shù)構(gòu)建的輕量級(jí)服務(wù)器實(shí)例。海外輕量服務(wù)器
    的頭像 發(fā)表于 10-30 09:48 ?539次閱讀

    獨(dú)立服務(wù)器服務(wù)器的區(qū)別

    隨著互聯(lián)網(wǎng)技術(shù)的飛速發(fā)展,企業(yè)對(duì)于服務(wù)器的需求日益增加,而服務(wù)器市場(chǎng)也隨之出現(xiàn)了多種類型的產(chǎn)品,其中最常見的是獨(dú)立服務(wù)器服務(wù)器。這兩種
    的頭像 發(fā)表于 10-12 14:34 ?696次閱讀

    什么是服務(wù)器

    服務(wù)器(Cloud Server),又稱主機(jī)或彈性計(jì)算服務(wù)(Elastic Compute Service, ECS),是基于計(jì)算技術(shù)
    的頭像 發(fā)表于 09-27 09:34 ?764次閱讀

    服務(wù)器連接不是什么原因引起的?

    服務(wù)器連接不是一個(gè)常見的問題,常見的原因有網(wǎng)絡(luò)連接、賬戶權(quán)限、安全組設(shè)置、服務(wù)器狀態(tài)、端口占用、遠(yuǎn)程登錄未開啟、
    的頭像 發(fā)表于 09-26 11:11 ?637次閱讀

    海外輕量服務(wù)器是什么

    海外輕量服務(wù)器是指位于海外數(shù)據(jù)中心內(nèi),采用虛擬化技術(shù)構(gòu)建的輕量級(jí)服務(wù)器實(shí)例。與傳統(tǒng)的物理服務(wù)器或國內(nèi)
    的頭像 發(fā)表于 09-25 10:09 ?554次閱讀

    AI服務(wù)器:開啟智能計(jì)算新時(shí)代

    一、AI服務(wù)器的定義與特點(diǎn) AI服務(wù)器的定義 AI
    的頭像 發(fā)表于 08-09 16:08 ?1637次閱讀

    IaaS服務(wù)器的優(yōu)勢(shì)是什么?

    計(jì)算的基本定義是,使用部署在遠(yuǎn)程機(jī)器/系統(tǒng)的計(jì)算資源(硬件/軟件),并通過網(wǎng)絡(luò)(私人/公共)作為服務(wù)交付給最終用戶。 IaaS計(jì)算(
    的頭像 發(fā)表于 07-18 11:53 ?817次閱讀

    AI服務(wù)器的特點(diǎn)和關(guān)鍵技術(shù)

    AI服務(wù)器,即人工智能服務(wù)器,是一種專門設(shè)計(jì)用于運(yùn)行和加速人工智能(AI)算法與模型的硬件設(shè)備。隨著人工智能技術(shù)的快速發(fā)展和普及,
    的頭像 發(fā)表于 07-17 16:34 ?3010次閱讀
    主站蜘蛛池模板: 性视频网| 国产精品性 | 久久久免费视频观看 | 亚洲天堂三级 | 色网站在线视频 | 人人草人人插 | 国产精品嫩草影院一二三区 | 欧美色插 | 夜夜爽天天狠狠九月婷婷 | 色偷偷91久久综合噜噜噜噜 | 欧美色视频日本 | 国产网红主播精品福利大秀专区 | 国产在线永久视频 | 久久天天躁夜夜躁狠狠85台湾 | 99久久精品国产自免费 | 国产亚洲美女精品久久久2020 | 99插插| 一区二区三区中文字幕 | 久久亚洲国产精品五月天 | 欧美日韩国产一区二区 | 国产亚洲精品久久久久久牛牛 | 免费视频网站在线观看 | 日韩美女影院 | 婷婷狠狠| a理论片| 1515hh四虎免费观38com | 永久免费人成网ww555kkk手机 | 222aaa天堂| 色视频观看 | 日本与大黑人xxxx | 三级网站在线免费观看 | 欧美猛操 | 欧美成人三级伦在线观看 | 日日噜噜夜夜狠狠tv视频免费 | 九九精品在线观看 | 午夜视频欧美 | 国产人成午夜免视频网站 | 四虎影视在线看 | 天天爱天天做天天爽夜夜揉 | 在线观看国产日本 | 欧美猛性 |