NVIDIA H100 GPU交貨周期縮短，部分公司轉(zhuǎn)向銷售或減單
據(jù)悉，NVIDIA H100 GPU的交貨期已由原來的8至11個月大幅度壓縮為如今的3至4個月，使部分屯貨公司尋求出售剩余的H100 80GB處理器。如今在諸如亞馬遜云服務(wù)、谷歌云及微軟Azure等大型云服務(wù)供應(yīng)商處租賃芯片更為便捷。
根據(jù)The Information報導(dǎo)，由于芯片供應(yīng)狀況改善、交貨期的驟然縮短，一些公司開始拋售他們所持有的GPU或削減訂單。然而，盡管如此，AI芯片需求仍大于供應(yīng)，特別是OpenAI之類的大型語言模型訓(xùn)練機(jī)構(gòu)。
一些云服務(wù)提供商，如亞馬遜AWS，提供按需租用H100 GPU的服務(wù)，緩解了消費(fèi)者的購買壓力。盡管如此，由于大規(guī)模的語言模型訓(xùn)練以數(shù)以萬計的GPU進(jìn)行，瓶頸仍在，這些機(jī)構(gòu)有時需要耐心等待數(shù)月以獲取所需處理能力。因此，NVIDIA H100等處理器的價格依舊居高不下，相關(guān)公司繼續(xù)賺取豐厚利潤。
值得關(guān)注的是，隨著供貨緊張的緩解，買方行為亦有所改變。如今企業(yè)更多地考慮價格和資產(chǎn)購置/租賃的合理性，偏好較小規(guī)模的GPU集群并關(guān)注商業(yè)的財務(wù)效益。
隨著替代產(chǎn)品如AMD和AWS處理器的性能提升和軟件服務(wù)的完善，加之對AI處理器投資更加審慎，預(yù)示著未來AI市場可能會趨于平衡。
聲明：本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人，不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用，如有內(nèi)容侵權(quán)或者其他違規(guī)問題，請聯(lián)系本站處理。
舉報投訴
-
NVIDIA
+關(guān)注
關(guān)注
14文章
5080瀏覽量
103826 -
語言模型
+關(guān)注
關(guān)注
0文章
542瀏覽量
10344 -
AI芯片
+關(guān)注
關(guān)注
17文章
1911瀏覽量
35244
發(fā)布評論請先 登錄
相關(guān)推薦
英偉達(dá)A100和H100比較
英偉達(dá)A100和H100都是針對高性能計算和人工智能任務(wù)設(shè)計的GPU，但在性能和特性上存在顯著差異。以下是對這兩款GPU的比較： 1. 架構(gòu)與核心規(guī)格： A
借助NVIDIA GPU提升魯班系統(tǒng)CAE軟件計算效率
本案例中魯班系統(tǒng)高性能 CAE 軟件利用 NVIDIA 高性能 GPU，實現(xiàn)復(fù)雜產(chǎn)品的快速仿真，加速產(chǎn)品開發(fā)和設(shè)計迭代，縮短開發(fā)周期，提升產(chǎn)品競爭力。
《CST Studio Suite 2024 GPU加速計算指南》
和不支持的NVIDIA GPU硬件，如支持的有L40S、RTX 5000 Ada Gen等，不支持的如Kepler和Maxwell部分型號被標(biāo)記為棄用。同時提到GPU計算要求64位計算
發(fā)表于 12-16 14:25
Supermicro推出直接液冷優(yōu)化的NVIDIA Blackwell解決方案
機(jī)架中的NVIDIA HGX B200 8-GPU系統(tǒng)數(shù)量，與Supermicro目前領(lǐng)先業(yè)界的搭載NVIDIA HGX H100和H200
發(fā)表于 11-25 10:39
?500次閱讀
英偉達(dá)H100芯片市場降溫
隨著英偉達(dá)新一代AI芯片GB200需求的不斷攀升，其上一代明星產(chǎn)品H100芯片卻遭遇了市場的冷落。據(jù)業(yè)內(nèi)人士透露，搭載H100的服務(wù)器通常以8卡的形式進(jìn)行出售或出租，而在去年，這類服務(wù)器的售價普遍
創(chuàng)業(yè)公司轉(zhuǎn)向RTX 4090因NVIDIA中國特供芯片價格高昂
8月14日最新消息指出，據(jù)多方媒體報道，NVIDIA的A100與H100等高端芯片因受限已有一年半之久，盡管公司隨后推出了專為中國市場設(shè)計的H
首批1024塊H100 GPU，正崴集團(tuán)將建中國臺灣最大AI計算中心
中國臺灣當(dāng)?shù)卣思瘓F(tuán)5月27日宣布，將與日本公司Ubitus共同打造人工智能（AI）計算中心，其中第一期將導(dǎo)入128個機(jī)柜，共計1024張英偉達(dá)H100旗艦計算卡，旨在構(gòu)建臺灣最大的AI計算中心。
英偉達(dá)H100 GPU交貨等待時間大幅縮短
盡管交貨周期有所縮短，Liao強(qiáng)調(diào)，人工智能硬件市場需求依然強(qiáng)勁。盡管價格較高，但人工智能服務(wù)器的采購量正在超過普通服務(wù)器。他指出，過長的交付周期是導(dǎo)致需求看似持續(xù)增長的主因。
英特爾發(fā)布人工智能芯片新版，對標(biāo)Nvidia
為應(yīng)對AI行業(yè)對高性能芯片的巨大需求，英特爾推出了全新Gaudi 3芯片，據(jù)稱這一款芯片在訓(xùn)練大語言模型方面的速度較之NVIDIA最新H100處理器要快50%。而且，其推理運(yùn)算速度也超過了部分
特斯拉和xAI籌集H100芯片，以推動L5級自動駕駛和“終極真相人工”的實現(xiàn)?
近期，X平臺用戶“技術(shù)兄弟”報導(dǎo)稱，Meta已成為全球最具實力的H100 GPU持有者，總計為35萬塊，但馬斯克對此卻并不認(rèn)同（特斯拉與xAI的持有量均為1萬顆），并堅持認(rèn)為“如若計算無誤，特斯拉應(yīng)列位次席，xAI緊隨其后”。
英偉達(dá)H200和H100的比較
英偉達(dá)H200和H100是兩款不同的AI芯片，它們各自具有獨(dú)特的特點(diǎn)和優(yōu)勢。以下是關(guān)于這兩款芯片的一些比較。
H100 GPU供應(yīng)改善，AI市場需求依舊強(qiáng)勁
值得注意的是，H100 GPU的供求關(guān)系已經(jīng)緩解，且維護(hù)成本高起，部分客戶正在置換這類硬件以轉(zhuǎn)向云服務(wù)，這種轉(zhuǎn)變在過去的市場緊縮中很少見到。同時，市場上雖然有其他選擇如AMD的MI30
英偉達(dá)繁榮背后的挑戰(zhàn) 仍面臨著各種內(nèi)憂外患
為搶占AI商機(jī)，英特爾和AMD都緊跟著NVIDIA腳步，在NVIDIA率先推出采用臺積電4nm的H100后，AMD于去年推出首批應(yīng)用于AI和HPC的“Instinct MI300系列”，其中MI300X更是在
英偉達(dá)大幅縮短AI GPU交付周期
根據(jù)瑞銀分析師最近提供給投資者的備忘錄，英偉達(dá)已經(jīng)顯著縮短了其AI GPU的交付周期。這一周期已經(jīng)從去年年底的8-11個月迅速縮短至目前的3
英偉達(dá)縮短AI GPU交付周期，持續(xù)推進(jìn)算力產(chǎn)業(yè)鏈發(fā)展
與此同時，隨著人工智能的迅猛發(fā)展及其廣泛應(yīng)用，對像H100和A100這類專為數(shù)據(jù)中心設(shè)計的高性能GPU的需求也大幅增長。而包括Yotta在內(nèi)的多家公司因此紛紛加大向英偉達(dá)的采購力度，導(dǎo)
工商網(wǎng)監(jiān)
評論