據悉,NVIDIA H100 GPU的交貨期已由原來的8至11個月大幅度壓縮為如今的3至4個月,使部分屯貨公司尋求出售剩余的H100 80GB處理器。如今在諸如亞馬遜云服務、谷歌云及微軟Azure等大型云服務供應商處租賃芯片更為便捷。
根據The Information報導,由于芯片供應狀況改善、交貨期的驟然縮短,一些公司開始拋售他們所持有的GPU或削減訂單。然而,盡管如此,AI芯片需求仍大于供應,特別是OpenAI之類的大型語言模型訓練機構。
一些云服務提供商,如亞馬遜AWS,提供按需租用H100 GPU的服務,緩解了消費者的購買壓力。盡管如此,由于大規模的語言模型訓練以數以萬計的GPU進行,瓶頸仍在,這些機構有時需要耐心等待數月以獲取所需處理能力。因此,NVIDIA H100等處理器的價格依舊居高不下,相關公司繼續賺取豐厚利潤。
值得關注的是,隨著供貨緊張的緩解,買方行為亦有所改變。如今企業更多地考慮價格和資產購置/租賃的合理性,偏好較小規模的GPU集群并關注商業的財務效益。
隨著替代產品如AMD和AWS處理器的性能提升和軟件服務的完善,加之對AI處理器投資更加審慎,預示著未來AI市場可能會趨于平衡。
-
NVIDIA
+關注
關注
14文章
5309瀏覽量
106434 -
語言模型
+關注
關注
0文章
561瀏覽量
10798 -
AI芯片
+關注
關注
17文章
1983瀏覽量
35921
發布評論請先 登錄
英偉達黃仁勛:將向中國市場銷售H20芯片 中國市場至關重要
GPU 維修干貨 | 英偉達 GPU H100 常見故障有哪些?

0xmd公司通過NVIDIA GPU打造醫療AI解決方案
借助NVIDIA GPU提升魯班系統CAE軟件計算效率
《CST Studio Suite 2024 GPU加速計算指南》
Supermicro推出直接液冷優化的NVIDIA Blackwell解決方案

一文梳理:如何構建并優化GPU云算力中心?

英偉達H100芯片市場降溫
AMD與NVIDIA GPU優缺點
揭秘智算中心的互聯技術決策

創業公司轉向RTX 4090因NVIDIA中國特供芯片價格高昂
NVIDIA全面轉向開源GPU內核模塊

評論