伴隨著人工智能技術(shù)飛躍式的進(jìn)步,對(duì)于計(jì)算機(jī)運(yùn)算能力的需求同樣大幅提升。目前,英偉達(dá)公司的H100芯片銷售火爆。值得關(guān)注的是,單片H100芯片的峰值功率高達(dá)700瓦。隨著此類芯片的廣泛使用,預(yù)計(jì)到2024年末,其總體功耗將相當(dāng)于甚至超越某些歐洲小型國(guó)家。
根據(jù)預(yù)測(cè),若H100的年利用率保持在61%,那么單臺(tái)設(shè)備每年將耗電3740千瓦小時(shí)左右。如果英偉達(dá)在2023年售出150萬塊H100,2024年再增加至200萬塊,那么到2024年底,將有350萬塊H100芯片投入使用,其總年用電量將高達(dá)130.91億千瓦小時(shí)(13091.82GWh)。相對(duì)而言,一些國(guó)家的年平均發(fā)電水平,如格魯吉亞、立陶宛和危地馬拉,也是這個(gè)數(shù)量級(jí)。
盡管H100的電力消耗數(shù)字讓人瞠目結(jié)舌,但我們可以看到,AI以及高性能計(jì)算GPU的能效正逐步改善。英偉達(dá)下一代Blackwell架構(gòu)的B100芯片不僅可能擁有超過H100的功耗,而且還能實(shí)現(xiàn)更高的性能表現(xiàn),從而在相同能耗下完成更多任務(wù)。
很明顯,隨著AI技術(shù)的持續(xù)發(fā)展,如何妥善處理算力與能耗之間的矛盾,成為了未來亟待解決的重大問題。
-
芯片
+關(guān)注
關(guān)注
456文章
50965瀏覽量
424820 -
人工智能
+關(guān)注
關(guān)注
1792文章
47442瀏覽量
238990 -
英偉達(dá)
+關(guān)注
關(guān)注
22文章
3800瀏覽量
91337
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
英偉達(dá)H100芯片市場(chǎng)降溫
英偉達(dá)面臨雙重反壟斷調(diào)查挑戰(zhàn)
英偉達(dá)AI芯片需求激增,封測(cè)廠訂單量或翻倍
首批1024塊H100 GPU,正崴集團(tuán)將建中國(guó)臺(tái)灣最大AI計(jì)算中心
進(jìn)一步解讀英偉達(dá) Blackwell 架構(gòu)、NVlink及GB200 超級(jí)芯片
英偉達(dá)超級(jí)計(jì)算機(jī)Eos揭秘
英特爾的最強(qiáng)AI芯片要來了,聲稱性能完勝英偉達(dá)H100
英偉達(dá)H200帶寬狂飆
英偉達(dá)H200顯卡價(jià)格
英偉達(dá)H200和H100的比較
戴爾績(jī)后暴漲20% AI服務(wù)器需求激增
美光科技啟動(dòng)高帶寬存儲(chǔ)芯片生產(chǎn) 為英偉達(dá)最新AI芯片提供支持
英偉達(dá):預(yù)計(jì)下一代AI芯片B100短缺,計(jì)劃擴(kuò)產(chǎn)并采用新架構(gòu)
【機(jī)器視覺】歡創(chuàng)播報(bào) | 英偉達(dá)拿下全球90%的AI芯片市場(chǎng)
猛獸財(cái)經(jīng):2024年繼續(xù)看好英偉達(dá)的兩個(gè)理由
![猛獸財(cái)經(jīng):2024年繼續(xù)看好<b class='flag-5'>英偉</b><b class='flag-5'>達(dá)</b>的兩個(gè)理由](https://file1.elecfans.com/web2/M00/BC/23/wKgZomWfpgGARcZjAAAiCJVzYb0178.png)
評(píng)論