GTC 2023直播：英偉達推出Hopper GPU，速度比PCIE快7倍
針對ChatGPT等大型語言模型的推理，我們宣布推出一款新的Hopper GPU配備雙GPU NVLINK的PCIE H100
同時還可支持商用PCIE服務器輕松擴展
目前在云上唯一可以實際處理ChatGPT的GPU是HGX A100與適用于GPT-3處理的HGX A100相比，一臺搭載四對H100及雙GPU NVLINK的標準服務器的速度
H100可將大型語言模型的處理成本，降低一個數量級
Grace Hopper非常適合處理大型數據集，例如適用于推薦系統和大型語言模型的AI數據庫。
如今，利用大容量內存，CPU會存儲和查詢巨型嵌入表，然后將結果傳輸到GPU進行推理，借助Grace-Hopper， Grace可以查詢嵌入表，并將結果直接傳輸到Hopper速度比PCIE快7倍
GTC 2023主題直播地址：https://t.elecfans.com/live/2302.html
聲明：本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人，不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用，如有內容侵權或者其他違規問題，請聯系本站處理。
舉報投訴
-
cpu
+關注
關注
68文章
11049瀏覽量
216144 -
服務器
+關注
關注
13文章
9717瀏覽量
87380 -
gtc
+關注
關注
0文章
73瀏覽量
4570 -
ChatGPT
+關注
關注
29文章
1588瀏覽量
8829
發布評論請先 登錄
相關推薦
熱點推薦
英偉達擬再推中國特供GPU，今年6月量產！
電子發燒友網綜合報道 近年來，美國政府對華半導體出口管制政策不斷收緊，英偉達等半導體企業面臨嚴峻挑戰。為保持在中國市場的競爭力，英偉達推出了
發表于 05-27 00:03
?4309次閱讀
立訊技術亮相英偉達GTC 2025大會
日前，英偉達年度技術盛會GTC 2025在美國加州圣何塞拉開帷幕。作為全球AI與計算領域的頂級峰會，GTC 2025匯聚了全球數千名開發者、企業領袖及學術專家，共同探討AI與加速計算的
英偉達GTC25亮點：NVIDIA Blackwell Ultra 開啟 AI 推理新時代
英偉達GTC25亮點：NVIDIA Blackwell Ultra 開啟 AI 推理新時代
新思科技亮相英偉達GTC 2025大會
為了實現這一速度提升，新思科技在GTC全球AI大會上宣布，正在使用英偉達 CUDA-X庫優化其下一代半導體開發解決方案。公司還在擴大對英偉
軟銀升級人工智能計算平臺,安裝4000顆英偉達Hopper GPU
軟銀公司宣布，其正在擴展的日本頂級人工智能計算平臺已安裝了約4000顆英偉達Hopper GPU。這一舉措顯著提升了平臺的計算能力。據悉，該平臺自2
英偉達年度研發支出超120億美元,為AMD的兩倍之多
的季度里，英偉達的研發支出達到了30.9億美元。若以此速度持續，該GPU制造商在前一季度及接下來三個季度的累計研發預算預計將達到123.6億美元。
英偉達Blackwell GPU量產加速，Q4營收沖刺百億美元大關
近日，全球領先的圖形處理單元（GPU）及人工智能芯片制造商英偉達傳來重大利好消息。據摩根士丹利最新發布的行業分析報告指出，英偉達基于Blac
亞馬遜云科技宣布Amazon EC2 P5e實例正式可用 由英偉達H200 GPU提供支持
北京2024年9月18日?/美通社/ -- 亞馬遜云科技宣布由英偉達H200 GPU提供支持的 Amazon Elastic Compute Cloud P5e（Amazon EC2 P5e）實例
英偉達回應AI芯片推遲發布傳聞
近日，英偉達就外界廣泛關注的AI芯片Blackwell推遲發布傳聞作出正式回應。8月4日，英偉達方面在接受媒體采訪時明確表示：“正如我們之前所說，H
英偉達:Hopper芯片需求強勁 英偉達發言人談生產增長
據外媒報道，英偉達發言人透露Hopper芯片需求強勁，而且Blackwell 芯片的廣泛采樣也已經開啟。而對于產量問題；則表示有望在下半年實現增長。
英偉達將全面轉向開源GPU內核模塊
英偉達公司近期宣布了一項重大決策，即全面轉向開源GPU內核模塊，并計劃最終以此取代閉源驅動程序。這一戰略轉變標志著英偉達在開源領域邁出了重要
英國公司實現英偉達CUDA軟件在AMD GPU上的無縫運行
7月18日最新資訊，英國創新科技企業Spectral Compute震撼發布了其革命性GPGPU編程工具包——“SCALE”，該工具包實現了英偉達CUDA軟件在AMD GPU上的無縫遷
工商網監
評論