在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

算力呈指數級增長,服務器有哪些進展?

花茶晶晶 ? 來源:電子發燒友網 ? 作者:黃晶晶 ? 2023-05-17 09:07 ? 次閱讀

電子發燒友網報道(文/黃晶晶)人工智能的基座包括數據、算力和算法。其中算力更是數據和算法的支撐。各類模型基于數據量、算法的訓練和推理推動了算力需求。

根據OpenAI的測算數據,AI訓練運行所使用的算力每3-4個月增長一倍。AI訓練運行所使用的算力已增長超30萬倍。IDC數據顯示,2022年我國智能算力規模達到268百億億次/秒(EFLOPS),超過通用算力規模;預計未來5年我國智能算力規模的年復合增長率將達52.3%。

構筑算力必然離不開服務器的建設。作為全球頂級的人工智能/高性能計算服務器制造商和解決方案提供商,Supermicro公司日前向電子發燒友網表示,新業務合約有很大一部分來自人工智能/高性能計算領域,而且許多與ChatGPT有關。

Supermicro高管表示,人工智能界并不知道未來還會遇到多少計算密集型問題。以GPT-3為例,它需要323 Zetta FLOPS的算力和1750億個參數來訓練模型,更需要龐大的算力來執行推理工作。更加智能的GPT-4將會有更多的參數,有可能達到一萬億甚至更多。

為了運轉這樣的大模型和大規模參數,如何有效運用服務器顯得十分重要,這關乎服務器的性價比選擇。Supermicro公司高管說到,當大量的GPU服務器集群起來時,人工智能/高性能計算應用的每一微秒都很重要。Supermicro設計開發了各種不同架構的GPU服務器,提升了CPU和GPU之間或從GPU到GPU的數據傳輸速度。通過合理選擇系統SKU,解決方案的設計可以將每個CPU/GPU核心利用到極致。從邊緣到云,從訓練到推理,當前市面上所需的人工智能/高性能計算應用,Supermicro都可以提供全方位的GPU服務器,能讓客戶充分利用計算資源上花費的每一分錢。

更大的服務器存儲空間


隨著CPU、GPU和內存技術的發展,現代計算集群處理數據的速度和數量不斷增加,因此有必要增強存儲性能,以便將數據饋送給應用時不會形成減緩整個系統的速度的瓶頸。

最近,Supermicro推出了超高性能、高密度PB級All-Flash NVMe服務器新機型。更新產品系列中初步推出的產品將在1U 16槽機架式安裝系統中支持高達1/2 PB的儲存空間,隨后的產品則將在2U 32槽機架式安裝系統中為IntelAMD PCIe Gen5平臺提供1 PB儲存空間。

Supermicro高管表示,Supermicro的Petascale All-Flash服務器提供業界領先的存儲性能和容量,可以減少滿足熱存儲和溫存儲要求所需的機架式系統數量,并通過諸多功能特點降低總體擁有成本。

具體來說,容量擴展,更廣泛的PCB有助于實現更靈活的NAND芯片布局;性能擴展,可擴展連接器設計,多鏈路寬度(x4、x8、x16),支持不同電源配置;熱效率,散熱和制冷管理改進;面向未來,通用連接器適用于各種尺寸規格,可以為未來幾代PCIe提供更加強大的信號完整性;解決方案范圍,各種功率配置(20W-70W),適用于更高容量/性能的固態硬盤。

“安裝了速度更快的固態硬盤之后,系統的平衡就變得更加重要。Supermicro擁有全新的NUMA平衡對稱架構,可以提供到驅動器的最短信號路徑、到存儲器的帶寬平衡和靈活的網絡選項,從而降低時延。最重要的是,對稱設計還有助于確保整個系統的氣流暢通無阻,因此可以使用更加強大的處理器。”Supermicro高管說道。

桌面型GPU兼顧AI與液冷散熱

CPU/GUP/xPU也構成了系統設計的熱量挑戰,各種處理器消耗的功率不斷攀升,另一方面,科研/醫療設施/金融/石油和天然氣企業需要人工智能/高性能計算來提高其專業競爭力。在這些企業中,有很多需要在員工工作的地點設置工作站或本地服務器。

基于這樣的需求,Supermicro推出功能強大、安靜且節能的NVIDIA加速人工智能(AI)開發平臺系列當中的首款裝置。全新的AI開發平臺SYS-751GE-TNRT-NV1是一款應用優化的系統,在開發及運行AI軟件時表現尤其出色。此外,這個性能強大的系統可以支持小團隊里的用戶同步運行訓練、推理和分析等工作負載。

獨立的液冷功能可滿足四個NVIDIA? A100 Tensor Core GPU和兩個第4代Intel Xeon可擴展處理器的散熱需求,在發揮完整性能的同時提高整體系統效率,并實現了在辦公環境下的安靜(約30dB)運行。

對于散熱的考量,Supermicro高管認為搭載NVIDIA A800等強大的協加速器、且聲壓級介于30~45分貝的工作站,必須采用液冷解決方案才能滿足這一需求。冷板式液冷在市場上經過了十多年的考驗,目前其成熟度和可靠性已經達到了數據中心大規模部署的水平。

創新技術驅動成長

早前,Supermicro就提出了觀察到的七大創新技術,他們包括高性能350W CPU和700W GPU、處理速度更快的DDR5內存、第五代PCI-E 5.0技術、Compute Express Link(CXL,開放式互聯標準)、400G高速網絡、新型固態硬盤和液冷技術。

簡言之就是更高的功耗和更快的數據傳輸速度。這就需要優化功率效率、解決熱量挑戰、加強第五代PCIe、DDR5、高速網絡、無阻塞系統架構設計和部署等。

Supermicro高管指出,這些創新技術背后的一個共同點是熱量調度。更快的處理器頻率、更多的計算核心、更高速的網絡都會產生更多的熱量,這些熱量必須輸送到數據中心之外。他表示,正如我們預計的技術趨勢和產品路線圖所示,當前和新一代人工智能/高性能計算服務器采用的熱量解決方案必須比目前的空氣冷卻更加高效。

展望已經到來的AI爆發的時代,ChatGPT的需求日益增長,不僅推高了服務器的銷量,而且還推動新技術通過大規模部署而被普遍接納的機會。GPT提供的服務包括語言翻譯、聊天機器人、內容生成、語言分析、語音輔助等等。

要實現人工智能系統的所有關鍵技術,就需要足夠快速的服務器,并通過復雜的架構、用于維護工作的液冷管布置等將其聯網。這些專業技術知識意味著解決方案將不再作為一個個的服務器提供。完整的解決方案部署更像是一個具有機架級就緒水平的即插即用解決方案。

Supermicro將ChatGPT視為服務器市場增長的關鍵驅動力,未來我們會看到GPT服務的更多創新型用例。Supermicro已準備好面對這個趨勢,始終保持在AI服務器技術前沿,并提供創新的解決方案,使得客戶能夠加速他們的AI應用規劃,同時優化總體擁有成本并通過綠色計算最大限度地減少對環境的影響。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 服務器
    +關注

    關注

    13

    文章

    9730

    瀏覽量

    87473
  • AI
    AI
    +關注

    關注

    88

    文章

    34592

    瀏覽量

    276312
  • Supermicro
    +關注

    關注

    0

    文章

    32

    瀏覽量

    9508
收藏 人收藏

    評論

    相關推薦
    熱點推薦

    AI新基建背后的中國芯力量——中微愛芯服務器芯片國產化替代全景解讀

    人工智能(AI)技術正以顛覆性力量重塑全球產業圖景,從深度學習的復雜模型訓練到生成式AI的實時推理,其背后是海量數據與指數增長需求。
    的頭像 發表于 06-20 13:55 ?365次閱讀
    AI<b class='flag-5'>算</b><b class='flag-5'>力</b>新基建背后的中國芯力量——中微愛芯<b class='flag-5'>服務器</b>芯片國產化替代全景解讀

    服務器多少錢一臺?價格因素與選購指南

    入門服務器可能只需幾千元,而高性能計算(HPC)或AI訓練專用服務器則可能高達數十萬元。一般來說,中小型企業常用的
    的頭像 發表于 06-17 09:45 ?145次閱讀

    即國力,比克電池如何為AI時代“蓄能

    引擎》中明確提出,“是數字經濟時代的新質生產,更是國家競爭的重要指標。”隨著AI大模型訓練
    的頭像 發表于 06-04 14:22 ?294次閱讀
    <b class='flag-5'>算</b><b class='flag-5'>力</b>即國力,比克電池如何為AI時代“蓄能

    AI原生架構升級:RAKsmart服務器在超大規模模型訓練中的突破

    近年來,隨著千億參數模型的崛起,AI訓練對的需求呈現指數增長。傳統
    的頭像 發表于 04-24 09:27 ?238次閱讀

    RAKsmart服務器如何重構企業AI轉型的成本邏輯

    傳統服務器架構的“堆硬件”模式,讓許多企業在GPU采購、跨國部署和混合負載管理上陷入“高投入、低效能”的惡性循環。RAKsmart通過技術創新與架構重構,正在為企業提供一種全新的成本邏輯。
    的頭像 發表于 04-22 09:58 ?179次閱讀

    智能服務器應用領域

    智能服務器應用領域 一、?金融行業? 智能風控與投顧?:通過集群支撐AI模型訓練,實現風險預警、智能投顧等場景規模化應用,例如工商銀
    的頭像 發表于 04-21 09:09 ?261次閱讀
    智能<b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>服務器</b>應用領域

    智能最具潛力的行業領域

    智能最具潛力的行業領域 一、金融行業 智能風控與精準服務?:大型銀行通過集群(6.27萬臺服務器
    的頭像 發表于 04-11 08:20 ?281次閱讀
    智能<b class='flag-5'>算</b><b class='flag-5'>力</b>最具潛力的行業領域

    RAKsmart服務器如何重塑AI高并發格局

    在AI大模型參數量突破萬億、實時推理需求激增的當下,傳統服務器架構的并發處理能力已逼近物理極限。RAKsmart通過“硬件重構+軟件定義”的雙引擎創新,推出新一代AI服務器解決方案。下面,AI部落小編為您解析RAKsmart
    的頭像 發表于 04-03 10:37 ?273次閱讀

    Firefly 服務器系列:覆蓋多個領域的高解決方案

    ?服務器覆蓋60~1570TOPS強勁,支持Transformer架構下大語言模型的私有化部署,如Gemma-2B、ChatGLM3
    的頭像 發表于 02-19 16:34 ?562次閱讀
    Firefly <b class='flag-5'>服務器</b>系列:覆蓋多個領域的高<b class='flag-5'>算</b><b class='flag-5'>力</b>解決方案

    華為云征文 云計算新紀元:Flexus 云服務器 X 實例引領柔性時代,部署 Zabbix 運維監控

    Flexus 云服務器 X 實例引領柔性時代 引言 隨著云計算技術的飛速發展,企業對于的需求日益多樣化與精細化。傳統的粗顆粒度彈性
    的頭像 發表于 01-02 11:57 ?309次閱讀
    華為云征文 云計算新紀元:Flexus 云<b class='flag-5'>服務器</b> X 實例引領柔性<b class='flag-5'>算</b><b class='flag-5'>力</b>時代,部署 Zabbix 運維監控

    基礎篇:從零開始了解

    即計算能力(Computing Power),狹義上指對數字問題的運算能力,而廣義上指對輸入信息處理后實現結果輸出的一種能力。雖然處理的內容不同,但處理過程的能力都可抽象為。比
    的頭像 發表于 11-15 14:22 ?2028次閱讀
    <b class='flag-5'>算</b><b class='flag-5'>力</b>基礎篇:從零開始了解<b class='flag-5'>算</b><b class='flag-5'>力</b>

    美國多IP服務器和美國多服務器什么區別

    美國多IP服務器和美國多服務器什么區別 美國多IP服務器和美國多服務器在概念、功能以及應用場景上存在明顯的區別。主機推薦小編為您整理發布
    的頭像 發表于 11-11 10:22 ?618次閱讀

    中科曙光入選2024服務產業圖譜及服務產品名錄

    近日,中國信通院公布首個《服務產業圖譜(2024年)》及《服務產品名錄(2024年)》。
    的頭像 發表于 08-06 14:23 ?1286次閱讀

    服務器為什么選擇GPU

    隨著人工智能技術的快速普及,需求日益增長。智中心的服務器作為支撐大規模數據處理和計算的核心設備,其性能優化顯得尤為關鍵。而GPU
    的頭像 發表于 07-25 08:28 ?1268次閱讀
    <b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>服務器</b>為什么選擇GPU
    主站蜘蛛池模板: 美女网站色在线观看 | 丁香五六月婷婷 | 日本高清色视频在线观看免费 | 午夜高清免费在线观看 | 国产午夜精品久久久久免费视小说 | 亚洲成人观看 | 在线视频一区二区 | 免费在线观看的网站 | 一区二区三区四区在线视频 | 国产 日韩 欧美 高清 | 亚洲五月激情综合图片区 | 色噜噜狠狠色综合中文字幕 | 婷婷资源综合 | 美女扒开尿口给男人桶 | 美国一级毛片免费看成人 | 欧美大片一区二区三区 | 午夜观看 | 伊人久久大香线蕉资源 | 最新sss华人| 日韩精品无码一区二区三区 | 人人干人人搞 | 狠狠干狠狠搞 | 国产一级簧片 | 五月天婷婷电影 | 午夜免费影视 | 色偷偷888欧美精品久久久 | 亚洲人成电影在线播放 | 国产色拍 | 午夜在线视频国产 | 男人女人的免费视频网站 | 男人午夜视频在线观看 | 国产一级特黄aa级特黄裸毛片 | 欧美成人鲁丝片在线观看 | 222.www免费观看 | 日日夜夜狠狠干 | 亚洲男人的天堂久久香蕉网 | 婷婷色爱区综合五月激情韩国 | 国产三级在线免费观看 | 成人国产三级精品 | 狠狠色丁香婷婷综合视频 | 性久久久久久 |