英偉達最新發布首款面向邊緣設備的AI平臺Nvidia EGX,將 AI 帶到了網絡的邊緣。該平臺可以實時感知、理解和處理數據,而無需先將數據發送到云端或數據中心。
在今天臺北電腦展COMPUTEX 2019上,英偉達帶來了一項重大發布:推出首款面向邊緣設備的AI平臺Nvidia EGX。
此外,發布會還公布了另幾項好消息,包括將最先進的RTXGPU 帶到了筆記本電腦上,免費提供帶有實時光線追蹤的體驗版游戲等。
新的Nvidia EGX平臺,將AI帶到了網絡的邊緣。該平臺可以實時感知、理解和處理數據,而無需先將數據發送到云端或數據中心。
將AI應用到智能手機、傳感器和工廠機器等邊緣設備上,是AI技術發展的下一步。最早的AI算法非常復雜,只能在運行在云端數據中心的強大機器上處理,這意味著要通過網絡發送大量信息。但這是不可取的,因為這樣做需要大量帶寬,并且會導致更高的延遲,使得“實時”非常難。
“在[物聯網]傳感器的增長推動下,計算行業發生了巨大的變化,”英偉達企業與邊緣計算高級主管Justin Boitano在新聞發布會上表示。“有用于觀察世界的攝像頭,用于聆聽世界的麥克風,還有一些設備可以讓機器探測到現實世界正在發生什么。”
這些都意味著需要分析的原始數據量正在呈指數增長。
“我們很快就會到達一個交叉點,在這個交叉點,邊緣的計算能力比數據中心更強,”Boitano說。
企業真正想要的是讓AI在數據產生的地方執行,無論是在制造設施、零售店還是倉庫。領先的科技公司一直試圖解決的問題,包括最近英特爾也推出了其首款面向邊緣計算的10納米“Ice Lake”芯片,此外,許多初創公司也推出了這類芯片。
但英偉達進軍AI領域的舉動引人注目,因為英偉達的GPU被廣泛認為是最好的AI處理硬件之一。其中包括用于深度學習的Tesla V100,以及能夠實時進行光線追蹤的Quadro GV100。
英偉達邊緣AI平臺三大特性
新的NVIDIA EGX平臺專為邊緣新型的高吞吐量AI應用而設計,其中數據來源可實現即時或保證響應時間,同時減少云帶寬。
EGX平臺是可擴展的。可以從基于Jetson Nano處理器的輕型服務器擴展到基于NVIDIA T4的邊緣服務器的微型數據中心,前者每秒可執行0.5萬億次操作,僅需幾瓦特;后者每秒可執行10,000萬億次操作。芯片的節能能力對AI來說非常重要,因為傳統硬件在運行這類任務時耗電量巨大。
Justin Boitano表示,到2025年,全球將有約1500億臺機器傳感器和“物聯網”設備,因此對NGX這樣的平臺的需求將是巨大的。他說,其中許多傳感器將用于“智能城市”等項目,并將輸出需要在現場處理的數據,原因包括需要更低的延遲、實時響應、數據主權規則或隱私方面的擔憂。
“無論是視覺方面還是在語言方面上,AI確實是所有行業的殺手級應用,”Boitano說。
如果人們真的想要充分利用這些芯片,那么合作關系也很重要。出于這個原因,Nvidia正在將運行在EGX上的Nvidia Edge Stack軟件與Red Hat公司的OpenShift Kubernetes容器編排平臺相整合,以使其與現代軟件應用程序兼容。
該平臺還集成了來自Mellanox technologies Ltd.的安全、存儲和網絡技術。英偉達計劃在年底前以69億美元的價格收購這家公司。
總結而言,NVIDIA EGX具有以下特性:
高性能和可擴展
EGX從小型的NVIDIA?Jetson Nano?開始,幾瓦的功率就可以提供每秒0.5萬億次(TOPS)的處理操作,用于圖像識別等任務。此外,EGX可擴展到所有的NVIDIA T4服務器,提供超過10,000 TOPS,可以為數百名用戶提供實時語音識別和其他復雜的AI體驗。
混合云和多云物聯網
NVIDIA EGX在架構上與主要云提供的NVIDIA AI計算兼容。在云上開發的AI應用可以運行在NVIDIA EGX上,反之亦然。NVIDIA Edge Stack連接主要的云物聯網服務,客戶可以通過AWS IoT Greengrass和微軟的Azure IoT Edge遠程管理他們的服務。
企業級和安全性
NVIDIA Edge Stack在領先的企業級Kubernetes容器編排平臺Red Hat OpenShift上進行了優化。Mellanox Smart NIC可以卸載和加速軟件定義的網絡,從而在不影響CPU性能的情況下實現更高級別的隔離和安全性。
Mellanox的首席技術官Michael Kagan說:“Mellanox Smart NIC和交換機為從邊緣到超大規模數據中心的數據訪問提供了理想的I/O連接。”
NGX還與運行在主要云基礎設施服務(如AWS和Microsoft Azure)上的AI應用程序兼容,并可以連接到物聯網服務,如AWS Greengrass和Azure IoT Edge等。
筆記本電腦也可以用英偉達最先進的專業級GPU
作為Computex 2019新聞發布會的一部分,英偉達宣布了全新的“筆記本電腦品牌認證推廣計劃”,即Nvidia RTX Studio。
首款支持的是Quadro RTX 5000,與臺式機版本相同,有3072顆CUDA核心、48顆RT核心、384顆Tensor核心和16GB GDDR6 RAM,專為那些從事大量圖形或視頻工作的專業人士而設計。
首批共有7家合作伙伴公司(華碩,戴爾,惠普,微星,雷蛇,技嘉和宏碁)的一共17款筆記本電腦由,這些筆記本電腦將搭載新的Quadro GPU,都以“RTX Studio”的名稱命名。
用英偉達GeForce軟件與技術總經理Jason Paul的話說,這些筆記本將能夠“隨時隨地”提供“桌面級性能”。英偉達還宣稱這些筆記本的運行速度比同等級的MacBook Pro快7倍,配備32GB RAM和AMD的Pro Vega 20 GPU。
One More Thing:快來玩帶光線追蹤的《雷神之錘2》
在今年GDC上,英偉達展示了實時光線追蹤加強版的《雷神之錘2》demo,新技術加持后的老游戲魅力大放異彩,收獲了非常多的關注。
今天在Computex上,英偉達宣布將從6月6日起免費向玩家提供《雷神之錘2 RTX》的體驗版本,大家可以親身體驗堪稱游戲革命的實時光線追蹤技術了!
據介紹,這個體驗版總共只有三關,之后可以通過NVIDIA官網或Steam下載。NVIDIA內部的Lightspeed Studios為游戲加入了更真實的光影效果,比如即時光線、間接照明、水面反光等視覺元素在作品中都可以找到。
-
NVIDIA
+關注
關注
14文章
5078瀏覽量
103761 -
AI
+關注
關注
87文章
31612瀏覽量
270403
原文標題:英偉達首款邊緣計算AI平臺EGX重磅發布!實時處理,高性能、可擴展
文章出處:【微信號:AI_era,微信公眾號:新智元】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
英飛凌發布邊緣AI軟件新品牌DEEPCRAFT?
研華科技邊緣AI平臺榮獲2024年IoT邊緣計算卓越獎
NVIDIA IGX平臺加速實時邊緣AI應用
![<b class='flag-5'>NVIDIA</b> IGX<b class='flag-5'>平臺</b>加速實時<b class='flag-5'>邊緣</b><b class='flag-5'>AI</b>應用](https://file1.elecfans.com/web2/M00/05/B8/wKgZombeWiCAHSB7AAHev0m0ESQ731.png)
【HZHY-AI300G智能盒試用連載體驗】基建智慧工地物聯邊緣代理技術研究及應用
邊緣AI需求爆發,邊緣計算網關亟待革新
邊緣AI網關,將具備更強大的計算和學習能力
耐能推出最新的邊緣AI服務器及內置耐能AI芯片的PC設備
NVIDIA 通過 Holoscan 為 NVIDIA IGX 提供企業軟件支持,實現邊緣實時醫療、工業和科學 AI 應用
![<b class='flag-5'>NVIDIA</b> 通過 Holoscan 為 <b class='flag-5'>NVIDIA</b> IGX 提供企業軟件支持,實現<b class='flag-5'>邊緣</b>實時醫療、工業和科學 <b class='flag-5'>AI</b> 應用](https://file1.elecfans.com/web2/M00/EB/1A/wKgZomZdIYqAAFuCAAGFRzmL-Y0027.jpg)
NVIDIA與恩智浦聯手,在邊緣設備上部署AI模型
NanoEdge AI的技術原理、應用場景及優勢
Supermicro全新系統產品組合將前沿AI性能推向邊緣計算環境
![Supermicro全新系統產品組合<b class='flag-5'>將</b>前沿<b class='flag-5'>AI</b>性能推向<b class='flag-5'>邊緣</b>計算環境](https://file1.elecfans.com//web2/M00/C0/D2/wKgZomXZQfWAegkfAAE2Tq7NgYI399.jpg)
評論