英偉達最新發(fā)布首款面向邊緣設備的AI平臺Nvidia EGX,將 AI 帶到了網絡的邊緣。該平臺可以實時感知、理解和處理數(shù)據(jù),而無需先將數(shù)據(jù)發(fā)送到云端或數(shù)據(jù)中心。
在今天臺北電腦展COMPUTEX 2019上,英偉達帶來了一項重大發(fā)布:推出首款面向邊緣設備的AI平臺Nvidia EGX。
此外,發(fā)布會還公布了另幾項好消息,包括將最先進的RTXGPU 帶到了筆記本電腦上,免費提供帶有實時光線追蹤的體驗版游戲等。
新的Nvidia EGX平臺,將AI帶到了網絡的邊緣。該平臺可以實時感知、理解和處理數(shù)據(jù),而無需先將數(shù)據(jù)發(fā)送到云端或數(shù)據(jù)中心。
將AI應用到智能手機、傳感器和工廠機器等邊緣設備上,是AI技術發(fā)展的下一步。最早的AI算法非常復雜,只能在運行在云端數(shù)據(jù)中心的強大機器上處理,這意味著要通過網絡發(fā)送大量信息。但這是不可取的,因為這樣做需要大量帶寬,并且會導致更高的延遲,使得“實時”非常難。
“在[物聯(lián)網]傳感器的增長推動下,計算行業(yè)發(fā)生了巨大的變化,”英偉達企業(yè)與邊緣計算高級主管Justin Boitano在新聞發(fā)布會上表示。“有用于觀察世界的攝像頭,用于聆聽世界的麥克風,還有一些設備可以讓機器探測到現(xiàn)實世界正在發(fā)生什么。”
這些都意味著需要分析的原始數(shù)據(jù)量正在呈指數(shù)增長。
“我們很快就會到達一個交叉點,在這個交叉點,邊緣的計算能力比數(shù)據(jù)中心更強,”Boitano說。
企業(yè)真正想要的是讓AI在數(shù)據(jù)產生的地方執(zhí)行,無論是在制造設施、零售店還是倉庫。領先的科技公司一直試圖解決的問題,包括最近英特爾也推出了其首款面向邊緣計算的10納米“Ice Lake”芯片,此外,許多初創(chuàng)公司也推出了這類芯片。
但英偉達進軍AI領域的舉動引人注目,因為英偉達的GPU被廣泛認為是最好的AI處理硬件之一。其中包括用于深度學習的Tesla V100,以及能夠實時進行光線追蹤的Quadro GV100。
英偉達邊緣AI平臺三大特性
新的NVIDIA EGX平臺專為邊緣新型的高吞吐量AI應用而設計,其中數(shù)據(jù)來源可實現(xiàn)即時或保證響應時間,同時減少云帶寬。
EGX平臺是可擴展的。可以從基于Jetson Nano處理器的輕型服務器擴展到基于NVIDIA T4的邊緣服務器的微型數(shù)據(jù)中心,前者每秒可執(zhí)行0.5萬億次操作,僅需幾瓦特;后者每秒可執(zhí)行10,000萬億次操作。芯片的節(jié)能能力對AI來說非常重要,因為傳統(tǒng)硬件在運行這類任務時耗電量巨大。
Justin Boitano表示,到2025年,全球將有約1500億臺機器傳感器和“物聯(lián)網”設備,因此對NGX這樣的平臺的需求將是巨大的。他說,其中許多傳感器將用于“智能城市”等項目,并將輸出需要在現(xiàn)場處理的數(shù)據(jù),原因包括需要更低的延遲、實時響應、數(shù)據(jù)主權規(guī)則或隱私方面的擔憂。
“無論是視覺方面還是在語言方面上,AI確實是所有行業(yè)的殺手級應用,”Boitano說。
如果人們真的想要充分利用這些芯片,那么合作關系也很重要。出于這個原因,Nvidia正在將運行在EGX上的Nvidia Edge Stack軟件與Red Hat公司的OpenShift Kubernetes容器編排平臺相整合,以使其與現(xiàn)代軟件應用程序兼容。
該平臺還集成了來自Mellanox technologies Ltd.的安全、存儲和網絡技術。英偉達計劃在年底前以69億美元的價格收購這家公司。
總結而言,NVIDIA EGX具有以下特性:
高性能和可擴展
EGX從小型的NVIDIA?Jetson Nano?開始,幾瓦的功率就可以提供每秒0.5萬億次(TOPS)的處理操作,用于圖像識別等任務。此外,EGX可擴展到所有的NVIDIA T4服務器,提供超過10,000 TOPS,可以為數(shù)百名用戶提供實時語音識別和其他復雜的AI體驗。
混合云和多云物聯(lián)網
NVIDIA EGX在架構上與主要云提供的NVIDIA AI計算兼容。在云上開發(fā)的AI應用可以運行在NVIDIA EGX上,反之亦然。NVIDIA Edge Stack連接主要的云物聯(lián)網服務,客戶可以通過AWS IoT Greengrass和微軟的Azure IoT Edge遠程管理他們的服務。
企業(yè)級和安全性
NVIDIA Edge Stack在領先的企業(yè)級Kubernetes容器編排平臺Red Hat OpenShift上進行了優(yōu)化。Mellanox Smart NIC可以卸載和加速軟件定義的網絡,從而在不影響CPU性能的情況下實現(xiàn)更高級別的隔離和安全性。
Mellanox的首席技術官Michael Kagan說:“Mellanox Smart NIC和交換機為從邊緣到超大規(guī)模數(shù)據(jù)中心的數(shù)據(jù)訪問提供了理想的I/O連接。”
NGX還與運行在主要云基礎設施服務(如AWS和Microsoft Azure)上的AI應用程序兼容,并可以連接到物聯(lián)網服務,如AWS Greengrass和Azure IoT Edge等。
筆記本電腦也可以用英偉達最先進的專業(yè)級GPU
作為Computex 2019新聞發(fā)布會的一部分,英偉達宣布了全新的“筆記本電腦品牌認證推廣計劃”,即Nvidia RTX Studio。
首款支持的是Quadro RTX 5000,與臺式機版本相同,有3072顆CUDA核心、48顆RT核心、384顆Tensor核心和16GB GDDR6 RAM,專為那些從事大量圖形或視頻工作的專業(yè)人士而設計。
首批共有7家合作伙伴公司(華碩,戴爾,惠普,微星,雷蛇,技嘉和宏碁)的一共17款筆記本電腦由,這些筆記本電腦將搭載新的Quadro GPU,都以“RTX Studio”的名稱命名。
用英偉達GeForce軟件與技術總經理Jason Paul的話說,這些筆記本將能夠“隨時隨地”提供“桌面級性能”。英偉達還宣稱這些筆記本的運行速度比同等級的MacBook Pro快7倍,配備32GB RAM和AMD的Pro Vega 20 GPU。
One More Thing:快來玩帶光線追蹤的《雷神之錘2》
在今年GDC上,英偉達展示了實時光線追蹤加強版的《雷神之錘2》demo,新技術加持后的老游戲魅力大放異彩,收獲了非常多的關注。
今天在Computex上,英偉達宣布將從6月6日起免費向玩家提供《雷神之錘2 RTX》的體驗版本,大家可以親身體驗堪稱游戲革命的實時光線追蹤技術了!
據(jù)介紹,這個體驗版總共只有三關,之后可以通過NVIDIA官網或Steam下載。NVIDIA內部的Lightspeed Studios為游戲加入了更真實的光影效果,比如即時光線、間接照明、水面反光等視覺元素在作品中都可以找到。
-
NVIDIA
+關注
關注
14文章
5093瀏覽量
104068 -
AI
+關注
關注
87文章
32059瀏覽量
270957
原文標題:英偉達首款邊緣計算AI平臺EGX重磅發(fā)布!實時處理,高性能、可擴展
文章出處:【微信號:AI_era,微信公眾號:新智元】歡迎添加關注!文章轉載請注明出處。
發(fā)布評論請先 登錄
相關推薦
AI賦能邊緣網關:開啟智能時代的新藍海
英飛凌發(fā)布邊緣AI軟件新品牌DEEPCRAFT?
研華科技邊緣AI平臺榮獲2024年IoT邊緣計算卓越獎
NVIDIA IGX平臺加速實時邊緣AI應用

【HZHY-AI300G智能盒試用連載體驗】基建智慧工地物聯(lián)邊緣代理技術研究及應用
邊緣AI需求爆發(fā),邊緣計算網關亟待革新
邊緣AI網關,將具備更強大的計算和學習能力
耐能推出最新的邊緣AI服務器及內置耐能AI芯片的PC設備
NVIDIA 通過 Holoscan 為 NVIDIA IGX 提供企業(yè)軟件支持,實現(xiàn)邊緣實時醫(yī)療、工業(yè)和科學 AI 應用

評論