Nvidia表示，已通過今年早些時候推出的A100 GPU芯片，擴大了在MLPerf Benchmark上進行AI推理的領(lǐng)先優(yōu)勢。Nvidia在第二版MLPerf Inference中贏得了針對數(shù)據(jù)中心和邊緣計算系統(tǒng)的六個應(yīng)用程序測試中的每一個。這些測試是對最初的兩個計算機視覺基準(zhǔn)測試的擴展-AI測試現(xiàn)在包括推薦系統(tǒng)，自然語言理解，語音識別和醫(yī)學(xué)成像。

行業(yè)觀察家Moor Insights&Strategy的HPC和機器學(xué)習(xí)高級分析師Karl Freund評論說，與Nvidia的展示一樣令人印象深刻，還應(yīng)該注意，某些原本有望參加MLPerf競賽的公司卻沒有參加。。

弗洛伊德說：“英偉達在競爭激烈的競爭者中表現(xiàn)出色。” 與（Nvidia）V100（GPU）相比，他們的A100效果驚人，證明了其增強的Tensor核心架構(gòu)的價值。我贊揚MLPerf添加了新的基準(zhǔn)，這些基準(zhǔn)越來越代表快速增長的推理機會，例如推薦引擎。

Freund說：“話說回來，競爭要么是因為客戶項目太忙，要么是他們的芯片還沒有準(zhǔn)備好。” “例如，SambaNova（人工智能系統(tǒng)平臺）宣布與LLNL建立新的合作伙伴關(guān)系，而英特爾Habana（可編程深度學(xué)習(xí)加速器）仍在醞釀中。如果我仍在芯片創(chuàng)業(yè)公司，我將等待運行MLPerf（一個昂貴的項目），直到我已經(jīng)獲得了一些燈塔客戶。

英偉達在其結(jié)果公告中表示，其A100的AI推理速度比CPU快237倍。

Nvidia加速計算部總經(jīng)理兼副總裁Ian Buck表示：“每個行業(yè)都在尋求更好的方式來應(yīng)用AI提供新服務(wù)和發(fā)展業(yè)務(wù)，這是我們的轉(zhuǎn)折點。” “我們?yōu)樵贛LPerf上實現(xiàn)這些結(jié)果而進行的工作使公司的AI性能達到了新的水平，從而改善了我們的日常生活。”

Nvidia表示，該公司及其合作伙伴使用Nvidia的加速平臺（包括Nvidia數(shù)據(jù)中心GPU，Edge AI加速器和Nvidia優(yōu)化的軟件）提交了MLPerf 0.7結(jié)果。Nvidia A100于今年早些時候推出，具有第三代Tensor內(nèi)核和多實例GPU技術(shù)，在ResNet-50測試中的領(lǐng)先優(yōu)勢得到了提高，比上一輪的CPU高出30倍，是6倍。該公司補充說，它的GPU在公共云中的AI推理能力首次超過了CPU，并表示Nvidia GPU上的云AI推理總能力每兩年增長約10倍。

責(zé)任編輯：lq