近二十年來,NVIDIA Research 的研究成果催生了包括 NVIDIA DLSS、NVLink 和 Cosmos 在內的標志性產品。
NVIDIA 眾多具有里程碑意義的創新(驅動 AI、加速計算、實時光線追蹤以及無縫連接數據中心提供支持的基礎性技術),其根源都可以追溯其研究機構——NVIDIA Research。這個團隊由全球約 400 名專家組成,其研究領域包括計算機架構、生成式 AI、圖形和機器人等。
NVIDIA Research 成立于 2006 年,自 2009 年起由斯坦福大學計算機科學系前系主任 Bill Dally 領導。在企業設立的研究機構中,NVIDIA Research 獨樹一幟,其使命是攻克復雜的技術難題的同時對公司和世界產生深遠影響。
NVIDIA Research 首席科學家兼高級副總裁 Bill Dally 表示:“在開展卓越研究的同時我們努力確保研究工作與公司業務緊密相關。只做到其中一點很容易,兩者兼顧則頗具挑戰。”
在 NVIDIA GTC 大會上,Dally 和 NVIDIA Research 的團隊領導們分享了該團隊的創新成果。NVIDIA GTC 是 AI 領域的頂尖開發者大會,上周在美國加州圣何塞舉行。
在描述使命時,許多研究機構會表示其研究項目的時間跨度比產品團隊的項目更長,但 NVIDIA 研究人員尋求的是具有更大“風險跨度”的項目。一旦成功,這些項目便有可能獲得巨大回報。
圖形研究副總裁、NVIDIA 首位研究員 David Luebke 表示:“我們的使命是做對公司有益的事。這不是為了打造一個陳列最佳論文獎的榮譽室或為了建立研究人員名人堂。我們是一小群人,有幸能夠研究可能失敗的想法。因此,我們有責任不浪費機會,在那些一旦成功就能產生重大影響的項目上全力以赴。”
作為一個團隊進行創新
NVIDIA 的核心價值觀之一是“one team”,這體現了對協作的高度重視,有助于研究人員與產品團隊和業內相關人士緊密合作,將他們的想法轉化為對現實世界的影響。
NVIDIA 應用深度學習研究副總裁 Bryan Catanzaro 表示:“NVIDIA 的每個人都積極尋求合作,因為 NVIDIA 所做的加速計算工作需要進行全棧優化。如果每項技術都孤立存在,每個人都各自為政,就無法實現這一目標。大家必須作為一個團隊齊心協力,才能實現加速。”
在評估潛在項目時,NVIDIA 的研究人員會考慮其更適合研究團隊還是產品團隊、相關工作是否值得在頂級會議上發表,以及對整個公司是否有明顯的潛在益處。如果決定推進該項目,就會與關鍵利益相關者進行合作。
Catanzaro 表示:“我們與他人合作,將想法變為現實。我們在這個過程中常常發現,在實驗室里看似很棒的想法在現實世界中并非一定有效。在這種緊密的合作中,研究團隊需要保持謙遜,向公司其它部門學習,了解如何才能讓自己的想法變成現實。”
通過論文、技術會議以及 GitHub 和 Hugging Face 等開源平臺,該團隊分享了大量成果。但他們的重點始終放在對行業的影響上。
Luebke 表示:“我們認為,發表論文是我們工作的一個重要附帶成果,但這并非我們的核心目的。”
NVIDIA Research 的首個工作重點是光線追蹤,經過十年的持續努力,最終直接催生了 NVIDIA RTX,這一發布重新定義了實時計算機圖形。如今,NVIDIA Research 包含多個專業團隊,涉及芯片設計、網絡、編程系統、LLM、基于物理學的模擬、氣候科學、人形機器人和自動駕駛汽車等領域,并且還在不斷拓展研究領域并吸納全球專業人才。
改變 NVIDIA 與整個行業
NVIDIA Research 不僅為公司一些最知名的產品奠定了基礎,其創新成果還推動并開啟了如今的 AI 和加速計算時代。
這一切始于 2006 年推出的 CUDA,它是一個并行計算軟件平臺和編程模型,使研究人員能夠利用 GPU 加速多種應用。通過 CUDA,開發者可以輕松地利用 GPU 的并行處理能力,從而加快科學模擬、游戲軟件以及 AI 模型創建的速度。
Luebke 表示:“對于 NVIDIA 而言,開發 CUDA 是最具變革性的一件事。這發生在我們成立正式研究團隊之前,最終大獲成功是因為我們聘請了頂尖的研究人員,并讓他們與頂尖架構師合作。”
讓光線追蹤成為現實
NVIDIA Research 成立后,其研究人員便開始致力于研究 GPU 加速的光線追蹤技術,花費數年時間開發了相關算法和硬件,最終實現了這項技術。2009 年,該項目由已故的實時光線追蹤先驅、NVIDIA 專業圖形副總裁 Steven Parker 領導,隨著 NVIDIA OptiX 應用框架進入產品階段,并在 2010 年的 SIGGRAPH 論文中進行了詳細介紹。
研究人員的工作不斷拓展,通過與 NVIDIA 架構團隊合作,最終成功地開發了 NVIDIA RTX 光線追蹤技術,其中包括為游戲玩家和專業創作者實現實時光線追蹤的 RT Core。
2018 年推出的 NVIDIA RTX 還標志著 NVIDIA Research 另一項創新成果的誕生:NVIDIA DLSS(深度學習超級采樣)。借助 DLSS 技術,圖形渲染工作流不再需要繪制視頻中的所有像素。相反,只需繪制一小部分像素,然后由 AI 工作流根據這些信息生成清晰的高分辨率圖像。
為幾乎所有應用加速 AI
在 AI 軟件領域,NVIDIA 研究人員的貢獻始于面向 GPU 加速神經網絡的 NVIDIA cuDNN 庫。它是在深度學習尚處于起步階段時作為研究項目開發出來的,于 2014 年作為產品發布。
隨著深度學習迅速普及并發展出生成式 AI,NVIDIA Research 始終站在最前沿。NVIDIA StyleGAN 便是一個典型例子,這是一個開創性的視覺生成式 AI 模型,展示了神經網絡如何快速地生成逼真的圖像。
雖然生成對抗網絡(GAN)已于 2014 年首次提出,但“StyleGAN 是第一個生成的圖像能夠符合照片視覺效果完全以假亂真的模型。這是一個具有分水嶺意義的重大時刻,”Luebke 說道。
NVIDIA 的研究人員推出了一系列廣受歡迎的 GAN 模型,例如 AI 繪畫工具 GauGAN,它后來發展成為 NVIDIA Canvas 應用程序。隨著擴散模型、神經輻射場和高斯濺射技術的興起,他們仍在推進視覺生成式 AI 的發展,包括最近推出的 3D 模型 Edify 3D 和 3DGUT。
在 LLM 領域,Megatron-LM 是一項應用研究計劃,它能夠高效地訓練和推理大規模語言模型,用于內容生成、翻譯和對話式 AI 等語言類任務。它已經被集成到用于開發定制生成式 AI 的 NVIDIA NeMo 平臺中,該平臺還包含起源于 NVIDIA Research 的語音識別和語音合成模型。
在芯片設計、網絡、量子等領域不斷取得突破
AI 和圖形只是 NVIDIA Research 涉足的部分領域,其多個團隊在芯片架構、電子設計自動化、編程系統、量子計算等領域也取得了諸多突破。
2012 年,Dally 提交了一份研究提案,該項目后來發展出了 NVIDIA NVLink 和 NVSwitch。這是一種高速互連技術,能夠在加速計算系統中實現 GPU 和 CPU 處理器之間的快速通信。
2013 年,電路研究團隊發表了關于芯片間鏈路的研究成果,其中引入了一種與該互連技術聯合設計的信令系統,實現了裸片之間的高速、小面積、低功耗連接。該項目最終成為了 NVIDIA Grace CPU 和 NVIDIA Hopper GPU 之間的連接技術。
2021 年,ASIC 和 VLSI 研究小組開發了一種名為 VS-Quant 的 AI 加速器軟硬件協同設計技術,使許多機器學習模型能夠以 4 位權重和 4 位激活精度高效地運行。他們的工作影響了 NVIDIA Blackwell 架構中 FP4 精度支持的開發。
今年 CES 上發布的 NVIDIA Cosmos 平臺也是 NVIDIA Research 開發的,旨在加速開發面向新一代機器人和自動駕駛汽車的物理 AI。詳細信息,請閱讀相關研究論文并收聽關于Cosmos 的 AI 播客節目。
歡迎在 GTC 大會上了解關于 NVIDIA Research 的更多信息。
-
NVIDIA
+關注
關注
14文章
5160瀏覽量
104912 -
數據中心
+關注
關注
16文章
5010瀏覽量
72807 -
AI
+關注
關注
87文章
32938瀏覽量
272604
原文標題:GTC25 | 影響深遠的創新:NVIDIA Research 如何推動 AI、圖形及其他領域的變革性工作
文章出處:【微信號:NVIDIA_China,微信公眾號:NVIDIA英偉達】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
NVIDIA研究成果年度盤點
廣電計量在認證服務領域取得多項成果
NVIDIA在CES 2025帶來多項發布
NVIDIA Omniverse擴展至生成式物理AI領域
NVIDIA推出多個生成式AI模型和藍圖
盤點NVIDIA 2024年的創新成果
NVIDIA Research在ECCV 2024上展示多項創新成果
Anthropic在人工智能領域取得重大突破
NVIDIA Research端到端自動駕駛模型引領國際挑戰賽
NVIDIA視覺生成式AI的最新進展
NVIDIA在加速計算和生成式AI領域的創新
日本TDK公司固態電池取得突破性進展
u-blox在機器人割草機領域取得重要項目
在高維光場探測領域取得突破性進展

評論