即將推出的公測版優化了前處理和后處理，以四分之一的成本和能耗獲得更高的吞吐量。

微軟、騰訊和百度正在采用 NVIDIA CV-CUDA 開發計算機視覺 AI。

NVIDIA 創始人兼首席執行官黃仁勛近日在宣布 NVIDIA CV-CUDA 公測版時強調了該開源項目在內容理解、視覺搜索和深度學習方面的成果。CV-CUDA 是一個云計算級別的計算機視覺開源 GPU 加速庫。

黃仁勛在 NVIDIA GTC 大會主題演講中表示：“ 80% 的互聯網流量來自于視頻，用戶生成的視頻內容正在推動流量大幅增長并消耗大量能源。我們應該加速所有視頻處理并重新降低能耗。”

CV-CUDA 致力于幫助世界各地的公司在 GPU 上建立和擴展端到端的、基于 AI 的計算機視覺和圖像處理流程。

使用 AI 優化互聯網規模的視覺計算

大部分的互聯網流量來自于視頻和圖像數據，這推動了內容創作、視覺搜索、推薦以及地圖等應用的驚人規模。

這些應用使用一套專門的、反復被使用的計算機視覺和圖像處理算法，在神經網絡處理圖像和視頻數據之前和之后對這些數據進行處理。

微軟必應的視覺搜索引擎使用 AI 計算機視覺在互聯網圖片中搜索圖片（例如狗糧）

雖然神經網絡通常由 GPU 加速，但支持神經網絡的計算機視覺和圖像處理算法往往是當今 AI 應用中的 CPU 瓶頸。

CV-CUDA 通過將前處理和后處理步驟從 CPU 轉移到 GPU，幫助在單個 GPU 上處理 4 倍的串流。因此，CV-CUDA 能夠以四分之一的云計算成本處理同樣的工作負載。

CV-CUDA 庫為開發者提供 30 多種高性能的計算機視覺算法，包含原生 Python API 和與 PyTorch、TensorFlow2、ONNX 與 TensorRT 機器學習框架的零拷貝集成。

其結果是為云 AI 業務提供了更高的吞吐量，同時降低計算成本并減少了碳足跡。

全球對計算機視覺 AI 的應用情況

全球行業領導者的采用體現了 CV-CUDA 為越來越多大規模視覺應用所帶來的益處以及多樣的支持。擁有大規模圖像處理工作負載的企業可以節省數千萬乃至數億美元的費用。

微軟正將 CV-CUDA 整合到必應視覺搜索中，以支持用戶使用圖像而非文本來搜索，尋找類似的圖像、產品或網頁。

2019 年，微軟在 GTC 上分享了他們如何利用 NVIDIA 技術將語音識別、智能回答、文字-語音轉換技術和物體檢測無縫、實時地結合起來。

騰訊已部署 CV-CUDA 來加速其廣告創作和內容理解流程，該流程每天處理 30 多萬個視頻。

相比之前經過 GPU 優化的工作流，在使用 CV-CUDA 后，這家總部位于深圳的多媒體集團在圖像處理方面的能耗和成本均降低了 20%。

而總部位于北京的搜索巨頭百度正在將 CV-CUDA 整合到 FastDeploy 中。FastDeploy 是百度飛槳深度學習框架的開源部署工具包之一，可以為開源社區的開發者提供無縫的計算機視覺加速。

從內容創建到汽車用例

CV-CUDA 的應用正在不斷增加。在 Alpha 版本發布后的幾個月內，就有 500 多家公司提出了 100 多個用例。

內容創作和電子商務中的圖像會使用前處理和后處理算子來幫助推薦引擎識別、定位和策劃內容。

在測繪領域，來自測繪車輛的視頻需要預處理和后處理算子來訓練云端神經網絡，從而識別基礎設施和道路特征。

在自動駕駛模擬和驗證軟件的基礎設施應用中，CV-CUDA 使 GPU 能夠加速在車輛上發生的算法，例如顏色轉換、失真校正、卷積和雙邊過濾等。

未來，生成式 AI 將改變視頻內容創作和管理，使創作者能夠接觸到全球受眾。

位于紐約的初創企業 Runway 已通過集成 CV-CUDA，緩解了其視頻對象分割模型中的一個關鍵的高分辨率視頻預處理瓶頸。

在部署 CV-CUDA 后，其速度提高了 3.6 倍，支持 Runway 優化其創作工具套件中的實時內容點擊響應速度。

Runway 聯合創始人兼首席執行官 Cristóbal Valenzuela 表示：“對于創作者來說，將一個想法變為現實過程中的每一秒都很寶貴。CV-CUDA 為數百萬使用我們工具的創作者帶來了積極且重要的變化。”

點擊“閱讀原文”觀看 GTC 2023 主題演講回看，或注冊 GTC 2023，預約觀看 CV-CUDA 相關演講內容：

1. 克服 AI 影像和計算機視覺流程中的前處理和后處理瓶頸[S51182]

2. 為自動駕駛汽車創建基于 AI 的高清地圖[SE50001]

3. 與專家溝通：使用 NVIDIA 庫實現 GPU 加速的數據處理[CWES52014]

4. 使用 NVIDIA DeepStream 的自定義 GPU 驅動插件推進AI應用[S51612]

?

3 月 24 日 下午 14：00-16：00，繼續鎖定 GTC23，加入在線觀看（Watch Party） 派對，從黃仁勛與 OpenAI 創始人兼首席科學家高能對話中，看 AI 的現狀和未來！

Watch Party 觀看指南

會議開始前 15 分鐘，

點擊下方出現的“JOIN WATCH PARTY NOW"

進入 Teams 會議室觀看

3 月 24 日 熱門觀看派對推薦： 【爐邊談話：看 AI 的現狀和未來】 會議時間：14：00 - 16：00 會議代碼：【WP52092】點擊下方鏈接了解會議詳情： GTC23 | 黃仁勛與 Ilya Sutskever 的爐邊談話重磅來襲！— 看 AI 的現狀和未來 【通過 AI 職業生涯改變世界】 會議時間：19:30 - 21:30 會議代碼：【WP52162】 點擊下方鏈接了解會議詳情 ： GTC23 | 科學計算精選論壇中文解讀誠邀您的到來！