NVIDIA Riva 可提供經過全面優化的流程,用于部署實時 AI 語音應用(例如轉錄和虛擬助理)。
什么是NVIDIA Riva
NVIDIA Riva是用于開發語音 AI 應用程序的 GPU 加速 SDK。Riva 旨在幫助您輕松快速地訪問對話 AI 功能。只需幾個命令,您就可以通過 API 操作訪問高性能服務并嘗試演示。
Riva SDK 包括預訓練的語音 AI 模型,用于在自定義數據集上對這些模型進行微調的 NVIDIA TAO 工具套件,以及用于自動語音識別和語音合成的優化端到端技能。
使用 Riva,您可以輕松地對數據上的最新模型進行微調,以實現對其特定背景進行更深入的理解。優化推理,以提供運行時間為 150 毫秒(ms)的實時服務,而在僅有 CPU 的平臺上則需要運行 25 秒。
特定任務的 AI 服務和 gRPC 端點提供開箱即用的高性能 ASR 和 TTS。這些 AI 服務經過數千小時的公共和內部數據集的訓練,以達到高精確度。您可以開始使用預先訓練的模型,或者使用您自己的數據集對其進行微調,以進一步提高模型性能。
Riva 使用 NVIDIATriton Inference Server 為多個模型提供服務,以實現高效、穩健的資源分配,并在高吞吐量、低延遲和高精確度方面實現高性能。
NVIDIA Riva 2.0功能亮點
出色的自動語音識別(ASR)和文字轉語音(TTS)模型
除英語外,還支持西班牙語、德語和俄語
具有精細控制以實現語言表達的實時文本轉語音流程
借助 NVIDIA TAO 工具套件輕松地針對自定義數據進行調優
能夠擴展到成百上千個實時串流
使用單個命令部署服務的端到端工作流程和工具
Riva開發者入門套件
使用 NVIDIA Riva 開發語音 AI 所需的各種套件,包括教程、Jupyter Notebook 和文檔。點擊閱讀原文,開始使用 Riva 開發者入門套件并了解相關內容。
自動語音識別
Riva ASR 視頻入門
關于訓練和部署的博客
聯系中心示例應用
用于微調 ASR 模型的 Jupyter Notebook
ASR 文檔
文字轉語音
虛擬助理示例
含 RASA 教程的虛擬助手
設置 TTS 服務示例
使用 SSML 自定義 TTS 示例
TTS 文檔
搶先體驗版中已可使用Riva定制錄音機
Riva 定制錄音機是一款采用 Riva 文本轉語音流程的工具,用于開發 AI 語音克隆。
點擊閱讀原文,了解更多 NVIDIA Riva 入門及相關更新內容
NVIDIA 深度學習培訓中心
NVIDIA 深度學習培訓中心還推出了NVIDIA Riva相關免費課程,您可以復制鏈接查看課程詳情。
使用 Riva 部署文本分類模型
您將學習如何使用 Riva ServiceMaker 框架部署文本分類模型。將 Riva 部署所需的所有組件聚合到目標部署環境的過程是快速而直接的。當模型部署在 Riva 中以后,您就可以向服務器發出推理請求。
原文標題:DevZone | NVIDIA Riva入門
文章出處:【微信公眾號:NVIDIA英偉達企業解決方案】歡迎添加關注!文章轉載請注明出處。
審核編輯:湯梓紅
-
NVIDIA
+關注
關注
14文章
5025瀏覽量
103266 -
gpu
+關注
關注
28文章
4754瀏覽量
129069 -
AI
+關注
關注
87文章
31155瀏覽量
269482
原文標題:DevZone | NVIDIA Riva入門
文章出處:【微信號:NVIDIA-Enterprise,微信公眾號:NVIDIA英偉達企業解決方案】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
評論