案例簡介

本案例中，Pantheon Lab（萬想科技）專注于數字人技術解決方案，通過 NVIDIA 技術實現數字人實時對話與客戶互動交流。借助 NVIDIA GPU、NVIDIA TensorRT、NVIDIA Triton，Pantheon Lab 訓練速度提高 10 倍、推理延遲降低 50%，以及用戶參與度提升 30%。這些進步使對話式 AI 能夠提供實時且真實的互動，使 Pantheon Lab 在數字人技術不斷革新。

本案例主要應用到NVIDIA GPU、NVIDIA TensorRT、NVIDIA Triton。

利用 NVIDIA 技術

打造高效數字人交互解決方案

Pantheon Lab 利用 NVIDIA 的先進基礎設施，為企業提供高質量的實時數字人交互解決方案。該數字人解決方案滿足公共客戶服務、教育和數字營銷等多種應用場景，顯著增強用戶參與度和互動，提高客戶體驗和運營效率。

開發數字人交互解決方案

面臨的挑戰

在開發數字人交互解決方案時，Pantheon Lab 面臨著幾個關鍵挑戰。

第一、對話中的即時反饋，包括視覺和上下文反饋，以確保用戶參與和交互的自然流暢至關重要。這一需求需要高性能計算資源，從而能無延遲地處理復雜的深度學習模型和支撐聊天機器人的算法訓練。

第二、隨著對聊天機器人的需求增長，擴展性成為一個關鍵問題。Pantheon Lab 不僅需要確保其模型在性能不變的情況下處理用戶互動的增量，還需要實現語言理解和生成的高準確性，任何不準確性都可能導致誤解和負面的用戶體驗。

第三、復雜的工作負載，如集成現有頭像互動等高級功能需要強大的基礎算力，快速發展的行業環境對產品上市時間要求高，促使 Pantheon Lab 需要迅速交付新功能和改進，以保持競爭優勢。

NVIDIA 技術助力

Pantheon Lab 數字人交互解決方案

為了解決這些挑戰，Pantheon Lab 采用了一系列的 NVIDIA 技術：

通過部署 NVIDIA 高性能算力 GPU，實現了 10 倍的訓練速度提升，促進了模型的快速開發和迭代，同時，加速了新功能和優化了部署，在邊緣環境中 NVIDIA GPU 幫助整體運營成本降低 80%。

NVIDIA TensorRT 的部署，優化了模型推理，使實時交互中的延遲減少 50%。這一增強使用戶能夠更快地收到響應，提高了整體用戶體驗。

部署 NVIDIA Triton 推理服務器，使 Pantheon Lab 能夠同時服務多個模型，并進行動態批處理。這一能力使吞吐量增加 60%，允許更多的用戶互動而不影響性能。

NVIDIA 賦能Pantheon Lab

打造高效友好的數字人體驗

NVIDIA 技術賦能顯著提升了 Pantheon Lab 的運營效率，降低了企業運營成本，使數字人解決方案能夠提供無縫、實時的對話體驗，展示出互動流暢對話高效的數字人界面。Pantheon Lab 致力于提供全棧的實時交互對話的數字人解決方案，為企業運營發展需求提供高效的客服助手，重新定義用戶體驗。

萬想科技的聯合創始人兼 CEO 劉劍鋒表示：“在 NVIDIA 的賦能下我們的產品能夠在邊緣設備上實現實時且高精度的數字人重建，增強了人機互動的真實感和降低了延遲。同時，NVIDIA 的硬件加速和云渲染技術進一步提升了我們產品的擴展性。得益于這些技術優勢，我們的數字人解決方案不僅更加經濟可靠，用戶體驗也更為友好，應用范圍更為廣泛。”

NVIDIA 初創加速計劃

NVIDIA 初創加速計劃 (NVIDIA Inception)為免費會員制，旨在培養顛覆行業格局的優秀創業公司。該計劃聯合國內外知名的風投機構、創業孵化器、創業加速器、行業合作伙伴以及科技創業媒體等，打造創業加速生態系統。能夠提供產品折扣、技術支持、市場宣傳、融資對接、業務推薦等一系列服務，加速創業公司的發展。