英偉達(dá)GTC:ChatGPT專用Hopper GPU H100 NVL來了
ChatGPT 一經(jīng)推出火爆程度讓人咋舌,似乎一夜之間就將生成式 AI、大語言模型推到了風(fēng)口浪尖。英偉達(dá)估計(jì)也要笑出聲來,黃仁勛預(yù)計(jì)英偉達(dá)2023年的生成式人工智能的收入將相當(dāng)大,人工智能及其基礎(chǔ)設(shè)施即服務(wù)(infrastructure as-a-service)產(chǎn)品將拓展其商業(yè)模式。
要之前此前NVIDIA就已經(jīng)入局,在2016年,NVIDIA就向OpenAI交付了第一臺(tái)NVIDIA DGX AI超級(jí)計(jì)算機(jī)——支持 ChatGPT 的大型語言模型突破背后的引擎。現(xiàn)在GPT-4需要的算力更大,對(duì)速度需求更強(qiáng)烈。
現(xiàn)在英偉達(dá)面向人工智能及其基礎(chǔ)設(shè)施強(qiáng)發(fā)力,GPU提速,ChatGPT專用Hopper GPU H100 NVL性能強(qiáng)大,ChatGPT專用GPU可提速10倍,H100 NVL是專門為LLM設(shè)計(jì)的GPU,采用了Transformer加速解決方案,可用于處理ChatGPT。相比于英偉達(dá)HGX A100,一臺(tái)搭載四對(duì)H100和雙NVLINK的標(biāo)準(zhǔn)服務(wù)器速度能快10倍,可以將大語言模型的處理成本降低一個(gè)數(shù)量級(jí)。
-
gpu
+關(guān)注
關(guān)注
28文章
4767瀏覽量
129208 -
AI
+關(guān)注
關(guān)注
87文章
31463瀏覽量
269859 -
英偉達(dá)
+關(guān)注
關(guān)注
22文章
3839瀏覽量
91669 -
gtc
+關(guān)注
關(guān)注
0文章
73瀏覽量
4435 -
ChatGPT
+關(guān)注
關(guān)注
29文章
1566瀏覽量
7928 -
H100
+關(guān)注
關(guān)注
0文章
31瀏覽量
297
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論