電子發(fā)燒友網(wǎng)報(bào)道（文/李彎彎、吳子鵬）從OpenAI去年底推出ChatGPT以來，人工智能領(lǐng)域持續(xù)火熱。近日，高潮更是一波接著一波，首先是OpenAI繼ChatGPT之后又推出了更強(qiáng)大的大型多模態(tài)模型GPT-4，接著是國內(nèi)百度終于正式發(fā)布了其大型語言模型文心一言。昨日，微軟宣布將GPT-4全面接入所有辦公軟件，更是炸翻全場。

種種跡象表明，大模型的應(yīng)用即將走進(jìn)千家萬戶，人工智能產(chǎn)業(yè)發(fā)展迎來高潮。大家知道，無論是ChatGPT、文心一言，還是其他生成式AI模型的訓(xùn)練和部署，對算力都有很高的要求。那么目前國內(nèi)在這方面具備怎樣的條件？大模型的發(fā)展將帶來怎樣的機(jī)會(huì)和挑戰(zhàn)？帶著這些問題，電子發(fā)燒友最近對多家大算力芯片、接口IP、服務(wù)器企業(yè)做了深度調(diào)研。

大算力芯片的機(jī)會(huì)和挑戰(zhàn)

目前，全球大模型的訓(xùn)練基本都是采用英偉達(dá)的GPU。OpenAI之前推出的ChatGPT，以及最近發(fā)布的GPT-4，都是在大量英偉達(dá)A100的基礎(chǔ)上訓(xùn)練而成。據(jù)說微軟的Azure云服務(wù)為ChatGPT構(gòu)建了超過1萬枚英偉達(dá)A100GPU芯片的AI計(jì)算集群。

國內(nèi)大模型的訓(xùn)練也基本倚賴英偉達(dá)的GPU，業(yè)內(nèi)人士認(rèn)為，想要做好AI大模型，1萬枚英偉達(dá)A100芯片是門檻。然而國內(nèi)擁有1萬枚英偉達(dá)A100芯片的企業(yè)少之又少。從這個(gè)層面來看，國內(nèi)企業(yè)想要布局類似ChatGPT這樣大規(guī)模的模型短期來看還很難。

從長遠(yuǎn)來看，未來大模型的研發(fā)和部署是必然趨勢，而每個(gè)大模型訓(xùn)練和部署的背后，都有幾萬個(gè)GPU在支持。可想而知，未來隨著這方面的研發(fā)和應(yīng)用的普及，通用GPU市場需求將會(huì)迎來爆發(fā)式增長。這對GPU企業(yè)來說將會(huì)是巨大的機(jī)會(huì)。

登臨科技聯(lián)合創(chuàng)始人王平在接受電子發(fā)燒友采訪的時(shí)候表示：“以電力為例，可以很清楚的看到這個(gè)市場未來的變化。幾十年前，電力只是用在一些小用量的場景，隨著電力的供給越來越多，電器也越來越多的時(shí)候，最后電力就成了一個(gè)基本設(shè)施?？梢哉f，算力也是朝著基礎(chǔ)設(shè)施的方向在發(fā)展。而現(xiàn)在通用GPU還遠(yuǎn)沒有到爆炸式需求的階段。”

然而從目前的情況來看，國內(nèi)的GPU還難以在大模型的訓(xùn)練中承擔(dān)起重要責(zé)任，不過可以看到有不少企業(yè)在該領(lǐng)域持續(xù)耕耘。對于國內(nèi)的GPU企業(yè)可以怎么做，才能在抓住ChatGPT帶來的這波機(jī)會(huì)，如何為國內(nèi)大模型的發(fā)展提供算力支持？

在接受電子發(fā)燒友采訪的時(shí)候，燧原科技創(chuàng)始人兼COO張亞林談到了幾點(diǎn)：首先，企業(yè)需要能夠提供更高性價(jià)比的算力，從ChatGPT訓(xùn)練就能看到算力的成本有多高，從這個(gè)角度來看，并不是所有人都能玩得起這場游戲。

其次，大算力芯片企業(yè)需要能夠站到系統(tǒng)的角度思考問題，最終算力的呈現(xiàn)是一個(gè)集群系統(tǒng)，這里面包含幾千張加速卡，幾千顆芯片，大量的互聯(lián)和存儲，很多服務(wù)器。整個(gè)系統(tǒng)的設(shè)計(jì)、調(diào)動(dòng)能力、是否易用跟芯片的設(shè)計(jì)會(huì)不太一樣。這樣更能夠提供滿足用戶需求的產(chǎn)品。

在人工智能算力領(lǐng)域，燧原科技已經(jīng)有很深的積累。目前已經(jīng)迭代兩代訓(xùn)練和推理產(chǎn)品，第三代在研發(fā)中。此外，燧原科技已經(jīng)在科研領(lǐng)域和智慧城市的應(yīng)用中落地了訓(xùn)練和推理的超千卡算力集群。張亞林表示，類似ChatGPT這樣的AIGC生成式模型，對于燧原科技而言是個(gè)機(jī)遇，公司可以把已經(jīng)積累的系統(tǒng)集群的經(jīng)驗(yàn)推廣到更多的客戶賽道上，幫助客戶使能更多大模型的生成。

面對與國際巨頭的差距，天數(shù)智芯對電子發(fā)燒友表示，堅(jiān)持通用GPU發(fā)展的路線，全面覆蓋訓(xùn)練和推理兩條產(chǎn)品發(fā)展主線。結(jié)合行業(yè)解決方案為各行業(yè)、各產(chǎn)業(yè)發(fā)展提供完整成熟的軟硬件一體化方案。在未來的產(chǎn)品發(fā)展上，逐步縮小和國際先進(jìn)產(chǎn)品的差距，為國內(nèi)人工智能發(fā)展提供強(qiáng)有力的支持。

天數(shù)智芯自2021年3月推出云端訓(xùn)練通用GPU產(chǎn)品--天垓100，并于2022年12月推出云端推理通用GPU產(chǎn)品--智鎧100，截止目前，天數(shù)智芯訂單規(guī)模就已經(jīng)突破5億元。目前，基于天垓100訓(xùn)練的模型種類超過了兩百種。天數(shù)智芯表示，公司在訓(xùn)練芯片上堅(jiān)持通用GPU架構(gòu)、主流生態(tài)兼容等發(fā)展路線，對于通用性、兼容性、安全性等方面都進(jìn)行了支持，可以為ChatGPT的發(fā)展提供有效安全的算力底座。

對于以ChatGPT為代表的大模型訓(xùn)練和部署，對通用GPU或者算力的高要求，登臨科技聯(lián)合創(chuàng)始人王平談到，從ChatGPT用戶數(shù)超1億，日訪問量幾千萬的數(shù)據(jù)來看，它的運(yùn)營成本相當(dāng)高，每天的電費(fèi)達(dá)到幾十萬人民幣量級。他認(rèn)為，這時(shí)候計(jì)算效率很重要，如果計(jì)算架構(gòu)相比于傳統(tǒng)的GPGPU更有優(yōu)勢的話，它在計(jì)算效率上也就會(huì)更有優(yōu)勢。

就比如登臨科技的一些計(jì)算密度更大的產(chǎn)品。登臨科技是一家專注于高性能通用計(jì)算平臺的芯片研發(fā)與技術(shù)創(chuàng)新的公司，登臨自主研發(fā)的GPU+架構(gòu)正式采用了軟件定義的片內(nèi)異構(gòu)體系，目前首款基于GPU+的系列產(chǎn)品—Goldwasser已在云至邊緣的各個(gè)應(yīng)用場景實(shí)現(xiàn)規(guī)模化落地。據(jù)王平介紹，登臨科技希望通過異構(gòu)，從由點(diǎn)及面在一些足夠大的市場領(lǐng)域，把產(chǎn)品做到比英偉達(dá)同系列產(chǎn)品更具性價(jià)比優(yōu)勢，甚至超過英偉達(dá)。

高速接口IP的機(jī)會(huì)和挑戰(zhàn)

就如上文所言，大模型的訓(xùn)練需要大量的GPU，ChatGPT的訓(xùn)練就使用了1萬張英偉達(dá)的高端GPU。然而從訓(xùn)練的角度來看，計(jì)算性能再好的GPU芯片如A100如果無法集群在一起去訓(xùn)練，那么訓(xùn)練一個(gè)類ChatGPT的大模型可能需要上百年。因此，AI大模型的訓(xùn)練對高速接口IP是一個(gè)巨大的挑戰(zhàn)，也是一個(gè)巨大的機(jī)遇。

在以ChatGPT為代表的生成式AI大模型產(chǎn)業(yè)中，接口IP能夠發(fā)揮哪些作用呢？奎芯科技市場及戰(zhàn)略副總裁唐睿在接受電子發(fā)燒友網(wǎng)采訪時(shí)談到了幾點(diǎn)：

首先是芯片上的互聯(lián)接口，也就是Die to Die類型的互聯(lián)接口IP，包括UCIe等，用以擴(kuò)充單芯片的計(jì)算能力；其次是Chip to Chip類型的互聯(lián)接口IP，包括SerDes/PCIe/CXL等，能夠加快芯片之間的互聯(lián)和數(shù)據(jù)交換，滿足更高帶寬的需求；此外還有內(nèi)存接口IP，包括SATA、DDR、HBM等，能夠用于打造更高性能的存儲產(chǎn)品，幫助類ChatGPT存儲和交換大規(guī)模的數(shù)據(jù)；再上一層就是數(shù)據(jù)通訊接口的接口IP。因此，從訓(xùn)練的角度來看，類ChatGPT應(yīng)用的爆發(fā)，能夠帶來非常大的接口IP需求。

奎芯科技成立于2021年，目前已經(jīng)推出的高速接口IP組合包括USB、PCIe、SATA、SerDes、MIPI、DDR、HDMI、DP、HBM等豐富的類型。唐睿指出，從技術(shù)上來看，國產(chǎn)接口IP廠商確實(shí)還處于追趕的位置，不過這種差距已經(jīng)越來越小。2023年，奎芯科技將會(huì)推出一系列性能達(dá)到國際領(lǐng)先水平的接口IP產(chǎn)品，包括HBM3以及其他領(lǐng)先的D2D類型的互聯(lián)接口IP。

當(dāng)前，AI大模型訓(xùn)練所用到的算力集群基本上都是基于英偉達(dá)通用算力芯片來打造，在這方面國產(chǎn)通用算力芯片還存在一定的性能差距。唐睿表示，國產(chǎn)高性能計(jì)算芯片還是有機(jī)會(huì)的，AI大模型并不是一個(gè)近期出現(xiàn)的新鮮事物，近些年國內(nèi)AI產(chǎn)業(yè)已經(jīng)在跟進(jìn)這一趨勢，只是類ChatGPT類型應(yīng)用背后的大模型參數(shù)規(guī)模更大。

針對這方面的需求，國內(nèi)芯片產(chǎn)業(yè)也早就啟動(dòng)了這方面的布局，包括奎芯科技所在的接口IP賽道，都在向這個(gè)方向努力。不過，從IP研發(fā)到芯片設(shè)計(jì)，再到應(yīng)用落地，這中間會(huì)有一個(gè)時(shí)間差。實(shí)際上，國外的公司也是在用之前的芯片通過互聯(lián)在做這方面的硬件支持。

服務(wù)器廠商的機(jī)會(huì)和挑戰(zhàn)

大模型的訓(xùn)練和部署離不開服務(wù)器的支持。微軟Azure AI基礎(chǔ)設(shè)施總經(jīng)理尼迪·卡佩爾表示，他們構(gòu)建了一個(gè)系統(tǒng)架構(gòu)，可以在非常大的范圍內(nèi)運(yùn)行且十分可靠，這是ChatGPT成功的重要原因。云服務(wù)依賴于數(shù)千個(gè)不同的部件，包括服務(wù)器、管道、不同的金屬和礦物等。

近年來，在全球數(shù)字化、智能化的浪潮下，智能手機(jī)、自動(dòng)駕駛、數(shù)據(jù)中心、圖像識別等應(yīng)用推動(dòng)AI服務(wù)器市場迅速成長。根據(jù)IDC數(shù)據(jù)，2021年全球AI服務(wù)器市場規(guī)模已達(dá)到 145億美元，并預(yù)計(jì)2025年將超過260億美元。

近段時(shí)間ChatGPT概念的火熱，更是對算力基礎(chǔ)設(shè)施的需求起到了帶動(dòng)作用。寧暢副總裁兼CTO趙雷此前在接受媒體采訪的時(shí)候表示，ChatGPT的訓(xùn)練和部署，都需要大量智能計(jì)算數(shù)據(jù)存儲以及傳輸資源，計(jì)算機(jī)基礎(chǔ)設(shè)施、算力等上游技術(shù)將因此受益。

寧暢是一家集研發(fā)、生產(chǎn)、部署、運(yùn)維一體的服務(wù)器廠商，及IT系統(tǒng)解決方案提供商。該公司很早就開始著重發(fā)力于人工智能服務(wù)器和液冷服務(wù)器。趙雷表示，公司目前在用的、在研的人工智能和液冷服務(wù)器，包括今年推出的浸沒液冷服務(wù)器，剛好跟上算力高速增長的市場需求。公司隨時(shí)準(zhǔn)備著為客戶提供合適的高算力產(chǎn)品和解決方案。

在人工智能服務(wù)器方面，寧暢已經(jīng)推出多款產(chǎn)品，包括X620 G50、X660 G45、X640 G40、X620 G40。日前，百度正式發(fā)布大型語言模型文心一言，隨后寧暢聯(lián)合百度宣布寧暢AI服務(wù)器支持百度文心一言，寧暢憑借AI服務(wù)器產(chǎn)品及定制化服務(wù)，為百度文心一言提供算力保障。

目前國內(nèi)有不少優(yōu)秀的服務(wù)器廠商，除了上述提到的寧暢，還有浪潮信息、中科曙光等。不過整體來看，國內(nèi)在算力的提供商仍然存在瓶頸，比如總體算力不夠，算力分布不均。也就是說存在部分客戶算力過剩，部分客戶算力不足，或者A時(shí)間算力過剩，B時(shí)間算力不足的情況。短期來看，這個(gè)問題要靠云技術(shù)解決，長期來看是要提供過剩的算力。也就是說，需要云技術(shù)去平衡協(xié)調(diào)算力不均勻的問題，還需要提高算力、算力效率等。

另外還有算力成本的問題，雖然目前每單位算力單價(jià)已經(jīng)下降，但是過去幾年服務(wù)器的平均售價(jià)一直上漲。趙雷認(rèn)為，可能算力類型單一，不太能夠有效地支撐高速增長的模式，可能要有各種各樣不同類型的算力。比如ChatGPT，是不是可以做針對GPT模型專門的ASIC。算力的應(yīng)用類型越窄，它的效率就會(huì)越高，越通用效率就越低。

總結(jié)

顯然，隨著ChatGPT、GPT-4及文心一言等大型語言模型的發(fā)布，以及未來大模型在各個(gè)領(lǐng)域中實(shí)現(xiàn)部署應(yīng)用，人們離期待已久的通用人工智能也就越來越近。而大模型的研發(fā)和應(yīng)用部署，也將給算力芯片、接口IP、服務(wù)器等產(chǎn)業(yè)帶來前所未有的機(jī)會(huì)。同時(shí)國內(nèi)在這些領(lǐng)域具備自己的獨(dú)特優(yōu)勢，也面臨著諸多挑戰(zhàn)。這將會(huì)是一場持久戰(zhàn)。