電子發燒友網報道(文/周凱揚)2022年下半年,服務器市場受到了經濟下行的波及,也開始放慢了增長速率。不少人認為進入2023年后,數據中心這幾年享受的紅利期也即將迎來終結。但隨著ChatGPT及同類型應用的風靡,服務器市場再度激活了新一輪的軍備競賽。
直接受益者自然是與算力掛鉤最為緊密的GPU廠商,無論是英偉達還是AMD,從開年以來股價就經歷了一輪猛漲。CPU、AI加速器、FPGA廠商也順勢得利。不過要說在云服務廠商紛紛瘋狂下單下,還有哪些硬件廠商從中分了一杯羹,那肯定少不了網絡芯片廠商。
高性能網絡也是生成式AI的硬需求
在Meta、谷歌、亞馬遜這些Hyperscaler廠商的眼里,他們已經明白ChatGPT這類生成式AI并非曇花一現,而是可以投入到現有產品中去并產生附加價值的爆款應用。不過在他們現如今的AI集群中,不少都是和傳統的x86 CPU集群獨立的,所以他們要想建立新的互聯交換網絡滿足需求,就必須要購置新的基礎設施硬件。
所以搭建高性能數據中心網絡就成了他們發力的重點之一,需求指標包括無損耗、低時延和高擴展性等。像亞馬遜、谷歌這樣已經開始自研高速網絡芯片的大廠還好,而沒有這方面技術積累的云服務廠商和企業就只能去購買第三方方案,諸如大帶寬交換機/路由器、DPU等。
網絡芯片廠商從中受益
正因如此,像博通、瑞昱之類的網絡芯片廠商也都從這股AI熱中受益。近日,博通發布了2023財年第一季度的財報,該季度內博通的總營收達到了89.15億美元,同比增長16%,凈利潤達37.74億美元,同比增長53%,其中半導體解決方案業務貢獻了71.07億美元的營收,同比增長了21%。
Tomahawk5以太網交換機芯片/ 博通
雖然其中一部分營收來自無線消費終端,但這樣的成績還是可以看出在服務器終端市場,網絡芯片的需求劇增,致使訂單飛漲。博通表示,在2022年內,單是用于AI的以太網交換機產品營收就超過2億美元,而他們預計在2023年這個數值將達到8億美元,可見博通的Tomahawk以太網交換機芯片賣得有多好。
與此同時,博通用于計算卸載的產品,也因為生成式AI的爆火而大賣,例如Stingray系列SmartNIC。博通去年在該類業務上的營收已經超過20億美元,且今年的預計營收將超過30億美元。另外就是無損數據中心以太網架構,博通也像華為等廠商一樣,開始在新一代無損低時延的以太網架構上加大投入,且對數據與計算密集型的AI負載進行了優化設計。
小結
相對其他服務器硬件產品來說,網絡芯片的市場韌性確實要更高一些,而且總能順應局勢迎來一波增長。加之如今的以太網交換機芯片、SmartNIC和DPU都處于飛速創新的階段,相信即便在AI計算量逐年倍增的情況下,數據中心網絡也不會出現類似其他硬件一樣的性能瓶頸。
直接受益者自然是與算力掛鉤最為緊密的GPU廠商,無論是英偉達還是AMD,從開年以來股價就經歷了一輪猛漲。CPU、AI加速器、FPGA廠商也順勢得利。不過要說在云服務廠商紛紛瘋狂下單下,還有哪些硬件廠商從中分了一杯羹,那肯定少不了網絡芯片廠商。
高性能網絡也是生成式AI的硬需求
在Meta、谷歌、亞馬遜這些Hyperscaler廠商的眼里,他們已經明白ChatGPT這類生成式AI并非曇花一現,而是可以投入到現有產品中去并產生附加價值的爆款應用。不過在他們現如今的AI集群中,不少都是和傳統的x86 CPU集群獨立的,所以他們要想建立新的互聯交換網絡滿足需求,就必須要購置新的基礎設施硬件。
所以搭建高性能數據中心網絡就成了他們發力的重點之一,需求指標包括無損耗、低時延和高擴展性等。像亞馬遜、谷歌這樣已經開始自研高速網絡芯片的大廠還好,而沒有這方面技術積累的云服務廠商和企業就只能去購買第三方方案,諸如大帶寬交換機/路由器、DPU等。
網絡芯片廠商從中受益
正因如此,像博通、瑞昱之類的網絡芯片廠商也都從這股AI熱中受益。近日,博通發布了2023財年第一季度的財報,該季度內博通的總營收達到了89.15億美元,同比增長16%,凈利潤達37.74億美元,同比增長53%,其中半導體解決方案業務貢獻了71.07億美元的營收,同比增長了21%。
雖然其中一部分營收來自無線消費終端,但這樣的成績還是可以看出在服務器終端市場,網絡芯片的需求劇增,致使訂單飛漲。博通表示,在2022年內,單是用于AI的以太網交換機產品營收就超過2億美元,而他們預計在2023年這個數值將達到8億美元,可見博通的Tomahawk以太網交換機芯片賣得有多好。
與此同時,博通用于計算卸載的產品,也因為生成式AI的爆火而大賣,例如Stingray系列SmartNIC。博通去年在該類業務上的營收已經超過20億美元,且今年的預計營收將超過30億美元。另外就是無損數據中心以太網架構,博通也像華為等廠商一樣,開始在新一代無損低時延的以太網架構上加大投入,且對數據與計算密集型的AI負載進行了優化設計。
小結
相對其他服務器硬件產品來說,網絡芯片的市場韌性確實要更高一些,而且總能順應局勢迎來一波增長。加之如今的以太網交換機芯片、SmartNIC和DPU都處于飛速創新的階段,相信即便在AI計算量逐年倍增的情況下,數據中心網絡也不會出現類似其他硬件一樣的性能瓶頸。
聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。
舉報投訴
-
gpu
+關注
關注
28文章
4753瀏覽量
129067 -
博通
+關注
關注
35文章
4326瀏覽量
106951 -
網絡芯片
+關注
關注
0文章
30瀏覽量
12098
發布評論請先 登錄
相關推薦
OpenAI推出ChatGPT搜索功能
查找網絡信息時,往往需要通過傳統的搜索引擎進行檢索,然后從中篩選出有價值的內容。而現在,有了ChatGPT搜索,用戶可以更加便捷地獲取所需信息。 OpenAI表示,ChatGPT搜索不僅能夠幫助用戶像在
【「算力芯片 | 高性能 CPU/GPU/NPU 微架構分析」閱讀體驗】--了解算力芯片GPU
本篇閱讀學習第七、八章,了解GPU架構演進及CPGPU存儲體系與線程管理
█從圖形到計算的GPU架構演進
GPU圖像計算發展
●從三角形開始的幾何階段
在現代圖形渲染中,三角形是最常用的基本圖形元素
發表于 11-03 12:55
【「算力芯片 | 高性能 CPU/GPU/NPU 微架構分析」閱讀體驗】--全書概覽
、GPU、NPU,給我們剖析了算力芯片的微架構。書中有對芯片方案商處理器的講解,理論聯系實際,使讀者能更好理解算力芯片。
全書共11章,由淺入深,較系統全面進行講解。下面目錄對全書
發表于 10-15 22:08
神經網絡芯片和普通芯片區別
處理神經網絡算法的芯片。它通過模擬人腦神經元的工作方式,實現了對大量數據的并行處理和快速學習。 普通芯片,又稱通用芯片,是指可以執行各種計算任務的芯
使用espbox lite進行chatgpt_demo的燒錄報錯是什么原因?
我使用espbox lite進行chatgpt_demo的燒錄
我的idf是v5.1release版本的,espbox是master版本的
在編譯時似乎沒有什么問題
在燒錄時報錯
請問這是什么原因
發表于 06-11 08:45
OpenAI 深夜拋出王炸 “ChatGPT- 4o”, “她” 來了
當地時間5月13日OpenAI推出ChatGPT-4o,代表了人工智能向前邁出的一大步。在GPT-4turbo的強大基礎上,這種迭代擁有顯著的改進。在發布會的演示中,OpenAI展示該模型的高級
發表于 05-27 15:43
AI訓練,為什么需要GPU?
隨著由ChatGPT引發的人工智能熱潮,GPU成為了AI大模型訓練平臺的基石,甚至是決定性的算力底座。為什么GPU能力壓CPU,成為炙手可熱的主角呢?要回答這個問題,首先需要了解當前人工智能(AI
GPU/TPU集群網絡組網間的連接方式
用于連接 GPU 服務器中的 8 個 GPU 的 NVLink 交換機也可以用于構建連接 GPU 服務器之間的交換網絡。Nvidia 在 2
發表于 04-16 11:43
?838次閱讀
【Longan Pi 3H 開發板試用連載體驗】給ChatGPT裝上眼睛,還可以語音對話
個位置:
由于我沒有HDMI顯示器和鍵盤,因此無法像官方WIKI那樣使用桌面系統。因此首次開機我也需要用無頭方式配置無線網絡。具體操作我們下期在評論區中再見。
發表于 04-12 12:41
在FPGA設計中是否可以應用ChatGPT生成想要的程序呢
當下AI人工智能崛起,很多開發領域都可看到ChatGPT的身影,FPGA設計中,是否也可以用ChatGPT輔助設計呢?
發表于 03-28 23:41
FPGA在深度學習應用中或將取代GPU
硬件公司供貨的不斷增加,GPU 在深度學習中的市場需求還催生了大量公共云服務,這些服務為深度學習項目提供強大的 GPU 虛擬機。
但是顯卡也受硬件和環境的限制。Larzul 解釋說:“神經網
發表于 03-21 15:19
【國產FPGA+OMAPL138開發板體驗】(原創)6.FPGA連接ChatGPT 4
的復雜系統,然后將其映射到FPGA上運行。FPGA通常與CPU、GPU等并行處理單元一起工作,通過網絡接口與后端服務器通信。然而,如果編寫一個FPGA配置以模擬與ChatGPT4 API通信的過程
發表于 02-14 21:58
評論