色哟哟视频在线观看-色哟哟视频在线-色哟哟欧美15最新在线-色哟哟免费在线观看-国产l精品国产亚洲区在线观看-国产l精品国产亚洲区久久

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

生成式AI帶火的不止GPU,網(wǎng)絡(luò)芯片迎來下一輪大戰(zhàn)

E4Life ? 來源:電子發(fā)燒友網(wǎng) ? 作者:周凱揚 ? 2023-06-30 01:08 ? 次閱讀

電子發(fā)燒友網(wǎng)報道(文/周凱揚)在生成式AI的熱度之下,橫向擴展AI訓(xùn)練與推理性能成了每個云服務(wù)廠商、數(shù)據(jù)中心以及互聯(lián)網(wǎng)廠商追求的目標(biāo),這點從前段時間的GPU搶購潮就能看出來,龐大的GPU基數(shù)在當(dāng)下幾乎可以和強大的AI算力畫上等號。

然而,真正將這些GPU連接起來的,還是靠以太網(wǎng)交換機、路由這類網(wǎng)絡(luò)芯片。隨著數(shù)據(jù)中心解耦趨勢愈發(fā)明顯,相繼認識到這一點的網(wǎng)絡(luò)芯片廠商都開始新一輪的軍備競賽,諸如博通、美滿和思科等廠商都已經(jīng)加快了新品推出的節(jié)奏。

博通Tomahawk

作為在數(shù)據(jù)中心網(wǎng)絡(luò)芯片耕耘了12年以上的博通,從640G的Trident系列到25.6T的Tomahawk4系列,已經(jīng)完成了多次設(shè)計迭代,顯著提高了網(wǎng)絡(luò)芯片的帶寬。今年三月,博通終于發(fā)布了Tomahawk 5系列網(wǎng)絡(luò)芯片,也是市面上首個量產(chǎn)51.2Tbps交換帶寬的芯片。

新的Tomahawk 5系列無疑是在暴漲的AI需求下誕生的,我們從其設(shè)計中也能看出。由于做到了更高的端口密度,Tomahawk 5可以實現(xiàn)256高性能AI/ML加速器之間的單跳連接,且每個都能做到200Gbps的網(wǎng)絡(luò)帶寬。這對于數(shù)據(jù)中心的AI訓(xùn)練和推理的負載來說,無疑提高了吞吐效率,尤其是日益流行且愈發(fā)復(fù)雜的生成式AI模型。

wKgZomSdWGCACur4AAFkjhy-LfI022.jpg
Trident和Tomahawk芯片路線圖 / 博通


在物理設(shè)計上,Tomahawk 5采用了如今已經(jīng)趨近成熟的共封裝光學(xué)(CPO)方案,相較過去的光模塊在前端面板插拔的方案,CPO選擇將網(wǎng)絡(luò)交換芯片和光模塊封裝在一起。這一封裝方案結(jié)合5nm的芯片工藝,將功耗進一步降低了30%。

另外值得一提的是,博通的第三條網(wǎng)絡(luò)芯片產(chǎn)品線,Jericho,也在近期迎來了新品Jericho3-AI。相比以高帶寬為重心的Tomahawk產(chǎn)品線,和主打更多功能性的Trident產(chǎn)品線,Jericho往往以較低帶寬、深度緩存和高可編程性著稱。

而Jericho3-AI雖然確實是28.8T的以太網(wǎng)交換機芯片,卻針對AI訓(xùn)練負載做了特殊的優(yōu)化,更高的端口密度使得Jericho3-AI可以在單個集群中連接32000個GPU,并做到800Gbps的連接帶寬表現(xiàn)。博通甚至將其與英偉達自己的InfiniBand方案對比,Jericho3-AI在完成時間上有著10%左右的優(yōu)勢。這也是Jericho系列獨有的優(yōu)勢,實現(xiàn)標(biāo)準(zhǔn)以太網(wǎng)芯片無法實現(xiàn)卻在AI或HPC應(yīng)用上被看重的靈活功能。

思科Silicon One

其實早在2019年思科首次推出Silicon One網(wǎng)絡(luò)芯片時,博通CEO霍克·譚就表示:“思科在該市場的參與,恰巧驗證了我們推進的這一行業(yè)趨勢,也就是數(shù)據(jù)中心的解耦。我們很高興自己再次押對了,也歡迎更多的競爭。”要知道,之前的思科可是博通的優(yōu)質(zhì)客戶之一,如今身份的轉(zhuǎn)變已經(jīng)對網(wǎng)絡(luò)芯片的市場格局產(chǎn)生了不小的影響。

wKgaomSdWGqAN4RAAAF6las7nPg625.jpg
Silicon One芯片路線圖 / 思科


在第一代自研芯片Silicon One發(fā)布三年半之后,思科在近日終于推出了該產(chǎn)品線的第四代產(chǎn)品,以太網(wǎng)交換機芯片G200和G202。其中G200專注于統(tǒng)一架構(gòu)和基于以太網(wǎng)的AI/ML應(yīng)用部署,這個采用 5nm工藝打造的芯片,基于512個112Gbps SerDes打造,同樣可以做到51.2Tbps的交換帶寬。

而G202則是針對想要繼續(xù)使用50G SerDes的客戶打造的,同樣基于5nm的工藝,G202采用了512x56Gbps SerDes的配置,其特性與G200完全一致,只不過交換性能只有G200的一半。

根據(jù)思科的說法,由于單設(shè)備512個100GE以太網(wǎng)端口的超高端口密度,客戶可以在一個雙層網(wǎng)絡(luò)上構(gòu)建由32000個400G GPU組成的AI/ML集群。借助G200打造這樣一個龐大的網(wǎng)絡(luò),卻依然可以省去50%的光學(xué)組件、40%左右的交換機,極大減少這類集群的碳足跡,每年最高可以省下900萬kWh的耗能。據(jù)了解,G200已經(jīng)送樣給六大云服務(wù)商中的五家進行測試了。

美滿Teralynx

在收購由幾位前博通高管打造的芯片初創(chuàng)公司Innovium后,美滿也開始了他們的網(wǎng)絡(luò)芯片逆襲。同樣是在今年3月,美滿也推出了自己的51.2Tbps交換機芯片,Teralynx 10。相比其他兩家,美滿為Teralynx 10選擇的定位是超低延遲的可編程交換機芯片,這也是此前Innovium的設(shè)計目標(biāo)。

不過直至目前為止,美滿并沒有將Teralynx并入自己的Prestera產(chǎn)品線內(nèi),看來Prestera應(yīng)該還是主打企業(yè)與邊緣數(shù)據(jù)中心市場,而面向云端數(shù)據(jù)中心的Teralynx系列繼續(xù)沿用原來的產(chǎn)品線名稱。

除了用到業(yè)界頂級的112G SerDes IP和先進的工藝實現(xiàn)低功耗的系統(tǒng)設(shè)計以外,美滿電子宣稱Teralynx 10可以提供1.7倍的延遲優(yōu)勢,這對于生成式AI這種看重完成時間和網(wǎng)絡(luò)傳輸時間的應(yīng)用來說至關(guān)重要。

wKgaomSdWHOATyvjAACvKFyVHqE636.png
企業(yè)與數(shù)據(jù)中心的交換芯片方案 / 美滿


還有一點與其他兩家不同的是,Teralynx 10可以驅(qū)動128個400Gbps端口、64個800Gbps端口和32個1.6Tbps端口,1.6Tbps的端口驅(qū)動能力可以說是放眼未來了,這也意味著Teralynx 10可以直接在1RU大小的機柜中實現(xiàn)51.2Tbps的性能。

為此,美滿也推出了Nova這一業(yè)界首個做到1.6Tbps的PAM4電光平臺,Nova基于美滿的200Gbps/lambda光DSP打造,足以為1.6Tbps的可插拔光模塊提供支持。由于DSP的帶寬翻倍,基于Nova的光模塊不僅減少了所需激光和相關(guān)光學(xué)組件的數(shù)量,相較其他的方案來說穩(wěn)定性也同樣加倍。雖然800Gbps的光模塊仍在普及中,但要想在下一代數(shù)據(jù)中心交換網(wǎng)絡(luò)中搶占先機,1.6Tbps的光模塊也該盡快提上日程了。

寫在最后

之所以這些廠商都能這么快推出下一代高性能網(wǎng)絡(luò)芯片,其實還是靠EDA/IP和封裝技術(shù)打好了第一波基礎(chǔ),廠商們先一步推出了完善的以太網(wǎng)IP和共封裝光學(xué)方案。不過這也意味著過去數(shù)據(jù)中心交換硬件很可能迎來新一波的換代,從目前來看應(yīng)該是只有大型云服務(wù)廠商有這個資本進行大規(guī)模替換。

但除了這些網(wǎng)絡(luò)芯片公司之間的斗爭之外,他們也需要提防英偉達這樣既有GPU業(yè)務(wù)又有網(wǎng)絡(luò)芯片業(yè)務(wù)的廠商。以上提到的這三家在推出的新品上都有劍指英偉達InfiniBand的意思,畢竟后者從一開始就是為了HPC和AI打造的通信標(biāo)準(zhǔn),而它們則是剛從Web Scaling轉(zhuǎn)向AI Scaling,從外部網(wǎng)絡(luò)交換轉(zhuǎn)為內(nèi)部網(wǎng)絡(luò)交換,仍需要不斷提升產(chǎn)品性能才能在這個競爭激烈的市場上存活下去。

不過這也可以看出AI帶來的熱度,因為無論是從軟件還是從硬件上,產(chǎn)品的迭代速度都有了成倍提升。800GbE時代的到來,也導(dǎo)致所有想在服務(wù)器市場創(chuàng)造增長的廠商紛紛趨之若鶩,好在這樣的趨勢恰恰是服務(wù)器市場急需的一劑強心劑。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • gpu
    gpu
    +關(guān)注

    關(guān)注

    28

    文章

    4768

    瀏覽量

    129322
  • AI
    AI
    +關(guān)注

    關(guān)注

    87

    文章

    31493

    瀏覽量

    270184
  • 生成式AI
    +關(guān)注

    關(guān)注

    0

    文章

    514

    瀏覽量

    536
收藏 人收藏

    評論

    相關(guān)推薦

    生成AI飛,三大存儲產(chǎn)品齊漲價

    ? 電子發(fā)燒友網(wǎng)報道(文/黃晶晶)生成AI對存儲芯片拉動最顯著的莫過于HBM,由于GPU搭配HBM可用于
    的頭像 發(fā)表于 06-16 09:05 ?3026次閱讀

    Lunar Lake大戰(zhàn)Strix Point!AMD、英特爾掀起新一輪AI PC芯片“大躍進”

    電子發(fā)燒友網(wǎng)報道(文/梁浩斌)最近在COMPUTEX 2024上,可以說AI PC掀起了新一輪的PC芯片“大躍進”。 ? AMD、Intel接連推出全新的移動端AI PC
    的頭像 發(fā)表于 06-06 09:15 ?4135次閱讀

    生成AI推理技術(shù)、市場與未來

    (reasoning)能力,這轉(zhuǎn)變將極大推動上層應(yīng)用的發(fā)展。 紅杉資本近期指出,在可預(yù)見的未來,邏輯推理和推理時計算將是個重要主題,并開啟生成
    的頭像 發(fā)表于 01-20 11:16 ?383次閱讀
    <b class='flag-5'>生成</b><b class='flag-5'>式</b><b class='flag-5'>AI</b>推理技術(shù)、市場與未來

    生成AI工具好用嗎

    當(dāng)下,生成AI工具正以其強大的內(nèi)容生成能力,為用戶帶來了前所未有的便捷與創(chuàng)新。那么,生成
    的頭像 發(fā)表于 01-17 09:54 ?82次閱讀

    雷諾下一代車載語音助手Reno將引入生成AI技術(shù)

    11月1日,賽思軟件技術(shù)公司與雷諾公司宣布深化合作,旨在將生成AI技術(shù)和類人交互功能融入雷諾下一代多模態(tài)虛擬車載助手Reno中。
    的頭像 發(fā)表于 11-01 16:39 ?1189次閱讀

    榮耀迎來一輪投資,中國電信、中金資本等加入

    據(jù)最新報道,榮耀在其股權(quán)改革進程中迎來了新一輪投資者的加入,包括中國電信、中金資本旗下基金、基石資本旗下基金、特發(fā)基金,以及新成立的代理商投資平臺金石星耀等。   榮耀方面表示,此次融資堅持公開透明的原則,旨在進步推動股
    的頭像 發(fā)表于 10-31 13:44 ?756次閱讀

    生成AI工具作用

    生成AI工具是指那些能夠自動生成文本、圖像、音頻、視頻等多種類型數(shù)據(jù)的人工智能技術(shù)。在此,petacloud.ai小編為您整理
    的頭像 發(fā)表于 10-28 11:19 ?305次閱讀

    生成AI與神經(jīng)網(wǎng)絡(luò)模型的區(qū)別和聯(lián)系

    生成AI與神經(jīng)網(wǎng)絡(luò)模型是現(xiàn)代人工智能領(lǐng)域的兩個核心概念,它們在推動技術(shù)進步和應(yīng)用拓展方面發(fā)揮著至關(guān)重要的作用。本文將詳細探討生成
    的頭像 發(fā)表于 07-02 15:03 ?932次閱讀

    亞馬遜云科技攜手SAP通過生成AI解鎖創(chuàng)新潛力

    科技與SAP宣布擴大戰(zhàn)略合作,旨在革新現(xiàn)代化的云ERP體驗,并利用生成AI為企業(yè)帶來全新功能與效率提升。雙方將共同努力,簡化客戶在亞馬遜云科技上采用RISE with SAP解決方案
    的頭像 發(fā)表于 06-07 10:53 ?389次閱讀

    原來這才是【生成AI】!!

    隨著ChatGPT、文心言等AI產(chǎn)品的火爆,生成AI已經(jīng)成為了大家茶余飯后熱議的話題。可是,為什么要在
    的頭像 發(fā)表于 06-05 08:04 ?290次閱讀
    原來這才是【<b class='flag-5'>生成</b><b class='flag-5'>式</b><b class='flag-5'>AI</b>】!!

    思與NVIDIA合作,利用生成AI打造下一代車內(nèi)體驗

    AI 驅(qū)動的移動出行創(chuàng)新企業(yè)與 NVIDIA 合作,打造下一代車內(nèi)體驗。
    的頭像 發(fā)表于 05-23 10:12 ?1292次閱讀

    豐田、日產(chǎn)和本田將合作開發(fā)下一代汽車的AI芯片

    豐田、日產(chǎn)和本田等日本主要汽車制造商確實計劃聯(lián)手開發(fā)下一代汽車的軟件,包括在生成人工智能(AI)和半導(dǎo)體(芯片)等領(lǐng)域進行合作。
    的頭像 發(fā)表于 05-20 10:25 ?1019次閱讀

    生成AI如何重塑通信業(yè)?愛立信最新嘗試給出了答案

    從ChatGPT爆到Sora登場,生成AI已展現(xiàn)出令人驚艷的生產(chǎn)力和創(chuàng)造力,并正加速走進人們的日常生活和各行各業(yè)中,有望掀起新一輪產(chǎn)業(yè)變
    的頭像 發(fā)表于 05-13 17:10 ?334次閱讀
    <b class='flag-5'>生成</b><b class='flag-5'>式</b><b class='flag-5'>AI</b>如何重塑通信業(yè)?愛立信最新嘗試給出了答案

    NPU是什么?為何它是開啟終端側(cè)生成AI的關(guān)鍵?

    生成AI變革已經(jīng)到來。隨著生成AI用例需求在有著多樣化要求和計算需求的垂直領(lǐng)域不斷增加,我們
    的頭像 發(fā)表于 03-07 11:25 ?2143次閱讀
    NPU是什么?為何它是開啟終端側(cè)<b class='flag-5'>生成</b><b class='flag-5'>式</b><b class='flag-5'>AI</b>的關(guān)鍵?

    高通NPU和異構(gòu)計算提升生成AI性能?

    異構(gòu)計算的重要性不可忽視。根據(jù)生成AI的獨特需求和計算負擔(dān),需要配備不同的處理器,如專注于AI工作負載的定制設(shè)計的NPU、CPU和GPU
    的頭像 發(fā)表于 03-06 14:15 ?881次閱讀
    主站蜘蛛池模板: 午夜看片福利在线观看 | 老司机亚洲精品影院在线观看 | 抽插喷S骚爽去了H | 国产激情视频在线 | 久久国产成人午夜AV影院无码 | 擼擼擼麻豆密臀AV | 久久久久亚洲日日精品 | 古代又黄又肉到湿的爽文 | 日本亚欧热亚洲乱色视频 | 97蜜桃123| 国产午夜精品不卡视频 | 亚洲乱码日产精品BD在线下载 | 97人妻碰视频在线观看 | 好大的太粗好深BL | 成人国产精品日本在线 | 国产精品xxxav免费视频 | 国产精品久久精品视 | 九九热视频免费观看 | 共妻肉多荤文高h一女n男 | 久久国产乱子伦精品免费不卡 | 日韩a在线看免费观看视频 日韩a视频在线观看 | 538久久视频在线 | 欧美国产精品久久久乱码 | 久久视频精品3线视频在线观看 | 超碰国产人人做人人爽 | 东北足疗店妓女在线观看 | 国产欧美日韩国产高清 | 999精品国产人妻无码系列 | 18禁无遮遮挡羞漫画免费阅读 | 金瓶梅 快播 | 亚洲成人一区 | 日本三级按摩推拿按摩 | 九九热精品视频在线观看 | 97成人精品视频在线播放 | 无码不卡中文字幕在线观看 | 在线精品一卡乱码免费 | 美女夫妻内射潮视频 | 91精品视频网站 | 国产传媒18精品A片在线观看 | 亚洲精品国产A久久久久久 亚洲精品国产AV成人毛片 | 天天狠狠弄夜夜狠狠躁·太爽了 |