英偉達AI加速器新藍圖：集成硅光子I/O，3D垂直堆疊 DRAM 內存
來源：TECHPOWERUP
2024 IEEE IEDM 會議目前正在美國加州舊金山舉行。據分析師 Ian Cutress 在其社交平臺上發布的動態，英偉達在本次學術會議上分享了有關未來 AI 加速器設計的愿景。
英偉達認為未來整個 AI 加速器復合體將位于大面積先進封裝基板之上，采用垂直供電，集成硅光子 I/O 器件，GPU 采用多模塊設計，3D 垂直堆疊 DRAM 內存，并在模塊內直接整合冷板。
在英偉達給出的模型中，每個 AI 加速器復合體包含 4 個 GPU 模塊，每個 GPU 模塊與 6 個小型 DRAM 內存模塊垂直連接并與 3 組硅光子 I/O 器件配對。
硅光子 I/O 可實現超越現有電氣 I/O 的帶寬與能效表現，是目前先進工藝的重要發展方向；3D 垂直堆疊的 DRAM 內存較目前的 2.5D HBM 方案擁有更低信號傳輸距離，有益于 I/O 引腳的增加和每引腳速率的提升；垂直集成更多器件導致發熱提升，模塊整合冷板可提升解熱能力。
熱管理是另一個關鍵考慮因素。多層 GPU 設計帶來了復雜的冷卻挑戰，而目前的技術無法充分解決這一問題。NVIDIA 承認，在將 DRAM 堆疊在邏輯上的概念成為現實之前，材料科學必須取得重大進展。該公司正在探索創新解決方案，包括實施芯片內冷卻系統，例如使用專用冷板進行模塊級冷卻。這種設計的商業化還需要一段時間，Ian Cutress 博士等分析師預測，采用這種技術的產品可能會在 2028-2030 年左右上市。
審核編輯 黃宇
聲明：本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人，不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用，如有內容侵權或者其他違規問題，請聯系本站處理。
舉報投訴
-
加速器
+關注
關注
2文章
805瀏覽量
37997 -
AI
+關注
關注
87文章
31399瀏覽量
269806 -
英偉達
+關注
關注
22文章
3829瀏覽量
91636 -
DRAM內存
+關注
關注
0文章
9瀏覽量
3700
發布評論請先 登錄
相關推薦
微軟攜手英偉達與GitHub推出生成式AI加速器
近日，微軟宣布在英國推出一項重大合作項目——生成式人工智能加速器。這一項目由微軟、英偉達和GitHub三家科技巨頭強強聯手，旨在加速生成式人工智能技術的研發與應用。 生成式人工智能作為
Inflection AI轉向英特爾Gaudi 3，放棄英偉達GPU
近日，人工智能技術公司Inflection AI宣布了一項重要決策，其最新的企業平臺將放棄采用英偉達（Nvidia）的GPU，轉而選擇英特爾的Gaudi 3
英特爾發布Gaudi3 AI加速器,押注低成本優勢挑戰市場
英特爾近期震撼發布了專為AI工作負載設計的Gaudi3加速器，這款新芯片雖在速度上不及英偉達熱門型號H100與H200 GPU，但英特爾巧妙
三星電子HBM3E內存獲英偉達認證，加速AI GPU市場布局
近日，知名市場研究機構TrendForce在最新發布的報告中宣布了一項重要進展：三星電子的HBM3E內存產品已成功通過英偉達驗證，并正式開啟出貨流程。具體而言，三星的HBM
3D DRAM內嵌AI芯片，AI計算性能暴增
當前高帶寬內存(HBM)中的DRAM芯片，通過在3D DRAM中實現AI處理來解決數據總線問題。 ? 通常來說，當前的
SK海力士5層堆疊3D DRAM制造良率已達56.1%
在全球半導體技術的激烈競爭中，SK海力士再次展示了其卓越的研發實力與創新能力。近日，在美國夏威夷舉行的VLSI 2024峰會上，SK海力士宣布了其在3D DRAM技術領域的最新研究成果，其中5層堆疊的
緯穎加速布局AI，攜英偉達芯片嶄新AI服務器搶占市場
該公司近日宣布，將于本年度的臺北國際電腦展上亮相，展示搭載英偉達、AMD與英特爾加速器的AI服務器機柜，并推出單相/兩相的“直接式（Dire
三星電子研發16層3D DRAM芯片及垂直堆疊單元晶體管
在今年的IEEE IMW 2024活動中，三星DRAM業務的資深副總裁Lee指出，已有多家科技巨頭如三星成功制造出16層3D DRAM，其中美光更是發展至8層水平。
進一步解讀英偉達 Blackwell 架構、NVlink及GB200 超級芯片
，通過英偉達高帶寬接口（NV-HBI）將兩個最大可制造芯片合并為一個圖形處理器單元，支持10TB/s帶寬，形成高效的通信通道，提升整體性能。
配備192GB的HBM3e
發表于 05-13 17:16
3D DRAM進入量產倒計時，3D DRAM開發路線圖
目前，各大內存芯片廠商，以及全球知名半導體科研機構都在進行3D DRAM的研發工作，并且取得了不錯的進展，距離成熟產品量產不遠了。
發表于 04-17 11:09
?829次閱讀
三星2025年后將首家進入3D DRAM內存時代
在Memcon 2024上，三星披露了兩款全新的3D DRAM內存技術——垂直通道晶體管和堆棧DRAM。
工商網監
評論