隨著個(gè)人與企業(yè)所產(chǎn)生及使用的資料量急劇增長(zhǎng),為了支持使用人工智能 (AI)、機(jī)器學(xué)習(xí) (ML) 等復(fù)雜模型的應(yīng)用,云服務(wù)供應(yīng)商需要一套全新的架構(gòu)來存儲(chǔ)、分析及傳送資料。但由于內(nèi)存容量需求不斷上升,使得處理器數(shù)量及內(nèi)存頻寬達(dá)到瓶頸,舉例來說,盡管 DRAM 占服務(wù)器成本的比例高達(dá) 50%,卻受限于內(nèi)存無法連接到多個(gè) CPU 或 GPU 的架構(gòu),導(dǎo)致在各個(gè)時(shí)間段中約有 25% 的內(nèi)存處于閑置的窘境。
Compute Express Link (CXL) 是一種用于處理器、內(nèi)存擴(kuò)展和加速器的開放標(biāo)準(zhǔn)。CXL 內(nèi)存控制器允許內(nèi)存通過擴(kuò)張、池化、共享等方式,增加內(nèi)存利用率,并減少總擁有成本 (TCO),同時(shí)改善系統(tǒng)能效及效率,以支持通用運(yùn)算、AI 訓(xùn)練和推理、機(jī)器學(xué)習(xí)、內(nèi)存資料庫、內(nèi)存分層及其他應(yīng)用專屬的工作負(fù)載。CXL 內(nèi)存控制器也提供了高度的彈性,保留未來升級(jí)的空間,與主流 CPU、GPU 與內(nèi)存廠商的相容性讓這個(gè)產(chǎn)品能夠更容易被管理、偵錯(cuò)及規(guī)模化。
Astera Labs - Leo CXL Memory Connectivity Platform
Astera Labs Leo CXL Memory Connectivity 平臺(tái)是業(yè)界首個(gè)通過內(nèi)存擴(kuò)展、池化和共享來消除內(nèi)存瓶頸、提高性能和降低 TCO 的解決方案。Leo 控制器具有云規(guī)模部署所需的廣泛功能,包括服務(wù)器級(jí) RAS 功能、端到端安全性、低延遲 DDRx 等。與領(lǐng)先業(yè)界的處理器廠商、存儲(chǔ)器廠商、策略云端客戶、系統(tǒng) OEM 和 CXL 聯(lián)盟密切合作開發(fā),以確保其滿足眾廠商的特定要求,并在整個(gè)生態(tài)系統(tǒng)中流暢互通。
相關(guān)產(chǎn)品
A100 80GB PCIe GPU NVIDIA 適用于 PCIe 的 NVIDIA A100,為所有工作負(fù)載提供最高程度的多樣性。在 80 GB 版本上首度推出全球最快速的內(nèi)存頻寬,每秒超過 2 TB (TB/秒),可解決最大的模型和資料集。 |
2-Mbit I2C EEPROM STMicroelectronics M24M02 是一個(gè) 2-Mbit I2C 兼容的 EEPROM,可以在1.8V 至 5.5V 的電壓及-40 °C / +85 °C 的溫度范圍內(nèi)作業(yè)。 |
-
內(nèi)存
+關(guān)注
關(guān)注
8文章
3028瀏覽量
74076 -
ML
+關(guān)注
關(guān)注
0文章
149瀏覽量
34662 -
益登科技
+關(guān)注
關(guān)注
0文章
26瀏覽量
12627 -
云服務(wù)器
+關(guān)注
關(guān)注
0文章
620瀏覽量
13365
原文標(biāo)題:云服務(wù)器中的 CXL 內(nèi)存擴(kuò)充與池化
文章出處:【微信號(hào):gh_35b6c826f6e2,微信公眾號(hào):益登科技】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論