MI300X是一款與NVIDIA旗艦顯卡H100相媲美的產(chǎn)品。它擁有8個(gè)XCD核心,304組CU單元和8組HBM3核心。顯存容量達(dá)到了192GB,相當(dāng)于NVIDIA H100的2.4倍。同時(shí),HBM內(nèi)存帶寬高達(dá)5.2TB/s,Infinity Fabric總線帶寬也達(dá)到了896GB/s,遠(yuǎn)超NVIDIA H100。
MI300X在性能和容量方面達(dá)到了前所未有的水平,特別適合進(jìn)行AI計(jì)算。一張顯卡就能支持400億參數(shù)的大型模型。
據(jù)悉,MI300X的HBM密度是英偉達(dá)H100的2.4倍,帶寬則是H100的1.6倍。這使得MI300X在具體應(yīng)用效果上表現(xiàn)出色。它可以支持400億參數(shù)的Hugging Face AI模型,單塊MI300X能夠支持高達(dá)800億參數(shù)規(guī)模的模型。
MI300X的硬件能力與市場上的英偉達(dá)產(chǎn)品相當(dāng)。它擁有高達(dá)192GB的內(nèi)存,超過了英偉達(dá)競爭對手H100所支持的120GB內(nèi)存。這意味著MI300X可以承載比其他芯片更大規(guī)模的AI模型。
據(jù)AMD公司表示,MI300X將在第三季度逐步推出,并在第四季度開始大規(guī)模生產(chǎn),屆時(shí)將配備192GB內(nèi)存。
MI300X的問世將為市場帶來更多選擇,并提供強(qiáng)大的硬件能力,以滿足不斷增長的AI計(jì)算需求。除此之外,MI300A已經(jīng)開始向客戶銷售。
編輯:黃飛
-
amd
+關(guān)注
關(guān)注
25文章
5490瀏覽量
134498 -
NVIDIA
+關(guān)注
關(guān)注
14文章
5075瀏覽量
103539 -
HBM
+關(guān)注
關(guān)注
0文章
386瀏覽量
14818
發(fā)布評論請先 登錄
相關(guān)推薦
評論