近期外網(wǎng)爆出傳聞，AMD下一代Zen 4核心的EPYC Genoa處理器可能會(huì)配備HBM內(nèi)容，以求與英特爾的下一代服務(wù)器CPU Xeon Sapphire Rapids爭(zhēng)雄。巧合的是，近日Linux內(nèi)核補(bǔ)丁中也透露了消息，AMD下一代基于CDNA 2核心的Instinct MI200 GPU也將用到HBM2e，顯存更是高達(dá)128GB。這意味著AMD很可能會(huì)在服務(wù)器市場(chǎng)全面擁抱HBM。

已與消費(fèi)顯卡市場(chǎng)無(wú)緣的HBM

HBM作為一種高帶寬存儲(chǔ)器，其實(shí)是由AMD最先投入研發(fā)的高性能DRAM。為了實(shí)現(xiàn)這一愿景，AMD找來(lái)了有3D堆疊工藝生產(chǎn)經(jīng)驗(yàn)的SK海力士，并借助互聯(lián)和封裝廠商的幫助，聯(lián)合開(kāi)發(fā)出了HBM存儲(chǔ)器。

AMD也是首個(gè)將其引入GPU市場(chǎng)的廠商，并應(yīng)用在其Fiji GPU上。隨后2016年，三星率先開(kāi)始了HBM2的量產(chǎn)，AMD被英偉達(dá)搶了風(fēng)頭，后者率先將這一新標(biāo)準(zhǔn)的存儲(chǔ)器應(yīng)用在其Tesla P100加速卡上。

當(dāng)時(shí)HBM的優(yōu)缺點(diǎn)都十分明顯了，從一開(kāi)始以來(lái)的帶寬優(yōu)勢(shì)正在被GDDR6迎頭趕上，設(shè)計(jì)難度和成本又是一道難以邁過(guò)的坎。雖然高端顯卡上這些成本并不占大頭，但中低端顯卡用到HBM就比較肉疼了。但AMD并沒(méi)有因此放棄HBM2，而是在Vega顯卡上繼續(xù)引入了HBM2。

不過(guò)，這可能也就是我們最后一次在消費(fèi)級(jí)GPU上見(jiàn)到HBM了，AMD在之后的RDNA架構(gòu)上再也沒(méi)有使用HBM，僅僅只有基于CDNA架構(gòu)且用于加速器的GPU上還在使用HBM。

為什么是服務(wù)器市場(chǎng)？

HBM是如何在服務(wù)器市場(chǎng)扎根的呢？這是因?yàn)镠BM最適合的應(yīng)用場(chǎng)景之一就是功率受限又需要最大帶寬的環(huán)境，完美達(dá)到HPC集群中進(jìn)行人工智能計(jì)算，或是大型密集計(jì)算的數(shù)據(jù)中心的要求。
這也就是這些包含數(shù)據(jù)中心業(yè)務(wù)的公司持續(xù)使用HBM的原因，英偉達(dá)在性能強(qiáng)大的服務(wù)器GPU A100中依然在使用HBM2和HBM2e，甚至可能會(huì)在下一代Hopper結(jié)構(gòu)繼續(xù)沿用下去。據(jù)傳，英特爾尚未面世的Xe-HP和Xe-HPC GPU也將使用HBM。

不過(guò)這兩家廠商的消費(fèi)級(jí)GPU都不約而同的避過(guò)了HBM，選擇了GDDR6和GDDR6X，可想而知他們都不想走AMD的彎路。
至于AMD在CPU上率先使用HBM也并非空穴來(lái)風(fēng)，在AMD去年公布的一份專利中，就在芯片設(shè)計(jì)上出現(xiàn)了HBM。英特爾推出的競(jìng)品Xeon Sapphire Rapids服務(wù)器CPU也正式宣布將使用HBM，不過(guò)量產(chǎn)要等到2023年。這些可以看出HBM在服務(wù)器市場(chǎng)有多“香”，他們都開(kāi)始將HBM向CPU上發(fā)展。

下一代HBM

雖然制定標(biāo)準(zhǔn)的JEDEC尚未推出HBM3的相關(guān)規(guī)范，但一直在研究下一代HBM的SK海力士在今年6月透露了HBM3的最新情報(bào)，HBM將迎來(lái)進(jìn)一步的性能提升。
HBM2E的帶寬可達(dá)460GB/s，I/O速率可達(dá)3.6Gbps，而HBM3的帶寬可以達(dá)到665GB/s以上，I/O速率超過(guò)5.2Gbps。這還是只是速率的下限而已，要知道SiFive與OpenFive今年流片的5nm RISC-V SoC也加入了HBM3的IP，最高支持的數(shù)據(jù)傳輸率達(dá)到7.2Gbps。

SK海力士能做到如此高的性能提升，很可能得益于去年與Xperi簽訂的專利許可協(xié)議。這些協(xié)議中包含了DBI Ultra 2.5D/3D互聯(lián)技術(shù)，可以用于3DS、HBM2、HBM3及后續(xù)DRAM產(chǎn)品的創(chuàng)新開(kāi)發(fā)。傳統(tǒng)的銅柱互聯(lián)只能做到每平方毫米625個(gè)互聯(lián)，而DBI Ultra可以在同樣的面積下做到10萬(wàn)個(gè)互聯(lián)。

結(jié)語(yǔ)

從JEDEC2018年宣布HBM2E標(biāo)準(zhǔn)以來(lái)，HBM已經(jīng)近3年沒(méi)有更新了。三星更是在今年2月宣布開(kāi)發(fā)帶有人工智能引擎的HBM-PIM，未來(lái)HBM3是否能在服務(wù)器領(lǐng)域繼續(xù)稱雄，相信當(dāng)前幾大廠商規(guī)劃的服務(wù)器產(chǎn)品中HBM占比已經(jīng)給出了答案。