AMD將于今年秋季在部分RDNA 3 GPU上添加ROCm的支持

人工智能是塑造下一代計(jì)算的決定性技術(shù)。近幾個(gè)月來，我們都看到了生成式人工智能和大語言模型的爆炸式增長正在徹底改變我們與技術(shù)交互的方式，并推動(dòng)以GPU為中心的數(shù)據(jù)中心對(duì)高性能計(jì)算的需求顯著增加。

ROCm是一個(gè)開放軟件平臺(tái)，允許研究人員利用AMD Instinct加速器的強(qiáng)大功能，促進(jìn)HPC和AI創(chuàng)新跨平臺(tái)的可移植性。ROCm 5具有針對(duì)AI和HPC工作負(fù)載的全面優(yōu)化套件。其中包括針對(duì)大型語言模型精細(xì)調(diào)整的內(nèi)核、對(duì)新數(shù)據(jù)類型的支持以及對(duì)像OpenAI Triton類編程語言等新技術(shù)的支持。

ROCm驗(yàn)證現(xiàn)在包括每晚進(jìn)行數(shù)十萬次框架測(cè)試，以及跨數(shù)千個(gè)模型和運(yùn)算符的驗(yàn)證。這包括對(duì)PyTorch、TensorFlow、ONNX和JAX等領(lǐng)先框架的支持，為基于這些框架構(gòu)建的所有AI模型提供更佳的開箱即用的開發(fā)者體驗(yàn)。

我很高興地宣布ROCm 5.6的最新版本。

ROCm 5.6通過針對(duì)大語言（和其他）模型的新型AI軟件附加組件增強(qiáng)了功能，包括跨ROCm 庫組合的許多性能優(yōu)化。它還反映了支持人工智能社區(qū)的持續(xù)改進(jìn)，包括：

- 將Hugging Face單元測(cè)試套件集成到ROCm QA中

- 在PyTorch 2.0感應(yīng)器模式下對(duì)OpenAI Triton的增量支持

- 通過ROCm對(duì)PyTorch、TensorFlow和JAX啟用OpenXLA支持，從而支持更廣泛的社區(qū)

ROCm 5.6還引入了對(duì)FFT、BLAS和求解器等多個(gè)數(shù)學(xué)庫的改進(jìn)，這些數(shù)學(xué)庫構(gòu)成了HPC應(yīng)用程序的基礎(chǔ)，并增強(qiáng)了ROCm開發(fā)和部署工具，包括安裝、ROCgdb（CPU-GPU集成調(diào)試器）、ROCm分析器和文檔。

隨著行業(yè)朝著支持廣泛加速器的開放生態(tài)系統(tǒng)發(fā)展，我們將繼續(xù)努力進(jìn)一步優(yōu)化框架和后端編譯器，以實(shí)現(xiàn)更佳性能，包括MLIR基礎(chǔ)設(shè)施改進(jìn)，鞏固AMD對(duì)OpenAI Triton和OpenXLA編譯器的支持。我們還將繼續(xù)在Hugging Face的AMD hub中添加針對(duì)AMD解決方案優(yōu)化的其他開源AI模型。

對(duì)于HPC用戶，我們最近在AMD Infinity Hub上發(fā)布了許多發(fā)布方法，使客戶能夠構(gòu)建HPC應(yīng)用程序容器，未來的ROCm版本將增加AMD Instinct解決方案支持的HPC應(yīng)用程序數(shù)量。

我們還看到開發(fā)人員對(duì)在Radeon消費(fèi)級(jí)和 Radeon Pro工作站級(jí)GPU上運(yùn)行用于AI和ML的ROCm開放軟件平臺(tái)表現(xiàn)出了極大的興趣，并聽到了社區(qū)對(duì)不受支持的GPU上的特定驅(qū)動(dòng)程序問題提出的挑戰(zhàn)。我可以很高興地說，我們已經(jīng)修復(fù)了ROCm 5.6中報(bào)告的問題，并且我們致力于今后擴(kuò)大我們的支持。

我們計(jì)劃將ROCm支持從當(dāng)前支持的AMD RDNA 2工作站GPU：Radeon Pro v620和w6800 擴(kuò)展到特定的AMD RDNA 3工作站和消費(fèi)級(jí)GPU。Linux上對(duì)基于RDNA 3的GPU的正式支持計(jì)劃于今年秋季開始推出，首先是48GB Radeon PRO W7900和24GB Radeon RX 7900 XTX，隨著時(shí)間的推移，還會(huì)發(fā)布更多卡和擴(kuò)展功能。

責(zé)任編輯：彭菁