9月10日,奕斯偉計算開發者伙伴大會在北京亦莊舉辦。大會以“綠色、開放、融合”為主題,匯聚了EICT領域的專家、學者等重磅嘉賓,共同探討AI時代背景下RISC-V的發展機遇。Imagination作為重要生態合作伙伴受邀出席活動,與奕斯偉等業界伙伴攜手加速RISC-V在各行各業的深度融合和應用落地。
活動現場,Imagination產品管理高級總監Stephen Barton從芯片IP的角度,分享了Imagination 如何通過RSIC-V和PowerVR助力邊緣生成式AI的發展。
首先,他表示,深度學習已成為推動大型計算機工作的有效方法,這一點在傳統的高性能計算方法中是無法實現的。而邊緣設備并非大型計算機,未來AI在小型計算機上將如何發展?對此,他探討了兩種方式,一是通過更大的計算機、晶體管調度、芯粒(chiplet)堆疊、減少數值方法等提升計算性能。另一種是確保計算可以輕松擴展,并且是通用的。RISC-V則是很好的示例,作為一個不斷發展的開放標準,專注于RISC-V解決方案可以讓你充分利用系統的潛力。同時,CPU是通用的,可以用于多種場景。
在邊緣端,功耗、帶寬等資源受限,更需要確保邊緣計算的高效擴展。當運行生成式AI推理時,可能專注于峰值TOPS和帶寬,游戲也可能會占用大量的GPU資源,同時還可能有一些加密操作占用了大量CPU時間。為了保證通用性運行工作負載,并減少系統的核數量,可以通過NPU犧牲一些靈活性以實現高性能;也可以通過GPU犧牲一些芯片面積來獲得更好的PPA并擴展加速能力。
與此同時,RISC-V在邊緣計算中也發揮著重要作用。Stephen講到,向量引擎和向量擴展已成為標準的一部分。當涉及到機器學習工作負載時,RISC-V具有很大的靈活性,不需要API可直接使用。同時AI領域中RISC-V具有最低的面積開銷,等等。
最后,Stephen特別提及到Imagination與奕斯偉、SiFive的合作——奕斯偉EIC77系列,涵蓋單Die RISC-V邊緣計算芯片EIC7700及更高算力版本EIC7700X,雙 Die RISC-V AI PC 芯片 EIC7702 及更高算力版本 EIC7702X。該系列中的圖形和計算加速功能由Imagination的GPU IP、SiFive的CPU IP,以及奕斯偉計算的專有神經網絡單元NPU無縫集成而成,可為從機器視覺應用(如行為識別和人臉識別)到大型語言模型等各種邊緣計算應用提供出色的性能。同時 Stephen 表示將全力支持奕斯偉提出并倡導的 RDI 生態系統建設。
未來Imaginaiton期待與更多伙伴合作,在邊緣計算、AI PC和AI加速等領域打造更多高性能產品,共同推動RISC—V數字基礎設施生態創新和產業發展。
-
gpu
+關注
關注
28文章
4752瀏覽量
129057 -
AI
+關注
關注
87文章
31097瀏覽量
269434 -
imagination
+關注
關注
1文章
573瀏覽量
61360
發布評論請先 登錄
相關推薦
評論