色哟哟视频在线观看-色哟哟视频在线-色哟哟欧美15最新在线-色哟哟免费在线观看-国产l精品国产亚洲区在线观看-国产l精品国产亚洲区久久

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

AI芯片,就是GPU嗎?

晶揚電子 ? 來源:晶揚電子 ? 2023-06-27 17:08 ? 次閱讀

最近,隨著人工智能的大肆宣傳,我們注意到大多數人都默認所有人工智能工作負載將始終在 GPU 上運行。對于這一思路,我們認為,隨著更廣泛的芯片發揮作用,現實情況可能會有所不同。

需要明確的是,GPU 非常適合人工智能工作,并且不會對 Nvidia 的股價構成威脅。我們所說的人工智能實際上是應用統計學,更具體地說是非常先進的統計回歸模型。

這些問題的核心是矩陣代數,涉及相當簡單的數學問題,例如一個數字乘以另一個數字,但需要大規模完成。GPU 的設計采用較小的內核(更簡單的數學),且數量較多(大規模)。因此,使用這些處理器代替具有較少數量較大內核的 CPU 是有意義的。

現在,這種情況變得有點模糊了。其一,GPU 變得更加昂貴。他們更擅長人工智能數學,但在某些時候轉向 CPU 開始在經濟上變得有意義。

人工智能半導體市場實際上分為三個部分:訓練、云推理和邊緣推理。目前的訓練基本上與 Nvidia 相當,但這只是市場的一小部分。云推理將是一個更大的市場——隨著越來越多的人使用這些人工智能模型,對推理的需求將會增長,目前大部分工作將在云中完成。對于許多公司來說,擴大產能的成本似乎非常昂貴。半導體分析師迪倫·帕特爾(Dylan Patel)像往常一樣,對這個數學進行了最好的闡述,但足以說明推理費用可能會成為未來一年左右消費者采用人工智能的主要障礙。

“考慮到 GPU 的成本和相對稀缺性,我們認為許多公司將開始探索 GPU 的替代品來運行推理工作負載,特別是對于將這些 AI 結果與其他功能(如搜索或社交媒體)相結合的公司,這些工作負載在很大程度上仍然運行得最好無論如何,在CPU上?!盌ylan Patel說。

展望未來,我們懷疑人工智能的經濟學將需要更多的推理工作來進行邊緣計算,這意味著消費者需要付費購買設備。這意味著手機和 PC 將需要人工智能功能,這可能意味著它們在 CPU 和移動 SoC 上運行。

AMD 最近推出了內置于其客戶端 CPU 中的人工智能功能,而蘋果公司的 A 系列移動處理器和 M 系列 CPU 中都配備了神經引擎。我們預計這很快就會在邊緣設備中普及。

當然,許多公司正在尋求構建人工智能加速器——專門用于進行人工智能數學計算的專用芯片。但事實證明,這僅適用于像谷歌這樣控制其所有軟件的公司。這些專用芯片的一個重要問題是,它們往往針對一組特定的工作負載或人工智能模型進行過度設計,當這些模型發生變化時,這些芯片就會失去性能優勢。

所有這些都導致了半導體領域最不為人知的領域之一——FPGA。這些是“可編程”芯片(“P”代表可編程),這意味著它們在生產后可以重新用于不同的任務。這些與專門構建的 ASIC 處于相反的一端,專為 AI 加速器等特定任務而設計。

FPGA 已經存在多年了。半導體的經濟學通常意味著,超過一定的容量閾值,ASIC 更有意義,但對于工業和航空航天系統等小容量應用,它們的工作效果非常好。因此,FPGA 無處不在,涉及數十個終端市場,但我們對它們不太熟悉,因為它們通常不會出現在普通消費者每天使用的大批量電子產品中。

人工智能的出現稍微改變了這種計算方式。對于這些工作負載,FPGA 可能對底層模型頻繁變化的人工智能推理需求有意義。在這里,FPGA 的可編程性超過了 FPGA 使用的典型經濟性。需要明確的是,我們認為 FPGA 不會成為使用數千個 GPU 的大規模人工智能系統的有力競爭對手,但我們確實認為,隨著人工智能進一步滲透到電子領域,FPGA 的應用范圍將會擴大。

簡而言之,GPU 可能仍然是大部分人工智能領域的主導芯片,尤其是對于高調、大容量的模型。但除此之外,我們認為替代芯片的使用將成為生態系統的重要組成部分,這是一個比今天看起來更大的機會。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • gpu
    gpu
    +關注

    關注

    28

    文章

    4767

    瀏覽量

    129210
  • 人工智能
    +關注

    關注

    1794

    文章

    47622

    瀏覽量

    239591
  • AI芯片
    +關注

    關注

    17

    文章

    1903

    瀏覽量

    35157

原文標題:AI芯片,就是GPU嗎?

文章出處:【微信號:晶揚電子,微信公眾號:晶揚電子】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    ASIC和GPU的原理和優勢

    ? 本文介紹了ASIC和GPU兩種能夠用于AI計算的半導體芯片各自的原理和優勢。 ASIC和GPU是什么 ASIC和GPU,都是用于計算功能
    的頭像 發表于 01-06 13:58 ?462次閱讀
    ASIC和<b class='flag-5'>GPU</b>的原理和優勢

    NVIDIA和GeForce RTX GPU專為AI時代打造

    NVIDIA 和 GeForce RTX GPU 專為 AI 時代打造。
    的頭像 發表于 01-06 10:45 ?192次閱讀

    GPU是如何訓練AI大模型的

    AI模型的訓練過程中,大量的計算工作集中在矩陣乘法、向量加法和激活函數等運算上。這些運算正是GPU所擅長的。接下來,AI部落小編帶您了解GPU是如何訓練
    的頭像 發表于 12-19 17:54 ?201次閱讀

    《算力芯片 高性能 CPUGPUNPU 微架構分析》第3篇閱讀心得:GPU革命:從圖形引擎到AI加速器的蛻變

    CPU、GPU的演進歷程,AI專用芯片或將引領未來計算平臺的新方向。正如愛因斯坦所說:\"想象力比知識更重要\" —— 在芯片設計領域,創新思維帶來的突破往往令人驚嘆。
    發表于 11-24 17:12

    GPU服務器AI網絡架構設計

    眾所周知,在大型模型訓練中,通常采用每臺服務器配備多個GPU的集群架構。在上一篇文章《高性能GPU服務器AI網絡架構(上篇)》中,我們對GPU網絡中的核心術語與概念進行了詳盡介紹。本文
    的頭像 發表于 11-05 16:20 ?571次閱讀
    <b class='flag-5'>GPU</b>服務器<b class='flag-5'>AI</b>網絡架構設計

    為什么ai模型訓練要用gpu

    GPU憑借其強大的并行處理能力和高效的內存系統,已成為AI模型訓練不可或缺的重要工具。
    的頭像 發表于 10-24 09:39 ?374次閱讀

    【「算力芯片 | 高性能 CPU/GPU/NPU 微架構分析」閱讀體驗】--全書概覽

    、GPU、NPU,給我們剖析了算力芯片的微架構。書中有對芯片方案商處理器的講解,理論聯系實際,使讀者能更好理解算力芯片。 全書共11章,由淺入深,較系統全面進行講解。下面目錄對全書
    發表于 10-15 22:08

    名單公布!【書籍評測活動NO.43】 算力芯片 | 高性能 CPU/GPU/NPU 微架構分析

    和像素統一的G80到現在重金難求的H100;AMD的Zen系列CPU和RDNA系列GPU兩線作戰;中國的高性能計算芯片逐步獲得更多TOP500排名;華為Ascend 910 NPU芯片也成為A
    發表于 09-02 10:09

    AI初出企業Cerebras已申請IPO!稱發布的AI芯片GPU更適合大模型訓練

    美國加州,專注于研發比GPU更適用于訓練AI模型的晶圓級芯片,為復雜的AI應用構建計算機系統,并與阿布扎比科技集團G42等機構合作構建超級計算機?;谄渥钚缕炫?/div>
    的頭像 發表于 06-26 00:09 ?2965次閱讀
    <b class='flag-5'>AI</b>初出企業Cerebras已申請IPO!稱發布的<b class='flag-5'>AI</b><b class='flag-5'>芯片</b>比<b class='flag-5'>GPU</b>更適合大模型訓練

    AI芯片哪里買?

    AI芯片
    芯廣場
    發布于 :2024年05月31日 16:58:19

    為什么GPUAI如此重要?

    來渲染圖形和圖像的計算機芯片專業和個人計算。最初,GPU負責渲染2D和3D圖像、動畫和視頻,但現在它們的應用范圍更廣,尤其在人工智能領域。GPU應用具有嵌入式或離
    的頭像 發表于 05-17 08:27 ?751次閱讀
    為什么<b class='flag-5'>GPU</b>對<b class='flag-5'>AI</b>如此重要?

    為什么跑AI往往用GPU而不是CPU?

    GPU的能力,并且支持的GPU數量越多,就代表其AI性能越強大。那么問題來了,為什么是GPU而不是CPU?GPU難道不是我們日常使用的電腦里
    的頭像 發表于 04-24 08:27 ?2002次閱讀
    為什么跑<b class='flag-5'>AI</b>往往用<b class='flag-5'>GPU</b>而不是CPU?

    AI訓練,為什么需要GPU

    隨著由ChatGPT引發的人工智能熱潮,GPU成為了AI大模型訓練平臺的基石,甚至是決定性的算力底座。為什么GPU能力壓CPU,成為炙手可熱的主角呢?要回答這個問題,首先需要了解當前人工智能(
    的頭像 發表于 04-24 08:05 ?1075次閱讀
    <b class='flag-5'>AI</b>訓練,為什么需要<b class='flag-5'>GPU</b>?

    英偉達發布新一代AI芯片架構Blackwell GPU

    近日,英偉達首席執行官黃仁勛在GTC 2024會議上發表主題演講,重磅推出全新AI芯片架構Blackwell GPU。這一創新技術的首款芯片產品命名為GB200,標志著英偉達在人工智能
    的頭像 發表于 03-26 11:19 ?923次閱讀

    FPGA在深度學習應用中或將取代GPU

    基礎設施,人們仍然沒有定論。如果 Mipsology 成功完成了研究實驗,許多正受 GPU 折磨的 AI 開發者將從中受益。 GPU 深度學習面臨的挑戰 三維圖形是 GPU 擁有如此
    發表于 03-21 15:19
    主站蜘蛛池模板: 啊灬啊别停灬用力啊在线观看视频| 东京热影院| 国产二区自拍| 日韩一区精品视频一区二区| seyeye高清视频在线| 欧美亚洲另类图片| WW.国产人妻人伦精品| 人善交XUANWEN200喷水| 成 人 网 站免费观看| 日日操天天操夜夜操| 成年AV动漫| 双性诱受灌满哭求饶BL| 国产盗摄一区二区三区| 午夜精品国产自在现线拍| 国产人妻麻豆蜜桃色精| 亚洲精品视频区| 久久久这里有精品999| 91久久99久91天天拍拍| 欧美z000z猪| 俄罗斯人与动ZOOZ| 小处雏一区二区三区| 黄图gif揉胸吸奶| 中国女人内谢69xxxxxx直播 | 99久久精品全部| 青青青视频在线| 国产黄片毛片| 亚洲精品色情APP在线下载观看| 九九热最新视频| 456亚洲人成在线播放网站| 欧美精品色视频| 国产成人精品亚洲线观看| 亚洲 视频 在线 国产 精品| 久久久久夜| z00兽200俄罗斯| 晓雪老师我要进你里面好爽| 久久青青草原精品国产软件| 白丝美女被狂躁免费漫画| 亚洲AV无码专区国产精品99| 久久综合网久久综合| 多人乱肉高hnp| 一个人HD高清在线观看免费视频|