色哟哟视频在线观看-色哟哟视频在线-色哟哟欧美15最新在线-色哟哟免费在线观看-国产l精品国产亚洲区在线观看-国产l精品国产亚洲区久久

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

神經(jīng)擬態(tài)計算是如何降耗的

要長高 ? 2024-06-07 15:35 ? 次閱讀

自計算機問世以來,運算效能與能耗消耗兩大議題始終困擾著計算產(chǎn)業(yè)。在人工智能崛起的背景下,全球各地科研機構及相關公司積極探索提高處理器算力的新方法,神經(jīng)擬態(tài)處理器即是一種創(chuàng)新嘗試。

如何模仿大腦思維?

神經(jīng)擬態(tài)計算,即模擬和探索人腦神經(jīng)網(wǎng)絡及其運作規(guī)律的領域,我們將之稱為類腦計算或神經(jīng)形態(tài)計算。數(shù)十年來,科學家們致力于復刻生物神經(jīng)元的多功能運算模式,以期研發(fā)出高效能且低功耗的機器學習系統(tǒng)。

歷經(jīng)多年探索,業(yè)界已形成三種神經(jīng)擬態(tài)處理器的實現(xiàn)路徑。一為數(shù)字CMOS型,通過邏輯門電路模擬生物單元行為;二為數(shù)模混合的CMOS型,借助亞閾值模擬電路呈現(xiàn)生物神經(jīng)元特性;前兩者均基于硅基晶體管。第三種則是研發(fā)新型器件,如憶阻器、相變存儲器、鐵電器件、磁隧道結、離子柵控晶體管等,并采用非硅基材料。

然而,目前大部分研究尚未實現(xiàn)商業(yè)化生產(chǎn)。英特爾作為眾多研究機構中的佼佼者,選擇了第一種實現(xiàn)方式——用晶體管模擬人類神經(jīng)元功能。其中,如何讓處理器達到類似人腦的節(jié)能效果,便是他們的重要研究課題。

德國海德堡大學物理學家卡爾海因茨·邁耶(Karlheinz Meier)指出,相比計算機,人腦具有三大優(yōu)勢:低能耗,僅需約20瓦特的能量。

今年四月,英特爾推出神經(jīng)擬態(tài)系統(tǒng)Hala Point。據(jù)稱,該系統(tǒng)在處理AI推理負載和優(yōu)化問題方面,速度較常規(guī)CPUGPU架構快50倍,而能耗卻降低了100倍。近日,英特爾中國研究院院長宋繼強向中國電子報記者詳解了該系統(tǒng)模擬人腦節(jié)能的實現(xiàn)原理。他首先解釋了市場上常見芯片系統(tǒng)的頻率特征:通常提及的CPU主頻,如5GHz,代表同步時鐘的頻率,即芯片內所有邏輯門、存儲均以此頻率運行,或在此基礎上進行降級。例如,總線頻率可能低于CPU主頻,I/O接口頻率更低,但總體來看,同一芯片內所有組件均受同步時鐘驅動,從而實現(xiàn)同時工作。因此,各部件能耗也同步進行。

宋繼強表示,英特爾的神經(jīng)擬態(tài)計算無需同步時鐘,取代之的是“時間步”概念——每當任務結束,“神經(jīng)元”便依據(jù)預定順序逐步推進。每個時間步里,信號均由一個神經(jīng)元傳至下一個,以此方式進行傳播和擴散。盡管神經(jīng)擬態(tài)計算要求系統(tǒng)在時間步級別保持同步,但并非所有神經(jīng)元需在所有工作序列中完全同步,允許有些任務快速處理,有些則緩慢處理。這與人類大腦類似,部分神經(jīng)元負責處理嗅覺信息,同時另一部分則處理視覺信息。因此,在神經(jīng)擬態(tài)計算系統(tǒng)中,有任務執(zhí)行的路徑會消耗電力,其余路徑則處于休眠狀態(tài)。即使是大規(guī)模的神經(jīng)擬態(tài)集群,其運行時神經(jīng)元也僅進行少量并行運算。

該計算系統(tǒng)另一節(jié)能策略在于其存算一體的結構。當前市場上計算系統(tǒng)的能源消耗主要集中于計算和數(shù)據(jù)傳輸兩個方面,而神經(jīng)擬態(tài)計算系統(tǒng)通過實現(xiàn)存算一體,成功規(guī)避了傳統(tǒng)核內外架構在處理大量數(shù)據(jù)傳輸時產(chǎn)生的能量損失。

節(jié)能與否,取決于具體情境

低能耗被視為神經(jīng)擬態(tài)處理器的天然架構優(yōu)勢。早在2020年,宋繼強就曾公開宣稱:神經(jīng)擬態(tài)計算在算法及芯片設計上,可以千分之一以內的功耗完成同等效果的模型訓練。浙江大學的唐華錦教授亦認同神經(jīng)擬態(tài)芯片為環(huán)保型芯片,因其體積小、功耗低,符合生物進化的根本優(yōu)勢。

然而,根據(jù)Hala Point最新實踐成果,該架構處理器的節(jié)能效果與其使用情境密切相關。宋繼強指出,現(xiàn)階段發(fā)現(xiàn)該系統(tǒng)在處理物流調度數(shù)據(jù)中心的大規(guī)模優(yōu)化任務時能效表現(xiàn)最佳,相較于CPU+GPU組合方案節(jié)能高達3000倍。

“但這并非指數(shù)據(jù)中心所有工作負載,僅針對個別項目。”他補充道,“我們正努力尋找該系統(tǒng)適用的場景,若賦予其不適宜的任務,能耗或高于原有處理系統(tǒng)。”

至于HalaPoint能否解決當前大模型訓練中的高能耗問題,宋繼強回應稱:該系統(tǒng)設計初衷并非專為大模型服務,故不適合大規(guī)模數(shù)據(jù)輸入。

ResNet50網(wǎng)絡(殘差網(wǎng)絡的一種)是驗證Hala Point節(jié)能效果的典型場景之一。在此類應用中,經(jīng)優(yōu)化的Hala Point在達到相同性能前提下,能耗可降至原有方案的百分之一以下。對于某些特定深度的神經(jīng)網(wǎng)絡,如視覺識別類應用,通過在脈沖神經(jīng)網(wǎng)絡上進行適當調整,結合硬件層面的適配,同樣有助于降低能耗。

總的來說,該系統(tǒng)在稀疏性局部并發(fā)型應用中表現(xiàn)更為出色。目前,市面上大部分神經(jīng)擬態(tài)處理器主要應用于機器人無人機等領域。宋繼強透露,HalaPoint約有一半的應用涉及機器人、操控、多模態(tài)視覺等方面。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權轉載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 處理器
    +關注

    關注

    68

    文章

    19348

    瀏覽量

    230260
  • 英特爾
    +關注

    關注

    61

    文章

    9984

    瀏覽量

    171952
  • 神經(jīng)
    +關注

    關注

    0

    文章

    46

    瀏覽量

    12530
收藏 人收藏

    評論

    相關推薦

    融合計算是如何提出來的

    融合計算是微觀和宏觀視角算力提升策略的總結,是三個維度融合(異構融合x軟硬件融合x云邊端融合)的統(tǒng)稱,那么融合計算是如何提出來的?為什么融合計算有且僅有三個維度的融合? ? 性能和算力 1.1 性能
    的頭像 發(fā)表于 12-10 09:51 ?130次閱讀
    融合<b class='flag-5'>計算是</b>如何提出來的

    卷積神經(jīng)網(wǎng)絡的基本原理與算法

    ),是深度學習的代表算法之一。 一、基本原理 卷積運算 卷積運算是卷積神經(jīng)網(wǎng)絡的核心,用于提取圖像中的局部特征。 定義卷積核:卷積核是一個小的矩陣,用于在輸入圖像上滑動,提取局部特征。 滑動窗口:將卷積核在輸入圖像上滑動,每次滑動一個像素點。
    的頭像 發(fā)表于 11-15 14:47 ?811次閱讀

    淺析醫(yī)院節(jié)能降耗的意義和應采取的措施

    摘要:能源是每一個國家發(fā)展過程中的必然需求,也是提高人們生活質量的一個主要的資本,如果能源大量的消耗,就會影響國家的發(fā)展以及社會的進步。所以本次文章的研究,也是以醫(yī)院內部的節(jié)能降耗工作開展情況進行
    的頭像 發(fā)表于 11-13 13:23 ?177次閱讀
    淺析醫(yī)院節(jié)能<b class='flag-5'>降耗</b>的意義和應采取的措施

    醫(yī)院節(jié)能降耗的意義和應采取的對策措施

    ,也是以醫(yī)院內部的節(jié)能降耗工作開展情況進行深入的分析,力求能夠找到恰當有效的實施策略,解決其中存在問題的基礎上,提高醫(yī)院內部能源降耗的有效性,以此實現(xiàn)醫(yī)院節(jié)能工作開展,為我國醫(yī)療機構的發(fā)展進步做出貢獻。 關鍵詞:醫(yī)院;節(jié)能降耗
    的頭像 發(fā)表于 11-11 14:53 ?207次閱讀
    醫(yī)院節(jié)能<b class='flag-5'>降耗</b>的意義和應采取的對策措施

    人工智能云計算是什么

    人工智能云計算,簡而言之,是指將人工智能技術與云計算平臺相結合,利用云計算的強大計算力、存儲能力和靈活可擴展性,來加速AI模型的訓練、推理和優(yōu)化過程,同時實現(xiàn)AI服務的廣泛部署和按需使
    的頭像 發(fā)表于 10-12 09:46 ?272次閱讀

    LMV7219電特性表里面的失調電壓和內部滯環(huán)的計算是帶符號計算嗎?

    您好,LMV7219電特性表里面的失調電壓和內部滯環(huán)的計算是帶符號計算嗎?按照下圖電特性表(4)的定義:內部滯環(huán)的典型值為3.5mV-(-4mV)=7.5mV,而失調電壓等于(3.5mV+(-4mV))/ 2=0.25mV ?
    發(fā)表于 07-31 06:41

    探討水電節(jié)能降耗監(jiān)測平臺的應用價值

    水電 節(jié)能降耗監(jiān)測平臺 在現(xiàn)代社會中具有重要的應用價值,對促進可持續(xù)發(fā)展和實現(xiàn)節(jié)能減排目標起著至關重要的作用。以下古河云科技將詳細探討水電節(jié)能降耗監(jiān)測平臺的應用價值,并從多個方面分析其對各行業(yè)和領域
    的頭像 發(fā)表于 07-11 14:11 ?264次閱讀
    探討水電節(jié)能<b class='flag-5'>降耗</b>監(jiān)測平臺的應用價值

    簡述遞歸神經(jīng)網(wǎng)絡的計算過程

    、時間序列預測等領域有著廣泛的應用。本文將詳細介紹RNN的計算過程。 基本概念 1.1 神經(jīng)網(wǎng)絡 神經(jīng)網(wǎng)絡是一種受人腦神經(jīng)元結構啟發(fā)的計算
    的頭像 發(fā)表于 07-05 09:30 ?472次閱讀

    神經(jīng)形態(tài)計算器件和陣列測試解決方案

    神經(jīng)形態(tài)計算是一種新型的計算范式,它模仿生物神經(jīng)網(wǎng)絡(如人腦)的結構和功能以在為人工智能、機器學習、機器人和感官處理等各種應用實現(xiàn)高性能、低功耗和自適應學習能力。
    的頭像 發(fā)表于 07-03 10:02 ?390次閱讀
    <b class='flag-5'>神經(jīng)</b>形態(tài)<b class='flag-5'>計算</b>器件和陣列測試解決方案

    卷積神經(jīng)網(wǎng)絡計算過程和步驟

    卷積神經(jīng)網(wǎng)絡(Convolutional Neural Network, CNN)是一種深度學習模型,廣泛應用于圖像識別、視頻分析、自然語言處理等領域。本文將詳細介紹卷積神經(jīng)網(wǎng)絡的計算過程和步驟
    的頭像 發(fā)表于 07-03 09:36 ?630次閱讀

    邊緣計算是什么意思?邊緣計算的應用

    邊緣計算(Edge Computing)是一種分布式計算范式,它將計算任務從數(shù)據(jù)中心遷移到網(wǎng)絡邊緣設備(如智能手機、物聯(lián)網(wǎng)傳感器等)上進行處理。邊緣計算的主要目標是降低延遲、提高數(shù)據(jù)安
    的頭像 發(fā)表于 05-31 14:19 ?813次閱讀

    存內計算WTM2101編譯工具鏈 資料

    存內計算是突破物理極限的下一代算力技術- AIGC等人工智能新興產(chǎn)業(yè)的快速發(fā)展離不開算力,算力的基礎是人工智能芯片。 當前CPU/GPU在執(zhí)行計算密集型任務時需要將海量參數(shù)(ωij)從內存中讀取
    發(fā)表于 05-16 16:33

    英特爾發(fā)布新一代神經(jīng)擬態(tài)系統(tǒng)Hala Point,11.5億神經(jīng)元,12倍性能提升

    Point改進了架構,將神經(jīng)元容量提高了10倍以上,性能提高了12倍。 英特爾研究院神經(jīng)擬態(tài)計算實驗室總監(jiān)Mike Davi
    的頭像 發(fā)表于 04-19 09:43 ?511次閱讀
    英特爾發(fā)布新一代<b class='flag-5'>神經(jīng)</b><b class='flag-5'>擬態(tài)</b>系統(tǒng)Hala Point,11.5億<b class='flag-5'>神經(jīng)</b>元,12倍性能提升

    淺談能耗系統(tǒng)在節(jié)能降耗的應用

    。防止相關的資源過度使用問題。而對于相關的節(jié)能降耗工作來說。通過合理的使用用電計量方式。簡單來說在整依的使用過程中使用用電計量方式,能夠滿足其現(xiàn)實意義,對使用的相關電量都進行整體的計算,然后在按照具體規(guī)定來對電量資源進
    的頭像 發(fā)表于 02-20 15:27 ?393次閱讀
    淺談能耗系統(tǒng)在節(jié)能<b class='flag-5'>降耗</b>的應用

    TC377波特率計算是否與幀大小有關?

    brZ 如圖 471 所示, 我想知道這個波特率計算是否與幀大小有關? 例如,4 位幀、8 位幀、32 位幀?波特率是指一幀/秒嗎? 對于 32 位幀,它是 32 位/秒?
    發(fā)表于 01-22 06:29
    主站蜘蛛池模板: 亚洲精品九色在线网站| 在线免费国产| 成人免费观看国产高清| 日韩高清在线亚洲专区| 国产成人精品视频播放| 亚洲AV无码专区国产精品99| 久久麻豆国产国产AV| HEYZO精品无码一区二区三区| 青年医生插曲| 国产主播AV福利精品一区| 中文字幕亚洲欧美日韩2019| 欧美性色xo影院69| 国产乱对白精彩在线播放| 正在播放一区二区| 骚浪插深些好烫喷了| 精品一区二区三区色花堂| 97国产成人精品视频| 卫生间被教官做好爽HH视频 | 日本女人下面毛茸茸| 国产骚妇BB网| 99精品久久| 亚洲 日韩 欧美 另类 蜜桃| 美女露出乳胸扒开尿口| 大屁股妇女流出白浆| 一个人免费视频在线观看高清频道 | 四虎影5151毛片在线看| 久久免费看少妇级毛片蜜臀| 吃奶啃奶玩乳漫画| 亚洲欧美日韩精品久久奇米色影视 | 果冻传媒视频在线观看完整版免费| 91羞羞视频| 亚洲国产成人精品不卡青青草原| 男女爽爽无遮挡午夜视频在线观看 | 国产在线精品视亚洲不卡| 最近高清日本免费| 无码一区二区在线欧洲| 嫩草国产精品99国产精品| 黄色三级视频网站| 高干紧射H后入| 99re久久热在线播放8| 亚洲欧美韩国综合色|