電子發燒友網報道(文/李彎彎)隨著物聯網設備爆發式增長,海量數據將在邊緣側積累,邊緣AI進入蓬勃發展期。Gartner預測,到2023年,將有50%以上的大型企業將至少部署6個用于物聯網或沉浸式體驗的邊緣計算應用,并且到2025年,75%的數據將產生在邊緣。
AI芯片作為實現邊緣AI的核心,是承載AI的硬件基礎。近年來,全球領先的高性能模擬技術公司ADI一直致力于將人工智能推向邊緣端,為ML/DL真正融入邊緣智能而努力。在產品方面,ADI推出了集成神經網絡加速器的低功耗微控制器——MAX78000,成為高能效AI處理與超低功耗微控制器相結合的AI MCU重要典范。MAX78000是一款超低功耗神經網絡微控制器,內置硬件CNN加速器、雙微核、存儲器、SIMO和多通信接口,ADI公司資深業務經理李勇在接受電子發燒友采訪的時候表示,該款產品在算力、功耗、延遲和集成度等方面實現了關鍵性能的平衡。具體來看,MAX78000擁有專門的CNN加速器(搭載64個CNN處理器),支持最多64的卷積層數和1024通道數,權重存儲空間為442KB(最大可支持350萬個權重位)。支持AI網絡實時更新,支持PyTorch和TensorFlow常規工具集訓練。MAX78000搭載了Arm Cortex-M4F和32位RISC-V兩個MCU核心用于系統控制。其中Arm Cortex-M4F處理器以100MHz運行,客戶可編寫任何系統管理代碼;RISC-V處理器的獨特功能是支持以低功耗將數據快速加載到神經網絡加速器,用戶可使用任何一種微控制器內核將數據輸入到卷積神經網絡的引擎中。MAX78000還具有低功耗、低延遲、低成本、高集成度優勢。在低功耗方面,將硬件CNN加速器與超低功耗雙微控制器相結合,相較于MCU+DSP解決方案,邊緣AI定制的硬件加速器可將功耗降低99%以上。與運行在低功耗微控制器上的軟件解決方案相比,在配置并加載了數據后,MAX78000運行AI推理的速度快了100倍,功耗卻不到其1%。在低延遲方面,相較于純MCU方案,邊緣AI定制的硬件加速器具備更高數據吞吐量,可將速度提高100倍以上。在成本方面,MAX78000遠低于FPGA等方案,略高于常規MCU,但可以處理更復雜的細節。在高度集成方面,集成的神經網絡加速器與低功耗微控制器使得在電池供電的IoT設備中實現復雜、實時的AI功能成為可能。據李勇介紹,MAX78000的應用領域主要聚焦在視覺識別、聲音識別、監測識別等三方面。視覺識別主要包括VGA圖像分析、物體偵測、面部識別;聲音識別主要包括語音喚醒、語音身份驗證、聲音降噪;監測識別主要包括心率監測、腦電波監測、工業預防。他進一步解釋,AI技術是一種強大的模式識別技術,需要進行大量的矩陣運算,以及大量的存儲空間和系統功耗。邊緣AI作為在設備本地執行的AI,通常需要使用電池進行供電,因此要在系統功耗、計算速度和設備成本之間取得平衡。ADI的MAX78000 AI MCU通過獨特的架構設計實現了上述要求,能夠為機器視覺、面部識別、目標檢測和分類、時序數據處理和音頻處理等應用提供理想選擇。目前,MAX78000已在森林防火監測、地質災害監測以及智能家居等領域獲得廣泛應用。在李勇看來,未來,諸如MAX78000這類AI MCU的應用,還將會向新興的AIoT、運動健康、遠程醫療、自動駕駛、機器人與自動化、工業制造、智慧樓宇/園區/城市,以及各行業的安全監測等場景拓展,如各類圖像識別,頭盔攝像頭、助聽器的語音控制,以及風力發電設備安全監測的預測性維護等。從芯片層面來看,邊緣AI的落地難題,主要與算力、算法、功耗、延遲、集成度和成本等因素有較大關系。具體來看,在算力方面,相較于云端服務器,邊緣節點的AI算力資源配置往往有限,無法滿足邊緣側AI的應用。李勇表示,ADI的MAX78000 AI MCU配備了專門的神經網絡加速器,從硬件層面可以大幅提升邊緣算力。在算法方面,由于軟硬件異構、接口限制等因素,算法適配往往很難。MAX78000針對語音與人臉識別等應用從產品方案、接口配置到工具優化,以及生態上均提供了豐富支持,比如,智能識別數據的收集和數學模型的建立跟訓練很重要,為此ADI提供了聲音識別和face ID識別demo程序供客戶下載和學習,客戶僅需在其基礎上進行修改。此外,ADI擁有非常有經驗的第三方生態伙伴,能夠提供數學模型的訓練與數據的收集。在功耗方面,大量邊緣AI應用常常導致設備功耗高企。而MAX78000基于CNN加速器和雙核處理器架構,數據無需消耗高功耗上傳,即可完成智能決策,同時還支持高效的片內電源管理,集成單電感多輸出(SIMO)開關模式電源,能夠有效降低器件功耗,延長電池供電IoT設備的續航時間。在延遲方面,邊緣端設備監測的各種數據通過網絡傳輸到云端,一旦帶寬受限,就可能出現無法容忍的延遲問題。但與常規軟件解決方案相比,MAX78000在配置并加載了數據后,運行AI推理的速度能夠提升100倍。在集成度方面,邊緣AI應用如可穿戴設備需要產品集成度高、體積小,但基于MCU或GPU或FPGA的方案往往較大,不符合應用的尺寸需要。另外,這些方案通常要配備片外存儲器、PMIC,方案無論成本、尺寸還是功耗都具有很大挑戰性。MAX78000則能兼顧小而全和小而優。在成本方面,基于云計算的邊緣智能可能只適合一些大企業的應用,例如幾萬個、幾十萬個客戶來支持一個服務器,這樣才能夠支撐云端的成本。但很顯然,這對于邊緣AI設備來說不現實,而MAX78000卻能實現很多基本的控制應用,讓邊緣端的自主智能更具成本效應。具體來看幾個案例,比如,森林火災,公路、鐵路或大壩塌方等災害現場往往地處偏僻,通信網絡帶寬受限,但快速決策和預警非常關鍵,因此必須進行邊緣端快速判定。對于此類應用時間敏感性非常高,傳統的云端監測,可能需要發送一組圖片到云端,對網絡流量要求比較高。而更靠近數據源的邊緣計算不僅能提供低時延、高可靠服務,還能夠保障數據處理的實時性。MAX78000因為擁有雙核處理器架構,并搭載獨立的CNN加速器,大幅提升邊緣AI算力。通過監測端自主智能識別,一旦有突發情況出現,MAX78000能夠快速分析決策并告警,避免更嚴重的災害損失發生。再比如,當前市場通用的MCU或FPGA的智能解決方案,在電池供電的低功耗邊緣端智能應用中仍面臨巨大挑戰,比如任何一次更換電池的運維成本可能比設備本身更貴。由此,低功耗正成為目前眾多邊緣智能應用場景的關鍵要求。市場急需像MAX78000這樣的具超低功耗特性的新一代邊緣AI解決方案:首先,MAX78000的邊緣智能決策能力,避免了頻繁的數據傳輸、數據采集導致的高功耗;其次,MAX78000提供高效的片內電源管理,集成單電感多輸出(SIMO)開關模式電源,可最大限度地延長電池供電物聯網設備的續航時間和降低成本。從目前的情況來看,邊緣AI正在快速崛起,2022年或將成為其爆發元年。知名市場研究公司Forrester預測,在2022年,智能基礎設施的投資將增加40%。在ADI看來,終端設備爆發疊加產業數智化轉型契機,越來越多的邊緣設備將需要具備一定的“學習”能力,能夠根據收集到的新數據在本地分析、訓練、優化和更新模型。當然,這也會對邊緣設備以及整個AI實現系統提出一系列新要求。一方面,邊緣AI芯片作為人工智能的底層硬件支撐,需要與其他元器件一起協同工作,才能將AI效率推向極致;另一方面,除了硬件,軟件也是實現AI的核心。因此,未來AI芯片必須具備一個重要特性,那就是能夠實時動態改變功能,滿足軟件不斷變化的計算需求,即“軟件定義芯片”。聲明:本文由電子發燒友原創,轉載請注明以上來源。如需入群交流,請添加微信elecfans999,投稿爆料采訪需求,請發郵箱huangjingjing@elecfans.com。- 馬斯克:預計6個月后進行大腦芯片的人體試驗,愿意給自己孩子植入
- 造車新勢力11月銷量:哪吒第一,蔚理進前三,小鵬依舊墊底
- 行業機構頻發警報 2023年全球半導體市場面臨下滑風險
- 富士康失去iPhone 14 Pro獨家代工資格!立訊和碩上位,果鏈格局大變?
原文標題:?邊緣AI進入蓬勃發展期,ADI如何解決AI芯片落地難題?
文章出處:【微信公眾號:電子發燒友網】歡迎添加關注!文章轉載請注明出處。
聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。
舉報投訴
原文標題:?邊緣AI進入蓬勃發展期,ADI如何解決AI芯片落地難題?
文章出處:【微信號:elecfans,微信公眾號:電子發燒友網】歡迎添加關注!文章轉載請注明出處。
相關推薦
國產AI芯片規模壯大 在科技高速發展的今天,算力已成為驅動行業創新與變革的核心引擎。中信證券發布的最新研報,聚焦于國產AI芯片市場的
發表于 01-08 09:10
?173次閱讀
直接關系到AI應用的廣泛普及和深入發展。在這一背景下,高精度貼裝技術以其獨特的優勢,成為了助力AI芯片量產的重要推手,為AI產業的
發表于 10-29 11:09
?384次閱讀
全球AI熱潮持續升溫,AI芯片需求激增,數據中心蓬勃發展。伴隨人工智能計算能力的飛躍,高熱功耗(TDP)需求急劇上升,促使液體冷卻解決方案成為業界焦點。
發表于 10-22 14:23
?610次閱讀
未來10年,AI產業將迎來快速發展期,尤其對于生成式AI(Generative AI)來說,其技術發展和應用將加速向端、邊、云、網、智(即終
發表于 09-02 11:39
?484次閱讀
電子發燒友網報道(文/李彎彎)當前,AI技術和應用蓬勃發展,其中離不開AI芯片的支持。AI芯片是
發表于 08-23 00:08
?4915次閱讀
全球芯片巨頭AMD近期發布的財報與未來財測數據令人矚目,尤其是其在數據中心領域的強勁表現,再次引發了市場的熱烈反響。AMD的執行長蘇姿豐更是直接表示,AI芯片的需求“超乎預期”,這一積極信號不僅推動了公司股價的上漲,也預示著整個
發表于 08-02 16:38
?726次閱讀
在全球能源轉型的浪潮中,面對諸多不確定性因素的挑戰,光伏產業的蓬勃發展已成為不可逆轉的趨勢。據國際能源署(IEA)的權威預測,至2030年,全球光伏累計裝機量將躍升至1721吉瓦(GW),并預計在2050年達到驚人的4670GW,彰顯出光伏能源在全球能源結構中的日益重要地位。
發表于 07-10 14:48
?501次閱讀
電子發燒友網報道(文/吳子鵬)傳統AI的使用場景有一定局限性,難以面對實際應用場景的多樣化,基于云端算力的AI大模型對特定場景的適配性較差,因而算力下沉、數據下沉的邊緣AI
發表于 06-26 00:14
?5508次閱讀
啟英泰倫成立于2015年,致力于提供語音芯片、語音算法、開發平臺、應用方案等全棧式技術解決方案。次年,公司成功推出首款端側AI語音芯片C11006,至今已形成包括端側AI語音
發表于 05-18 16:18
?914次閱讀
得RISC-V多核芯片能夠更好地適應AI算法的不同需求,包括深度學習、神經網絡等,從而提高芯片的性能和效率,降低成本,使AI邊緣計算晶片更具
發表于 04-28 09:20
當前AI技術蓬勃發展,深度學習、強化學習等技術不斷突破,使得AI在圖像識別、語音識別、自然語言處理等領域取得了顯著成果。
發表于 04-20 10:02
?938次閱讀
)支撐了互聯網的蓬勃發展,地址長度為32位,可提供大約40億個地址。隨著互聯網的普及與廣泛應用,特別是移動互聯網、云計算、物聯網、工業互聯網的蓬勃發展,傳統的IPv4
發表于 03-29 14:08
?392次閱讀
近日,AMD成功舉辦了備受矚目的AI PC創新峰會,向業界展示了其在中國AI PC生態系統中的蓬勃發展態勢,并致力于將前沿的AI計算能力帶給廣大消費者。
發表于 03-25 11:11
?577次閱讀
2030年,至少一半的邊緣計算部署將納入AI。 ? 英特爾全新商用邊緣計算平臺 ? 英特爾認為,我們已經進入了AI無處不在的時代,
發表于 03-12 09:06
?4374次閱讀
是德科技近期宣布,針對蓬勃發展的AI和ML基礎設施生態系統,隆重推出了全新的AI數據中心測試平臺。該平臺專為加速AI/ML網絡驗證與優化而設計,極大地提升了
發表于 03-08 10:17
?742次閱讀
評論