在云計(jì)算接手了大部分計(jì)算任務(wù)的當(dāng)下,邊緣計(jì)算也在萌芽。與計(jì)算資源和服務(wù)都放在數(shù)據(jù)中心的云計(jì)算相比,如果在算力和延遲得以保證的情況下,邊緣端的計(jì)算反而能給用戶帶來更好的體驗(yàn)。為此,一眾半導(dǎo)體公司開始探索邊緣計(jì)算芯片,為AI/ML等技術(shù)提供邊緣端的計(jì)算助力。
谷歌Edge TPU
Edge TPU / 谷歌
Edge TPU是谷歌專為邊緣推理打造的ASIC芯片,這也是谷歌除了Cloud TPU和Google Cloud兩大云端產(chǎn)品外,主打邊緣計(jì)算的產(chǎn)品。在隱私/機(jī)密以及低延遲、小帶寬等因素的限制下,不少應(yīng)用并不適合上云,所以為邊緣端提供AI推理計(jì)算就成了解決需求的思路。而Edge TPU的大小甚至不及一個(gè)硬幣,無疑可以用于廣泛的AI邊緣部署。
Coral加速器模組 / 谷歌
谷歌更是搭建了一個(gè)本地AI平臺Coral,提供一系列硬件、軟件工具和預(yù)編譯的模型,幫助開發(fā)者構(gòu)建具備本地AI能力的設(shè)備。以Coral加速器模組為例,這是一個(gè)MCM模組,可以用于高速推理機(jī)器學(xué)習(xí)模型。該模組內(nèi)置了Edge TPU ML加速器,并集成了電源管理,支持PCIe 2.0x1或USB 2.0的接口,INT8精度下的最高算力可達(dá)4 Tops,功耗達(dá)到2W。最重要的是其大小只有15x10x1.5mm。
此外,谷歌已經(jīng)開始在手機(jī)芯片Tensor中集成TPU,而Tensor中的TPU已經(jīng)達(dá)到了5W的功耗。考慮到谷歌除了手機(jī)以外,已經(jīng)開始進(jìn)軍智能穿戴和智能家居等一系列物聯(lián)網(wǎng)市場,在谷歌自己的AI生態(tài)下,想必也會進(jìn)一步擴(kuò)展Edge TPU的性能表現(xiàn)。
九天睿芯 ADA200
考慮到馮諾依曼架構(gòu)在功耗與速度上的劣勢,現(xiàn)在不少半導(dǎo)體公司都開始探索存算一體的全新架構(gòu)。九天睿芯也是其中一個(gè)參與者,其ADA系列芯片甚至加入了感知這一維度,做到了模擬感知前處理+模數(shù)混合存內(nèi)計(jì)算的感存算一體架構(gòu),直接在內(nèi)存中進(jìn)行混合信號計(jì)算。
ADA100 / 九天睿芯
根據(jù)九天睿芯官網(wǎng)的描述,ADA100系列是主打超低功耗低算力的傳感器處理芯片,等效算力達(dá)到1Gops,最低功耗只有20μW,與其他數(shù)字芯片相比可以說是降維打擊了,適用于可穿戴等AIoT設(shè)備。ADA100已于去年11月量產(chǎn),將于今年批量出貨。
ADA200 / 九天睿芯
而ADA200系列則是九天睿芯主打的中低算力芯片,其算力范圍在1到2 Tops之間,可以用于低功耗無線攝像頭、AR/VR和手機(jī)平板這類對算力要求更高一截的場景,該芯片預(yù)計(jì)今年年底量產(chǎn)。
AIStorm Mantis
在AI掀起的潮流下,不少廠商打上了傳感器的主意。這點(diǎn)在TWS耳機(jī)、智能眼鏡等小型智能化設(shè)備中尤為明顯,畢竟如果在CMOS圖像傳感器或MEMS音頻傳感器上提供足夠的邊緣算力,就可以省去集成各類AI加速器的煩惱。
比如在傳統(tǒng)的CMOS圖像傳感器方案中,像素陣列傳輸給源極跟隨器,在經(jīng)過ADC、ISP和MIPI SerDes,將其輸出給數(shù)字AI,再經(jīng)過MCU、GPU、DSP或FPGA的處理才能生成事件,如此數(shù)字化的過程使得延遲、功耗和成本都高出了一截。
Mantis AIS SoC / AIStorm
為了解決這個(gè)問題,初創(chuàng)企業(yè)AIStorm的解決方案就是將AI集成到傳感器中。以他們的Mantis AIS SoC為例,該方案可將傳感器變?yōu)橐粋€(gè)模擬電荷域AI的輸入層,Mantis直接接受傳感器數(shù)據(jù)而無需數(shù)字化,再用ANN網(wǎng)絡(luò)中的模擬神經(jīng)元完成乘加等運(yùn)算,最終生成一個(gè)決定輸出。
Mantis用不到多先進(jìn)的工藝,現(xiàn)有的產(chǎn)品只用到了高塔半導(dǎo)體的180nm節(jié)點(diǎn)和Dongbu的90nm節(jié)點(diǎn),卻依然可以在始終開啟的情況下做到15 μW的功耗。雖然Mantis圖像傳感器只有96x96的像素分辨率,但這對于某些小型化應(yīng)用來說已經(jīng)足夠,何況AIStorm面向的市場也僅僅只是簡單低成本的物聯(lián)網(wǎng)設(shè)備。此外,AIStorm也在開發(fā)支持QVGA和全高清分辨率的升級版本。
去年AIStorm也宣布與樓氏電子達(dá)成合作,一同開發(fā)低功耗高性能的音頻解決方案,直接為模擬域接收音頻數(shù)據(jù),讓TWS之類的小型音頻設(shè)備在極低功率水平下也能完成AI降噪、算法聲音增強(qiáng)等高級信號處理任務(wù)。
小結(jié)
從以上這些邊緣計(jì)算芯片可以看出,傳統(tǒng)的架構(gòu)在邊緣端已經(jīng)不再是主流。無論是延遲敏感還是高算力要求的應(yīng)用,都在推進(jìn)邊緣計(jì)算芯片在架構(gòu)上做出創(chuàng)新。在這些芯片賦能的多接入邊緣計(jì)算下,邊緣計(jì)算將為云端計(jì)算分擔(dān)一部分任務(wù),更好地服務(wù)終端用戶。
谷歌Edge TPU
Edge TPU / 谷歌
Edge TPU是谷歌專為邊緣推理打造的ASIC芯片,這也是谷歌除了Cloud TPU和Google Cloud兩大云端產(chǎn)品外,主打邊緣計(jì)算的產(chǎn)品。在隱私/機(jī)密以及低延遲、小帶寬等因素的限制下,不少應(yīng)用并不適合上云,所以為邊緣端提供AI推理計(jì)算就成了解決需求的思路。而Edge TPU的大小甚至不及一個(gè)硬幣,無疑可以用于廣泛的AI邊緣部署。
Coral加速器模組 / 谷歌
谷歌更是搭建了一個(gè)本地AI平臺Coral,提供一系列硬件、軟件工具和預(yù)編譯的模型,幫助開發(fā)者構(gòu)建具備本地AI能力的設(shè)備。以Coral加速器模組為例,這是一個(gè)MCM模組,可以用于高速推理機(jī)器學(xué)習(xí)模型。該模組內(nèi)置了Edge TPU ML加速器,并集成了電源管理,支持PCIe 2.0x1或USB 2.0的接口,INT8精度下的最高算力可達(dá)4 Tops,功耗達(dá)到2W。最重要的是其大小只有15x10x1.5mm。
此外,谷歌已經(jīng)開始在手機(jī)芯片Tensor中集成TPU,而Tensor中的TPU已經(jīng)達(dá)到了5W的功耗。考慮到谷歌除了手機(jī)以外,已經(jīng)開始進(jìn)軍智能穿戴和智能家居等一系列物聯(lián)網(wǎng)市場,在谷歌自己的AI生態(tài)下,想必也會進(jìn)一步擴(kuò)展Edge TPU的性能表現(xiàn)。
九天睿芯 ADA200
考慮到馮諾依曼架構(gòu)在功耗與速度上的劣勢,現(xiàn)在不少半導(dǎo)體公司都開始探索存算一體的全新架構(gòu)。九天睿芯也是其中一個(gè)參與者,其ADA系列芯片甚至加入了感知這一維度,做到了模擬感知前處理+模數(shù)混合存內(nèi)計(jì)算的感存算一體架構(gòu),直接在內(nèi)存中進(jìn)行混合信號計(jì)算。
ADA100 / 九天睿芯
根據(jù)九天睿芯官網(wǎng)的描述,ADA100系列是主打超低功耗低算力的傳感器處理芯片,等效算力達(dá)到1Gops,最低功耗只有20μW,與其他數(shù)字芯片相比可以說是降維打擊了,適用于可穿戴等AIoT設(shè)備。ADA100已于去年11月量產(chǎn),將于今年批量出貨。
ADA200 / 九天睿芯
而ADA200系列則是九天睿芯主打的中低算力芯片,其算力范圍在1到2 Tops之間,可以用于低功耗無線攝像頭、AR/VR和手機(jī)平板這類對算力要求更高一截的場景,該芯片預(yù)計(jì)今年年底量產(chǎn)。
AIStorm Mantis
在AI掀起的潮流下,不少廠商打上了傳感器的主意。這點(diǎn)在TWS耳機(jī)、智能眼鏡等小型智能化設(shè)備中尤為明顯,畢竟如果在CMOS圖像傳感器或MEMS音頻傳感器上提供足夠的邊緣算力,就可以省去集成各類AI加速器的煩惱。
比如在傳統(tǒng)的CMOS圖像傳感器方案中,像素陣列傳輸給源極跟隨器,在經(jīng)過ADC、ISP和MIPI SerDes,將其輸出給數(shù)字AI,再經(jīng)過MCU、GPU、DSP或FPGA的處理才能生成事件,如此數(shù)字化的過程使得延遲、功耗和成本都高出了一截。
Mantis AIS SoC / AIStorm
為了解決這個(gè)問題,初創(chuàng)企業(yè)AIStorm的解決方案就是將AI集成到傳感器中。以他們的Mantis AIS SoC為例,該方案可將傳感器變?yōu)橐粋€(gè)模擬電荷域AI的輸入層,Mantis直接接受傳感器數(shù)據(jù)而無需數(shù)字化,再用ANN網(wǎng)絡(luò)中的模擬神經(jīng)元完成乘加等運(yùn)算,最終生成一個(gè)決定輸出。
Mantis用不到多先進(jìn)的工藝,現(xiàn)有的產(chǎn)品只用到了高塔半導(dǎo)體的180nm節(jié)點(diǎn)和Dongbu的90nm節(jié)點(diǎn),卻依然可以在始終開啟的情況下做到15 μW的功耗。雖然Mantis圖像傳感器只有96x96的像素分辨率,但這對于某些小型化應(yīng)用來說已經(jīng)足夠,何況AIStorm面向的市場也僅僅只是簡單低成本的物聯(lián)網(wǎng)設(shè)備。此外,AIStorm也在開發(fā)支持QVGA和全高清分辨率的升級版本。
去年AIStorm也宣布與樓氏電子達(dá)成合作,一同開發(fā)低功耗高性能的音頻解決方案,直接為模擬域接收音頻數(shù)據(jù),讓TWS之類的小型音頻設(shè)備在極低功率水平下也能完成AI降噪、算法聲音增強(qiáng)等高級信號處理任務(wù)。
小結(jié)
從以上這些邊緣計(jì)算芯片可以看出,傳統(tǒng)的架構(gòu)在邊緣端已經(jīng)不再是主流。無論是延遲敏感還是高算力要求的應(yīng)用,都在推進(jìn)邊緣計(jì)算芯片在架構(gòu)上做出創(chuàng)新。在這些芯片賦能的多接入邊緣計(jì)算下,邊緣計(jì)算將為云端計(jì)算分擔(dān)一部分任務(wù),更好地服務(wù)終端用戶。
聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。
舉報(bào)投訴
-
mcu
+關(guān)注
關(guān)注
146文章
17184瀏覽量
351697 -
AI芯片
+關(guān)注
關(guān)注
17文章
1894瀏覽量
35102 -
邊緣計(jì)算
+關(guān)注
關(guān)注
22文章
3103瀏覽量
49138
發(fā)布評論請先 登錄
相關(guān)推薦
Orin芯片與邊緣計(jì)算結(jié)合
Orin芯片,作為英偉達(dá)推出的一款高性能AI處理器,與邊緣計(jì)算的結(jié)合,無疑將為智能計(jì)算領(lǐng)域帶來革命性的變化。 一、Orin芯片的創(chuàng)新特點(diǎn) O
邊緣計(jì)算與邊緣設(shè)備的關(guān)系
邊緣計(jì)算與邊緣設(shè)備之間存在著密切的關(guān)系,它們是相互依存、相互促進(jìn)的。以下是對這兩者關(guān)系的介紹: 一、定義與功能 邊緣計(jì)算
邊緣計(jì)算架構(gòu)設(shè)計(jì)最佳實(shí)踐
。 邊緣網(wǎng)關(guān) :作為中間層,聚合多個(gè)邊緣設(shè)備的數(shù)據(jù),執(zhí)行初步處理與過濾,有時(shí)還承擔(dān)設(shè)備管理、協(xié)議轉(zhuǎn)換等功能。 邊緣計(jì)算平臺 軟件環(huán)境 :運(yùn)行
邊緣計(jì)算與云計(jì)算的區(qū)別
邊緣計(jì)算與云計(jì)算是兩種不同的計(jì)算模式,它們在計(jì)算資源的分布、應(yīng)用場景和特點(diǎn)上存在顯著差異。以下是對兩者的對比: 一、
一款4644芯片低功耗設(shè)計(jì)思路解析
能控制模塊供電,而使能控制模塊功耗很小,因此,預(yù)穩(wěn)壓模塊采用五管OTA運(yùn)放結(jié)構(gòu)的LDO來驅(qū)動,偏置電路也相對簡單,實(shí)現(xiàn)低功耗的同時(shí)也不會占用太大面積,電路具體結(jié)構(gòu)如下。
圖3預(yù)穩(wěn)
發(fā)表于 08-16 14:44
天拓四方:邊緣計(jì)算網(wǎng)關(guān)的選擇策略
隨著物聯(lián)網(wǎng)技術(shù)的飛速發(fā)展,邊緣計(jì)算作為連接云端與終端設(shè)備的橋梁,其重要性日益凸顯。邊緣計(jì)算網(wǎng)關(guān)作為這一架構(gòu)中的關(guān)鍵組件,不僅負(fù)責(zé)數(shù)據(jù)采集、預(yù)處理,還
邊緣計(jì)算網(wǎng)關(guān)是什么?有什么應(yīng)用場景
數(shù)據(jù)傳輸所需的時(shí)間,提高響應(yīng)速度,并減輕核心網(wǎng)絡(luò)和數(shù)據(jù)中心的負(fù)載。 邊緣計(jì)算網(wǎng)關(guān)的應(yīng)用場景很廣泛,主要包括以下幾個(gè)方面: 1. 工業(yè)物聯(lián)網(wǎng)(IIoT):在工業(yè)環(huán)境中,邊緣
邊緣計(jì)算是什么意思?邊緣計(jì)算的應(yīng)用
邊緣計(jì)算(Edge Computing)是一種分布式計(jì)算范式,它將計(jì)算任務(wù)從數(shù)據(jù)中心遷移到網(wǎng)絡(luò)邊緣設(shè)備(如智能手機(jī)、物聯(lián)網(wǎng)傳感器等)上進(jìn)行處
支持大模型部署和運(yùn)行的邊緣計(jì)算SoC芯片
電子發(fā)燒友網(wǎng)報(bào)道(文/李彎彎)如今,AI在邊緣側(cè)的應(yīng)用越來越廣泛,這其中少不了AI SoC芯片的支持,邊緣計(jì)算AI SoC是一種集成了人工智能(AI)和
PLC邊緣計(jì)算網(wǎng)關(guān)如何選擇?
隨著工業(yè)自動化和物聯(lián)網(wǎng)技術(shù)的快速發(fā)展,PLC作為工業(yè)自動化的核心設(shè)備,其數(shù)據(jù)采集與處理能力日益受到重視。PLC邊緣計(jì)算網(wǎng)關(guān)作為連接PLC與云端服務(wù)的橋梁,不僅承擔(dān)著數(shù)據(jù)收集、傳輸和初步處理的角色
邊緣計(jì)算單元多接入能力怎么算
和負(fù)載特征等。通過綜合考慮這些因素,可以更準(zhǔn)確地評估邊緣計(jì)算單元的多接入能力,并采取相應(yīng)的優(yōu)化措施來提高系統(tǒng)的性能和可靠性。
邊緣計(jì)算網(wǎng)關(guān)是什么?有什么作用
、低成本、隱私安全以及本地自治的本地計(jì)算服務(wù)。那么,邊緣計(jì)算網(wǎng)關(guān)究竟是什么呢?它又有什么作用呢?接下來,我們將進(jìn)行深度解析。 首先,讓我們來理解邊緣
為什么需要邊緣計(jì)算
邊緣計(jì)算是指在網(wǎng)絡(luò)邊緣執(zhí)行計(jì)算的一種新型計(jì)算模型,邊緣計(jì)算
發(fā)表于 02-28 14:20
?517次閱讀
邊緣計(jì)算網(wǎng)關(guān)與邊緣計(jì)算的融合之道
隨著物聯(lián)網(wǎng)、大數(shù)據(jù)和人工智能的飛速發(fā)展,數(shù)據(jù)處理和分析的需求呈現(xiàn)出爆炸式增長。傳統(tǒng)的中心化數(shù)據(jù)處理模式已難以滿足實(shí)時(shí)性、低延遲和高帶寬的需求,邊緣計(jì)算應(yīng)運(yùn)而生,成為解決這一難題的關(guān)鍵技術(shù)。而邊緣
什么是邊緣計(jì)算?邊緣計(jì)算技術(shù)有哪些優(yōu)缺點(diǎn)?
什么是邊緣計(jì)算?邊緣計(jì)算技術(shù)有哪些優(yōu)缺點(diǎn)? 邊緣計(jì)算是一種將
評論