地平線創(chuàng)始人兼CEO余凱在南京創(chuàng)新周未來(lái)城市論壇上以《邊緣AI芯片趨勢(shì)》為主題發(fā)表了演講。

在演講中，余凱認(rèn)為當(dāng)下邊緣計(jì)算在中國(guó)最值得關(guān)注的落地應(yīng)用場(chǎng)景有兩個(gè)：一是智慧城市，二是汽車的智能化。在未來(lái) 5G 所牽引的萬(wàn)物互聯(lián)的時(shí)代，以上兩個(gè)落地場(chǎng)景帶來(lái)的一定是數(shù)據(jù)的爆炸性增長(zhǎng)，由此帶來(lái)的是設(shè)備的智能一定離不開邊緣人工智能處理器及其軟件操作系統(tǒng)和上層應(yīng)用。

中國(guó)未來(lái)的科技發(fā)展進(jìn)入了一個(gè)打空間戰(zhàn)的階段，不僅僅是上層的應(yīng)用要繼續(xù)做好，下層的計(jì)算處理器、操作系統(tǒng)同樣要夯實(shí)。支撐起中國(guó)未來(lái)科技發(fā)展的不光是需要企業(yè)，也需要整個(gè)生態(tài)，需要企業(yè)、高校人才等方方面面地整體互動(dòng)。

以下為余凱演講全文——

從2015年的7月14日成立，地平線已經(jīng)有快四年的歷史了。在成立這個(gè)公司的時(shí)候，地平線的核心創(chuàng)始團(tuán)隊(duì)包括我自己其實(shí)在過(guò)去從來(lái)都沒有真正地摸過(guò)芯片，基本上是一群干軟件算法的人，我自己在機(jī)器學(xué)習(xí)算法、軟件算法這個(gè)領(lǐng)域工作了有20多年，為什么會(huì)去思考換一個(gè)跑道，從軟件算法到芯片？其實(shí)有一個(gè)很重要的原因——在2015年的時(shí)候，深度學(xué)習(xí)已經(jīng)開始為大家所關(guān)注（但是AlphaGo還沒有發(fā)生，人工智能的也遠(yuǎn)沒有到街頭巷尾)，我們隱約感覺到真正的人工智能要走出學(xué)校，走出像百度谷歌這樣的大公司，走向普惠化。能夠讓很多的行業(yè)受惠，其實(shí)只做軟件是不夠的，比如底層芯片就是非常重要的一塊。基于以上考慮，我們?cè)?015年成立了地平線，這在之后的幾年內(nèi)都應(yīng)該是中國(guó)唯一一家從事AI芯片的創(chuàng)業(yè)企業(yè)，可能在世界上也是最早的一家。

去年我看過(guò)一個(gè)報(bào)道說(shuō)有40多家AI芯片企業(yè)在中國(guó)，今年應(yīng)該有更多。適當(dāng)?shù)呐菽呛玫模灰@個(gè)方向值得去嘗試，泡沫退去的時(shí)候終歸有一些企業(yè)能夠占有一席之地，比如2000年4月份的互聯(lián)網(wǎng)泡沫，退去之后留下來(lái)的還有谷歌、BAT這樣的企業(yè)，他們都是在泡沫之前產(chǎn)生的企業(yè)。所以只要有好的企業(yè)、好的方向，適度的泡沫是可以的。

今天我想更多談一下趨勢(shì)上面的問題，為什么我們要從軟件到硬件，為什么我們要走軟硬結(jié)合？為什么我們要關(guān)注邊緣的人工智能計(jì)算。

在移動(dòng)互聯(lián)網(wǎng)時(shí)代很多用戶的數(shù)據(jù)在云端被分析，大量的數(shù)據(jù)模型為各類公司提供了極大的便利。為什么中國(guó)的AI今天能夠相對(duì)在國(guó)際上取得比較領(lǐng)先的優(yōu)勢(shì)？很大程度上是因?yàn)橐苿?dòng)互聯(lián)網(wǎng)有大量的數(shù)據(jù)產(chǎn)生，這樣的產(chǎn)業(yè)場(chǎng)景和規(guī)模可以培育很多人工智能人才。但我們下一步5G到物聯(lián)網(wǎng)的時(shí)代，更多的數(shù)據(jù)不是產(chǎn)自于人，而是來(lái)自于汽車、攝像頭、溫度傳感器、無(wú)人機(jī)等等，更多實(shí)時(shí)的數(shù)據(jù)、射頻的數(shù)據(jù)、傳感器的數(shù)據(jù)都會(huì)被產(chǎn)生。尤其從去年開始5G加速到來(lái)，這會(huì)進(jìn)一步地推動(dòng)這樣的邊緣計(jì)算的趨勢(shì)。

移動(dòng)互聯(lián)網(wǎng)構(gòu)造的是人和人之間的網(wǎng)絡(luò)，人和信息之間的網(wǎng)絡(luò)，那么5G推動(dòng)的是什么？答案是物。由于5G帶來(lái)的是萬(wàn)物的連接，萬(wàn)物的連接導(dǎo)致的是數(shù)據(jù)的進(jìn)一步規(guī)模化的爆炸，同時(shí)我們的主干網(wǎng)并不能夠支撐這樣的數(shù)據(jù)傳輸規(guī)模，所以會(huì)在終端到邊緣產(chǎn)生我們所說(shuō)的數(shù)據(jù)堰塞湖，這樣的數(shù)據(jù)堰塞湖會(huì)大量的發(fā)生在終端，因此邊緣服務(wù)器端人工智能計(jì)算會(huì)成為未來(lái)的一大需求。很多研究報(bào)告都在提到這樣的變化，基本上到2025年，邊緣人工智能計(jì)算的將會(huì)達(dá)到是云計(jì)算同樣數(shù)量級(jí)的規(guī)模。未來(lái)，邊緣計(jì)算將會(huì)走出世界級(jí)的企業(yè)。

什么是邊緣計(jì)算？

邊緣計(jì)算與云計(jì)算是相對(duì)的，如果說(shuō)云計(jì)算的根據(jù)地是城市，邊緣計(jì)算就相當(dāng)于農(nóng)村，擁有廣袤的土壤。

云、邊、端三類計(jì)算方式，當(dāng)下還是云計(jì)算占據(jù)主流的，但物聯(lián)網(wǎng)、5G會(huì)繼續(xù)推動(dòng)邊緣服務(wù)器以及智能終端計(jì)算的發(fā)展。我們統(tǒng)稱的邊緣計(jì)算實(shí)際上包括終端和邊緣的基站服務(wù)器，除去云計(jì)算之外的這兩個(gè)都是叫邊緣計(jì)算。當(dāng)下邊緣計(jì)算在中國(guó)最值得關(guān)注的落地應(yīng)用場(chǎng)景有兩個(gè)：一是智慧城市，二是汽車的智能化。在智慧城市方面，現(xiàn)在少部分在服務(wù)器端做計(jì)算復(fù)雜，但是在今年以及未來(lái)的四五年的時(shí)間100%的數(shù)據(jù)都會(huì)在攝像頭端被分析和計(jì)算，這會(huì)極大的推動(dòng)邊緣人工智能芯片的發(fā)展。而在智能駕駛方面，汽車智能化隨之而來(lái)的是傳感器在車端的部署，這一定意義上促使汽車也成為了四個(gè)輪子上面的超級(jí)計(jì)算機(jī)。

一個(gè)直觀的數(shù)據(jù)是，基本上的共識(shí)每輛自動(dòng)駕駛汽車產(chǎn)生的數(shù)據(jù)會(huì)高達(dá)1000個(gè)TB，如果是2000輛的4級(jí)、5級(jí)的自動(dòng)駕駛汽車，產(chǎn)生的數(shù)據(jù)將相當(dāng)于百萬(wàn)的搜索引擎所檢索的所有的數(shù)據(jù)，是非常龐大的數(shù)據(jù)量。

邊緣計(jì)算有哪些特性？

那么邊緣計(jì)算有什么特點(diǎn)？隨之而來(lái)的是什么樣的好處？

首先，它具有實(shí)時(shí)性，比如對(duì)于汽車的安全性，如果前面有小孩子橫穿馬路，你要把這個(gè)信號(hào)傳到云端，算完以后變成指令再傳回來(lái)，可以想象發(fā)生什么問題，如果這個(gè)網(wǎng)絡(luò)帶寬并不是有保障呢？安全性對(duì)更可靠、及時(shí)的本地計(jì)算提出了需求。此外，像美國(guó)的一些家長(zhǎng)不讓小孩子玩帶語(yǔ)音識(shí)別的玩具，為什么？因?yàn)檫@些數(shù)據(jù)都要傳到云端識(shí)別，包括今天講小米音響，阿里的百度的都有這些問題。隱私保護(hù)將是越來(lái)越受到關(guān)注的一個(gè)問題，而邊緣計(jì)算在這些場(chǎng)景下有很多好處。

我們以自動(dòng)駕駛為例，邊緣計(jì)算雖然發(fā)生在邊緣，可是它對(duì)算力的要求一點(diǎn)都不低，比如今天講到的車載AI計(jì)算主要是面向從2級(jí)到3級(jí)的輔助駕駛和半自動(dòng)駕駛的算力，這基本上是10TOPS的算力。但自動(dòng)駕駛的等級(jí)每往前增長(zhǎng)一級(jí)對(duì)于算力要求增長(zhǎng)一個(gè)數(shù)量級(jí)，到5級(jí)自動(dòng)駕駛會(huì)是1000個(gè)TOPS，也就是1000個(gè)萬(wàn)億次，實(shí)際上達(dá)到了人類大腦的算力了，持續(xù)半個(gè)世紀(jì)的摩爾定律已經(jīng)遇到了瓶頸，也就是說(shuō)單靠物理去不斷提升這種算力是越來(lái)越走不通。站在2019年的當(dāng)口，我們面向未來(lái)如何繼續(xù)推動(dòng)邊緣算力的成長(zhǎng)？去迎接未來(lái)在人工智能的邊緣計(jì)算的挑戰(zhàn)。

過(guò)去，在2015年每1000美金能夠買到的算力基本上和老鼠的大腦相當(dāng)，可是我們需要推動(dòng)更復(fù)雜的計(jì)算進(jìn)程，使得到2025年、2030年的時(shí)候每1000美金我們能夠買到的算力是達(dá)到1000 TOPS，就是1000個(gè)萬(wàn)億次的算力，即達(dá)到人類大腦的能力。那如何去實(shí)現(xiàn)這一點(diǎn)？我們?cè)谟械膱?chǎng)合提到過(guò)：通過(guò)場(chǎng)景驅(qū)動(dòng)、軟硬結(jié)合創(chuàng)造新的摩爾定律。可以想像，如果我們能夠去做到這一點(diǎn)，那么到2025-2030年的時(shí)候，基本上每1000美金能夠買到的算力其實(shí)接近天河二號(hào)的算力，今天天河二號(hào)的算力光一年的電費(fèi)就要8千萬(wàn)人民幣。自動(dòng)駕駛需要這樣級(jí)別的算力，這聽起來(lái)是難以想象的事情，但其實(shí)在過(guò)去的30年里，發(fā)生的事情并不是那么地讓人吃驚——回顧30年整個(gè)算力增長(zhǎng)100萬(wàn)倍，差不多是2的20次方，因?yàn)槊恳粋€(gè)五年大概算力翻一倍。

數(shù)字經(jīng)濟(jì)時(shí)代，邊緣計(jì)算賦能萬(wàn)物

工業(yè)時(shí)代電力是基礎(chǔ)的賦能力量，但在數(shù)字經(jīng)濟(jì)時(shí)代，數(shù)據(jù)量、存儲(chǔ)能力、云計(jì)算的規(guī)模則會(huì)是很基礎(chǔ)的賦能能力。在大數(shù)據(jù)和人工智能驅(qū)動(dòng)的經(jīng)濟(jì)時(shí)代，我們能夠有效地利用人工智能的計(jì)算，實(shí)際上是一個(gè)非常重要的基礎(chǔ)的驅(qū)動(dòng)力。

在過(guò)去的幾年里如何衡量人工智能的能力？一直是存在一個(gè)誤解，因?yàn)閭鹘y(tǒng)芯片的性能我們一般說(shuō)它的功耗、算力、面積，但是在人工智能芯片的真實(shí)應(yīng)用場(chǎng)景里，我們不應(yīng)該遵循這種傳統(tǒng)的簡(jiǎn)單的衡量方式，而應(yīng)該采取更加務(wù)實(shí)的計(jì)算方式，就是去考核AI芯片的真實(shí)性能。真實(shí)性能首先第一點(diǎn)從技術(shù)出發(fā)，單位功耗能實(shí)現(xiàn)的算力，但是我們還要去看架構(gòu)設(shè)計(jì)以及算法是不是能充分利用硬件資源，也就是有效利用率。此外，人工智能算法實(shí)際上是統(tǒng)計(jì)機(jī)器學(xué)習(xí)算法，統(tǒng)計(jì)機(jī)器學(xué)習(xí)算法好和壞會(huì)導(dǎo)致什么樣的差別？會(huì)決定單位算力能夠完成什么樣的人工智能任務(wù)。最終來(lái)講，我們考核的是單位功耗里人工智能的性能，單位價(jià)格下人工智能的性能，這些才是真正的AI芯片的真實(shí)性能。

以上標(biāo)準(zhǔn)現(xiàn)在越來(lái)越成為一個(gè)業(yè)界的主流認(rèn)知，即通過(guò)場(chǎng)景驅(qū)動(dòng)定義的軟件框架，然后軟件框架結(jié)合硬件的架構(gòu)設(shè)計(jì)，使得軟件和硬件的結(jié)合繼續(xù)推動(dòng)在邊緣計(jì)算里的人工智能的算力。這是我們所追求的新的摩爾定律，它也要求我們有能力進(jìn)行全棧式的技術(shù)開發(fā)，包括人工智能應(yīng)用對(duì)算法、芯片架構(gòu)、編譯器等等的協(xié)同優(yōu)化。

同樣的硬件架構(gòu)，編譯器的性能實(shí)際上可以影響整個(gè)效率，比如有地平線編譯器的自動(dòng)優(yōu)化的話，每一秒鐘原來(lái)可以處理9楨的圖像，現(xiàn)在可以提升到每秒鐘24楨，計(jì)算的資源的利用率從30%多提升到85%，這就是軟件和硬件的協(xié)同推動(dòng)的效率提升，例如地平線推出的車載人工智能計(jì)算平臺(tái)——Matrix，可以有效應(yīng)對(duì)高級(jí)別自動(dòng)駕駛的需求。和市面上主流產(chǎn)品相比，地平線其實(shí)在功耗，在效率上面有強(qiáng)大的競(jìng)爭(zhēng)優(yōu)勢(shì)，比如一個(gè)3瓦的功耗計(jì)算實(shí)際上能夠處理的效率，比如一秒鐘能夠處理多少楨圖像，和目前主流處理器有顯著的提升，地平線的核心競(jìng)爭(zhēng)力就是軟件和硬件的高度協(xié)同。目前，Matrix自動(dòng)駕駛計(jì)算平臺(tái)已經(jīng)在國(guó)外的一個(gè)世界非常知名的自動(dòng)駕駛企業(yè)的車上進(jìn)行了部署，今年同樣在國(guó)外會(huì)部署超過(guò)1000臺(tái)這樣的4級(jí)、5級(jí)自動(dòng)駕駛車輛。在4級(jí)、5級(jí)自動(dòng)駕駛里，地平線產(chǎn)品的計(jì)算能力極具國(guó)際競(jìng)爭(zhēng)力，在實(shí)際部署中也是先人一步的。

基于地平線Matrix自動(dòng)駕駛計(jì)算平臺(tái)地平線還打造了NavNet眾包高精建圖與定位方案，我們可以用單個(gè)的前置攝像頭通過(guò)計(jì)算實(shí)現(xiàn)類似于激光雷達(dá)的三維點(diǎn)云生成，并且是實(shí)時(shí)計(jì)算。今年，NavNet眾包高精建圖與定位方案將在韓國(guó)部署上萬(wàn)輛汽車去做眾包高精地圖，這也驗(yàn)證了地平線國(guó)際化的策略。通過(guò)眾包方式構(gòu)建高精度地圖，成本和精度都有很大優(yōu)勢(shì)。

在未來(lái) 5G 所牽引的萬(wàn)物互聯(lián)的時(shí)代，以上兩個(gè)落地場(chǎng)景帶來(lái)的一定是數(shù)據(jù)的爆炸性成長(zhǎng)。設(shè)備的智能一定離不開邊緣人工智能處理器及其軟件操作系統(tǒng)和上層應(yīng)用。地平線的定位是一個(gè)做產(chǎn)業(yè)發(fā)展的賦能者，我們有一句話叫“只造武器不打仗”，即上不碰應(yīng)用，下不碰數(shù)據(jù)，做OEM、出行運(yùn)營(yíng)商、集成商的賦能者。

目前，邊緣計(jì)算芯片在實(shí)際中的應(yīng)用還有很多。比如工地，人臉識(shí)別大家都看了很多了，但是地平線反而是反其道而行之，注重人臉隱私保護(hù)，攝像機(jī)本身處理視頻時(shí)就已經(jīng)把人臉全部模糊掉了，同時(shí)我們還做了一件事情就是檢測(cè)工人是不是戴了安全帽，我們發(fā)現(xiàn)這一點(diǎn)最近在很多國(guó)際廠商那邊非常受歡迎，因?yàn)樗麄儾⒉唤邮苤袊?guó)無(wú)處不在的人臉識(shí)別，他們希望在傳過(guò)來(lái)的時(shí)候就把人臉抹掉。這是邊緣計(jì)算帶來(lái)的好處，因?yàn)槟憧梢园堰@些計(jì)算放在前端的小的設(shè)備里。

地平線是一個(gè)技術(shù)驅(qū)動(dòng)的企業(yè)，所以我們和國(guó)內(nèi)的高校，很多頂尖高校特別是南京的東南大學(xué)、南京大學(xué)都建立了非常緊密的合作關(guān)系，包括聯(lián)合實(shí)驗(yàn)室。中國(guó)未來(lái)的科技發(fā)展進(jìn)入了一個(gè)打空間戰(zhàn)的階段，不僅僅是上層的應(yīng)用要繼續(xù)做好，下層的計(jì)算處理器，計(jì)算的操作系統(tǒng)同樣要夯實(shí)。支撐起中國(guó)未來(lái)科技發(fā)展的不光是需要企業(yè)，也需要整個(gè)生態(tài)，需要企業(yè)、高校人才等方方面面地整體互動(dòng)。

目前，基于自主研發(fā)的 AI 芯片及算法，地平線已在全球范圍內(nèi)賦能包括奧迪、長(zhǎng)安、理想、禾賽科技、首汽約車、SK電訊在內(nèi)的眾多智能駕駛合作伙伴。未來(lái)，地平線將持續(xù)發(fā)力，聚焦邊緣 AI 芯片+工具鏈組成的基礎(chǔ)技術(shù)平臺(tái)的搭建和打磨，為推動(dòng)客戶實(shí)現(xiàn)人工智能與行業(yè)的深度整合及落地應(yīng)用提供"加速劑"。