各位可能都聽過第四次工業(yè)革命是來自萬物聯(lián)網(wǎng)（Internet of Things，IoT），包括實(shí)體、虛擬、與生物體，也一定聽過最近幾年內(nèi)許多人工智能 （Artificial Intelligence，AI） 的重大突破與各方面的應(yīng)用，IoT 是從 1999 年就發(fā)明的詞，AI 的發(fā)展更超過一甲子，然而這兩者的結(jié)合才是下個新產(chǎn)業(yè)機(jī)會的大浪，正要開始。

什么是 AIoT 與邊緣計(jì)算

相關(guān)用語包括 AIoT 以及邊緣計(jì)算 （Edge Computing），我們先看看他們的定義：

IoT – 藉由各處的無線傳輸裝置，通過感測器蒐集各種的數(shù)據(jù)，再將數(shù)據(jù)傳輸?shù)介l道或電腦之中，連接到網(wǎng)路上，達(dá)到萬物連上網(wǎng)的效果，如何使這些數(shù)據(jù)產(chǎn)生應(yīng)用層面更是相當(dāng)重要的議題。

AI – 基于自我學(xué)習(xí)為基底，藉由大量的數(shù)據(jù)作為學(xué)習(xí)依據(jù)，通過建立一層層神經(jīng)網(wǎng)路架構(gòu)，進(jìn)行反覆的學(xué)習(xí)與修正，并佈署最終訓(xùn)練完的權(quán)重值，去進(jìn)行預(yù)測與判斷。

通過 AI 與 IoT 兩者整合，相輔相成。藉由 AI 從邊緣感測器蒐集的大量數(shù)據(jù)萃取價值，再控制本地的系統(tǒng)就是 AIoT 的基本概念，例如在工廠產(chǎn)線中，通過視覺感測器收集數(shù)據(jù)，經(jīng)由 AI 計(jì)算判斷分類，再由機(jī)器手臂執(zhí)行檢選。沒有AI 來處理與利用數(shù)據(jù)，IoT 是沒有意義的。

AI 與 IoT 兩個領(lǐng)域延續(xù)過去投資熱度，今年仍是最熱的標(biāo)的，遠(yuǎn)領(lǐng)先區(qū)塊鏈 （Blockchain）。

邊緣計(jì)算的必要性

過去這 AI 主要在云端計(jì)算，難免受制于帶寬與延遲的限制，現(xiàn)在的趨勢逐漸走向所謂的邊緣計(jì)算，根據(jù)邊緣計(jì)算產(chǎn)業(yè)聯(lián)盟 （ECC） 與工業(yè)互聯(lián)網(wǎng)產(chǎn)業(yè)聯(lián)盟 （AII） 聯(lián)合發(fā)布的邊緣計(jì)算參考架構(gòu) 2.0（2017）：邊緣計(jì)算是在靠近物或數(shù)據(jù)源頭的網(wǎng)絡(luò)邊緣側(cè)，融合網(wǎng)絡(luò)、計(jì)算、存儲、應(yīng)用核心能力的分布式開放平臺，就近提供邊緣智能服務(wù)，滿足行業(yè)數(shù)字化在敏捷聯(lián)接、實(shí)時業(yè)務(wù)、數(shù)據(jù)優(yōu)化、應(yīng)用智能、安全與隱私保護(hù)等方面的關(guān)鍵需求。

許多應(yīng)用程序?qū)ρ舆t不敏感，不需要大量的就近計(jì)算或存儲資源，因此理論上它們可以在集中式的云中運(yùn)行，但是對帶寬和計(jì)算資源有要求的應(yīng)用，使用邊緣計(jì)算將成為更有效的方法，例如視頻監(jiān)控、物聯(lián)網(wǎng)網(wǎng)關(guān) （Gateways）、使用臉部識別的門禁、車牌識別。而且廠商不需在每個有客戶的區(qū)域都要部署服務(wù)器。

有些實(shí)時應(yīng)用程序是無法承受超過幾毫秒的延遲，諸如 AR/VR、車聯(lián)網(wǎng)、遠(yuǎn)程醫(yī)療、觸覺互聯(lián)網(wǎng)、工業(yè)4.0 和智慧城市等。需在應(yīng)用情境當(dāng)場形成閉環(huán)自動化，來維持高可用性與安全性，靠近用戶的計(jì)算和緩存成為了必需品。

還有許多場所網(wǎng)絡(luò)連接受限、不可靠或不可預(yù)知。這些場所包括交通運(yùn)輸工具 （飛機(jī)、巴士、船舶），采礦作業(yè)區(qū) （石油鉆井平臺、管道、礦山），電力基礎(chǔ)設(shè)施 （風(fēng)力發(fā)電場、太陽能發(fā)電廠），衛(wèi)星通信，海上船只 （從漁船到油船），這些偏遠(yuǎn)和惡劣的環(huán)境中，邊緣計(jì)算讓位于邊緣的裝置根據(jù)實(shí)時數(shù)據(jù)自治，應(yīng)用在預(yù)測性維護(hù)上，可避免零件機(jī)臺故障造成當(dāng)機(jī) （有些情形甚至造成死傷），應(yīng)用在能效管理上，可降低成本與提升可靠性。

AI + IoT 開始成為熱錢追逐標(biāo)的

結(jié)合 AI 的 IoT 新創(chuàng)公司，在去年吸引可觀的資金，從企業(yè)與私有基金取得總共 22 億美金，并購活動也十分熱絡(luò)，代表產(chǎn)業(yè)的新興熱點(diǎn)崛起。

位于芝加哥的 UptakeTechnologies，去年取得總共 2.5 億美金的 C 輪與 D 輪資金，成為獨(dú)角獸，服務(wù)于工業(yè)物聯(lián)網(wǎng)-- 石油天然氣產(chǎn)業(yè)、采礦、農(nóng)業(yè)、航空、營建、制造、鐵路、貨運(yùn)車隊(duì)、綠色能源與智慧電網(wǎng)。

另一個獨(dú)角獸 – C3 IoT –除了部分以上提到的領(lǐng)域外，也著力于智慧城市、公用基礎(chǔ)建設(shè)、金融服務(wù)、健康管理、零售與通訊。去年拿到一個億美金。

專注于物聯(lián)網(wǎng)無線解決方案的Silicon Labs（亦稱“芯科科技”）公司也通過收購 Sigma Designs 的 Z-Wave業(yè)務(wù)和。

自從 2015年，邊緣計(jì)算進(jìn)入到 Gartner 的 Hype Cycle （技術(shù)成熟曲線）。Gartner 預(yù)測在 2022 年之前 80% 的企業(yè)級 IoT 將配備布署 AI，目前只有 10%。

半導(dǎo)體芯片在 AI 產(chǎn)業(yè)的關(guān)鍵地位

半導(dǎo)體芯片在使能 AI 產(chǎn)業(yè)上處于核心地位，需要處理巨量數(shù)據(jù)的機(jī)器學(xué)習(xí) （Machine Learning） 要求極大的算力與特大儲存容量，對應(yīng)的是對高端處理器與更大更省電的存儲器的需求。目前這兩個關(guān)鍵技術(shù)，仍以美國居全球領(lǐng)先地位，以中國投入的追趕力道最大。

根據(jù) JP Morgan 預(yù)估，AI 芯片市場營收，在 2022 年前將以年均復(fù)合增長率 59% 增長，相對于整個半導(dǎo)體市場增長率僅有 5-6% ［1］。自從網(wǎng)絡(luò)泡沫以來，風(fēng)投對半導(dǎo)體業(yè)的投資興趣逐漸走低，現(xiàn)在，AI 改變了這個趨勢。

半導(dǎo)體在 AI 運(yùn)作的主要三個階段都具有關(guān)鍵支持地位，三階段分別為：

數(shù)據(jù)生成與收集：可能通過智慧手機(jī)與 IoT 各種終端傳感裝置；

以收集的數(shù)據(jù)對算法進(jìn)行訓(xùn)練：訓(xùn)練是指通過大量的數(shù)據(jù)樣本，代入神經(jīng)網(wǎng)絡(luò)模型運(yùn)算并反復(fù)迭代，來獲得各神經(jīng)元的權(quán)重參數(shù)的過程。這階段需處理海量數(shù)據(jù)，最耗計(jì)算資源，必需在云端進(jìn)行，要求盡可能高的算力。大家可能都聽過 Nvidia 靠繪圖處理器 （GPU） 在近幾年大放光芒，它提供的就是訓(xùn)練芯片，支持深度學(xué)習(xí) （Deep Learning） 技術(shù)的深度神經(jīng)網(wǎng)絡(luò) （Deep Neural Network） 建模計(jì)算，得力于 GPU 的大型矩陣平行運(yùn)算助力，讓以前不實(shí)際、超過百層的神經(jīng)網(wǎng)絡(luò)計(jì)算成為合理可能，所以 AI 訓(xùn)練芯片表現(xiàn)大大提升。

根據(jù)訓(xùn)練好的算法對新數(shù)據(jù)進(jìn)行推斷預(yù)測 （inference）：推斷是指借助現(xiàn)有神經(jīng)網(wǎng)絡(luò)模型進(jìn)行運(yùn)算，利用新的輸入數(shù)據(jù)來一次性獲得正確結(jié)論的過程。推斷過程對響應(yīng)速度一般有較高要求，因此會采用 AI 芯片 （搭載訓(xùn)練完成的神經(jīng)網(wǎng)絡(luò)模型） 進(jìn)行加速。這階段可能發(fā)生在云端或邊緣，然而如同前面所述，為了反應(yīng)速度或安全性等因素，將推斷放在邊緣終端逐漸成為趨勢，所以大量的各種終端裝置都將會加上推斷芯片來建立智能。邊緣裝置芯片只需內(nèi)建訓(xùn)練好的模型算法，可隨時對新收集數(shù)據(jù)進(jìn)行反應(yīng)與自我管理。在連網(wǎng)時，可將邊緣數(shù)據(jù)傳回云端，持續(xù)不斷修正與優(yōu)化模型，然后再回傳更新的模型給邊緣。

邊緣計(jì)算應(yīng)用落地是硬件與系統(tǒng)商的大機(jī)會

根據(jù) CrunchBase 的 2018 AI 市場報(bào)告，Amazon、Google、Microsoft 等巨頭推出的 AI as a Service 開發(fā)框架，加上有能力自制高端芯片，已經(jīng)讓機(jī)器學(xué)習(xí)的新創(chuàng)公司難以生存。這種云端企業(yè)級 AI 需要數(shù)據(jù)中心級的大規(guī)模投資，提升每單位電力可帶來的計(jì)算量，門檻很高。

然而，善長生產(chǎn)硬件、整合終端裝置制造供應(yīng)鏈的國家，卻有機(jī)會將 AI 推斷芯片置入終端，在邊緣計(jì)算的各種各樣應(yīng)用場景好好發(fā)揮。相比訓(xùn)練芯片追求算力，推斷芯片考慮的因素需要整體優(yōu)化：單位功耗算力，時延，成本等等（大多需極低耗電與低成本），所以垂直合作配合更為重要。難怪鴻海董事長郭臺銘就說：半導(dǎo)體我們自己一定會做。根據(jù) JP Morgan 的預(yù)估，邊緣 AI 應(yīng)用的半導(dǎo)體產(chǎn)值也將以比云端 AI 以更高的年均復(fù)合增長率成長。

但是硬件廠商需要提升自己的思維到服務(wù)提供者的高度，了解客戶與市場，才能完整掌握應(yīng)用情境，并以服務(wù)導(dǎo)向拉動上下游供應(yīng)鏈充分合作，整合構(gòu)建創(chuàng)新的垂直行業(yè)解決方案。不僅是硬件廠商延伸成為整體服務(wù)提供者，甚至掌握 AI 演算法，以求勝出，軟件廠商為了做好智能終端，也發(fā)現(xiàn)必須掌握硬件設(shè)計(jì)與韌體，軟硬整合為必要。整個開發(fā)與除錯戰(zhàn)線比過去長，而且需要跨領(lǐng)域知識。

PC 與 Mobile 時代，產(chǎn)品與技術(shù)規(guī)格比較一致，產(chǎn)品戰(zhàn)線大概就是分低、中、高階而已，但在接下來興起的 AI 加 IoT 時代 – 有人稱為智聯(lián)網(wǎng)，智能終端的應(yīng)用卻可能非常多樣化，AI 的應(yīng)用場景碎片化，分散在許多流程環(huán)節(jié)里，有極大的創(chuàng)新空間，但要考慮的邏輯更復(fù)雜，需針對不同應(yīng)用需求在能耗、性能、或散熱等問題進(jìn)行優(yōu)化。相比于互聯(lián)網(wǎng)時代，物聯(lián)網(wǎng)的通信協(xié)議更加多樣，碎片化嚴(yán)重。新的游戲規(guī)則與新的市場面貌正在成形中。

創(chuàng)新的目的 – 回歸價值創(chuàng)造

ARM 為了 AI 推斷算法優(yōu)化最前沿的 CPU 與 GPU IP 核，高通、聯(lián)發(fā)科、谷歌、Rockchip 在其處理器加上 DSP 計(jì)算核以強(qiáng)化原有視覺辯視計(jì)算與其它AI 計(jì)算，蘋果、Intel、NVIDIA 也紛紛推出附神經(jīng)網(wǎng)絡(luò)芯片以加速AI 計(jì)算，Lattice、Microsemi、 Intel 則利用 FPGA 處理 AI 計(jì)算，包括云端與邊緣。

安控監(jiān)視系統(tǒng)、汽車自動煞車與駕駛系統(tǒng)、工廠自動化設(shè)備與即時示警、家庭智慧音箱……，邊緣計(jì)算應(yīng)用的例子已經(jīng)不勝凡舉，并從原來視覺與語音辯視計(jì)算擴(kuò)大到其它 AI 計(jì)算，例如結(jié)合傳感器數(shù)據(jù)開發(fā)新應(yīng)用。那些垂直市場與那些應(yīng)用最有商業(yè)價值，下回我們來看看 AI + IoT 在各種垂直應(yīng)用領(lǐng)域與情境的案例研討與價值分析。