“顛覆性時代”或許是對我們所處時代最恰當的描述。

大數據、AI、5G、IoT……數年之內各項顛覆性技術漸次爆發、交相輝映，更有趣的是，這些具有顛覆能力的技術并不是獨立發展的，相反，它們是如此的盤根錯節、相輔相成。甚至，大數據、IoT 和 AI 的組合可以為未來帶來無限潛力，而能夠將這些技術“粘合”到一起的是邊緣計算。

何為邊緣計算？新思科技（Synopsys）產品營銷經理 Ron Lowman指出，邊緣計算有很多術語，包括“邊緣云計算”和“霧計算”。邊緣計算的概念通常被描述為在本地服務器上運行的應用程序，旨在將云進程更靠近終端設備。

當前，邊緣計算迎來了科技巨頭亞馬遜、谷歌和微軟的追捧，他們也正成為這一領域的領先者，除此之外，華為、富士通和諾基亞等企業也紛紛跟進。邊緣計算究竟有何魔力，引來各路“英雄”的青睞？

邊緣計算的價值

傳統方式是，傳感器、攝像頭、麥克風以及一系列不同的 IoT 和移動設備從其位置收集數據，并將數據發送到集中式數據中心或云。

然而到了2020 年，全世界會有超過500億臺智能設備實現連接。這些設備每年將產生以ZB計的數據，到2025年數據將增長到150ZB以上。

互聯網的核心在于可靠地將設備彼此連接并與云連接，從而有助于確保數據包到達目的地。但是，如果將所有這些數據發送到云，還是會帶來一些重大問題。

首先，150ZB 的數據會造成容量問題。其次，就能源、帶寬和計算能力而言，將大量數據從其原始位置傳輸到集中式數據中心代價高昂。據估計，目前有12%的數據獲得其持有公司進行分析，僅3%的數據有助于產生有意義的結果（也就是有97%的數據在收集和傳輸之后就被浪費了），而這些被浪費的數據卻概括了需要解決的運營效率問題。再者，存儲、傳輸和分析數據能耗巨大，因此，如何找到一種有效的方法來降低成本、減少浪費顯得尤為必要。

為了解決這些難題，邊緣計算應用而生。它能幫助在本地存儲數據并降低傳輸成本。除解決容量、能源和成本問題外，它還可以提高網絡的可靠性，使應用程序在網絡中斷期間還能夠繼續運行。另外，它還能通過清除某些威脅配置文件（例如全局數據中心拒絕服務（DoS）攻擊），以提高安全性。

最重要的是，邊緣計算能夠為實時用例（例如虛擬現實商場和移動設備視頻緩存）提供低延遲計算的能力，從而催生新的服務，使設備能夠在自動駕駛、游戲平臺或具有挑戰性的快節奏制造環境中提供更多創新型的應用。

簡而言之，盡管“邊緣計算”的概念未必是革命性的，但它的實現將帶來更多可能。“這些實現將解決包括降低大型數據中心能耗，提高專用數據安全性，實現故障安全解決方案，降低信息存儲量和通信成本，以及通過降低延遲能力來開創新應用等日益嚴重的問題。”新思科技產品營銷經理 Ron Lowman提到。

美國超微電腦股份有限公司（Supermicro）IoT和嵌入式設備副總裁兼總經理Michael Clegg則以生活實例做類比點明邊緣計算的意義：“通過邊緣計算處理信息，大大縮短信息處理延遲的時間。這就如同一家連鎖披薩餐廳在很多社區都開設分店，不僅避免由從總店送餐帶來的不必要壓力，同時提高時效性且保證了食物的新鮮度。”

邊緣計算助力5G和IoT提高處理數據的效率

作為與邊緣計算同時代出現的顛覆性技術，5G、IoT和邊緣計算三者的“相遇”又能碰撞出怎樣的火花？新思科技產品營銷經理 Ron Lowman表示：“5G基礎架構是邊緣計算最具說服力的驅動力之一。5G電信提供商發現了在其基礎架構之上提供服務的機會。除了傳統的數據和語音連接外，5G 電信提供商還可以通過構建生態系統的方式，托管本地獨特的應用。也就是說，通過將服務器置于所有基站旁邊，蜂窩流量提供商可以向第三方主機應用開放其網絡，從而改善帶寬和延遲。”

據了解，Netflix 等流媒體服務通過其 Netflix Open Connect已與本地 ISP 合作，以將高流量內容托管在距離用戶更近的地方。借助5G的多接入邊緣計算 （MEC） 計劃，電信提供商發現了為流內容、游戲和未來的新應用提供類似服務的機會。電信提供商認為，他們能以付費服務的方式，向所有人開放這一功能，讓需要較低延遲的人可以為在邊緣而非在云端定位應用支付額外的費用。

Credence Research 認為，到 2026 年，整個邊緣計算市場的價值將為 96 億美元左右。電信行業更被認為是邊緣計算發展最快的增長動力，它們將占據邊緣計算市場總量的三分之一。除此之外，web scale、工業和企業集團也同時為其傳統市場提供邊緣計算硬件、軟件和服務開創新的應用機遇。

其實，我們利用邊緣計算可以極大地提高處理數據的效率。以美國快餐店Chick-fil-A為例，其成功地使用本地服務器將數百個傳感器和控制器與相對便宜的本地設備聚合在一起，實現了本地運行以防止任何網絡中斷。2018年Chick-Fil-A在其博客上評論道：“通過提高廚房設備智能化，我們能夠收集更多數據，并將其應用在餐廳應用中，構建更多的智能系統以進一步拓展業務。”從數據方面證明，采用邊緣計算的餐廳，能夠處理的業務量是最初計劃的三倍。

總而言之，成功的邊緣計算基礎架構需要結合本地服務器計算功能、AI 計算功能以及與移動/汽車/IoT 計算系統的連接（圖 1）。

圖 1：邊緣計算通過使用微數據中心來分析和處理數據，從而使云計算過程更靠近終端設備。

對此，CompTIA首席技術推廣人James Stanger 博士進一步講解到：“隨著物聯網 （IoT） 連接越來越多的設備，網絡正在從以高速公路和中央位置之間往返輸送的主要模式，過渡到類似于媒介存儲和處理設備相互交織的蜘蛛網狀態。邊緣計算可以很好的實現這類應用，一改在集中式數據處理倉庫中捕獲、存儲、處理和分析數據的做法，并將其轉移到生成數據的客戶端附近。因此，數據更應該存儲在網絡‘邊緣’的中間點，而非始終存儲在中央服務器或數據中心。”

邊緣計算發揮改善延遲優勢的實例

在實際用例中，邊緣計算又是如何改善延遲問題呢？

羅格斯大學和 Inria 使用 Microsoft HoloLens 4來分析邊緣計算的可擴展性和性能。在實際用例中，HoloLens 首先讀取條形碼信息，再使用建筑物中的場景分割功能將用戶導航到指定房間，最后在Hololens中顯示箭頭。這一過程同時使用映射坐標的小數據包和連續視頻的較大數據包，以驗證和對比邊緣計算與傳統云計算延遲的改善。HoloLens 最初讀取二維碼，然后將坐標數據發送到邊緣服務器。該服務器使用4個字節加上標頭，僅花費1.2ms。然后服務器找到坐標，并通知用戶具體位置，全程耗時 16.22 ms。如果將同樣的數據包直接發送到云端，則大約需要 80ms（圖 2）。

圖 2：比較邊緣設備到云服務器與邊緣設備到邊緣云服務器的延遲。

同樣，他們測試在使用 OpenCV 進行場景分割時，將 Hololens 的用戶導航到適當位置帶來的延遲時間。如果將數據流傳輸到邊緣計算服務器，需要4.9ms，而OpenCV 處理圖像額外花費37ms，總計時47.7 ms。而傳統云服務器上的相同過程則花費將近115 ms時間，這一案例足以展示邊緣計算在降低延遲方面的明顯優勢。

以此類推，既然邊緣計算比云計算更具優勢，那么將數據計算全都轉移到邊緣設備端會是最好的解決方案嗎？

事實并不是如此（圖 3）。在 HoloLens 案例研究中，數據使用的SQL數據庫太大，無法存儲在耳機中。現在大多數的邊緣設備，特別是發生物理磨損的設備，沒有足夠的計算能力來處理大型數據集。拋開計算能力不談，云或邊緣服務器上的軟件開發成本更低。

圖 3：比較云計算和邊緣計算與端點設備。

邊緣計算對服務器系統 SoC有何影響？

許多邊緣計算應用的主要目標都是圍繞如何降低延遲而展開的。為了達到較低的延遲，許多新系統都采用最新的行業接口標準，包括 PCIe 5.0、LPDDR5、DDR5、HBM2e、USB 3.2、CXL、基于 PCIe 的 NVMe 以及其他基于新一代標準的技術。與上一代產品相比，這些技術都可以通過改進帶寬來降低延遲。

所以，這些邊緣計算系統均增加了AI加速功能。

一般來講，服務器芯片通過 x86 擴展AVX-512 向量神經網絡指令（AVX512 VNNI） 等新指令提供 AI 加速。很多時候，這種額外的指令集不足以提供預期任務所需的低延遲和低功耗功能，所以大多數新系統中還添加了自定義 AI 加速器。

除了本地網關和聚合服務器系統外，單個 AI 加速器通常無法提供足夠的性能，所以需要借助帶寬非常高的裸片到裸片 SerDes PHY 來幫助這些加速器。新思科技最新發布的 PHY 支持56G和112G連接。

此外，AI 算法正在突破內存帶寬要求的極限。例如，最新的 BERT 和 GPT-2 型號分別需要 345M 和 1.5B 參數。顯然，這不僅需要高容量的內存能力支持，還需把許多復雜的應用放在邊緣云執行。為了支持實現這種能力，設計人員正計劃在新的芯片組中采用 DDR5。除了容量挑戰之外，還需要存取 AI 算法的系數，以便進行非線性中的大量計算。因此，HBM2e 迅速成為被廣泛采用的另一種最新技術應用，有些芯片實現了單芯片中的多次 HBM2e 實例化。

圖 4：通用 AI SoC 具有高速、高帶寬、內存、主機到加速器，以及高速芯片到芯片接口，用于擴展多個 AI 加速器。

邊緣計算加入AI功能，應對不同場景需求

Ron Lowman所屬的開發團隊研究了邊緣計算的不同類型需求，發現區域數據中心、本地服務器和聚合網關都有不同的計算、延遲和功率需求。他認為：“未來需求顯然集中在降低往返響應的延遲，降低特定邊緣應用的功率，以及確保有足夠的處理能力來處理特定任務上。”

因此，新一代解決方案不僅具有更低的延遲和功耗，而且還需納入 AI 功能，也就是 AI 加速器。這些 AI 加速器的性能也會根據需求的擴展而不斷變化。

“AI 和邊緣計算的需求正在迅速變化，在過去兩年中我們看到許多解決方案已取得了進步，并將繼續加以改進。未來，需要處理的數據將不斷變化，所以我們需要不斷提高性能、降低功耗和總體延遲。”Ron Lowman如是說。

圖 5：新一代服務器 SoC 再加上 AI 加速器，大大提高邊緣計算速度。

總的來說，邊緣計算是實現數據快速連接的一項重要技術。它將云服務更靠近邊緣設備，降低延遲，為消費者提供新的應用和服務；還將衍生出更多的 AI 功能，將其擴展到云以外。此外，它還將成為支持未來混合計算的基礎技術。

責任編輯：gt