01算力，是數字經濟時代的核心生產力

算力網絡基礎設施的普及是智能時代標志之一。隨著5G、IoT、人工智能、工業互聯網等技術的逐步成熟，“新基建”成為我們國家下一步基礎設施建設的大方向。國家發改委在2020年4月對新基建的含義進行了闡述，特別是對新基建范疇的“信息基礎設施”中明確提出了“算力基礎設施”的概念。同期，以中國聯通、中國移動等電信運營商為代表的企業，先后開始進行“算力網絡”的規劃與實施，一方面是響應國家在算力基礎設施建設的戰略規劃，另一方面也是謀求運營商轉型發展的問題。隨著“東數西算”在2022年2月正式啟動，進一步加速了全國一體化算力網絡國家樞紐節點的建設步伐。在《2021-2022全球計算力指數評估報告》顯示，算力指數每提高一個點，數字經濟和GDP將分別增長千分之3.3和千分之1.8。算力已經成為了數字經濟時代核心生產力。

從算力網絡的系統架構角度看，目前的算力網絡架構大體可劃分成“三橫一縱”的架構，其中“三橫”代表了三個層次：服務提供層，網絡控制層，算力資源層；“一縱”代表了服務與資源編排，貫穿“三橫”。但是，目前的算力網絡的系統架構規劃，大多側重如何運營，如何打通服務提供方和服務消費者，如何整合現有的網絡和云基礎設施，將“網云融合”改造升級為“算網一體”等方面的內容。但是對于支撐算力網絡需要底層核心技術、芯片架構等討論不多。作者認為高效的算力資源層就是算力網絡這座大廈的根基。根基的牢靠程度將直接影響算力網絡愿景是否能實現，特別是在當前低能耗的要求下，算力網絡的建設有低碳的約束，間接制約了通過直接擴大規模來換取算力增長的技術路線。軟件生態可以逐步完善，運營模式可以調整，各個抽象層次的接口標準可以逐步規范。然而，核心問題是，現有的底層處理芯片，數據傳輸等物理層的產品和技術是否可以支撐“算力網絡”這個構想？算力網絡的有效實施的最大挑戰除了資源整合、服務創新，可能還有待新核心技術的突破！（本文主要是從算力芯片視角，所涉及的內容可能不能覆蓋算力網絡底層核心技術的全貌。）

02算力網絡的定義

中國移動定義的算力網絡是“以算為中心、網為根基，網、云、數、智、安、邊、端、鏈等深度融合、提供一體化服務的新型信息基礎設施”。中國聯通的定義是“指在計算能力不斷泛在化發展的基礎上，通過網絡手段將計算、 存儲等基礎資源在云-邊-端之間進行有效調配的方式，以此提升業務服務質量和用戶的服務體驗”。前者定義中涉及到從“網”到“鏈”的多個技術的融合，后者的定義重點是將算力網絡作為基礎資源在云-邊-端的調配方式。實施算力網絡的共同目標都是“提升業務服務質量，優化用戶體驗”，較為具象化的愿景闡述是“使算力成為像水、電一樣，可“一點接入，即取即用”的社會級服務”。

以上的定義更多從運營商角度來審視算力網絡，這里我們給出另外一種從技術角度的定義：算力網絡是與應用需求密切匹配的網絡化計算基礎設施，使得算力可應需集結，并與網絡一樣泛在，最終實現“網絡即計算”（NaaC，Network as a Computer）。要實現這一目標，當然需要算力計量、數據安全、操作平臺、應用商店等等運營措施的配套完善和應用生態的不斷豐富，但根基在于底層核心技術的突破——這也是本文關注的焦點。正所謂萬丈高樓平地起，基礎是關鍵！好比在20年前功能機的時代，即便人們對移動互聯網的需求足夠強烈，也不可能構建出目前琳瑯滿目的應用生態和服務，因為基礎設施支撐能力不足；直到智能手機的出現，寬帶互聯網和3G、4G移動網絡的普及，才真正推動了移動互聯網的業態成為現實。智能手機、無線寬帶網絡、云計算這些創新產品和技術才是移動互聯網的基礎，而隨之發展起來的應用生態，線上線下融合，則成為在基礎之上發展起來的新應用、新服務和全新的商業模式。

03算力與電力的對比

算力的定義

首先面臨的一個問題是如何定義算力（Computing Power）？現在不少文獻提到算力都會引用諾貝爾經濟學獎得主Nordhaus教授給的算力的定義，即“單位時間系統輸出的信息量（the amount of information delivered per second by the machine）”，這里的“信息量”是按照香農信息論中的依據狀態概率（P）的定義方法，即-log2（P）比特。進一步，Nordhaus教授給出了算力的一個度量方法，稱之為單位時間的標準操作數（SOPS，Standardized operations per second），并給出一個計算公式：

SOPS=0.05{［6+log2（memory）+word length］/［（7*addtime+mult time）/8］}，其中，0.05是一個縮放因子，目的是為了把最終計算的值調整到與某類計算機的MIPS指標基本一致的的數值，“memory”指系統中存儲器的比特數，“word length”是機器字長，“add time”和“mult time”是做一次加法和乘法的時間周期數。

顯然，這一算力的定義方法放在“算力網絡”的背景下非常不直觀，對于度量一臺現代計算機的算力缺乏現實的意義，我們也不可能用這個公式來計算“算力網絡”的算力指標。但這個定義的核心是信息量，之所以這樣的定義的原因是作者希望找一個指標適用于一個大時間跨度（從1900年到2000年）、不同時代的計算設備（從機械計算機，電子管計算器，再到微處理器計算機）所提供的“算力”的對比，除了訴諸于信息論的方法，似乎也沒有更好的定義方法了。

在工程實踐中，如果一個指標無法度量，則無從優化。所以一個更具現實意義的“算力”應該滿足幾個條件：

1）容易統計和計算，且相對直觀；

2）與用戶感知基本一致；

3）能客觀反映系統的規模大小；

4）避免長尾偏差。

考慮到算力網絡上承載的主要是各種服務，而服務的載體主要是虛擬機、容器或裸金屬服務器，因此，在算力網絡的場景下，我們把算力定義為整個系統可承載的最大虛擬機/容器/裸金屬服務器的數量。直觀理解，升級了CPU、網絡等設備來提升算力，直接的目的就是為了提高所支持的虛擬機、容器的數量；用戶需要的服務，部署的業務，通常也是以虛擬機和容器作為載體；虛擬機、容器的規模也可以客觀反映系統容量的大小。

但是這一定以方法存在的局限性是，虛擬機、容器、裸金屬服務器的數量可能是動態變化的，比如一臺休眠的虛擬機和活躍的虛擬機消耗的物理資源顯然是不同的，具體取決于業務部署的需求，這就會導致同即便一個算力網絡在不同情況下得出不同的算力值。因此，我們將算力的定義修正為如下表述：系統可承載的最大虛擬機/容器/裸金屬服務器的數量。即

其中，a，b，c為三個權重常數，大于等于0，且a+b+c歸一化為1，t為采樣時間。由此可見，這一算力的度量方式是基于實際系統采樣得到的后驗值，通過取最大值，消除由于利用率等問題帶來的偏差。如果采用了更先進的網絡、DPU等技術帶來的“擴容”效應，也會直接反映在更大數量的虛擬機、容器、裸金屬服務器上。至于三個權重常數如何設定，可以交給系統的運營人員根據上層業務需求來調整。例如，如果虛擬機場景多，可以適當放大權重a，如果裸金屬需求多，可以放大權重c。

算力與電力的類比

電力和算力都被視為跨時代的基礎設施級的驅動力。電力的廣泛采用是19世紀中期發生的第二次工業革命的標志，人類正式進入了“電氣時代”。電的“泛在”，只需要鋪設好輸送網絡——電網，即可完成。電力所帶來的生產力躍升來源于各種各樣的終端電氣設備的發明和大規模應用。簡言之，電氣化=電網+電氣設備。電力時代可以認為是電網與電器一體化的產物。

如果把“算力”類比為“電力”，電的泛在可以通過鋪設電網來實現，那么“算力”的泛在能否通過鋪設鋪設信息網絡（包括無線通信網）來實現呢？達到能聯網的地方就能方便、應需地使用算力？答案似乎不是很顯然。目前寬帶、電信網絡也基本上算是無所不在，但“算力網絡”愿景顯然尚未成為現實，“算力”尚未達到“一點接入”的方便程度，也沒有實現“即取即用”的使用彈性，這是為何呢？我們認為其中一個原因還是整合算力資源面臨巨大的挑戰，整合算力資源的的難度要比整合電力資源的難度要高，池化算力要比“池化”電力更具挑戰！

電力的源端是發電站，無論裝機容量的大小，發電的方式差異，生產的電力本質是無差別的，可以認為發電資源的“池化”只需要簡單的電網并網即可實現。相比而言，算力的源端更加的“異構”，既包括云端的數據中心、超算中心、智算中心等，也包括邊緣側通常規模較小，分布更廣泛的的邊緣側數據中心、計算中心、基站等，池化算力的源端資源要比電站并網更加挑戰。此外，電的傳輸對延遲并沒有特殊要求（但是對傳輸的損耗要求較高，所以需要特高壓輸電技術），而算力的調用通常都對延遲有嚴格的要求，這也是決定服務質量（QoS）的關鍵因素之一。

此外，不同于電力這種客觀存在的物質，算力不是一種客觀存在的物質，而是一種“能力”，是分析、存儲、處理數據的能力，“蘊含”在計算設備和軟件中。電力的基本操作是開通/斷開，如何使用是由終端設備來決定的，并不需要告知源端（發電站）。但是算力的的基本操作除了開通、斷開以外，還要定義 “算什么”，甚至還要定義“怎么算”，所以，基本操作要復雜得多。相比電力的“終端”（電器）完全定義了功能， 算力的終端通常并不具備足夠的“算力”（否則也就不需要構建算力網了），終端大多數情況只負責“提問”，即發送計算請求，而源端通過大規模計算來負責給出“解答”。從某種意義上說，算力網絡在使用方式上與云計算還比較相似，云計算也許可以被視為算力網絡雛形。

04算力網絡的底層基礎設施有待新技術突破

直觀的理解算力網絡包含兩個關鍵部分：一是“算力”，二是“網絡”。然而，“算力網絡”的效力不應該是二者的簡單的加和，而應該是“倍乘”，通過網絡來對算力進行價值放大，承載更多的應用。缺乏算力的網絡只能作為數據的傳輸網，而缺乏網絡的算力的使用價值也將大大降低。根據著名的梅特卡夫定律，一個網絡的價值等于該網絡內的節點數的平方。對于算力網絡，宏觀來看“節點”包括的各種算力中心（如數據中心、超算中心、智算中心、邊緣計算節點等等）和服務的終端應用（如PC、智能手機等具有強交互性的設備，也包括攝像頭、智能電表等弱交互性設備）。因特網的發展已經顯示出了梅特卡夫定律的巨大威力，將人類帶入了信息時代。如果算力網絡的梅特卡夫定律能繼續發揮作用，必將會把人類帶入一個新的時代——也許就是智能時代。

然而，新酒還需新瓶來裝。現有的計算、網絡、存儲基礎設施，可能還不能完全支撐算力網絡的愿景成為現實。研究表明從1940年到2010年間的60年中，我們看到計算能耗效率（單位為每千瓦時的計算量，Computaions per kWh）隨時間呈現穩定的指數增長，大約每1.6年這個效率指標就會加倍。本質上得益于摩爾定律和登納德縮放定律在此期間基本的有效性。計算效率的持續性指數級提升使得通過線性的計算節點的規模和能耗水平的增長，即可獲得指數級的算力。籍此，在這個世紀的前十年我們得以將一臺PC的算力裝在了手機中，直接賦能了移動互聯網的快速發展。

相比于算力增速而言，數據量的增速也毫不遜色，甚至已經形成趕超之勢。從2005年開始至今，數據量大約每兩年翻一番，IDC預測到2025年將達到175澤字節（ZettaBytes）。然而，摩爾定律從2015年開始放緩，單位能耗下的算力增速已經逐漸被數據量增速拉開差距。現有的網絡化算力可以部分解決利用率不均衡的問題，但是并不能本質上解決算力增速放緩的局面。

應用層算力與基礎層算力

為了便于分析算力相關的核心基礎技術，我們把算力劃分為兩大類：應用層算力（Application-Domain Computing Power）和基礎層算力（Infrastructure-Domain Computing Power）。其中應用層算力，顧名思義，指用于執行業務層應用的算力，例如視頻解析，數據查詢，路徑規劃，圖像渲染等，大體對應到全系統分層架構SaaS和PaaS層。基礎層算力指用來做資源池化，數據轉發，壓縮存儲，加密解密，文件系統，網絡功能虛擬化等基礎層負載的算力，大體對應到IaaS層。預計應用算力的提升主要來自于專用服務器的采用，雖然局部來看，應用層算力一方面得益于更高性能CPU、GPU的采用，另一方面得益于計算從通用走向專用的過程中各種FPGA和ASIC的XPU的引入。雖然引入了大量專用計算單元，但宏觀來看，得益于CPU的核心地位，仍然可以維持算力的通用性。

基礎層算力主要與網絡、存儲和安全相關，預計基礎算力的提升將主要得益于DPU、5G移動邊緣計算技術、超高速光電混合網絡技術，NVMe oF等技術的采用。網絡和存儲都比較依賴各種協議的處理，不同的物理層實現。基礎層算力不僅需要幫助提升IO的帶寬，降低延遲，還要維持訪問方式的一致性、匹配應用的需求。這些復雜的需求非常依賴于更靈活的網絡可編程性，更高效的硬件虛擬化技術來支持。例如，對于窄帶寬但低延遲的需求，與帶寬要求高但延遲不敏感的應用，顯然應該適配不同的網絡資源；對于突發性高并發，小數據量與穩定性低并發但大數據量的業務也需要網絡和IO配給不同的資源。按照前文“算力網絡”的定義中“匹配應用需求”的角度來看，軟件定義網絡、軟件定義存儲、軟件定義加速器等一系列“軟件定義”技術路線還有很大提升空間。預計算力網絡的基礎層將會有如下幾方面的技術突破。

技術突破一：通過DSA維繼應用算力的指數級提升

簡言之，如何增強應用算力。短期來看，專用體系結構的廣泛采用有望維持2～3個數量級的算力提升的潛力。這也是領域專用架構（DSA）技術路線得到重視的原因。DSA技術的采用，必然導致算力源端的異構化，如何在現有的體系結構下，即發揮出DSA的能效優勢，又對上屏蔽其差異性，是一個不小的挑戰。現在提出的一些非-馮諾伊曼架構，例如存內計算，網內計算、類腦計算等，都在嘗試用非傳統計算架構來提升計算效能。從技術成熟度角度看，通用GPU（GPGPU），面向深度學習模型的訓練和推理的通用AI芯片，最有可能在短期內發揮算力增強的作用。報告預測，裝備GPGPU和AI芯片的AI服務器預計到2025年將達到算力總支出的25%。

技術突破二：通過DPU釋放應用層算力的同時擴容基礎算力的管道

基礎算力層的核心功能之一是構建算力流通的“管道”，在傳統系統架構中，網絡與計算是分離，計算的主體是服務器，網絡的主體是網卡、路由器和交換機。隨著DPU技術的逐漸成熟，我們看到大量原本在服務器上運行的基礎層負載可以被卸載到與服務器CPU直連的DPU上，保持網絡特性的功能不再由服務器端的CPU來維護。DPU的存在，將本地物理資源虛擬化，也將遠層訪問本地化。DPU開始承載基礎算力的角色，并且是在不改變現有路由器和交換機的前提下。DPU的出現也使得網內計算（In-Network Computing）的成熟度得到進一步提升。

技術突破三：通過數據面代理賦能無服務器（Serverless）服務和云原生應用

隨著云原生微服務架構的普及，服務網格（Service Mesh）作為微服務間通信的專用基礎設施層，它在微服務架構中實現可靠、快速和安全的服務間調用，同時提供了出色的可觀測性、流量控制能力和安全保障。但是，服務網格也存在一定的局限性，主要體現在其增加了網絡的復雜性。服務網格能力的發揮依賴于數據面代理，為了保持應用與服務的解耦，采用非侵入性的數據面代理邊車（Side-Car）機制，任意兩個微服務間的通信都增加了兩跳七層應用代理，而基于CPU軟件實現的七層應用代理數據處理周期較長，微服務間通信的時延顯著增加，限制了云原生應用的大規模部署。針對當前云原生服務網格存在的這一問題，可以通過DPU實現服務網格數據面代理，進而解決了CPU和內存的消耗和微服務間訪問延遲的問題。

結語

算力網絡是實現“算力”基礎設施化的一個重要載體，是一整套從技術到運營的系統性技術綜合的成果。如果成功落地，“新瓶裝新酒”，必將會有力促進我國數字經濟的跨越式發展。目前我們在構建算力網絡上有較好的基礎，比如基建化程度、網絡覆蓋率、運營水平、業務整體容量等，光纖到戶比率遠高于國際平均水平，但是在技術層面也還面臨一些關鍵挑戰，特別是核心算力芯片的自主率過低，核心光電器件主要依賴進口。在“東算西數”、構建全國一體化算力基礎設施等相關政策的引導下，可以看到巨大的“盤活存量、優化增量”的機遇，早日讓“算力”成為普惠大眾的生產力。