“東數西算”的核“芯”問題：有待新技術突破

隨著“東數西算”國家戰略在2022年2月啟動，全國一體化算力網絡國家樞紐節點的建設步伐進一步加速。算力網絡基礎設施的普及是智能時代標志之一，而高效的算力資源層就是算力網絡這座大廈的根基，根基的牢靠程度將直接影響算力網絡愿景是否能實現。

特別是在當前低能耗的要求下，算力網絡的建設有低碳的約束，間接制約了通過直接擴大規模來換取算力增長的技術路線。軟件生態可以逐步完善，運營模式可以調整，各個抽象層次的接口標準可以逐步規范。然而，核心問題是，現有的底層處理芯片、數據傳輸等物理層的產品和技術是否可以支撐“算力網絡”這個構想？

筆者認為，算力網絡建設的最大挑戰除了資源整合、服務創新，可能還有待新核心技術的突破——本文主要從算力芯片視角試析，所涉內容不可能覆蓋算力網絡底層核心技術全貌。

現有算力資源尚難支撐算力網絡愿景

直觀的理解算力網絡包含兩個關鍵部分：一是“算力”，二是“網絡”。然而，“算力網絡”的效力不應該是二者的簡單加和，而應該是“倍乘”，通過網絡來對算力進行價值放大，承載更多的應用。缺乏算力的網絡只能作為數據傳輸網，而缺乏網絡的算力其使用價值也將大大降低。

根據著名的梅特卡夫定律，一個網絡的價值等于該網絡內的節點數的平方。對于算力網絡，宏觀來看“節點”包括的各種算力中心（如數據中心、超算中心、智算中心、邊緣計算節點等）和服務的終端應用（如PC、智能手機等具有強交互性的設備，也包括攝像頭、智能電表等弱交互性設備）。因特網的發展已經顯示出了梅特卡夫定律的巨大威力，將人類帶入了信息時代。如果算力網絡的梅特卡夫定律能繼續發揮作用，必將會把人類帶入一個新的時代——也許就是智能時代。

然而，新酒還需新瓶裝。現有的計算、網絡、存儲基礎設施，可能還不能完全支撐算力網絡的愿景成為現實。

研究表明，從1940年到2010年的60年中，我們看到計算能耗效率隨時間呈現穩定的指數增長，大約每1.6年這個效率指標就會加倍——這得益于摩爾定律和登納德縮放定律在此期間基本的有效性。計算效率的持續性指數級提升，使得通過線性計算節點的規模和能耗水平增長，即可獲得指數級的算力。籍此，在這個世紀的前十年，我們得以將一臺計算機的算力裝在手機中，直接賦能了移動互聯網的快速發展。

相比于算力增速而言，數據量的增速也毫不遜色，甚至已經形成趕超之勢。從2005年開始至今，數據量大約每兩年翻一番，IDC預測到2025年將達到175澤字節（ZettaBytes）。然而，摩爾定律從2015年開始放緩，單位能耗下的算力增速已經逐漸被數據量增速拉開差距。現有的網絡化算力可以部分解決利用率不均衡的問題，但是并不能本質上解決算力增速放緩的局面。

應用層算力與基礎層算力

為了便于分析算力相關的核心基礎技術，我們把算力劃分為兩大類：應用層算力和基礎層算力。其中應用層算力，顧名思義，指用于執行業務層應用的算力，例如視頻解析、數據查詢、路徑規劃、圖像渲染等，大體對應到全系統分層架構SaaS和PaaS層；基礎層算力指用來做資源池化、數據轉發、壓縮存儲、加密解密、文件系統、網絡功能虛擬化等基礎層負載的算力，大體對應到IaaS層。預計應用算力的提升主要來自于專用服務器的采用，雖然局部來看，應用層算力一方面得益于更高性能CPU、GPU的采用，另一方面得益于計算從通用走向專用的過程中各種FPGA和ASIC芯片的引入。雖然引入了大量專用計算單元，但宏觀來看，得益于CPU的核心地位，仍然可以維持算力的通用性。

基礎層算力主要與網絡、存儲和安全相關，預計基礎算力的提升將主要得益于DPU（數據處理單元）、5G移動邊緣計算技術、超高速光電混合網絡技術、NVMe-oF等技術的采用。網絡和存儲都比較依賴各種協議的處理，不同的物理層實現。基礎層算力不僅需要幫助提升IO的帶寬、降低延遲，還要維持訪問方式的一致性、匹配應用的需求。這些復雜的需求非常依賴于更靈活的網絡可編程性，更高效的硬件虛擬化技術來支持。

例如，對于窄帶寬但低延遲的需求與帶寬要求高但延遲不敏感的應用，顯然應該適配不同的網絡資源；對于突發性高并發、小數據量與穩定性低并發但大數據量的業務，也需要網絡和IO配給不同的資源。按照算力網絡“匹配應用需求”的角度來看，軟件定義網絡、軟件定義存儲、軟件定義加速器等一系列“軟件定義”技術路線還有很大提升空間。

算力網絡底層的三大技術突破

從以上分析來看，預計算力網絡的基礎層將會有如下三方面的技術突破。

第一個方面，以專用架構延續算力的指數級提升。

簡言之，如何增強應用算力。短期來看，專用體系結構的廣泛采用有望維持2～3個數量級的算力提升潛力。這也是領域專用架構（DSA）技術路線得到重視的原因。

DSA技術的采用，必然導致算力源端的異構化。如何在現有的體系結構下，既發揮出DSA的能效優勢，又對上屏蔽其差異性，是一個不小的挑戰。

現在提出的一些“非-馮諾伊曼架構”，例如存內計算（In-Memory Computing）、網內計算（In-Network Computing）、類腦計算等，都在嘗試用非傳統計算架構來提升計算效能。從技術成熟度角度看，通用GPU（即GPGPU）、面向深度學習的訓練和推理的通用AI芯片，最有可能在短期內發揮算力增強的作用。有報告預測，裝備GPGPU和AI芯片的AI服務器預計到2025年將達到算力總支出的25%。

第二個方面的技術突破是，通過DPU釋放應用層算力的同時，擴容基礎算力的管道。

基礎算力層的核心功能之一，是構建算力流通的“管道”。在傳統系統架構中，網絡與計算是分離的：計算的主體是服務器，網絡的主體是網卡、路由器和交換機。隨著DPU技術的逐漸成熟，我們看到大量原本在服務器上運行的基礎層負載可以被卸載（offload）到與服務器CPU直連的DPU上，保持網絡特性的功能將不在由服務器端的CPU來維護。

DPU的存在，將本地物理資源虛擬化，也將遠程訪問本地化。DPU開始承載基礎算力的角色，并且是在不改變現有路由器和交換機的前提下。此外，DPU的出現，也使得網內計算的成熟度得到進一步提升。

第三個技術突破，通過數據面代理賦能無服務器（Serverless）服務和云原生應用。

隨著云原生微服務架構的普及，“服務網格”作為微服務間通信的專用基礎設施層，可在微服務架構中實現可靠、快速和安全的服務間調用，同時可提供出色的可觀測性、流量控制能力和安全保障。但是，服務網格也存在一定的局限性，主要體現在其增加了網絡的復雜性。

服務網格能力的發揮依賴于數據面代理，為了保持應用與服務的解耦，采用非侵入性的數據面代理“邊車機制”，任意兩個微服務間的通信都增加了兩跳七層應用代理，而基于CPU軟件實現的七層應用代理數據處理周期較長，微服務間通信的時延顯著增加，限制了云原生應用的大規模部署。

針對當前云原生服務網格存在的這一問題，可以通過DPU實現服務網格數據面代理，進而解決CPU和內存的消耗和微服務間訪問延遲的問題。

總結一下，算力網絡是實現算力基礎設施化的一個重要載體，是一整套從技術到運營的系統性技術綜合的成果。如果成功落地，“新瓶裝新酒”，必將會有力促進我國數字經濟的跨越式發展。

目前我們在構建算力網絡上有較好的基礎，比如基建化程度、網絡覆蓋率、運營水平、業務整體容量等，光纖到戶比率遠高于國際平均水平，但是在技術層面也還面臨一些關鍵挑戰，特別是核心算力芯片的自主率過低，核心光電器件主要依賴進口。在“東算西數”、構建全國一體化算力基礎設施等相關政策的引導下，突破算力網絡底層的核“芯”問題，可以看到巨大的“盤活存量、優化增量”的機遇，早日讓“算力”成為普惠大眾的生產力。