越是智能化發展，越需要調用大量數據，對算力的需求也就越大，于是，算力提升成為云、邊、端的共同趨勢。一些觀點認為，在云計算占據計算主導地位的當下，邊緣計算會是云計算的延伸和補充。但事實上，無論是延伸還是補充，都不足以反映邊緣計算的巨大潛力。
在傳統產業如火如荼進行數字化轉型的背后，除了5G、IoT之外，邊緣計算是一股不容忽視的重要力量。在規模和增速方面，CB Insights估算，到2023 年全球邊緣計算行業，整體市場容量有望達到340億美元。Technavio估計，從2018年到2022年，邊緣計算技術的應用量將以每年近20%的速度增長。Grand View Research更是預測，2016-2025年期間，亞太區邊緣計算市場的復合增長率將高達46.7%。
不過，在邊緣計算受到越來越多關注的同時，我們看到，終端設備的算力也在不斷提升，甚至一些可媲美邊緣設備。端、邊的界限一定程度上是否在變模糊？邊緣計算的核心能力該如何評定？對算力經濟“虎視眈眈”的國產AI芯片er們，對這一巨大的新興領域，是否準備好了？
邊緣計算的“邊界”在哪里？
時擎科技總裁于欣認為，云、邊、端更多是從應用場景來劃分的，而不僅僅是依據性能。從這個意義來說，云、邊、端的場景還是比較明確的。當然，從任務處理的角度，確實有把更多的推理任務下放到邊緣和終端的趨勢，也將有更多的云邊端融合協同的場景。不過，對于端、邊的設備來說，會有更多的成本和功耗限制，提高“算力的效率”是更為關鍵的指標，包括單位算力的成本和實際可達的應用效果。
靈汐科技副總經理華寶洪表示，終端側與邊緣側從誕生伊始，就各自承擔著不同的使命。終端作為與用戶直接交互的設備，以感知作為首要功能，低功耗、低延時是基本要求，也相應地會在計算能力上進行權衡。一般來說，端側設備的計算能力弱于邊緣側的算力水平。他強調，“對于終端廠商宣稱的算力，需要明確究竟是理論算力還是有效算力。只有終端與邊緣側的有效算力相媲美時，才是真正達到邊緣設備的算力級別?！?/p>
上海雪湖科技有限公司副總裁趙小吾從應用場景和未來趨勢方面給出了他的見解。“云邊端的定義，本身就是因為受制于芯片算力和通訊傳輸能力的局限產生的邊界。一定程度上，邊、端的界限確實變模糊，但是針對不同應用場景對性能的要求，邊界的定義可能不太一樣。對算力要求不高的場景，終端設備的性能是足夠的，可能就不需要專門的邊緣計算設備；對算力要求高的場景，比如車路協同、智慧交通等，終端傳感器設備是無法滿足需求的，就需要用邊緣計算設備來處理攝像頭、激光雷達和毫米波雷達的數據，來實現全息感知的功能”，他表示，“隨著芯片和通訊傳輸技術的迭代，相信這樣的邊界會時而模糊時而清晰?！?/p>
“核心指標”是什么？
“算力”是一個廣義的詞匯，該如何對算力設備進行評估？比較重要的有兩個：理論峰值算力和真實有效算力。理論算力是指通過公式推導出的理論上的算力；而有效算力是指設備在實際運作過程中能真實輸出的算力，是設備實際算力效能的體現。靈汐科技華寶洪還給出了以下六大評估指標：
計算芯片的峰值算力
理論計算得出的、理想狀況下的峰值算力。具體通過計算核的主頻、核數量、單核運算能力等來輸出理論峰值，與實際場景中的真實有效處理能力有很大差距。
計算芯片的有效算力
設備在實際運作過程中能真實輸出的算力。比如ResNet50在浮點16位精度下，推理一次的計算量是7.8Gflops左右，芯片每秒鐘處理的ResNet50的幀率乘以7.8G就是真實有效的輸出算力。如果推理幀率是400fps，真實算力是400*7.G=3Tflops。
計算芯片的有效利用率
代表了芯片真實輸出的運算能力。其計算方式為：真實有效的輸出算力/理論算力。計算結果值越高，表明該芯片工作越高效。實際應用場景中，多數傳統架構計算芯片，有效利用率一般在30%左右，而新型架構的計算芯片，芯片有效利用率可以到50%以上。領啟KA200異構眾核、存算一體芯片有效利用率可達60%以上。
計算芯片對主流神經網絡的支持程度
下一代人工智能有兩個不同的發展線路圖，一個是以深度學習算法為代表的傳統計算科學，一個是以生物神經網絡為代表腦科學。多數計算芯片只能支持二者之一。是否能將二者兼并支持，也是衡量計算芯片的核心指標之一，異構融合是達到這一指標的重要途徑之一。
芯片能效比
計算方式為：典型網絡（如ResNet50）的推理能力/芯片的功耗，單位：推理幀率（fps/w）。
芯片的性價比
每平方毫米推理的幀率數，計算方式為：典型網絡（如ResNet50）的推理能力/芯片的面積。
異構“精髓”——有的放矢
在邊緣計算領域，多樣的應用催生了多種多樣的計算需求，往往需要權衡算力、功耗、體積等問題，出于資源的優化考慮，異構計算逐漸成為業界共識。在算力需求猛增的第一階段，以CPU、GPU為代表的芯片率先迎來強勁增長。這些由先進半導體技術打造的算力設備往往具備極強的性能表現以及良好的兼容性，占據了異構計算領域的主流地位。
時擎于欣表示，所謂異構計算，實際上是希望有不同的處理器形態來針對不同的算法進行更高效的處理。相對于通用算力來說，“異構”的目的應該是相對于某種或某類特定應用來定義的，因而需要更有針對性，更有的放矢。他強調，“為了異構而異構，意義不大。”
從指令集架構角度來看，業界已形成了各自的“勢力范圍”。于欣認為，從技術角度來說并沒有那么絕對，它們之間也會相互滲透，比如Arm架構也有服務器和PC應用，RISC-V也會越來越多向高性能方向嘗試。未來更多的還是老生常談的“生態”問題，恰恰因為技術角度沒有那么大的差異，生態就尤為重要，不過，先入為主之后的替代成本和門檻很高，這個過程會比較漫長。
Imagination計算業務產品管理總監Rob Fisher表示，隨著對性能的需求日益增加，系統功耗等級需要不斷降低，這是異構架構真正體現價值的地方。
關于未來異構計算的發展趨勢，他認為，最密集的計算部分將定位在一個加速器上，該加速器能夠高效運行，提供性能并管理功耗。不過，這只有在加速器能夠擴展、滿足應用的性能需求時才能發揮作用，也就是說，可擴展性是未來架構的重點。除了在單一維度上進行擴展之外，復雜計算工作負載還必須在多個維度上實現可擴展性，從而改變計算資源組合以適應需求。
雪湖科技趙小吾也認為，異構計算平臺主流的發展方向，一定是能夠更有效地獲取高性能計算能力架、構靈活性高、可擴展性好、計算資源利用率更高。由于不同的計算架構各有優勢，場景也在變得更加多元和復雜，要更深入地分析不同計算架構和不同芯片的優勢，設計出適合特定應用場景下的異構計算方案。
靈汐科技華寶洪則強調了對新型計算架構進行探索的緊迫性。傳統馮·諾依曼架構當前正面臨諸多瓶頸，如存儲墻、芯片利用率低，由于半導體工藝發展帶來的摩爾定律失效，更是給算力芯片的發展蒙上陰影。
他認為，這就催生了新型顛覆性計算架構的發展，類腦計算和量子計算就是兩個典型代表，這兩個前沿戰略方向已經列入國家十四五規劃和2035年遠景規劃。類腦計算將計算機的剛性和人腦的彈性結合起來，在取得高算力的同時，也保證了低功耗和低延時等。
隨著新型架構的不斷出現，未來的異構計算必定會出現CPU、GPU和新型計算架構融合的局面，即傳統馮·諾依曼架構和非馮·諾依曼架構的融合，而不僅是當前的CPU和XPU之間的融合。
寫在最后
“邊緣計算”正在成為千行百業進行數字化轉型、智能升級的重要底座，它所承載的功能、以及對行業的賦能作用越來越關鍵。AI芯片作為核心的算力提供方之一，也必將在當前的技術革新和未來的商業化實踐中，取得長足的發展。
對于正處于百花齊放階段的國產AI芯片來說，這是成長的沃土。盡管傳統通用處理器已占據發展先機，但是也存在著高功耗、高價格、低能效等問題。CPU一統天下的計算時代一去不復返，計算多樣性所催生的“異構、靈活、可擴展”的架構是未來計算時代的主旋律。正如幾位受訪人一致認同的觀點，“提升能效比是計算架構發展的不懈追求”。
精彩預告
本文主要從邊緣計算不斷發展的內涵、技術指標、技術路線等方向進行了討論，在近期的系列文章中，還將從國產AI芯片在邊緣計算領域的機遇和挑戰、邊緣計算的發展格局、通用計算與專用計算的博弈等角度，進行深入剖析，敬請關注！
