引言

毫無疑問，你已經讀過或聽說過，由于網絡邊緣設備數量激增，產生了不斷增長的巨量數據流，這些設備包括自動駕駛汽車、物聯網設備、消費電子產品，甚至是筆記本電腦和個人電腦。根據多項估算，截至2025年，運行的物聯網設備將達到數百億個。這些設備以連續數據流的形式向云端發送各種形式的數據，數據速率也千差萬別?？傮w來說，這些設備將生成大量原始數據，且數據量隨著時間的推移不斷增加。

安全攝像頭、自動駕駛汽車和PC中的視頻錄像機會生成高碼率、高分辨率的視頻流。物聯網設備則生成中等碼率的數據，匯聚到大數據流中。多種其他類型的物聯網傳感器（測量溫度、壓力、位置、光照水平等）會生成低碼率數據流，但很快此類傳感器的數量將會達到數十億。因此，即使是這些低碼率數據流也可以在進入云端之前匯聚成更大的、高碼率的數據流。

5G無線網絡和其他高速網絡技術的興起，包括微微基站（Picocell）、長距離物聯網網絡（如LoRaWAN）以及全球聯網衛星網絡（如SpaceX不斷擴展的星鏈寬帶網絡和Swarm Technologies基于衛星的物聯網網絡），提供了廣泛而快速的云端訪問（注：星鏈于2021年8月收購了Swarm Technologies）。這些通信和網絡技術加速了新興的網絡邊緣計算設備和應用的發展。

新興的網絡邊緣設備和應用包括自動駕駛汽車、機器人、自動化生產、遠程監控、供應鏈和物流系統，以及保障公共和私人安全的視頻監控。市場對這些網絡邊緣系統的需求極速增長，因為它們可以提高效率、降低運營成本并改善用戶體驗。但無論我們建設多少無線和有線通信基礎設施，超量數據的駭浪都可能壓垮或者堵塞這些通向云端的數據管道。

網絡邊緣本地化處理有助于疏通數據管道

這些趨勢表明如今需要盡量在網絡邊緣數據產生的地方進行更多的處理，減少傳輸到云端的數據量。物聯網和其他網絡連接設備的爆發式增長是推動新的網絡邊緣設備開發的主要動力，這也進一步刺激了新應用的開發，從而將原始數據轉換為有用的、可操作的信息，支持快速決策，實時應對不斷變化的情形。

在網絡邊緣計算發展的早期階段，公司主要關注將數據遠距離傳輸到數據中心的成本問題。最初，網絡邊緣應用的一大特征是需要訪問存儲在云端和連接到云的其他計算機中的數據。這些早期應用通常不是實時應用；數百毫秒甚至數秒的響應時間都是可以接受的。然而，物聯網設備的發展以及對網絡邊緣實時處理、分析和響應的需求不斷增長，推動了網絡邊緣技術強有力的發展，同時也伴隨著更大的設計挑戰。

網絡邊緣處理使得計算和數據存儲越來越靠近收集數據的設備端，而不是在數千里之外的數據中心進行分析和決策。網絡邊緣的實時應用通常不容許高延遲，因此處理、分析和決策必須轉移到設備本身。這些網絡邊緣設備包括自動駕駛汽車、物聯網傳感器、安全攝像頭、智能手機、筆記本電腦和個人電腦等。因此網絡邊緣計算的潛力巨大。

數據重壓之下，云端無法包攬一切

智能手機和物聯網設備的指數級增長推動了網絡邊緣計算的發展，這些設備無處不在，必須連接到互聯網才能向云端發送信息或從云端接收信息。一些物聯網設備（例如攝像機）在運行過程中會生成大量數據。

其他物聯網設備，如溫度傳感器，會生成少量數據，但由于這樣的傳感器數量可達數十億，為云端處理帶來了極大的負擔。因此，基于網絡邊緣的處理十分必要，不僅可以降低云端的網絡通信成本和云存儲成本，還能避免云端數據通道過載。

網絡邊緣產品和應用的開發人員越來越多地采用人工智能和機器學習（AI/ML）算法來匹配和識別復雜的模式，以幫助分析數據并據此做出決策。事實上，AI/ML技術的使用增長極其迅猛。

如今AI/ML算法被視為高效處理原始數據的必要手段，因為它們可以識別出傳統的算法程序難以解析和識別的復雜、多維度的數據模式。一些特定的AI/ML應用包括檢測、識別、辨認和計數人員或物體；資產和存貨追蹤、環境感知、聲音和語音檢測和識別、系統健康監測以及系統維護調度等。

圖1. 網絡邊緣計算的趨勢（圖片來源：萊迪思）

許多可以利用AI/ML功能的網絡邊緣應用需要在極具嚴苛的功耗限制下運行。這些廣泛分布的設備通常依靠電池供電。此類應用在各種網絡邊緣環境中比比皆是，包括工廠、農場、辦公樓、零售店、醫院、倉庫、街道和住宅。隨著它們數量的增加，這些設備需要在僅充一次電或者僅依靠收集和存儲能量的情況下運行較長時間，甚至可能是幾個月或幾年。

因此，許多設備需要在大部分時間里處于睡眠或休眠狀態，在設備處于非活動狀態時大部分電路應處于低功耗待機模式。然后激活事件會在需要時啟動設備。在此類應用中，以超低功耗運行的基礎電路系統必須保持待命，等待激活事件，然后根據需要為設備的其余部分供電。

FPGA以低功耗實現AL/ML

對低運行功耗和AI/ML算法實現的需求似乎與低功耗網絡邊緣設備設計的要求相互沖突。然而，這兩種復雜的設計要求其實并不矛盾。萊迪思最新的FPGA——低功耗、小尺寸、高性能的CertusPro-NX系列器件——專為滿足低功耗網絡邊緣設備的諸多設計要求而定制。這些FPGA可以支持多個傳感器、顯示器，支持高分辨率視頻、網絡連接和網絡邊緣AI/ML處理。

與此同時，萊迪思最新發布的sensAI解決方案集合4.1版本提供了即用的AI/ML工具、IP核、硬件平臺、參考設計和演示以及定制化設計服務，有助于設計團隊開發新的網絡邊緣設備，并將其快速推向市場。最新版本的sensAI支持CertusPro-NX FPGA。

萊迪思sensAI解決方案集合可加速端到端的AI/ML模型訓練、驗證和編譯。萊迪思在2021年初發布的sensAI 4.0中新增了sensAI Studio設計環境，這是一種基于圖形用戶界面（GUI）的工具，可幫助開發人員快速構建機器學習應用。在使用萊迪思sensAI 4.1中的工具設置網絡邊緣計算設計，并且采用萊迪思iCE40 UltraPlus、CrossLink-NX、ECP5和CertusPro-NX FPGA時，可以在超低功耗下實現實時的AI/ML功能——功耗低至1mW到1W。

圖 2. 萊迪思sensAI Studio設計環境加速端到端的AI/ML模型訓練、驗證和編譯。（圖片來源：萊迪思）

隨著sensAI 4.1支持萊迪思CertusPro-NX FPGA系列產品，sensAI的性能也有了較大提升，除了已有的對象檢測和追蹤應用之外，還新增了對多個對象實時分類等應用。sensAI 4.1解決方案集合包括更新的神經網絡編譯器，還兼容其他廣泛使用的機器學習平臺，包括最新版本的Caffe、Keras、TensorFlow和TensorFlow Lite。

萊迪思sensAI 4.1解決方案集合中的IP核包括三種類型的卷積神經網絡（CNN）加速器——CNN、CNN Plus和CNN Compact——以及一個CNN協處理器引擎。CNN IP核能讓開發人員使用其他人發布的廣泛使用的各類CNN，例如Mobilenet v1/v2、Resent、SSD和VGG，或者根據需要自定義CNN模型。sensAI 4.1 CNN加速器利用萊迪思FPGA的并行處理能力、分布式存儲器和DSP資源，極大簡化了超低功耗AI設計的實現。加速器核利用FPGA的可編程邏輯來實現低功耗神經網絡，包括極其高效的二值神經網絡（BNN），能夠以毫瓦級超低功耗實現CNN。

圖3. 萊迪思sensAI解決方案集合可開發基于萊迪思FPGA的AI/ML設備。（圖片來源：萊迪思）

萊迪思sensAI 4.1參考設計

萊迪思FPGA提供可編程I/O，經配置可支持傳感器接口常用的多種電氣接口標準。公司還提供許多硬核和軟核IP模塊以支持不同的傳感器通信協議。由于FPGA長期以來在傳感器融合方面具有顯著優勢，因此萊迪思sensAI 4.1的設計旨在簡化網絡邊緣設備中基于多個傳感器的AI/ML推理功能的開發，實現智能的傳感器融合。sensAI 4.1解決方案集合包括許多參考設計示例，演示了多種智能傳感器融合的應用案例，它們可以同時運行，實現深入的情景感知。這些參考設計包括：

·         手勢檢測

該參考設計使用IR圖像傳感器，實現了一個基于AI的低功耗手勢檢測系統。該參考設計提供了一個訓練數據集、可使用常用神經網絡訓練工具訓練的腳本以及一個神經網絡模型，方便用戶進行修改。

·         關鍵詞檢測

該參考設計使用數字MEMS麥克風持續檢測關鍵詞話語。設計人員可以使用深度學習框架（例如Caffe、Tensorflow或Keras）更新提供的訓練數據集，為系統添加喚醒詞功能。參考設計包括一個訓練數據集、可使用常用神經網絡訓練工具訓練的腳本以及一個神經網絡模型，方便用戶進行修改。

·         人臉檢測

該參考設計使用圖像傳感器實現基于CNN的人臉識別，并且可以通過修改訓練數據庫來識別其他類型的目標。

·         人員偵測

該參考設計使用CMOS圖像傳感器持續檢測人員的存在。基于此設計的AI系統可以使用深度學習框架（例如Caffe或Tensorflow）更新所提供的訓練模型來檢測和定位任何感興趣的目標。該參考設計包括一個神經網絡模型、一個訓練數據集和可使用常用訓練工具訓練的腳本。

·         目標檢測、分類、追蹤和計數

該參考設計提供了目標檢測、分類、追蹤和計數的示例，擁有完整的設計，包括用于萊迪思開發板的FPGA RTL、神經網絡模型、示例訓練數據集以及用于重新創建和更新設計的腳本。

可以使用AI的常見和潛在的網絡邊緣應用

使用AI/ML算法提高眾多網絡邊緣設備（例如自主機器人、環境控制和視頻安全攝像頭）的性能具有明顯優勢，而其他類型的網絡邊緣設備也可以從中受益，例如PC和筆記本電腦。萊迪思正與合作伙伴和客戶合作，利用多模式、智能傳感器融合和AI/ML技術，不斷提升PC/筆記本電腦用戶的體驗，并顯著降低筆記本電腦的運行功耗，在某些應用中，電池使用時間最多提高了28%。

哪些設備特性能發揮出潛在的價值呢？

PC和筆記本電腦在24小時內的使用情況差異很大，一般在白天工作時間集中使用。然而，即使是在工作時間，它們也會有休息狀態。人們會偶爾休息，中午也會用餐，這些時間他們通常會讓計算機保持運行狀態，確保他們打開的各種應用不被關閉。

將AI/ML分析和決策與計算機現有的傳感器（攝像頭和麥克風）相結合，實現智能傳感器融合，能讓PC或筆記本電腦感知周圍環境，從而決定何時關閉顯示器和CPU，以及何時應該給它們重新供電。

存在檢測最簡單的用途是在周圍無人時關閉計算機。當用戶長時間遠離屏幕時，注意力追蹤功能可以調暗計算機屏幕并激活低功耗模式。充當智能傳感器中心的低功耗、小尺寸FPGA可以接收來自計算機傳感器的輸入，然后根據情況決定為哪些組件供電。

 解決隱私和安全問題

同樣，這些功能也可以增強計算機的隱私和安全性。計算機的內置會議攝像頭可用于監控用戶身后的背景，檢測是否有人從用戶的肩膀后面窺視。如果計算機被配置為保護隱私，當授權用戶背后有人疑似在偷窺計算機屏幕時，它可以彈出警告提醒用戶甚至自動調暗屏幕。需要注意的是，使用這些解決方案，所有推理數據都保存在FPGA本地。僅將元數據傳遞給SoC，這進一步增強了隱私并提高了安全性。

優化用戶體驗

AI/ML功能還可以增強計算機用戶的總體體驗。例如，基于AI/ML的面部取景功能可以利用內置視頻會議攝像頭的較高分辨率來裁剪和居中用戶的頭像，為視頻會議提供較好的畫面。與會者還可以在會議期間移動的同時，他們的圖像依然保持居中。同樣，手勢識別可以為筆記本電腦或PC或任何其他支持視頻的物聯網設備添加非接觸式操作功能。

健康方面的益處

許多公司現在明確表示要保障員工的健康，基于AI/ML的感知功能可以通過彈出提醒和其他措施幫助避免重復性壓力損傷，并利用計算機的視頻傳感器確保員工實際上采納了給出的休息建議。

AI/ML應用還可用于檢測用戶的姿勢，這可能是造成重復性壓力損傷的另一個因素。這些利用傳感器主動反饋的特性可以用來開發健康應用，這明顯優于目前企業中所使用的簡單的定時提醒，能夠有效應對壓力相關的工傷。

所有這些通過AI/ML實現的功能都可以幫助供應商打造出對企業買家更具吸引力的PC和筆記本電腦，并且所有這些功能都可以通過sensAI 4.1解決方案集合和萊迪思低功耗FPGA的特性來實現。

這種FPGA的使用方式超越了長期以來FPGA開發的標志性功能——傳感器連接和融合，并且基于成熟的AI/ML算法，新增了傳感器信號分析和決策制定功能。AI/ML的加入使得FPGA成為低功耗系統控制器，可管理系統功能、增強用戶體驗并通過降低整體系統運行功耗大幅延長電池壽命。

結論：數十億網絡邊緣設備的龐大市場有待開發

憑借其多個低功耗FPGA系列產品和支持這些產品系列的sensAI 4.1解決方案集合，萊迪思致力于為數十億計的網絡邊緣設備帶來AI/ML 技術。因此，網絡邊緣應用是一個極具潛力的目標市場。

根據多方面的估算，全球廣泛的地域需要數百億個網絡邊緣設備來滿足大量網絡邊緣市場的需求，這對于FPGA 業務來說非常具有吸引力——當然這種規模對于任何行業來說都是如此。萊迪思發布sensAI 4.1解決方案集合及其低功耗、小尺寸FPGA系列，則是直接瞄準了網絡邊緣應用和市場。萊迪思的sensAI 4.1解決方案集合是一種網絡邊緣應用的創新開發工具，系統開發人員可以借此為各種市場開發靈活、針對特定應用、基于FPGA的AI/ML推理解決方案。