Esperanto Technologies公司的芯片預示著開源架構的新時代，英特爾準備在此大賺一筆。
RISC-V 是一種于 2010 年首次推出的免費和開源計算機指令集架構，它的采用正像火箭一樣起飛，其大部分燃料來自對人工智能和機器學習的需求。根據研究公司Semico的數據，到 2027 年，至少包含部分 RISC-V 技術的芯片數量將以每年 73.6% 的速度增長，屆時將生產約 250 億顆 AI 芯片，收入將達到2910 億美元。
Dave Ditzel 表示，從幾年前還是一個新興想法到今天，這一增長令人印象深刻，但對于AI來說，這也代表了翻天覆地的變化，他的公司Esperanto Technologies創造了第一個高性能 RISC-V AI處理器，旨在與AI推薦系統中強大的GPU競爭的處理器。根據 Ditzel 的說法，在早期對機器學習和人工智能的狂熱中，人們認為通用計算機架構——x86和Arm——永遠跟不上GPU和更專用的加速器架構。
“我們開始證明那些人都錯了，”他說?！癛ISC-V似乎是解決人們想為人工智能做的各種計算的理想基礎。”
隨著該公司的第一款硅芯片——1092核AI處理器的發展，以及與英特爾的一項重大開發協議，他可能很快就會被證明是正確的。
Ditzel 的整個職業生涯都是由RISC-V背后的理論定義的。RISC，代表精簡指令集計算機。它的理念是，這個想法是，你可以通過精簡它可以執行的核心指令集來制造一個更小、功耗更低但性能更好的處理器。IEEE研究員大衛·帕特森在1980年的一篇開創性論文中創造了這個詞。他的學生Ditzel是合著者。Ditzel后來在貝爾實驗室和太陽微系統公司從事RISC處理器的研究工作，之后又共同創立了Transmeta公司，該公司生產了一種低功耗處理器，旨在通過為RISC架構翻譯x86代碼來與英特爾競爭。
對于Esperanto，Ditzel將RISC-V視為一種以相對低功耗加速人工智能的方法。在基本層面上，更復雜的指令集架構意味著需要更多的晶體管來組成處理器，每一個晶體管在關閉時都會漏出一點電流，而在切換狀態時則會消耗電能?！斑@就是RISC-V吸引人的地方，”他說?！八幸粋€簡單的指令集?！?/p>
內核
RISC-V的核心是一組只有47條指令的集合。X86指令的實際數量很難枚舉，但它可能接近 1000條。Arm 的指令集被認為要小得多，但仍比 RISC-V 大得多。但 Ditzel 表示，僅僅使用一組精簡指令并不足以實現Esperanto所追求的計算能力?！按蠖鄶?RISC-V 內核都沒有那么小或那么節能。因此，這不僅僅是我們采用 RISC-V 內核并將 1000 個內核放在芯片上的問題。我們必須完全重新設計 CPU，以使其適應那些非常嚴格的限制。”
在 Ditzel 和他的同事開始工作時，RISC-V 指令集中明顯缺少有效進行機器學習數學運算所需的“向量”指令，例如矩陣乘法。所以Esperanto工程師想出了他們自己的方法。正如處理器內核 ET-Minion 的架構所體現的那樣，這些單元包括執行 8 位整數向量以及 32 位和 16 位浮點向量的單元。還有一些單元執行更復雜的“張量”指令，以及與數據有效移動相關的系統以及與芯片上 ET-Minion 內核的排列相關的指令。
由此產生的系統芯片 ET-SoC-1 由 1088 個 ET-Minion 內核和四個稱為 ET-Maxions 的內核組成，它們幫助管理 Minions 的工作。該芯片的 240 億個晶體管占地 570 平方毫米。這使它的大小約為流行的 AI 加速器Nvidia A100的一半。這兩個芯片遵循非常不同的理念。
ET-SoC-1 旨在加速功率受限的數據中心中的 AI，該數據中心位于板的核心，適合已安裝的服務器的外圍組件互連快速 （PCIe） 插槽。這意味著該板只有 120 瓦的可用功率，但它必須提供每秒至少 100 萬億次操作才有價值。Esperanto在該功率范圍內管理了超過 800 萬億次的能量。
Esperanto.ai 首席架構師Jayesh Iyer 在 12 月的 RISC-V 峰會上對技術專家說，“大多數人工智能加速器都是圍繞一個芯片構建的，該芯片占用了電路板的大部分電力預算，Esperanto的方法是使用多個低功耗芯片，這仍然符合功率預算?！?/p>
在執行一個推薦系統基準神經網絡時，每個芯片功耗為20W——不到A100的十分之一——電路板上有六個芯片。這種功率和性能的結合是通過降低芯片的工作電壓而實現的，而沒有預期的性能犧牲。（一般來說，更高的工作電壓意味著你可以更快地運行芯片的時鐘，完成更多的計算。）在0.75V（ET-SoC-1 制造過程的標稱電壓）的額定電壓下，一塊芯片將遠遠超出電路板的功率預算。但當電壓降至0.4 V左右時，你可以在120W的芯片上運行6個芯片，與單一的高壓芯片相比，推薦系統性能提升了4倍。在這個電壓下，ET-Minion的每個核心僅消耗大約10毫瓦。
Iyer表示：“低電壓運行是Esperanto ET-minion（核心）設計的關鍵。它為架構和電路級別的決策提供了依據。例如，RISC-V 整數指令的內核流水線由每個時鐘周期最少數量的邏輯門組成，從而在降低的電壓下允許更高的時鐘速率。當核心執行長張量計算時，該管道將關閉以節省能源。
其他AI處理器
其他最近開發的AI處理器也轉向了RISC-V和他們自己定制的機器學習加速的組合。例如，Ceremorphic最近憑借其分層學習處理器脫穎而出，它使用 RISC-V 和 Arm 內核以及自己的定制機器學習和浮點運算單元。英特爾即將推出的MobileyeEyeQ Ultra將在芯片中配備 12 個 RISC-V 內核和神經網絡加速器，旨在為 4 級自動駕駛提供智能。
對于嵌入式AI處理器公司Kneron來說，使用RISC-V處理器既是一項商業舉措，也是一項技術舉措。該公司一直在銷售使用Arm CPU內核和定制加速器基礎設施的芯片和知識產權。但去年11月，Kneron在KL530上發布了首款基于RISC-V的技術，旨在通過一種名為視覺變壓器的相對新型神經網絡來支持自動駕駛。根據Kneron首席執行官Albert Liu的說法，RISC-V架構使得預處理神經網絡模型變得更容易，從而使其運行更高效。不過，他表示：”考慮到英偉達去年可能收購Arm，此舉可以降低我們在任何可能影響我們的商業決策方面的風險?！斑@筆交易在今年2月破裂，但它將把Kneron先前CPU核心架構的供應商置于競爭對手手中。
未來的RISC-V處理器將能夠使用社區同意的一套開源指令來處理與機器學習相關的操作。負責核心指令集架構和新擴展的機構RISC-V國際（RISC-V International）于2021年12月批準了一組100多條向量指令。
該組織的首席技術官馬克?希梅爾斯坦（Mark Himelstein）表示，”有了新的矢量指令，人們在人工智能領域做自己的事情就不必從頭開始了。他們可以使用其他公司正在使用的指令。他們可以使用其他公司正在使用的工具。然后他們可以在實施、能耗、性能或其他任何方面進行創新。“
Himelstein說，即使有了向量擴展，促進機器學習仍然是RISC-V社區的首要任務。大多數與機器學習相關的RISC-V擴展的開發都發生在該組織的圖形特別興趣小組，該小組與機器學習小組合并，”因為他們想要相同的東西，“他說。但是其他的小組，比如那些對高性能和數據中心計算感興趣的小組，也在關注與機器學習相關的擴展。Himelstein的工作是確保各方的努力在力所能及的范圍內趨同。
盡管 RISC-V 取得了成功，但Arm 在許多添加了許多新 AI 功能的市場中仍是市場領導者，而且從現在起五年后仍可能如此，RISC-V 占據CPU核心設計市場份額的 15%左右。Semico Research 首席分析師Rich Wawrzyniak表示，這不是 50%，但也不是 5%。如果你想想 RISC-V 已經存在了多久，那是相當快速的增長。
