圖源：ipopba/Stock.adobe.com

當你入了機器學習(ML)領域的門之后，很快就會發(fā)現(xiàn)，云端的數(shù)據存儲和處理成本竟然如此之高。為此，許多企業(yè)都上了內部部署基礎設施的車，試圖通過這些設施來承載其ML工作負載，從而限制上述成本?？杉幢闳绱?，這些內部的數(shù)據中心還是會帶來諸如功耗增加等代價，尤其是在規(guī)模較大的情況下。而功耗增加，就意味著電費支出更高，還會給設備散熱制造麻煩，對可持續(xù)發(fā)展也會構成不利影響。

在云服務和內部部署場景中，這些開銷與輸入到中心樞紐的數(shù)據量直接相關。而解決的辦法，就是在數(shù)據到達樞紐之前，盡可能過濾掉其中多余的部分，這就需要借助邊緣計算系統(tǒng)，在盡可能接近數(shù)據采集來源的地方分析輸入數(shù)據。

當然，這些邊緣計算系統(tǒng)能夠實現(xiàn)這種改變的前提，在于它們自身必須具備高能效，而新一代的RISC-V處理器恰在此時悄然面世。這些處理器能夠實現(xiàn)三倍于其他指令集架構(ISA)設備的單位性能能效。

邊緣ML中的RISC-V：指令更少，功耗更低

ML與邊緣計算的融合，使智能設備獲得了自主決策和實時適應的能力。對這類數(shù)據處理層次的需求與RISC-V處理器技術的進步不謀而合，后者已經應用到了以下聯(lián)網邊緣應用中：

●   可穿戴設備：配備RISC-V處理器的健身追蹤器可在設備上執(zhí)行活動識別和健康監(jiān)測，實時向用戶提供個性化的建議和反饋。

●   智能樓宇：RISC-V處理器已經運用到樓宇自動化設備中，這些設備可以實時執(zhí)行物體檢測、異常識別、智能自動化和安全防護。

●   機器人：配備RISC-V處理器的工業(yè)機器人可以實時處理圖像和檢測物體，從而適應不斷變化的環(huán)境，并自主執(zhí)行復雜任務。

RISC-V將在轉變各種應用場景的過程中持續(xù)發(fā)揮關鍵作用，這部分源于它具有開放、標準化的ISA以及高計算效率，可簡化復雜AI算法在邊緣設備上的實現(xiàn)。這種效率源自RISC-V架構最基本的構件：指令集。

RISC-V以簡化的ISA為基礎，具有一套基本的整數(shù)指令（RV32I或RV64I），同時處理器架構師可以添加可選擴展，以適應各種使用場景。其中，有兩個關鍵性的擴展顯著提高了RISC-V處理器的ML運算能力：

●   向量擴展 (V)：該擴展提供了向量運算支持，這對高效矩陣乘法和許多ML算法中的基本運算而言是至關重要的。向量擴展可以讓處理器在多個數(shù)據元素上同時執(zhí)行多種運算，從而顯著提高性能。

●   壓縮擴展 (C)：該擴展引入了壓縮指令，編碼所需的位數(shù)更少，因此代碼量更小、內存占用更低。這對內存資源有限的邊緣設備尤為重要。

結合這些擴展，RISC-V處理器可在執(zhí)行ML工作負載時實現(xiàn)高性能和高效率。RISC-V處理器IP公司SiFive正是借助向量擴展和其他微體系結構創(chuàng)新，實現(xiàn)了比競品高30%至40%的能效。^[1]

實際上，有研究表明，RISC-V設備在CPI方面往往優(yōu)于大多數(shù)現(xiàn)有指令集架構，這里的CPI是指執(zhí)行一條指令所需的平均時鐘周期數(shù)。^[2]這些測試表明，RISC-V設備有能力在保持熱效率的同時，在更長的時間內執(zhí)行復雜的ML任務。

RISC-V生態(tài)系統(tǒng)和邊緣ML工具

RISC-V的模塊化ISA尤其適合開發(fā)緊湊型高能效處理器。它的指令集更加直接，有助于優(yōu)化設計、縮短芯片設計和驗證時間、降低成本，當然還能降低功耗。

要在終端系統(tǒng)中實現(xiàn)所有這些優(yōu)勢，最終還是要靠開發(fā)人員。RISC-V技術為何能在邊緣計算環(huán)境中得到快速應用？基于開放標準的處理器硬件，以及圍繞它而產生并且共同成長的軟件和工具生態(tài)系統(tǒng)，可謂功不可沒。

LLVM和GCC等流行的編譯器現(xiàn)在都支持RISC-V，可確保生成的代碼針對目標處理器進行優(yōu)化，包括對ISA擴展的利用。與此同時，TensorFlow和PyTorch等流行的ML框架也正在向RISC-V移植，一眾嵌入式軟件企業(yè)也貢獻出了自己的ML庫、框架和中間件。

例如，Antmicro和Google Research合作為基于RISC-V的邊緣ML應用開發(fā)了快速原型設計和投產前 (pre-silicon) 開發(fā)解決方案，該解決方案由Renode仿真框架和Kenning裸機運行時組成（圖1）。這種聯(lián)合解決方案可以讓ML模型運行在模擬的RISC-V硬件上，幫助開發(fā)人員加快工程開發(fā)周期。最終，在投入昂貴的芯片制造工序之前，就可以對整個技術棧進行評估和優(yōu)化。

圖1 Antmicro與Google Research合作推出的RISC-V仿真框架。它為加速ML開發(fā)提供了硬件/軟件協(xié)同設計流程 （圖源：作者）

當然，RISC-V和ML開發(fā)工具都還有有改進空間。在這些生態(tài)系統(tǒng)共同發(fā)展的過程中，仍有一些挑戰(zhàn)需要克服，包括以下方面：

●   成熟度：與更加成熟的架構相比，RISC-V生態(tài)系統(tǒng)相對較新，因而經驗豐富的開發(fā)人員并不多，可供使用的工具和庫也不夠全面。

●   標準化：盡管有RISC-V International組織為供應商之間的合作和創(chuàng)新奠定基礎，但在開放的生態(tài)系統(tǒng)中，產品的實現(xiàn)方式一定是多種多樣的，這可能會帶來架構碎片化和兼容性問題。持續(xù)的標準化工作對于維持平穩(wěn)統(tǒng)一的開發(fā)流程至關重要。

●   硬件可及性：針對ML任務優(yōu)化的商用RISC-V處理器市場仍然很有限。不過，隨著需求的增加，硬件格局也將隨之發(fā)展和擴大。

要應對這些挑戰(zhàn)，就需要業(yè)界領導者、研究機構和開源社區(qū)開展合作與投資。我們沒有任何理由認為業(yè)界或開源和開放標準社區(qū)會停止向RISC-V生態(tài)系統(tǒng)加以投入，也就沒有理由認為RISC-V技術會停止在高能效邊緣應用領域的發(fā)展。

RISC-V塑造邊緣ML的未來

從實現(xiàn)的角度而言，精簡指令集計算機 (RISC) 和復雜指令集計算機 (CISC) 之間的爭論在很大程度上已經過時。現(xiàn)在，CPU的效率和性能主要取決于它的微架構，而架構又是通過其ISA和用于制造物理芯片的制程節(jié)點來實現(xiàn)的。

隨著RISC-V和邊緣ML市場的發(fā)展，我們將持續(xù)見證硬件創(chuàng)新和更加專業(yè)化的RISC-V處理器。這些處理器可能會包含專用的加速器、優(yōu)化的內存架構和其他各種功能，以提高執(zhí)行ML工作負載的整體性能和效率。

這些新增功能將繼續(xù)拓寬采用RISC-V的邊緣設備的應用領域，為其在從智能家居和醫(yī)療保健設備到工業(yè)自動化系統(tǒng)和自動駕駛汽車等各個領域的部署鋪平道路。憑借如此廣泛的應用范圍，基于RISC-V的處理器技術將持續(xù)作為智能、互聯(lián)邊緣ML系統(tǒng)的基本構件——這一趨勢已在多個領域的實際應用中占據主導地位。

隨著RISC-V生態(tài)系統(tǒng)不斷成熟、開發(fā)人員對該架構日益熟悉，更多的創(chuàng)新應用將不斷涌現(xiàn)，實現(xiàn)更加出色的ML應用。未來將是智能、互聯(lián)和高效創(chuàng)新的時代。

參考資料

[1] SiFive website, n.d., accessed February 16, 2024, https://www.sifive.com/.

[2] Wajid Ali. "Exploring Instruction Set Architectural Variations: x86, ARM, and RISC-V in Compute-Intensive Applications," Engineering: Open Access 1, no. 3, (2023):157–162.

作者簡介

Brandon是一位有超過十年經驗的深度技術記者、講述者和技術作家，從軟件初創(chuàng)公司到半導體巨頭都是他曾經報道過的對象。他關注的領域包括嵌入式處理器、硬件、軟件和工具，因為它們都與電子系統(tǒng)集成、物聯(lián)網/工業(yè)4.0部署和邊緣人工智能等用例有關。他還是一名出色的播客、視頻博主、活動主持人和會議發(fā)言人，并曾在多家電子工程貿易出版物中擔任主編和技術編輯。Brandon在不出席B2B技術受眾的大型活動時，會通過電視指導菲尼克斯地區(qū)的體育特許經營公司。