7月18日，第五屆RISC-V中國峰會在上海進入分論壇環(huán)節(jié)。作為未來電子產(chǎn)業(yè)最龐大的應(yīng)用范疇之一，人工智能是不可回避的話題。人工智能的飛速發(fā)展，正以年均超過100%的算力需求增長驅(qū)動底層架構(gòu)的革新，“開放、靈活、可定制”的RISC-V已成為構(gòu)建自主AI算力基石的戰(zhàn)略支點。人工智能分論壇邀請各方企業(yè)探討RISC-V架構(gòu)如何利用其開源、開放、可擴展的特性，實現(xiàn)AI計算架構(gòu)的革新，以及RISC-V架構(gòu)在AI軟硬件的最新進展和應(yīng)用落地情況。 

中國電信研究院技術(shù)專家楊玉模在介紹基于RISC-V架構(gòu)的高性能AI大模型工作站的同時，還分享了在運營商視角如何思考RISC-V 在AI領(lǐng)域的應(yīng)用。 楊玉模從三個方面介紹中國電信研究院在RISC-V AI領(lǐng)域的一些工作進展。

    針對云計算領(lǐng)域發(fā)展趨勢與RISC-V現(xiàn)狀，他先是分析了數(shù)據(jù)中心計算架構(gòu)的發(fā)展趨勢。IaaS云計算依然是數(shù)據(jù)中心的主要形態(tài)，主要體現(xiàn)在兩個方面：（1）在大型企業(yè)和政府機構(gòu)中，IaaS的服務(wù)依然是提供主要的基礎(chǔ)支撐。（2）在未來很長一段時間里，容器和虛擬機仍然是主要的計算形態(tài)。 AI驅(qū)動智算爆發(fā)式增加，主要數(shù)據(jù)中心從“通算”向以AI為中心的智算轉(zhuǎn)變，AI算力每3-4個月翻1倍，單次訓(xùn)練成本可能會高達千萬美元。因此新型的計算架構(gòu)芯片、超節(jié)點和集群會成為提升算力規(guī)模的一個關(guān)鍵突破點。領(lǐng)域?qū)Ｓ眉軜?gòu)DSA成為新趨勢，DSA是針對特定領(lǐng)域進行的計算架構(gòu)優(yōu)化，相比傳統(tǒng)通用計算在性能和功耗都會有顯著的優(yōu)勢，并且雖然AI領(lǐng)域?qū)λ懔π枨蟮目焖僭鲩L，DSA成為數(shù)據(jù)中心發(fā)展的一個新趨勢。

RISC-V在數(shù)據(jù)中心中嶄露頭角。左邊的圖是RISC-V硬件產(chǎn)品矩陣，它從互聯(lián)網(wǎng)、然后到邊緣計算、到數(shù)據(jù)中心，它都有RISC-V硬件廠商的參與，但是在數(shù)據(jù)中心的標(biāo)桿應(yīng)用的性能上仍然有差距。右邊的圖主要是RISC-V的軟件生態(tài)，這個軟件生態(tài)主要是、大家可以看到適配的很多操作系統(tǒng)，還有操作系統(tǒng)上面的一些基礎(chǔ)軟件，這個也是比較全面。但是應(yīng)用軟件由于依賴庫的多樣性、以及版本的多樣，所以它的適配遷移能力還依然比較困難。

      去年中國電信研究院在RISC-V中國峰會發(fā)布了“北海云計算開放實驗平臺”，主要針對RISC-V云計算軟硬件生態(tài)不成率、缺乏規(guī)?；膽?yīng)用驗證，以中國電信的豐富應(yīng)用場景為牽引，來推動RISC-V架構(gòu)在云計算行業(yè)的成熟與規(guī)模應(yīng)用。

    左邊的這個圖就是北海RISC-V云計算實驗架構(gòu)，包含“技術(shù)設(shè)施實驗平臺”、以及“云化實驗”和“云計算應(yīng)用的實例驗證”。中間的圖是依托中國電信RISC-V大科學(xué)裝置，已經(jīng)構(gòu)建了運營商首個超千核RISC-V云計算集群，右邊是在去年的RISC-V中國峰會發(fā)布的成果。

    今年中國電信繼續(xù)擴展研究推出北海2.0智算云試驗平臺，主要在之前的基礎(chǔ)上增加了“云原生虛擬化、AI大模型、AI智能體”等的管理。我們推出了RISC-V高性能AI大模型工作站，為虛擬化和AI智能體應(yīng)用提供基礎(chǔ)設(shè)施和適配驗證的一些方案。

    上圖是大模型工作站基礎(chǔ)設(shè)施結(jié)構(gòu)圖。左邊是大模型工作站的開發(fā)環(huán)境，中間是大模型工作站等桌面機，硬件上基于國產(chǎn)RISC-V的CPU和AI卡，我們采用超睿8核高性能RISC-V CPU芯片，單核在SPEint2006性能達到10.4/GHz。PCIe擴展可以從X16擴展到2個x8或者4個x8，可以支持1-4張AI推理卡的穩(wěn)定運行。我們搭載的希姆單卡16GB顯存，可以完成標(biāo)量、向量和矩陣云，支持FP16和INT8運算。軟件方面適配RISC-V云計算和AI軟件生態(tài)，我們基于GCC和LLVM的私有編譯器，優(yōu)化AI大模型的性能，并且豐富RISC-V的軟件生態(tài)，主要是包括適配Ubntu、OpenEule、K8s等，并且適配1.5B-32B的DeepSeek和千問大模型。

   在這個過程中，中國電信有兩個突破：1.填補了RISC-V云原生虛擬化適配驗證平臺。推動RISC-V虛擬化的商業(yè)規(guī)模應(yīng)用，基于高性能RISC-V硬件虛擬化的平臺、往上面適配了OpenEuler。再往上是KubeVirt的適配，首先是編譯、包括編譯環(huán)境和具體的編譯步驟。編譯環(huán)境有原生編譯和交叉編譯，我們采用的是交叉編譯技術(shù)。編譯步驟這個中間，比如涉及到一些修改解碼、構(gòu)建KubeVit組件的鏡像等等。KubeVit部署完了以后、并且運行成功以后，我們就要進行驗證、虛擬機的啟動。虛擬機啟動首先就要創(chuàng)建虛擬機，創(chuàng)建虛擬機包括創(chuàng)建服務(wù)器版及桌面版的虛擬機。然后，我們要去創(chuàng)建KubeVit虛擬機對象VMI，然求啟動虛擬機、再登陸虛擬機。這個過程中也會遇見錯誤，因為可能跟虛機啟動時候的業(yè)務(wù)邏輯相關(guān)，那么同樣我們也要返回回去重新編譯、直至部署、虛擬機啟動驗證成功。 2.填補了RISC-V AI智能體管理平臺的空白。因為我們是針對AI智能體在執(zhí)行LLM動態(tài)產(chǎn)生代碼時的隔離性、環(huán)境一致性等，構(gòu)建安全隔離沙盒環(huán)境，覆蓋智能體從開發(fā)到部署的全流程，推動智能體驗證適配。

    最后，楊玉模分享了在運營商視角如何思考RISC-V AI應(yīng)用前景。他認為，首先是要找好定位。做AI基礎(chǔ)設(shè)施平臺和集成商。因為底下硬件及最上面的應(yīng)用不是運營商的專長，中國電信以IaaS為基礎(chǔ)做AI算力平臺、以PaaS為基礎(chǔ)做AI應(yīng)用平臺。其次是大模型如何為客戶創(chuàng)造價值。他認為是立足現(xiàn)有業(yè)務(wù)、拓展新型業(yè)務(wù)，比如：將大模型重新定義傳統(tǒng)業(yè)務(wù)或者是AI去重新定義傳統(tǒng)業(yè)務(wù)，比如說圖象處理、通過AI的技術(shù)可以提高處理的性能和速度。還有就是大模型談塞新型業(yè)務(wù)場景，例如：交互式的問答這種類型。最后，思考如何將理論研究轉(zhuǎn)化為商業(yè)應(yīng)用。要與上下游廠商攜手推進商業(yè)的落地，首先要健全RISC-V AI領(lǐng)域的開源生態(tài)，然后要開源向產(chǎn)品化進行轉(zhuǎn)變。