揭秘瑞芯微算力協(xié)處理器,RK3576/RK3588強(qiáng)大算力搭檔
瑞芯微算力協(xié)處理器-Gongga1(簡(jiǎn)稱“貢嘎”),是瑞芯微針對(duì)旗艦芯片平臺(tái)RK3576/RK3588等SoC平臺(tái)配套的算力處理器。憑借其先進(jìn)的封裝技術(shù)、高性能低功耗、超低延遲響應(yīng)和多模態(tài)能力,為端側(cè)部署大模型提供了強(qiáng)有力的支持。
下面,就由觸覺智能從多個(gè)角度,為您解析瑞芯微算力協(xié)處理器性能特性。
Gongga1協(xié)處理器特性
先進(jìn)封裝技術(shù),打破端側(cè)部署大模型的帶寬限制??刹渴鸶哌_(dá)3B/7B參數(shù)量的端側(cè)模型(最高16K上下文)。
- 高性能低功耗,端側(cè)模型可達(dá)100tokens/s以上
- 超低端到端完整響應(yīng)延時(shí)
- 多模態(tài)能力
- 主控互聯(lián)
- 軟件友好,現(xiàn)有應(yīng)用易于移植
Gongga1協(xié)處理器規(guī)格
觸覺智能作為瑞芯微長期合作伙伴,得到算力協(xié)處理器規(guī)格信息如下:
- 高帶寬嵌入式片內(nèi)DRAM(2.5GB版/5GB版)
- RISC-V CPU,支持128-bit矢量運(yùn)算功能。
- 多核NPU,提供INT8及W4A16等多種數(shù)據(jù)類型的運(yùn)算支持。
- 4K JPEG圖像編解碼。
- PCle2.0、USB3.0、I2S音頻輸入輸出接口等。
Gongga1協(xié)處理器應(yīng)用場(chǎng)景
根據(jù)Gongga1協(xié)處理器規(guī)格規(guī)格,可應(yīng)用于語音、翻譯、交互、視覺等應(yīng)用場(chǎng)景:
觸覺智能核心板+瑞芯微Gongga1
觸覺智能基于RK3576、RK3588,提供可擴(kuò)展1到多個(gè)Gongga1芯片,可提供從6T到50T的靈活算力配置方案。可廣泛用于語音交互、車載多模態(tài)感知、機(jī)器人、安防視覺等領(lǐng)域。
*博客內(nèi)容為網(wǎng)友個(gè)人發(fā)布,僅代表博主個(gè)人觀點(diǎn),如有侵權(quán)請(qǐng)聯(lián)系工作人員刪除。