Kria K26 SOM 旨在讓數(shù)百萬開發(fā)者在他們最擅長的環(huán)境下，用開箱即用的低成本開發(fā)套件入門，以更快的速度部署他們的智能視覺應用。

概要

隨著人工智能 (AI) 和機器學習 (ML) 算法取得一系列新的進展，眾多高計算強度的應用現(xiàn)在正在被部署到邊緣設備上。因此我們需要一種高效率的硬件，既能高效率地執(zhí)行復雜算法，又能適應這種技術的快速演進。賽靈思 Kria? K26 SOM 的設計初衷，是用于滿足在邊緣設備上高效率執(zhí)行 ML 應用的需求。本白皮書對各種 ML 模型和實時應用的性能開展研究并與英偉達 Jetson Nano 和英偉達 Jetson TX2 進行對比。賽靈思的研究結果表明，K26 SOM 提供了比英偉達 Jetson Nano高出大約 3 倍的性能。此外，它的單位功耗性能比英偉達 Jetson TX2 提升 2 倍。對于 SSD MobileNet-v1 這樣的網(wǎng)絡，K26 SOM 的低時延高性能深度學習處理單元 (DPU)提供了比 Nano 高出 4 倍，甚至更高的性能，這使得 Kria SOM 成為ML 邊緣應用開發(fā)的理想選擇。

計算視覺的發(fā)展

在過去十年，人工智能和機器學習算法有了長足發(fā)展。這些發(fā)展主要體現(xiàn)在視覺相關的應用上。2012 年，AlexNet（Krizhevsky 等[參考資料 1]）從 ImageNet 大規(guī)模視覺識別挑戰(zhàn)賽勝出 (ILSVRC)，成為首個使用反向傳播算法完成訓練的深度神經(jīng)網(wǎng)絡。與傳統(tǒng)的淺網(wǎng)絡相比，性能發(fā)生了前所未有的近 10% 的飛躍， 預測精度躋身前 5 位。這個重大發(fā)展是一個轉折點。從那時起，深度神經(jīng)網(wǎng)絡在性能和精度兩個方面不斷迎來巨大進展。2015 年 ResNet（Kaiming 等[參考資料 2]）超越了單個人類的分類能力。參見圖1。就各種目的和用途而言，今天的神經(jīng)網(wǎng)絡的錯誤率已經(jīng)可以與貝葉斯錯誤率相媲美，可以視為已經(jīng)解決了計算機視覺應用中的圖像分類問題。

圖1 前5位預測精度

鑒于如此令人振奮的結果，半導體制造商爭相開發(fā)器件，支持深度學習部署的高度復雜的計算需求。在未來十年，推斷功能的商業(yè)化，特別是用深度學習實現(xiàn)的計算機視覺的商業(yè)化，將繼續(xù)高速增長。計算機視覺市場規(guī)模預計將以 30% 的年均復合增長率  (CAGR) 增長，到 2025 年將達到 262 億美元 [參考資料 3]。用深度學習實現(xiàn)的計算機視覺可以廣泛地應用到各類行業(yè)市場，包括零售分析、智慧城市、執(zhí)法、邊境安全、機器人、醫(yī)療成像、作物收獲優(yōu)化、符號語言識別等。在不遠的未來，AI 將成為日常生活的內在組成部分。而且有部分人認為如今這樣的未來近在咫尺。

隨著新穎的網(wǎng)絡、層和量化技術被開發(fā)出來，采用固定存儲器架構的硬化Tensor 加速器，不再能夠滿足未來的需求。這種狀況已經(jīng)在 MobileNets（Howard 等）的發(fā)展中表露無遺[參考資料 4]。在 MobileNet 骨干網(wǎng)絡中使用深度卷積能大幅降低計算-存儲器比。這對于通用 CPU 這樣的器件來說非常理想。CPU 一般受計算約束，但在若因架構受存儲器所限而導致效率有限，在某種程度上等于浪費了寶貴的計算周期，

就像數(shù)據(jù)中心中的空閑服務器消耗能量一樣。這種計算-存儲器比影響著部署網(wǎng)絡[參考資料 5]時具體 Tensor 加速器架構的總效率。不幸的是，ASIC 和 ASSP Tensor 加速器架構一般在器件流片前至少一年就已凍結。但在使用賽靈思推斷技術時則不會發(fā)生這種情況。賽靈思技術能隨時間推移進行調整和優(yōu)化，以支持神經(jīng)網(wǎng)絡架構的快速演進發(fā)展，從而確保低功耗、高效率。

本白皮書介紹了賽靈思產(chǎn)品組合中的最新成員 Kria? K26 SOM，及其在嵌入式視覺應用中的的主要優(yōu)勢。