當芯片規(guī)格發(fā)展到7nm時，人們對摩爾定律的質(zhì)疑聲越來越大，也開始恐慌未來芯片設計該如何發(fā)展？不僅是芯片體積的問題，隨著計算量的增加，數(shù)據(jù)處理單元的數(shù)量也在不斷上生，僅靠單一芯片將很難滿足未來市場的需求，因此，必須轉(zhuǎn)換思路尋找新的解決辦法。有很多廠商選擇在板卡上集成多顆芯片協(xié)同工作，但這樣做就要面臨如何連通各種芯片，并且降低功耗的問題。后來人工智能的發(fā)展為一些芯片廠商帶來了新思路，他們開始設計神經(jīng)網(wǎng)絡處理器，期望利用智能計算用一顆芯片完成大多數(shù)的工作量。但這其實是繞道而行，并不能真正解決。只有正面芯片間互聯(lián)互通的問題，才是真正的SoC設計。而NetSpeed利用人工智能完成了這一步跨越。

這群來自硅谷的工程師們經(jīng)過7年的準備工作，推出業(yè)內(nèi)首款以人工智能為基礎的SoC芯片內(nèi)部互連解決方案Orion AI。該方案支持多播與廣播等先進特性，能極大提升人工智能SoC與加速器ASIC的性能與效率，可廣泛應用于數(shù)據(jù)中心、自動駕駛、AR/VR，以及先進視頻分析。Orion AI由NetSpeed經(jīng)過硅驗證的Orion IP構(gòu)建而成，這些Orion IP已經(jīng)授權(quán)給地平線機器人、寒武紀、百度以及Esperanto等領先的人工智能公司。NetSpeed Systems大中華區(qū)銷售總監(jiān)黃啓弘詳細解析了這款具有劃時代意義的產(chǎn)品。

NetSpeed Systems大中華區(qū)銷售總監(jiān)黃啓弘

從人工智能思潮“大爆發(fā)”時起，電子圈內(nèi)廠商就進入了一場思維較量的晉級賽。誰更能理解人工智能的含義？誰能率先掌握人工智能的核心架構(gòu)和發(fā)展趨勢？誰又能將人工智能為己用？誰就能搶占先機。而目前人工智能的主要挑戰(zhàn)有三點：人工智能工作負載具備獨特性，在訓練側(cè)與推理側(cè)都需要大型矩陣乘法；人工智能架構(gòu)具備獨特性，內(nèi)核數(shù)量多，大量并行結(jié)構(gòu)，點對點通信；極高帶寬要求，未來要求會更高。

“這些新SoC內(nèi)部體現(xiàn)出的是一種新的數(shù)據(jù)流，”NetSpeed首席執(zhí)行官Sundari Mitra說道，“一般來說，想實現(xiàn)快速有效的點對點數(shù)據(jù)交換，就需要大量的計算單元。傳統(tǒng)架構(gòu)運行方式不同，采用中央存儲作為數(shù)據(jù)交換系統(tǒng)。而人工智能系統(tǒng)需要任意位置數(shù)據(jù)交換，這可以通過廣泛的接口而實現(xiàn)，并需要支持長突發(fā)傳輸。Orion AI的一個關(guān)鍵優(yōu)勢就是能夠支持多重多播請求，并支持非阻塞傳輸。”

Orion AI在SoC設計中具有非常明顯的技術(shù)優(yōu)勢：

s解耦架構(gòu)：分層堆疊，每層均可擴展或收縮；

s可編程多播：最早也是目前唯一支持基于廣播推送的可配置多播網(wǎng)絡IP；

s非凡的服務質(zhì)量（QoS）：以具備端到端QoS規(guī)劃的非阻塞路徑來控制帶寬與延遲；

s極致性能：萬億字節(jié)每秒（TB/s）吞吐量-數(shù)據(jù)帶寬高達1024位總線，2GHz+,1000個內(nèi)核；

s終極效率：采用先進低功耗管理技術(shù)以提升能效；

s內(nèi)置人工智能：利用先進人工智能算法，在解決方案空間搜尋最有效率解決方案。

Orion AI架構(gòu)概覽

OrionAI由NetSpeed的圖靈機器學習引擎提供支持，該引擎使用監(jiān)督學習來探索和優(yōu)化SoC設計與架構(gòu)。Linley Group首席分析師Linley Gwennap表示，這是一種以人工智能為核心的設計方法，“就像有一位隨時在線的建筑大師給出設計建議。處理器架構(gòu)師可以采納圖靈的建議，然后花時間去解決SoC設計中的其他難題。”NetSpeed提供的智能設計環(huán)境從架構(gòu)要求的規(guī)格書開始，助力設計師在數(shù)不勝數(shù)的設計方案中化繁為簡，開放設計空間探索以尋求最佳解決方案，并提供持續(xù)的設計反饋。