對于人工智能 (AI) 而言,任何單一硬件或計算組件都無法成為適合各類工作負載的萬能解決方案。AI 貫穿從云端到邊緣側的整個現代計算領域,為了滿足不同的 AI 用例和需求,一個可以靈活使用 CPU、GPU 和 NPU 等不同計算引擎的異構計算平臺必不可少。依托于 Arm CPU 的性能、能效、普及性、易于編程性和靈活性,從小型的嵌入式設備到大型的數據中心,Arm CPU 已經為各種平臺上的 AI 加速奠定了基礎。就靈活性而言,這對生態(tài)系統大有裨益的三個主要原因是,首先, Arm CPU 可以處理
作者:Arm 高級首席工程師 Ed Miller人工智能 (AI) 應用正以前所未見的速度持續(xù)增長。有觀察家認為 AI 可以解決部分當前人類所面臨的嚴峻挑戰(zhàn)。然而,現在卻很少有開發(fā)者知道如何將 AI 應用在可持續(xù)發(fā)展上。為了彌合技術差距并支持可持續(xù)發(fā)展目標,Arm 與 FruitPunch AI 共同贊助了“AI for Bears 挑戰(zhàn)”。FruitPunch AI 教導大家如何應用 AI 來解決聯合國 17 項可持續(xù)發(fā)展目標中的實際挑戰(zhàn)。由來自全球各地的學員與專家組成 15 到 50 名工程師的團隊,
作者:Arm 基礎設施事業(yè)部軟件工程師 Nobel Chowdary Mandepudi生成式人工智能 (AI) 正在科技領域發(fā)揮關鍵作用,許多企業(yè)已經開始將大語言模型 (LLM) 集成到云端和邊緣側的應用中。生成式 AI 的引入也使得許多框架和庫得以發(fā)展。其中,PyTorch 作為熱門的深度學習框架尤為突出,許多企業(yè)均會選擇其作為開發(fā) AI 應用的庫。通過部署 Arm Kleidi 技術 ,Arm 正在努力優(yōu)化 PyTorch,以加速在基于 Arm 架構的處理器上運行 LLM 的性能
人工智能 (AI)、云計算和邊緣計算等技術的發(fā)展正推動著各行各業(yè)的創(chuàng)新升級,這一過程也伴隨著對計算資源需求的急劇增加,引發(fā)能源消耗和環(huán)境影響的新挑戰(zhàn)。如數據中心領域,服務器、存儲設備和網絡設備等在執(zhí)行 AI 訓練和推理任務時需要消耗大量電力。又如智能終端領域,隨著 AI 手機、AI PC 等設備中大模型的部署和應用,這些設備的能耗也隨之上升。以數據中心為例,根據國際能源署 (IEA) 的預測,隨著全球對互聯網服務和 AI 需求的不斷增加,支撐這些服務運行的全球數據中心的耗電量正逐年上升,預計將在未來四年內
Arm Tech Symposia 年度技術大會今日在上海舉行。作為 Arm 一年一度的技術盛會,本屆大會以“讓我們攜手重塑未來”為主題,吸引了近 2,000 位行業(yè)專業(yè)人士、工程師以及開發(fā)者報名參會,會中聚焦生成式人工智能 (AI)、邊緣 AI、大語言模型 (LLM)、芯粒 (Chiplet) 技術、AI 基礎設施、智能駕駛等前沿科技,旨在推動 AI 技術在 Arm 生態(tài)系統中展開進一步的交流與合作。本次活動中,Arm 深入探討了 AI 對計算的需求,并分享了其作為計算平臺公司如何通過全面的計算子系統、