ai on arm 文章進(jìn)入ai on arm技術(shù)社區(qū)

外媒：DeepSeek省了訓(xùn)練費(fèi)，但推理模型應(yīng)用成"燒錢黑洞"

2月24日消息，盡管投資者曾一度產(chǎn)生疑慮，但來(lái)自大型科技企業(yè)、各國(guó)政府以及風(fēng)投機(jī)構(gòu)的巨額資金正以前所未有的速度流入人工智能領(lǐng)域。要理解這一現(xiàn)象背后的原因，關(guān)鍵在于洞察人工智能技術(shù)本身的演進(jìn)趨勢(shì)。當(dāng)前，人工智能技術(shù)正從傳統(tǒng)的大語(yǔ)言模型向推理模型和AI代理轉(zhuǎn)變。傳統(tǒng)的大語(yǔ)言模型，即多數(shù)免費(fèi)人工智能聊天機(jī)器人所使用的模型，其訓(xùn)練過(guò)程需要消耗龐大的電力和計(jì)算時(shí)間。然而，隨著技術(shù)的進(jìn)步，我們正在迅速找到方法，在用戶調(diào)用這些模型時(shí)減少其運(yùn)行所需的資源。與之不同，基于大型語(yǔ)言模型的推理模型，其實(shí)際運(yùn)行過(guò)程消耗的計(jì)算和電
關(guān)鍵字： DeepSeek 人工智能 AI

意法半導(dǎo)體攜手亞馬遜，推出AI數(shù)據(jù)中心光子芯片

2月20日，意法半導(dǎo)體（STMicroelectronics）表示，將推出一款新的計(jì)算機(jī)芯片，瞄準(zhǔn)蓬勃發(fā)展的AI數(shù)據(jù)中心設(shè)備市場(chǎng)，該芯片是與亞馬遜云端運(yùn)算服務(wù)部門（AWS）合作開(kāi)發(fā)。作為“星際之門”（Stargate）計(jì)劃一部分，隨著美國(guó)頂尖軟件公司計(jì)劃投資5,000億美元建設(shè)AI基礎(chǔ)設(shè)施，這不僅增加對(duì)NVIDIA運(yùn)算芯片的需求，對(duì)用于存儲(chǔ)器、電源和通訊應(yīng)用的芯片需求也在成長(zhǎng)。意法半導(dǎo)體以“光子芯片”（photonics chip）瞄準(zhǔn)通訊市場(chǎng)，以提高收發(fā)器的速度，并降低收發(fā)器轉(zhuǎn)換器的功耗，先進(jìn)的AI數(shù)據(jù)
關(guān)鍵字：意法半導(dǎo)體亞馬遜 AI 數(shù)據(jù)中心光子芯片

Arm推出GitHub Copilot新擴(kuò)展程序，助力快速遷移至Arm架構(gòu)服務(wù)器

Arm?控股有限公司（納斯達(dá)克股票代碼：ARM，以下簡(jiǎn)稱“Arm”）宣布其已正式推出專為?GitHub Copilot?設(shè)計(jì)的新擴(kuò)展程序。GitHub Copilot?是全球部署最廣泛的人工智能?(AI)?開(kāi)發(fā)者工具之一，此次推出的擴(kuò)展程序能讓數(shù)百萬(wàn)?Copilot?用戶更容易地訪問(wèn)?Arm??架構(gòu)的技術(shù)，并為開(kāi)發(fā)者提供更友好的體驗(yàn)。此外，此次發(fā)布亦首次為全球開(kāi)發(fā)者免費(fèi)提供了完整的基于?Arm&n
關(guān)鍵字： Arm GitHub Copilot Arm架構(gòu)服務(wù)器服務(wù)器

Arm Ethos-U85 NPU：利用小語(yǔ)言模型在邊緣側(cè)實(shí)現(xiàn)生成式AI

隨著人工智能?(AI)?的演進(jìn)，利用小語(yǔ)言模型?(SLM)?在嵌入式設(shè)備上執(zhí)行?AI?工作負(fù)載成為業(yè)界關(guān)注的焦點(diǎn)。Llama、Gemma?和?Phi3?等小語(yǔ)言模型，憑借其出色的成本效益、高效率以及在算力受限設(shè)備上的易部署性，贏得了廣泛認(rèn)可。Arm?預(yù)計(jì)這類模型的數(shù)量將在?2025?年繼續(xù)增長(zhǎng)。Arm?技術(shù)以其高性能與低功耗的顯著優(yōu)勢(shì)，為小語(yǔ)言模型提供了理想的運(yùn)行環(huán)境，能夠有效
關(guān)鍵字： Arm Ethos-U85 NPU 小語(yǔ)言模型生成式AI

2025 年的疲軟開(kāi)局

WSTS 在 4 年報(bào)道了全球半導(dǎo)體市場(chǎng)th2024 年季度為 1,709 億美元，同比增長(zhǎng) 17%，比 3 增長(zhǎng) 3%RD2024 年季度。2024 年全年市場(chǎng)規(guī)模為 6280 億美元，比 2023 年增長(zhǎng) 19.1%。我們 Semiconductor Intelligence 為今年最準(zhǔn)確的半導(dǎo)體市場(chǎng)預(yù)測(cè)頒發(fā)了一個(gè)虛擬獎(jiǎng)項(xiàng)。這些標(biāo)準(zhǔn)是在去年 10 月和 3 月初發(fā)布 WSTS 1 月數(shù)據(jù)之間發(fā)布的公開(kāi)預(yù)測(cè)。對(duì)于 2024 年，我們打成平手。IDC 在 2023 年 11 月預(yù)測(cè) 2024 年將增長(zhǎng) 2
關(guān)鍵字：半導(dǎo)體預(yù)測(cè) AI 服務(wù)器

DeepSeek發(fā)布NSA 加速推理降低成本

2月19日消息，2月18日，DeepSeek官宣推出NSA（Native Sparse Attention）。DeepSeek稱，NSA是一種與硬件一致且本機(jī)可訓(xùn)練的稀疏注意力機(jī)制，用于超快速的長(zhǎng)上下文訓(xùn)練和推理。通過(guò)針對(duì)現(xiàn)代硬件的優(yōu)化設(shè)計(jì)，NSA加快了推理速度，同時(shí)降低了預(yù)訓(xùn)練成本，而不會(huì)影響性能。在一般基準(zhǔn)測(cè)試、長(zhǎng)上下文任務(wù)和基于指令的推理上，它的表現(xiàn)與完全注意力模型相當(dāng)甚至更好。NSA的核心組件包括：動(dòng)態(tài)分層稀疏策略；粗粒度token壓縮；細(xì)粒度token選擇。
關(guān)鍵字： deepseek NSA AI

無(wú)愧地表最強(qiáng)AI！Grok 3“思維鏈 × DeepSearch”雙刃劍來(lái)襲

快科技2月18日消息，今日午間，馬斯克旗下的人工智能初創(chuàng)公司xAI震撼發(fā)布了其新一代聊天機(jī)器人——Grok 3。在此之前，馬斯克已將Grok 3譽(yù)為“地球上最聰慧的人工智能”。在今日的發(fā)布會(huì)上，馬斯克對(duì)Grok 3的贊美之情依然溢于言表。他強(qiáng)調(diào)，Grok 3在極短的時(shí)間內(nèi)便實(shí)現(xiàn)了對(duì)上一代產(chǎn)品Grok 2的超越，“我們堅(jiān)信，它在能力上較Grok 2有了一個(gè)數(shù)量級(jí)的飛躍”。xAI公司的工程師現(xiàn)場(chǎng)解釋稱，Grok 3的訓(xùn)練量是Grok 2的整整10倍。馬斯克還高度評(píng)價(jià)道：“Grok 3展現(xiàn)出了極強(qiáng)的推理能力，在
關(guān)鍵字：馬斯克 AI 人工智能

馬斯克正式發(fā)布Grok3，現(xiàn)場(chǎng)演示"最強(qiáng)AI"

2月18日消息，馬斯克旗下AI初創(chuàng)企業(yè)xAI正式發(fā)布Grok 3，并同步進(jìn)行現(xiàn)場(chǎng)演示。馬斯克稱Grok 3為 “地球上最聰明的人工智能”，強(qiáng)調(diào)其推理能力將超越包括ChatGPT和DeepSeek在內(nèi)的其他領(lǐng)先AI模型。據(jù)悉，為確保Grok 3以最佳狀態(tài)面世，馬斯克透露，整個(gè)周末他都將與團(tuán)隊(duì)成員并肩作戰(zhàn)，全身心投入到產(chǎn)品的打磨工作中。
關(guān)鍵字：馬斯克 Grok3 AI

英偉達(dá)被曝研發(fā) SOCAMM 內(nèi)存：694 個(gè) I/O 端口突破 AI 計(jì)算瓶頸

2 月 18 日消息，科技媒體 WccFTech 昨日（2 月 17 日）發(fā)布博文，報(bào)道稱英偉達(dá)正積極研發(fā)名為“SOCAMM”的全新內(nèi)存模塊，主要用于 Project DIGITS 等個(gè)人 AI 超級(jí)計(jì)算機(jī)，可在性能方面帶來(lái)巨大飛躍。該模塊不僅體積小巧，而且功耗更低，性能更強(qiáng)，有望成為內(nèi)存市場(chǎng)的新增長(zhǎng)點(diǎn)。目前正與三星電子、SK 海力士和美光等內(nèi)存廠商進(jìn)行 SOCAMM 原型機(jī)的性能測(cè)試，預(yù)計(jì)最快將于今年年底實(shí)現(xiàn)量產(chǎn)。援引博文介紹，SOCAMM 擁有最多 694 個(gè) I/O 端口，遠(yuǎn)超 PC DRAM 和
關(guān)鍵字：英偉達(dá) SOCAMM 內(nèi)存 AI 計(jì)算

美銀：DeepSeek可能加速中國(guó)車企自動(dòng)駕駛技術(shù)研發(fā)

快科技2月17日消息，據(jù)報(bào)道，美銀證券的分析師在一份研究報(bào)告中寫道，DeepSeek可能會(huì)加速中國(guó)汽車生產(chǎn)商自動(dòng)駕駛技術(shù)的開(kāi)發(fā)。他們表示，DeepSeek的開(kāi)發(fā)邏輯與自動(dòng)駕駛有一定相似之處，可能對(duì)未來(lái)自動(dòng)駕駛技術(shù)的開(kāi)發(fā)產(chǎn)生影響。DeepSeek的方法可以增強(qiáng)自動(dòng)駕駛解決方案公司的多模態(tài)能力，幫助這些公司更好地理解道路場(chǎng)景，并在復(fù)雜的道路條件下提供更強(qiáng)大的性能。分析師指出，這在處理復(fù)雜場(chǎng)景時(shí)，所需的額外計(jì)算能力投入也減少了。一些大型汽車生產(chǎn)商已將DeepSeek納入自身的自動(dòng)駕駛模型，規(guī)模較小的公司未來(lái)也可
關(guān)鍵字： DeepSeek AI 大語(yǔ)言模型人工智能自動(dòng)駕駛

谷歌 DeepMind 發(fā)布 WebLI-100B：千億級(jí)數(shù)據(jù)集解鎖 AI 視覺(jué)語(yǔ)言模型的文化多樣性

2 月 14 日消息，科技媒體 marktechpost 昨日（2 月 13 日）發(fā)布博文，報(bào)道稱谷歌 DeepMind 團(tuán)隊(duì)發(fā)布了 WebLI-100B 千億級(jí)數(shù)據(jù)集，并通過(guò)增強(qiáng)文化多樣性和多語(yǔ)言性，以及減少子組之間的性能差異來(lái)提高包容性。目前挑戰(zhàn)注：機(jī)器通過(guò)學(xué)習(xí)大型數(shù)據(jù)集來(lái)連接圖像和文本，數(shù)據(jù)越多，模型識(shí)別模式和提高準(zhǔn)確性的能力就越強(qiáng)。視覺(jué)語(yǔ)言模型 (VLMs) 依賴這些數(shù)據(jù)集執(zhí)行圖像字幕和視覺(jué)問(wèn)答等任務(wù)。視覺(jué)語(yǔ)言模型目前依賴于 Conceptual Captions 和 LAION 等大型數(shù)據(jù)集，包
關(guān)鍵字： AI 智能計(jì)算大語(yǔ)言模型

2000億歐元，歐盟加碼AI競(jìng)賽

中美 AI 遙遙領(lǐng)先？歐盟不認(rèn)同。
關(guān)鍵字： AI

Arm首款自研芯片今夏推出？

《金融時(shí)報(bào)》（Financial Times）報(bào)道，芯片技術(shù)供應(yīng)商Arm正在開(kāi)發(fā)自己的芯片，第一款芯片最早會(huì)在今年夏天亮相，并獲得Meta作為首批客戶之一。Arm 正在開(kāi)發(fā)新產(chǎn)品，該公司將其技術(shù)及更復(fù)雜的核心設(shè)計(jì)授權(quán)客戶，讓他們可打造自己的芯片，而它們正在開(kāi)發(fā)自家芯片，可能會(huì)與許多客戶競(jìng)爭(zhēng)。據(jù)悉，Meta已簽約成為其客戶，該芯片預(yù)期將是大型數(shù)據(jù)中心服務(wù)器CPU，可針對(duì)不同客戶進(jìn)行定制化，而Arm將生產(chǎn)外包，很可能是臺(tái)積電。第一款A(yù)rm自研芯片最早會(huì)在今年夏天亮相。Meta今年人工智能開(kāi)發(fā)的資本支出高達(dá)6
關(guān)鍵字： Arm 自研芯片

美國(guó) AI 營(yíng)銷龍頭 AppLovin 股價(jià)飆升 36.45% 創(chuàng)歷史新高，Q4 業(yè)績(jī)超預(yù)期

2 月 14 日消息，美國(guó) AI 營(yíng)銷龍頭 AppLovin 的股票在當(dāng)?shù)貢r(shí)間周四迎來(lái)飆升，最高上漲 36.45%，收盤時(shí)上漲超過(guò) 24%。該公司公布了超出預(yù)期的第四季度收益，許多分析師上調(diào)了他們的股價(jià)目標(biāo)，AppLovin 股價(jià)也首次突破 500 美元大關(guān)。AppLovin 在其收益電話會(huì)議中表示，公司正剝離其應(yīng)用業(yè)務(wù)，旨在將其 AI 驅(qū)動(dòng)的 AXON 廣告軟件拓展到其他領(lǐng)域，如金融科技、保險(xiǎn)和汽車。AppLovin 在 2024 年第四季度營(yíng)收同比增長(zhǎng) 44% 至 13.7 億美元（IT之家備注：當(dāng)前
關(guān)鍵字： AI 智能計(jì)算市場(chǎng)分析

Arm正在開(kāi)發(fā)自家芯片：Meta被鎖定為首批客戶

2月14日消息，據(jù)報(bào)道，軟銀旗下Arm正加速推進(jìn)從傳統(tǒng)授權(quán)模式向自主芯片設(shè)計(jì)和制造的重大轉(zhuǎn)型，預(yù)計(jì)最早在夏季亮相。據(jù)悉，新芯片將作為大型數(shù)據(jù)中心服務(wù)器的中央處理器（CPU）平臺(tái)，基于可定制化設(shè)計(jì)，能夠滿足包括Meta在內(nèi)的多家客戶的特定需求，而生產(chǎn)則可能外包給臺(tái)積電等專業(yè)制造商。長(zhǎng)期以來(lái)，Arm的商業(yè)模式圍繞著向全球科技巨頭如蘋果、谷歌、英偉達(dá)、亞馬遜、微軟、高通及英特爾等授權(quán)其指令集架構(gòu)與復(fù)雜核心設(shè)計(jì)，賦能這些企業(yè)自主研發(fā)芯片。然而，面對(duì)日益激烈的市場(chǎng)競(jìng)爭(zhēng)環(huán)境，特別是人工智能（AI）領(lǐng)域需求的井噴式增長(zhǎng)
關(guān)鍵字： arm 芯片 Meta