最新MLPerf基準(zhǔn)測(cè)試展示了英特爾至強(qiáng)處理器在AI推理和通用AI工作負(fù)載上的優(yōu)勢(shì)。

最新發(fā)布：近日，MLCommons發(fā)布了其行業(yè)標(biāo)準(zhǔn)AI性能基準(zhǔn)套件MLPerf推理v4.1的結(jié)果。英特爾提交了第五代英特爾^? 至強(qiáng)^? 可擴(kuò)展處理器的六項(xiàng)MLPerf基準(zhǔn)測(cè)試結(jié)果，并首次提交了英特爾^? 至強(qiáng)^? 6處理器性能核（P核）的結(jié)果。與第五代至強(qiáng)處理器相比，英特爾至強(qiáng)6性能核處理器實(shí)現(xiàn)了AI性能的幾何平均值約1.9倍的提升。

“最新MLPerf結(jié)果表明，持續(xù)的投入和資源配置對(duì)于提高AI性能至關(guān)重要?？v觀MLPerf的測(cè)試結(jié)果，過(guò)去四年，英特爾至強(qiáng)處理器的AI性能提升了高達(dá)17倍之多。步入今年下半年，隨著至強(qiáng)6處理器具備廣泛可應(yīng)用性時(shí)，我們期待能與客戶、合作伙伴一道持續(xù)加速其出貨和市場(chǎng)應(yīng)用?！?/p>

-   Pallavi Mahajan，英特爾公司副總裁兼數(shù)據(jù)中心與人工智能軟件總經(jīng)理

重要意義：AI系統(tǒng)在跨多種場(chǎng)景的解決方案的順利部署，都離不開(kāi)CPU這一關(guān)鍵的硬件。英特爾至強(qiáng)處理器為AI推理提供了出色的解決方案，包括經(jīng)典的機(jī)器學(xué)習(xí)和向量搜索嵌入。

在MLPerf推理v4.1中，英特爾提交了第五代英特爾至強(qiáng)處理器和至強(qiáng)6能效核處理器在ResNet50、RetinaNet、3DUNet、BERT、DLRM v2和GPT-J上的結(jié)果。與第五代英特爾至強(qiáng)相比，至強(qiáng)6在這六個(gè)基準(zhǔn)測(cè)試中展現(xiàn)出平均約1.9倍的AI推理性能提升。英特爾仍是唯一向MLPerf提交CPU結(jié)果的服務(wù)器處理器供應(yīng)商。

自四年前首次提交MLPerf結(jié)果以來(lái)，英特爾CPU的AI性能表現(xiàn)具備顯著提升。與2021年發(fā)布的第三代英特爾? 至強(qiáng)? 可擴(kuò)展處理器相比，至強(qiáng)6在自然語(yǔ)言處理（BERT)上的性能提升高達(dá)17倍，在計(jì)算機(jī)視覺(jué)（ResNet50）工作負(fù)載上的性能提升高達(dá)15倍。英特爾將持續(xù)推進(jìn)AI在CPU路線圖中的進(jìn)展。例如，通過(guò)新的數(shù)據(jù)類型和效率提升，繼續(xù)推進(jìn)英特爾? 高級(jí)矩陣擴(kuò)展 (AMX) 創(chuàng)新。

支持AI客戶：最新的MLCommons基準(zhǔn)測(cè)試突顯了至強(qiáng)處理器正在為OEM廠商提供強(qiáng)大的CPU AI服務(wù)器解決方案。隨著AI計(jì)算需求的增長(zhǎng)，且諸多客戶同時(shí)運(yùn)行AI和企業(yè)工作負(fù)載，OEM廠商正在優(yōu)先考慮通過(guò)提交MLPerf的方式，彰顯其向客戶提供的、搭載至強(qiáng)處理器的系統(tǒng)具備高性能且針對(duì)AI工作負(fù)載而優(yōu)化。

英特爾在本輪MLPerf中支持了思科、戴爾科技、慧與、廣達(dá)和超微五個(gè)OEM合作伙伴分別提交的測(cè)試結(jié)果。每個(gè)客戶都提交了使用第五代至強(qiáng)可擴(kuò)展處理器的MLPerf結(jié)果，展示了其系統(tǒng)對(duì)各種AI工作負(fù)載和部署的支持。

后續(xù)進(jìn)展：英特爾將在9月的發(fā)布會(huì)上帶來(lái)更多英特爾至強(qiáng)6性能核處理器的信息。