8月27日消息，在近日召開的Hot Chips 2024大會上，IBM宣布推出針對AI時代的下一代企業(yè)計算產品，包括全新Telum II處理器和Spyre AI加速器，預計這兩款芯片都將于2025年上市。

Telum II處理器

早在2021年，IBM就推出了第一代的Telum處理器，當時就采用了全新的核心構架，并針對AI加速進行優(yōu)化。具體來說，該芯片采用三星7nm制程技術制造，核心面積為530mm2，內部有225億個晶體管，8核心16線程的配置，主頻超過5GHz。由于Telum處理器是IBM z16大型機計劃成功的關鍵，所以隨著客戶需求的變化，IBM需要持續(xù)升級該系列芯片，因此推出了性能更強、更適合AI任務的Telum II處理器。

據介紹，Telum II處理器采用了更先進的三星5nm HPP制程技術制造，核心面積為600mm2，擁有430億個晶體管，雖然還是8核心16線程的配置，但是對于核心分支預測進行了優(yōu)化改進，比如將寄存器數控從128提高到了160個，改進了存儲回寫和地址轉換，疊加制程工藝的提升，使得核心面積減少了20%，功耗降低了15%。

同樣，得益于三星5nm制程以及CPU核心優(yōu)化，Telum II處理器的CPU核心主頻也提升到了5.5GHz，整體性能提升了20%。

Telum II處理器還采用了一個新的電壓控制環(huán)路，可以幫助CPU內核可以穩(wěn)定的運行在5.5GHz，并且功耗可以降低18%。

另外，Telum II處理器內部還配備了10個36MB的L2緩存，整體緩存容量達到了360MB，較第一代的Telum處理器增加了40%。此外，每個drawer還擁有360MB的虛擬L3緩存和2.88GB的虛擬L4緩存。

Telum II處理器內部還集成了全新I/O加速單元DPU，并接在L2Cache上，而不是放在PCIe總線后面，提高了50%的I/O密度來優(yōu)化數據處理。IBM表示，該處理器這一進步提高了 IBM Z 的整體效率和可擴展性，使其非常適合處理當今企業(yè)的大規(guī)模 AI 工作負載和數據密集型應用程序。

該DPU擁有四組八個微控制器，并運行IBM自己的定制協(xié)議。還有PCIe Gen5 x16接口。一個完整的系統(tǒng)可以支持多達192個PCIe卡，12個I/O擴展和16個PCIe插槽等。

為了應對AI加速計算需求，Telum II處理器內部還集成了AI加速器，支持CISC指令集，支持Int8、FP16數據類型的計算加速，單芯片算力達24TOPS，可以運行大語言模型，可實現低延遲、高吞吐量的交易內 AI 推理，例如增強金融交易期間的欺詐檢測，并使每個芯片的AI計算能力比上一代提高了四倍。每個drawer集群（8個AI內核）可以將算力提升到192TOPS。

Spyre AI加速器

Spyre AI加速器是基于三星5nm LPE制程技術制造，核心面積為330mm2，擁有260億個晶體管，是一款專門面向企業(yè)級的AI加速器，可以為復雜的AI模型和生成式AI應用提供可擴展的AI加速功能。

具體來說，Spyre AI加速器擁有32個計算核心，與Telum II整合的AI內核擁有類似的構架，支持 int4、int8、fp8 和 fp16 數據類型，整體算力超過300TOPS，適用于低延遲和高吞吐量 AI 應用。每個計算核心還擁有2MB暫存，擁有超過55%的有效TOPS利用率。內存方面，支持LPDDR5。

Spyre AI加速器的核心結構：

8個Spyre AI加速器可以通過 75 瓦 PCIe 適配器連接成為一個集群，整個集群可以支持1TB的內存，帶來高達1.6TB/s的帶寬。

IBM表示，Telum II處理器 和 Spyre AI加速器可以協(xié)同工作，形成一個可擴展的架構，以支持 AI 建模的集成方法，即將多個機器學習或深度學習 AI 模型與編碼器 LLM 相結合。通過利用每個模型架構的優(yōu)勢，與單個模型相比，集成 AI 方案可以提供更準確和穩(wěn)健的結果。

“我們強大的多代路線圖使我們能夠在技術趨勢方面保持領先地位，包括不斷增長的 AI 需求，”IBM Z 和 LinuxONE 產品管理副總裁 Tina Tarquinio 說。“Telum II 處理器和 Spyre 加速器旨在提供高性能、安全且更節(jié)能的企業(yè)計算解決方案。經過多年的開發(fā)，這些創(chuàng)新將引入我們的下一代 IBM Z 平臺，以便客戶可以大規(guī)模利用 LLM 和生成式 AI。”

據介紹，Telum II 處理器將成為為 IBM 下一代 IBM Z 和 IBM LinuxONE 平臺提供支持的中央處理器。它預計將于 2025 年提供給 IBM Z 和 LinuxONE 客戶。IBM Spyre Accelerator 目前處于技術預覽階段，預計也將于 2025 年推出。

編輯：芯智訊-浪客劍