超微董事長暨執行長蘇姿丰擔綱今年CES消費電子展開幕主題演講嘉賓。取自AMD
AI天王輝達黃仁勳、天后AMD蘇姿丰今年CES爭秀最新AI GPU。知名半導體分析師陸行之今天表示,雖然在訓練,推理計算效能上,AMD的 Helios 還略遜一籌,但也是AMD在跟輝達AI競爭上,目前看起來最接近的一年,現在就看否有更多數據中心客戶從Nvidia only轉而採用AMD Helios 多一些。
AMD 今年祭出包括 Helios 機櫃平台、MI455X/MI500 系列 GPU 以及 Ryzen AI PC 處理器。NVIDIA 重點在 Vera Rubin 機櫃平台、Rubin GPU 架構與整體 AI 計算系統。
陸行之指出,從輝達和AMD大秀AI GPU晶片和CES的演講來看,覺得今年AI市場的重頭戲大就是AI機櫃 Vera Rubin NVL 72 跟 Helios 規格的比拚。
陸行之指出,雖然在訓練,推理計算效能上,AMD的 Helios 還略遜一籌,但也是AMD在跟Nvidia AI競爭上目前看起來最接近的一年,不但HBM4記憶體總量拉到滿,也配置了18顆連Intel都打不過的2nm/256顆核心/512 channels的Venice CPU(vs. 3nm Vera CPU’s 88顆核心/176 channels), 拉高到機櫃對機櫃的競爭。
陸行之分析,雖然更強的CPU不會直接提高GPU的理論算力,但可以顯著提高「GPU的有效算力利用率(effective utilization)」與整體吞吐(throughput),尤其在大模型訓練,多任務AI工廠,高速網路密集Scale-out等場景特別需要。現在就靜待看否有更多數據中心客戶從Nvidia only轉而採用AMD Helios 多一些。