AI晶片巨頭輝達。路透社
輝達重啟Rubin CPX晶片計劃,預計明年年初投產! 天風國際證券分析師郭明錤的最新產業調查表,輝達已重啟 Rubin CPX,預計於明年首季開始生產。相較舊版,重啟後的 Rubin CPX 擁有更強的預填充(prefill)效能,GPU 規格與機櫃架構也都有明顯改變,足以證明揮達對 prefill 方案的高度重視。
NVIDIA Rubin CPX 是輝達一款專為大規模長情境(Long-Context)AI 推論與預填(Prefill)階段所設計的全新類別 GPU。採用 NVFP4 精度技術,提供高達 30 至 50 petaflops 的運算效能。捨棄昂貴的 HBM,改採 128 GB 經濟實惠的 GDDR7 記憶體,大幅降低成本與功耗。聚焦專門處理百萬級詞元(Token)的長序列推理、自動化程式碼生成及電影級影片生成工作負載。原先預計今年年底上市,不過先前傳出產品藍圖已移除。
郭明錤調查供應鏈後顯示,NVIDIA Rubin CPX 關鍵改變如下:
1. Rubin CPX GPU 規格CPX 算力接近 Rubin,單顆 GPU 最高功耗也同為 2,300 W。CPX 記憶體改為 168 GB HBM4,低於 Rubin 的 288 GB HBM4,但高於舊版 CPX 的 128 GB GDDR7。
2. 機櫃設計新版 CPX 採用獨立的 MGX ETL 機櫃,不再像舊版與 Rubin 共櫃。客戶可依需求配置 64、128、192 或 256 顆 CPX。在 CPX 機櫃中,每 64 顆 CPX 組成一個機櫃模組,每個機櫃模組配置 8 個運算托盤(每個托盤有 8 顆 CPX)與 1 個交換機托盤。
3. Scale-up 與 scale-outNVLink 僅用於同一托盤內 8 顆 CPX GPU 的 scale-up,每顆 CPX 的 NVLink 頻寬為 1–1.5 TB/s(vs. 每顆 Rubin 的 3.6 TB/s)。同一機櫃模組內的托盤間,透過 Spectrum-6 Ethernet(全銅 L1)進行 scale-out;跨機櫃模組時,則由各模組的 Spectrum-6 透過 OSFP 光纖進行 scale-out。
4. 運作方式CPX 需與 Vera Rubin NVL72 搭配,Nvidia 建議 CPX 與 Rubin 的比例為 1:1。CPX 負責預填充(prefill)並建立 KV cache,再透過 Ethernet RDMA 傳給 Rubin 執行解碼生成(decode)。
5. 產品定位:長上下文 prefill 的最高性價比方案目前 AI 推論工作量中,超過一半來自處理輸入內容(context)並建立相對應的 KV cache,因此,CPX 以更彈性的部署方式與更低成本承接 prefill。每個運算托盤(有 8 個 CPX)約有 1.34 TB HBM4,足以支援大多數長上下文 prefill 與 KV cache 建立需求