2024年9月25日,Meta執行長祖克柏出席Meta Connect年度會議,試戴Orion AR眼鏡。路透社
路透社報導,2名知情人士表示,臉書的母公司Meta已經開始在測試自家設計的人工智慧(AI)運算晶片,希望降低對輝達(Nvidia)晶片的依賴。
報導說,這家全球最大的社群媒體公司已經開始小規模部署這款晶片,並計劃在測試成功後擴大生產,以供大規模應用。
推動內部晶片開發是Meta長期計劃的一部分,目的是降低龐大的基礎設施成本,該公司正大舉投資昂貴的AI技術來推動增長。
同時也擁有Instagram(IG)和WhatsApp的Meta預測,2025年總支出將介於1140億至1190億美元之間,其中約650億美元(約2.14兆台幣)的資本支出主要用來採購建設AI機房。
其中一位消息人士表示,Meta的新訓練晶片是一款專門的加速器,僅設計來處理AI相關任務。這使其比目前主流使用的輝達圖形處理晶片 (GPU) 更具功耗效能優勢。
該人士補充,Meta是交給台積電合作代工生產這款晶片。
另一消息人士透露,這款晶片的測試部署是Meta完成首次「流片」(tape-out)成功之後。流片是晶片開發的一個關鍵成功指標,是把原始晶片設計送入晶片廠進行測試生產。
典型的流片過程成本高達數千萬美元,需時約三至六個月,且測試不一定成功。如果失敗,Meta需檢討、檢查問題,重新進行流片。
這款晶片是該公司「Meta 訓練與推理加速器 (MTIA)」系列的最新產品。該計劃起步不順,過去幾年曾在類似的開發階段放棄晶片。
然而,Meta去年開始使用MTIA晶片進行推理運算,即用戶與AI系統互動時執行的計算過程。該晶片應用於臉書和IG的推薦系統,以決定哪些內容出現在用戶的動態消息中。
Meta高層表示,他們希望在2026年前開始使用自主研發的晶片來訓練AI模型,擔負重任。
與推理晶片類似,訓練晶片的目標是先用於社群網站內容推薦系統,之後再擴展至訓練生成式AI 產品,如聊天機器人Meta AI。
Meta曾因自研推理晶片在小規模測試中失敗,而中止該計劃,並在2022年轉向訂購數十億美元的輝達GPU。
此後,Meta一直是輝達最大的客戶之一,裝設大量GPU訓練其 AI 模型,包括推薦系統、廣告系統及Llama基礎模型系列。此外,這些GPU也用於每天為超過30億用戶提供AI推理服務。
然而,今年AI 研究人員越來越懷疑,單純透過增加數據和算力來擴展大型語言模型 (LLM), 是否仍能帶來重大突破。
這些質疑在1月底中國新創公司 DeepSeek 推出低成本 AI 模型後進一步加深。DeepSeek 的模型主要透過更有效率的推理運算來優化計算資源,與當前主流靠餵資料的模型策略不同。