美國財政部長貝森特。路透社資料照片
中國力推開源人工智慧(AI)模型,但美國財政部長貝森特表示,中國可能沒有意識到開源模型的威力。他表示,AI模型Kimi將共軍武器計畫上傳美國公司Anthropic等事件,「讓中國意識到這是威力多強大的技術」。
貝森特(Scott Bessent)接受美國Axios新聞網站專訪,節目3日上線。貝森特表示,他計劃建立美中之間的AI異常通報機制,認為中方也會同意。
貝森特表示,中方之前可能不瞭解自己的AI開源模型有多強大,但「過去60天來,他們已被喚醒」。他表示,中國「月之暗面」的Kimi模型曾在「蒸餾」美國Anthropic公司的Claude模型時,將共軍武器計畫送到Anthropic,這類事件「使中國意識到這(開源模型)是極其強大的技術」。
貝森特指出,所謂的「大規模產業蒸餾」其實是好聽的說法,實際上就是從美國模型「偷竊」結果。他透露,Kimi有時還會說自己就是Claude,這些現在都是可以討論的公開資訊。
開源模型嚴格說來是「開放權重」(open weights)模型,意指模型訓練完成後,將核心的參數檔(權重)公開釋出,用戶可下載在自己的設備或伺服器上執行。美國絕大多數公司採閉源模型,會設置安全護欄,但開源模型的安全限制可能被用戶移除,業者無法監控。
貝森特表示,中國有許多AI模型都非常強大,能力可達美國模型的八至九成,但在開源情況下可在全世界各地使用,「沒有安全護欄」。
貝森特表示,他與中國國務院副總理何立峰上月會談時,已討論AI安全問題,涵蓋AI代理失控,以及非政府勢力利用AI進行網路或生化威脅。
Axios指出,中國已經在擔憂另一種AI威脅:AI可能削弱中共對資訊的嚴密掌控。中國國家安全部部長陳一新中國國安部部長陳一新9月13日曾發表文章警告,有「敵對勢力」濫用AI技術,對中國實施「輿論戰、認知戰」,直接威脅中國的政治穩定與意識形態安全。這是中國迄今針對AI安全風險的最高層級且最詳盡的表述。
貝森特表示,美國應該更重視保護關鍵系統免受AI威脅,而不是只專注於打造更強大模型的AI競賽。
他表示,美國政府目前對模型的審查採自願制,但如果有AI公司不顧安全疑慮一意孤行,政府保留介入的權利。