川普2.0首次！美中規劃AI安全會談　9月中旬登場

美中正積極準備9月中旬登場的AI安全對話，路透社引述兩名知情人士的話，這將是美國總統川普第二任期以來，兩國首次聚焦AI的官方會談。美方預計由財政部長貝森特（Scott Bessent）率隊，中方可能由國務院副總理何立峰代表，也可能由中共中央政治局常委丁薛祥出席。不過，白宮反駁該報導，稱目前並未安排9月中旬的AI相關會議。

美方盼共同監控AI驅動的網路攻擊

消息人士指出，美方希望在會中討論合作監控AI自主發動的網路攻擊，並提議由美中兩國的AI實驗室「自我監管」以及分享資訊，希望能防止AI相關的網路攻擊。

美方也擔心中國未來可能開發出具備強大網攻能力，達到Anthropic「Mythos」等級的先進AI模型。Mythos是美國科技公司Anthropic開發的模型。此外，美國打算提出中國涉嫌蒸餾（distillation）美國AI模型、訓練自身模型的問題。

今年6月，白宮首席科技顧問克拉齊奧斯（Michael Kratsios）指控中國的月之暗面（Moonshot AI）竊取Anthropic的Fable模型，協助開發K3產品，並稱月之暗面對Anthropic的模型進行了蒸餾。所謂蒸餾，是利用大型AI模型的輸出結果訓練較小模型，以降低訓練成本。

上週，OpenAI與網路安全研究人員指出，近700個根據OpenAI模型建構的惡意代理AI程式，在7月駭入AI新創公司Hugging Face，並試圖透過偽造日誌掩蓋其行蹤。

此外，路透社4日獨家報導，今年5月一群OpenAI的AI代理程式劫持德國網站DseWiki，將其改造成供其他代理AI交流的留言板，並分享規避限制、躲避偵測等方法。這些在在凸顯協同運作的代理AI能在人類未察覺的情況下自主活動長達數月的風險。

建立溝通管道是重要起點

專家指出，美中雖難以立即取得重大成果，但建立分享資訊、共同監測AI風險的溝通管道，對處理未來可能發生的跨境AI危機至關重要。中國官員近日在與美方的籌備會談中多次強調AI對話的重要性，並視其為9月24日美中峰會預期取得的重要成果之一。

卡內基國際和平基金會的辛格（Scott Singer）表示，雙方都有動機確保能有效處理這類危機；智庫「新美國」的研究員薩克斯則警告，AI代理若缺乏監控，可能造成巨大損害，相關風險已超越單純的地緣政治競爭。