中國Kimi模型遭控「偷用美國AI」　解放軍監控資料意外流入Anthropic

美國人工智慧（AI）大廠Anthropic週四（9/10）指控，日前引發市場震撼的中國「月之暗面」AI模型，會暗中將數千筆用戶請求轉送給Anthropic旗下的Claude模型，再將答案冒充成自己的成果，藉此在AI競賽中取得優勢。

「月之暗面」（Moonshot AI）7月發表Kimi K3開源模型，號稱在部分關鍵任務上可匹敵美國最頂尖的閉源模型，引發市場震撼，但「蒸餾」美國主要AI模型的爭議不斷。

Anthropic週四發布的最新報告指出，月之暗面在未告知用戶的情況下，將他們提交的問題轉送給Anthropic的模型，而非透過自家的Kimi模型處理。Anthropic表示，在其中一個案例中，該公司發現月之暗面向Anthropic主要的Claude Opus模型發送近30萬筆客戶請求。

由於Anthropic禁止其模型在中國境內使用，月之暗面因此使用5380個假帳號，大多顯示位於新加坡及日本。

Anthropic這份報告，列出該公司去年12月至今年8月間所發現對該公司系統的威脅，包括疑似由國家支持及以牟利為目的的網路攻擊、監控行動及假訊息活動。這些攻擊均已遭該公司攔截。

報告發現，一名Kimi用戶曾將中國的監控資料上傳至該模型，要求分析特定人士的行為是否異常。這名用戶應該是以為這項請求會由月之暗面的模型處理，但最後卻被送交Anthropic的模型，因此讓在美國的Anthropic看到相關資料。

Anthropic在報告中表示，這項請求包含來自數百支監視攝影機的影像資料，其中包括解放軍設施外的監視畫面。

報告中的案例顯示，AI正被用來加速製作惡意軟體、監控社群媒體、散播政治宣傳。Anthropic表示，該公司已封鎖所有已發現案例中的帳號，並建立防護措施，以防止類似行為重演。

Anthropic認定，月之暗面這種行為也屬於「蒸餾」（distillation）程序的一部分；「蒸餾」意指開發者利用更強大的AI模型產生資料，改善能力較弱的AI系統。

Anthropic表示，在上述案例中，月之暗面將Anthropic系統的回覆用於訓練該公司自己的軟體。Anthropic指出，中國AI業者深度求索（DeepSeek）及小米集團也曾採取類似做法。

Anthropic等美國科技公司過去也曾指控中國企業進行模型蒸餾，月之暗面也在被指控之列。月之暗面今夏因Kimi K3模型轟動市場，已成為中國最受矚目的AI競爭者之一。

●私下轉送用戶請求　隱私保護堪虞

彭博新聞指出，蒸餾是強化AI模型的常見技術。Anthropic威脅研究主管克雷恩（Jacob Klein）表示，Anthropic也會藉由蒸餾自家模型而改進新模型。

然而，未經許可的蒸餾行為可能讓其他開發商走捷徑，打造更好的AI模型，再以更低價格提供服務，進而壓縮Anthropic等公司的市場空間。Anthropic正準備在美國公開上市。

報導指出，「月之暗面」的蒸餾行為及「轉送用戶請求」的做法，也可能再度引起外界對中國AI實驗室用戶隱私保護的質疑。克雷恩表示：「無論我們這麼做，或者我們的競爭對手這麼做，都會是重大的隱私醜聞。」

月之暗面對此拒絕置評，DeepSeek及小米也未回應置評要求。

美國安全機構不久前才指控DeepSeek、月之暗面等中國頂尖AI公司，透過「蒸餾」有系統地取得自美企取得專有技術知識。美國政府警告矽谷開發商應保護自身技術。

中國商務部近日曾表示，外界指控中國AI企業進行大規模美國AI模型蒸餾，「沒有事實或法律依據」。中國商務部並威脅，如果美國「採取行動遏制及打壓」中國AI企業，中方將採取反制措施。