美國Ｍeta開源模型遭共軍利用　中國軍科院用於研發軍事AI工具

路透社引述學術論文與分析家指出，共軍研究機構已使用美國Meta公司的大型語言模型Llama研發出可應用於軍事的AI工具。

路透社報導，一份今年六月發表的論文中，詳述6名中國研究人員以Meta去年二月發布的較早期Llama 模型為基礎，開發出的AI工具「ChatBIT」。這6人包括來自共軍主要研究機構「軍事科學院」下屬單位的研究員。

報導稱，這些研究人員將自訂參數整合到Llama-2-13B開源模型中，建立了這套以軍事為主的AI工具，用於蒐集及處理情報，並提供準確可靠的資訊用於作戰決策。

該論文宣稱，ChatBIT經過微調和優化，可進行軍事領域的對話和問答，效能已接近OpenAI聊天機器人ChatGPT-4的9成。不過論文中並未詳述效能是如何定義，亦未說明這套工具是否已投入使用。

論文提到的中國研究人員包括軍事科學院轄下的「軍事科學信息研究中心」和「國防科技國家創新研究院」研究員耿國通（音，Geng Guotong）和李維維（ 音，Li Weiwei ），以及來自北京理工大學與中央民族大學的研究人員。

研究中國崛起與軍民兩用技術的華府智庫詹姆斯敦基金會（Jamestown Foundation）香港裔副研究員張崑陽表示，這是首次有實質證據顯示，中國解放軍專家正「系統性研究並試圖利用開源的大型語言模型」作為軍事用途。

Meta向來支持Llama等多種AI模型的開源使用，使用限制包括要求用戶數超過7億的服務需向該公司申請許可。

Meta：共軍已違反使用政策

Llama的使用條款也禁止該模型用於「軍事、戰爭、核子工業或應用、間諜活動」以及其他美國國防出口管制範圍的活動，包括研發武器，或產生煽動暴力的內容。然而，由於Meta的模型是開源使用，該公司執行這些限制條款的手段有限。

Meta對此回應稱，已採取措施防止模型遭濫用。Meta公共政策總監蒙哥馬利（Molly Montgomery）說：「中國解放軍的任何使用均未經授權，並違反了我們的使用政策。」

路透社提到的論文稱：「未來，隨著技術更加精細，ChatBIT將不僅應用於情報分析，還將探索在戰略規劃、模擬訓練和指揮決策中的應用。」不過研究人員指出，ChatBIT模型僅包含10萬條軍事對話記錄，資料量小於其他大型語言模型。

Meta AI研究副總裁、加拿大麥吉爾大學資訊科學教授皮諾（Joelle Pineau）表示：「與大多數使用數兆個詞元（tokens）訓練的模型相比，（該模型）只是九牛一毛……令我質疑他們究竟達成哪些不同的效能。」

不過，美國國家安全和科技領域人士正激烈辯論Meta這類公司是否應讓AI模型開源使用。拜登總統2023年10月已簽署要求管理AI發展的行政命令，指出創新雖可帶來巨大利益，但也存在「重大安全風險」，例如模型的「防護措施被移除」。

美國財政部本週一（10/28）已宣布對限制投資中國高科技領域的最終規定，防範美國資金協助中國發展AI科技和先進武器，新規章將於明年1月2日起執行。

美國國防部發言人薩波（John Supple）表示，開源AI模型的確是兩面刃，「我們會持續監控及評估競爭對手的能力」。

然而，有觀察家指出，中國正積極研發本土的AI模型，已成立多個研究實驗室，很難阻止中國趕上美國AI發展的腳步。

美限制投資中國AI技術　專家：已難遏阻

路透社看到另一份由中國航空工業集團（AVIC）兩名研究人員發表的學術論文，內容描述利用Meta Llama 2模型進行「機載電子戰干擾戰略訓練」。

中國還利用西方國家AI模型來管控國內安全。前述六月份發表的論文就詳述如何利用Llama進行「情報警務」，進行大量的資料處理並強化警方的決策。

今年4月，中國《解放軍報》就曾刊出評論，探討AI能如何協助「加速武器與裝備研發」，協助進行「戰鬥模擬」並改善軍事訓練效率。

喬治城大學安全與新興技術中心（CSET）首席分析師哈納斯（William Hannas）向路透社表示，要排除中國發展AI工具已不可能。

CSET於2023年發表的一份報告指出，中國有370家機構的研究人員發表了有關通用人工智慧的論文，有助中國達到2030年領先全球AI的國家戰略。

哈納斯補充說：「中國的頂尖科學家與美國最優秀的AI科學家之間有太多合作，因此無法將他們排除在AI發展之外。」