「模型早失控！」川習會倒數　美中能攜手防止「AI末日」嗎？

「危險的AI能力早就流傳，現在要遏制為時已晚！」AI末日爭論再起，《紐約時報》專欄作家佛里曼（Thomas Friedman）認為，與其期盼美中達成放緩前沿模型開發的協議，不如促成雙方共同制定「防禦手段」，以因應當前威脅。然而，角力不斷的美中真能開啟合作大門？

料成川習會一大焦點

9月24日，全球矚目的川習會將於華盛頓登場，人工智慧預料會是一大重點。

早前，Anthropic離職員工考克森示警，「在這個十年結束前，AI可能會殺光我們所有人」，緊接執行長阿莫戴（Dario Amodei）的一篇長文，重燃AI末日論的戰場。

阿莫戴呼籲，放慢AI前沿模型研發的速度、要求進行監管，獲得了兩大巨頭──OpenAI執行長阿特曼與xAI負責人馬斯克的認同。

不過，輝達執行長黃仁勳、美國總統川普持反對看法，川普除批評「病態的陰謀」，更強調「只有中國會樂見其成」。他希望美國保持領先，「誰贏了AI，誰就贏了世界」。

中國官媒《環球時報》反嗆，阿莫戴的說法，是企圖用技術壁壘、規則壟斷遏制中國AI發展，是針對中國的「冷戰劇本」。中國外交部發言人郭嘉昆也批，類似說法「散播恐慌」，擾亂全球AI進程，對任何一方都沒有好處。

AI有沒有構成威脅？

對科技人來說，AI走出掌握最血淋淋的例子，應該是OpenAI的惡意程式入侵Hugging Face，控制其伺服器並試圖掩蓋痕跡，直到很久之後才被發現。

雖然還沒有真的出現AI惡意傷害人類的情形，但佛里曼認為，隨著中美兩國開放權重模型的發布，所有開發者都能下載、依需求修改，可能被拿來研發生化武器，已造成危機。

例如，控制葉門北部的胡塞武裝組織，據信是利用Anthropic的Claude收集有關美國海軍在中東地區軍艦的瞄準信息、改良導彈系統。

「放慢美國對前沿系統的開發，或放慢中國對這些系統的開發，都無法解決我們眼前的難題。」佛里曼表示，危險的模型已經流出、處於失控狀態且無法召回，現在指望美中達成協議來解決挑戰，「已經太晚了」，何況短期內也不可能促成這項協議。

迎頭趕上美國，中國為何要停？

對中國來說，他們沒有落後美國太多，為什麼要放慢腳步？

在美國政府不給最先進AI晶片的情況下，撇開「蒸餾」作弊指控，中國研發軟體大有進展，去年DeepSeek在基準測試中僅以0.4%的差距落後於OpenAI的頂級模型。史丹佛大學2026年人工智慧指數報告指出，中美模型的性能差距已「基本消除」。

中國發展AI的主要目標也不同。去年政府發布的《新一代人工智慧發展規劃》，宣布傾黨政之力訓練大型語言模型，以推動中國經濟發展，同時要成為電池、機器人和自動化的全球領導者，顯然是想利用科技打造新經濟引擎。

也因此，多數企業發展重點放在AI應用，像是提高生產力、創造更多收入、降低成本等，而非開發超越人類智慧的模型。

當然，北卡羅來納大學法學教授欽（Andrew Chin）指出，美國在前沿科技生產、私人投資和資料中心基礎設施方面仍然擁有顯著優勢。

中國也擔心AI威脅，但重點不同

中國不是沒有意識到AI的危險，只是有別於美國企業擔心「對人類造成的威脅」，他們著眼於「對黨的領導」的影響。

中國國家安全部長陳一新15日發文表示，美國可能利用AI攻擊中國，像是假影片挑撥輿論、深偽官員發話製造混亂、網攻基礎建設，以及敏感資訊外洩、提升軍事打擊能力等。

陳一新呼籲黨加強對人工智慧的控制，並實施更嚴格的政府監管。一番話顯露中國向來對AI實施監管，好比你問DeepSeek關於1989年6月4日北京天安門廣場鎮壓事件，它會說「我無法提供幫助」。

在這樣的監管環境下，科技業在訓練資料、隱私、安全和禁止內容等方面早有自我規範。

專家提出合作3方向

無論美中看待AI的差異有多大，發展人工智慧的腳步不會停。

佛里曼引述友人、前微軟研究與戰略長蒙迪（Craig Mundie）的話指出，面對可能的AI威脅，需要全球共同努力，尤其是AI兩大國美中攜手合作才能解決。

蒙迪建議3大策略，首先，是部署反制AI的措施與防火牆，防範AI非法活動造成的網路攻擊和生物威脅。其次，建立全體管控體系；第三，建立聯合平台加速生物學和醫學領域全球性成果的落地。至於控制前沿模型開發，將是長遠目標。

美中合作有可能嗎？

美中要談合作，核心障礙或許在於信任。

中國中央電視台上月曾在社群媒體帳號「宇源探天」發布了一篇文章，闡述了中美人工智慧對話的條件。

文章提到，前沿模型管控的問題不是「要不要管」，而是安全邊界由誰定義。第一，必須區分哪些是安全威脅、哪些是技術競爭，前者可共同測試、共同限制，後者不應受到秘密干預。

第二，美國得先證明規則對自己人同樣有效，只有當美國先證明安全規則對自己的模型公司同樣有效後，中美之間才可能進入實質性的討論。

佛里曼認為，在符合自身利益、面臨同樣風險情況下，戰略競爭對手都有合作歷史，70年代美中面臨蘇聯威脅時曾經攜手；美俄也在幾十年裡共同控制核擴散。

佛里曼更說，人工智慧「將改變一切事物的方方面面」，包括地緣政治。為了各自的生存、穩定和繁榮，北京和華盛頓將不得不徹底重新思考地緣政治競爭，這次川習會正是關鍵會晤，有機會成為被載入史冊的首屆人工智慧超級大國峰會。

資料來源：紐約時報、路透、CNN、紅報