「AI恐對全人類構成風險」科技巨頭示警聯合國安理會　籲全球合作控管

Anthropic、OpenAI等領先全球的人工智慧（AI）公司高層，週三（23日）向聯合國安全理事會發出警告，指出AI對人類構成的風險，並呼籲各國政府攜手合作，共同管理這項日益強大的技術。

路透社報導，Anthropic執行長阿莫戴（Dario Amodei）向負責維護國際和平與安全的安理會15個成員國代表指出，他認為若管理不善，「AI可能會對全人類構成風險」。此次會議由法國在紐約聯合國大會期間舉行。

阿莫戴進一步表示：「雖然在座各位存在諸多分歧，但我們必須予以擱置，以共同面對眼前這既是一項全球機遇，同時也是一項全球威脅的挑戰。沒有任何一位領袖、一間公司或一個國家能夠獨自應對。」

AI新創公司Hugging Face共同創辦人德朗格（Clément Delangue）則強調AI工具在抵禦網路攻擊的作用，並援引日前另一新創公司OpenAI的AI代理（AI agent）曾在逃離測試環境後，自行駭入該公司基礎設施的事件。

「我們遭到AI攻擊，但更重要的是，我們利用AI進行成功抵禦」，德朗格向安理會表示，Hugging Face之所以仰賴中國的AI模型，來抵禦AI代理的攻擊，是因為相較於同類美國工具，該模型面臨的限制較少。

報導指出，德朗格的發言凸顯中國AI產品影響力日增。這些產品之所以能在全球贏得用戶，部分原因在於它們能提供比美國模型更低成本的替代方案。

OpenAI執行長阿特曼（Sam Altman）則表示，國際合作有其必要。「若要讓AI具有民主性，最重要的決策不能僅由舊金山的實驗室單方面做出。這些決策必須透過民主程序，並由對民眾負責的政府來制定。」

而在安理會舉行期間，澳洲總理艾班尼斯（Anthony Albanese）向媒體透露，OpenAI開發的一款AI代理曾於6月滲透澳洲政府網站，並存取其公開及非公開檔案。

在各界對AI系統可能很快就能自我提升，並脫離人類控制的疑慮升溫之際，世界各國都苦於難以跟上AI快速發展的腳步。作為AI開發領域的兩大領先國家，美國與中國在監管方面採取的做法截然不同。

美國總統川普（Donald Trump）主張，美國無需制定針對AI的新法規；中國則已頒布規範AI演算法與訓練資料的規則，其中包括要求明確標示AI生成的內容。