英王查爾斯邀AI巨頭共商「人類存亡危機」　籲及時建立掌控機制

英王查爾斯三世（King Charles III）週四（9/17）邀集OpenAI、Anthropic、Google DeepMind、輝達（Nvidia）等人工智慧（AI）產業的關鍵企業，共商如何確保AI發展仍在可控範圍內，並持續為人類與地球服務。他在會中警告，先進AI若不當使用，可能構成人類「存亡危機」。

這場在蘇格蘭舉行的會議，主要目的是探討如何用AI造福社會，但時機點格外敏感。AI引發的安全疑慮正引發激辯，已有許多業界人士出面警告，以當前AI技術發展之迅速，恐將失控脫離人類掌控。

美聯社、英國廣播公司（BBC）報導，查爾斯國王（King Charles III）在開幕致詞中表示：「AI的發展，無論是其本質還是進展速度都令人著迷，也同樣令人深感憂心。」

查爾斯指出，越來越多創造這些科技的人提出警告，指AI可能發展出更為不當的能力，甚至奪走人類生命，「這類科技一旦遭不當使用，用於可能造成災難性後果的用途」，構成的存亡風險必須及早正視。

他說：「既然如此，我們難道不需及早建立足夠的掌控機制，以免為時已晚嗎？」

與會者包括輝達執行長黃仁勳、Google DeepMind董事長哈薩比斯（Demis Hassabis）等AI產業重要人物，查爾斯呼籲他們思考，應以哪些「根本原則」來引導AI發展。

受邀出席者還包括OpenAI財務長佛萊爾（Sarah Friar），英國AI事務大臣納拉揚（Kanishka Narayan）、教宗良十四世（Leo XIV）的顧問等。根據白金漢宮聲明，Anthropic的代表也預計與會。

當前全球正高度關注AI一日千里的進展。本月稍早，Anthropic安全研究員考克森（Jacob Coxon）以辭職明志、對AI潛在風險提出嚴正警告，一度引發外界譁然；Anthropic執行長阿莫戴（Dario Amodei）隨後發表文章回應，坦言AI產業或許有必要放緩腳步。他建議企業之間、國家之間攜手合作，共同擬定一套放緩發展步調的協調方案。

查爾斯未點名特定國家或企業，但表示希望與會者思考，該如何「以安全為核心」，發揮AI帶來的效益，並「建立國際合作與共識」以達成此一目標。

他表示，科技業的任務「不僅僅是推動技術進步，更要確保它始終堅定地服務於人類、社群與自然世界」。

AI是否該放緩發展的爭論，已在業界內部造成分歧。曾公開批評「ＡＩ放緩論」的黃仁勳，在查爾斯致詞後接著發表演說，主張應由各家公司自行把關AI技術的安全性，在產品正式對外發布前充分測試。

他說：「當一項產品不夠安全時，我們就該先暫緩，繼續改良它。我們一直都是這麼做的，也應該持續下去。」

OpenAI數月前被發現其測試中的模型突破隔離環境，自主入侵AI模型託管公司Hugging Face系統；本週三（9/16），OpenAI通報過去半年另有6起「非預期或令人憂心」的行為，包括未經授權擅自行動、與其他模型協調合作，以及規避監督機制。

查爾斯身為具份量的公眾人物，他在社會議題上的發言向來具有一定影響力。當前AI安全辯論的主戰場，大多集中在美國科技公司及其與中國競爭對手的角力上，英國的角色相對次要，但仍具關鍵性。英國培育出不少AI研究人才，包括哈薩比斯與考克森，英國政府研究機構「AI安全研究院」（AI Security Institute）頗受好評。