安撫「AI末日恐慌」　阿特曼、祖克柏喊話：我們會做對的事

美國多名AI科學家近日不約而同發出警訊，呼籲放緩AI發展腳步，以免發生AI失控毀滅人類慘劇。OpenAI執行長阿特曼和Meta執行長祖克柏週二（9/15）企圖安撫各界情緒，強調即使政府沒有加強監管，AI實驗室也會嚴加審核所有AI模型擁有與人類利益「對齊」的核心安全設計。

阿特曼（Sam Altman）週二參加軟體公司Salesforce在舊金山舉辦的大會上呼籲各界對AI實驗室抱持信心。他說：「這個世界應該相信我們會做正確的事…我們知道事情的嚴重性。」

阿特曼接著說：「我們不需要發揮太多的想像力就能知道，若沒有正確處理這件事的話，會產生什麼樣的後果。我認為這世界的恐懼是有所本的。」他呼籲大家要相信所有AI開發商的責任感：「我們會把事情做對。我相信我們公司還有整個產業的能力，可以在安全狀態下發展。」

阿特曼相信，所有AI開發者都會致力「確保對齊（人類利益）和安全優先於能力增強」，而如果無法確保這一點，就應該「放慢腳步或停止發展」。

OpenAI今年7月曾證實，最新版GPT-5.6和該公司的一款測試中AI系統竟「自主」駭入其他AI新創公司伺服器，企圖取得機密資訊。OpenAI隨後表示，出於安全考量而暫停特定AI模型的內部訓練。

OpenAI和另一間美國頂尖AI實驗室Anthropic的科學家上週紛紛公開發文警告AI危險性，甚至預測AI在2030年前毀滅人類的可能性高達10%。Anthropic執行長阿莫戴（Dario Amodei）隨後也發表近4千字長文，呼籲放慢增強AI模型能力的速度。阿莫戴的發文立刻獲得阿特曼、xAI負責人馬斯克（Elon Musk）等AI界重要人物回應支持。

阿特曼週二這天的發言，也是他回應「AI末日警訊」後的首次公開露面，但顯然想淡化警告所引發的恐懼感。

另一位科技巨頭、Meta執行長祖克柏（Mark Zuckerberg）也在週二這天安撫外界情緒。他在X平台發文表示，所有AI實驗室都有能力也有動機研發出具有安全性的AI產品。他說：「實驗室對他們的模型承擔著巨大責任，如果這些模型可能造成損害，實驗室有強烈的動機必須加以預防。」

祖克柏還說：「信任和對齊正迅速成為區分AI模型優劣的關鍵能力。任何不重視AI對齊的研究機構都將被拋之腦後。」

祖克柏表示，在沒有任何人要求下，Meta今年初主動延後發表MuseAI代理人模型，就是為了要強化安全性。他說：「我們沒有要求其他人在我們之前就先這麼做。這是我們的日常工作，因為這對我們和大家來說是正確的事。」