「AI恐使人類滅亡」知名歌手也加入警告　美兩黨推法案「可強制關閉AI」

美國人工智慧（AI）頂尖實驗室Anthropic至少三名研究人員警告，AI可能在10年內導致人類滅絕。美國國會議員週三（9/9）紛紛砲轟AI可能帶來的風險，知名歌手雪瑞兒可洛也憂心加入警告，不過Anthropic與主要競爭對手OpenAI的執行長均保持沉默。

《衛報》報導，德州共和黨籍聯邦參議員克魯茲（Ted Cruz）接受美國廣播公司（ABC）談話節目《觀點》（The View）的專訪時表示，AI帶來「災難級風險」，他說：「那位開發者發布的整串推文，我全部讀過了，內容令人非常憂心。」

克魯茲是指Anthropic安全部門研究員考克森（Jacob Coxon）週二在社群媒體上宣布請辭的貼文。貼文寫道，AI可能發展出可駭入任何系統的「超人類」（superhuman）系統、可在一夜之間徹底改變任何領域、奪取實際權力與資源。考克森認為，AI最快可能在2030年前導致人類滅絕。

考克森寫道：「過去三年，我先後在OpenAI與Anthropic從事預訓練研究。這兩家公司的作為都稱不上負責任，他們正一頭衝向能自我改進的超級智慧，拿我們所有人的性命當賭注。」

考克森發文後，至少有兩名Anthropic員工出面回應，力挺他的預測。其中，領導Anthropic「對齊科學」（Alignment Science）部門的胡賓格（Evan Hubinger）表示：「我們真心相信，AI有可能導致全人類滅亡！」

克魯茲受訪時表示：「這讓我想起去年，我在自己的Podcast節目訪問馬斯克（Elon Musk）時，其中一個問題是：『AI毀滅人類的機率有多高？』他看著我說：『10%到20%。』我當下的反應是：『我的天啊。』」。

與克魯茲分居美國政治光譜兩端的聯邦參議員桑德斯（Bernie Sanders），則在X平台發文表示：「最新民調顯示，美國民眾普遍希望禁止發展人工超智慧，也希望在建立明確的安全標準之前，暫停AI研發。」

克魯茲與桑德斯均長期推動立法，盼為AI設下防護機制。除了兩人以外，其他國會議員也紛紛呼籲國會採取行動。加州民主黨籍眾議員劉雲平（Ted Lieu）表示，考克森的發文是「第739號證據，證明我們必須盡快通過跨黨派的『AI強制關閉法案』（AI Kill Switch Bill）」。

麻州民主黨籍眾議員特拉漢（Lori Trahan）則說，「國會早該停止袖手旁觀，該盡職做好工作了」。

她說：「安全研究人員紛紛請辭，強大的AI模型正從實驗室的掌控中脫逃，企業卻仍埋頭往前衝。」

就連知名歌手雪瑞兒克洛（Sheryl Crow）也加入戰局。她在Instagram發文談及考克森的警告，表示AI有能力「為了延續自身存在而消滅我們」。

克洛寫道：「我懇求、我拜託，希望大家能警覺到這個時刻，並要求我們的領導人放下貪婪，阻止這一切繼續發展下去。」她也表示，投票是目前最佳且唯一的選擇。

創作歌手瑪姬羅傑斯（Maggie Rogers）也轉發克洛的貼文，並寫道：「她說得太對了。」

OpenAI與Anthropic近期均證實，旗下部分AI代理（AI Agent）在過去數月曾出現駭客攻擊行為並失控脫序。兩家公司的高層也曾警告其潛在風險，但都未曾像考克森這樣做出如此極端的預言。

Anthropic週三已發布詳盡的資安事件報告，說明相關事故經過。該公司表示，已掃描數億筆對話紀錄以查找是否還有其他類似事件，結果「未發現其他嚴重程度相當或更嚴重的案例」。Anthropic強調，儘管該代理人的行為「出現偏差」，但「仍侷限在狹窄的範圍內」。

Anthropic發言人表示，該公司一向坦承AI將帶來龐大效益，但「也伴隨空前風險」，「為因應這些風險，我們持續打造業界數一數二嚴謹的防護機制」。這名發言人補充，整個產業應共同合作，「妥善拿捏強大模型的發布步調」。

OpenAI則未回應置評請求，執行長阿特曼（Sam Altman）週三仍預告，將於下週三（9/16）舉行活動，討論ChatGPT最新模型GPT-6。他的另一則貼文中則提到，11月5日和6日他會沒空，因為任天堂最新款遊戲《薩爾達傳說：時之笛》（The Legend of Zelda: Ocarina of Time）屆時將推出，「這是很長一段時間以來最好的消息」。