Anthropic執行長力主強化AI監管　政府應有權阻止高風險模型上線

美國生成型人工智慧大廠Anthropic執行長阿莫戴週三（6/10）倡議，若新一代AI模型帶來特定風險，政府應有權阻止AI開發商啟用這些模型。

彭博新聞、Axios新聞網站報導，阿莫戴（Dario Amodei）週三發表一篇長文，主張應強制AI模型接受第三方測試，以評估這些模型在各領域可能造成的風險，包括助長網路攻擊威脅、用於開發生化武器等。

他寫道，若有AI模型被認定「構成不可接受的風險」，「政府應有權阻止或遏制其部署」。

這是阿莫戴迄今對加強AI監管最強烈的呼籲之一，也遠遠超出美國政府正在認真考量的監管範圍。就在上週，Anthropic已呼籲建立一套制度，讓各國政府與AI開發商共同決定何時應放慢AI研發速度，以避免可能帶來的危害。

阿莫戴在最新長文中提出對先進AI的治理框架，認為政策制定者必須因應AI的快速進展，調整目前的監管方式。

他認為，美國總統川普的（Donald Trump）日前發布的AI相關行政命令仍不夠積極，應要求強制進行風險測試，涵蓋網路安全、生化武器、失控風險以及自動化研發等領域。

川普本月稍早發布的行政命令中，要求AI公司自願向美國政府提供模型存取權限，但並未強制開發商在推出新模型前取得政府批准。

阿莫戴寫道，現在是時候「邁向更嚴肅且具約束力的AI監管」。

他表示，AI目前處於「指數級」發展階段，可以類比為「汽車、飛機或藥物」，「是現代經濟不可或缺的強大技術，但如果設計或操作不當，也可能造成大量人員死亡」。

Anthropic一直自我定位為較重視安全責任的AI開發商，先前曾示警告該公司的「Mythos」模型可自行發現重大軟體漏洞，可能癱瘓政府、銀行等系統，因此決定僅有限度開放特定合作夥伴使用。

本週二，Anthropic則推出另一個名為「 Fable 5」的版本，移除了Mythos模型中的網攻能力。

在最新長文中，阿莫戴以Mythos作為代表案例，突顯「AI的驚人能力與風險」。他表示，AI帶來的生物安全風險及「嚴重的AI自主性風險」很可能迅速來到，如果缺乏有效監管，各國政府可能來不及因應技術帶來的重大衝擊。

因此，他主張建立更嚴格的測試、審查與干預機制，讓政府在必要時能夠阻止高風險AI系統投入使用，「現在全球必須共同啟動一套緩慢而笨重的政策機制，以應對未來將以驚人速度累積的風險與機會」。

他也提出一套因應AI衝擊的經濟政策框架，包括全民基本收入、全民資本帳戶、薪資保險、以稅務獎勵企業留任員工等措施，以及擴大社會安全網等方案。

阿莫戴也主張民主國家應持續在AI領域保持領導地位，並加強AI政策協調合作。雖然提出種種警告，他仍希望公眾不要忽視AI帶來的巨大潛力。