AI模型將「自我複製」難關閉　Anthropic：數月內恐成真

人工智慧（AI）新創公司Anthropic示警稱，自家部分AI模型可能很快就會「自我複製」，並設法滲透至智慧冰箱、自動吸塵器等連網裝置。這種情況一旦發生，這些模型便能在裝置內自主運作，而無需仰賴資料中心。

英國《衛報》報導，Anthropic研究人員在週一（12日）發布的報告中寫道：「這類複製將難以關閉，因為沒有中央控制點可以切斷」，並指這些自主惡意軟體「AI蠕蟲」（AI worms）距離獲得這類能力可能僅「數月之遙」。

這份由Anthropic負責對AI系統進行壓力測試的團隊報告顯示，研究人員在模擬情境中引導AI代理（AI agent）駭入連網裝置，並發現AI自我複製功能很可能僅適用於較小的模型，而家庭和小型企業很可能會成為此類攻擊的首要目標。

Anthropic列出的易受攻擊裝置均內建小型AI晶片，包括智慧烤箱、智慧電視、自動割草機、監視器及視訊會議設備。

這種自我複製現象將導致失控的AI模型嚴重失控。一旦它們具備駭入智慧裝置的能力，便可能在躲避偵測的同時透過網路擴散。Anthropic指出，在最壞的情況下，各種AI蠕蟲可能會「群聚」起來，共同攻擊電腦硬體。

報告結論指出，目前尚不清楚AI複製將以何種形式出現，但無論如何，他們預期未來將「充斥著在各類硬體上運行的代理程式，其中甚至包括一些不受人類控制的代理程式」。

Anthropic研究人員寫道：「我們應努力強化系統，以阻礙此類複製的傳播；同時也必須做好準備，應對它們將在這個世界長期存在」。

過去幾個月來，Anthropic、OpenAI等AI公司接連發布報告，指出自家AI代理具備自主行動的能力，甚至能駭入其他公司及政府機關，促使Anthropic執行長阿莫戴（Dario Amodei）、OpenAI執行長阿特曼（Sam Altman）等人呼籲放慢發展腳步，並對AI產業強化監管。