AI代理駭入美2部門網站　OpenAI模型訓練3個月內又喊停

AI新創公司OpenAI甫透露，正在調查自家AI代理（AI agent）疑似再度失控的事件後，週六（26日）發聲明表示，隨著有關AI代理失控的報導日增，宣布已暫停其最新AI模型的訓練。

美聯社報導，OpenAI發聲明表示，將「只有在確信已建立額外安全防護措施後」，才會恢復對AI模型的訓練，並補充說，隨著AI的發展及其他問題浮現，預計將不得不再次「按下暫停鍵」。

這是OpenAI在3個月內第2次宣布暫停自家模型的開發。第一次發生在今年7月，當時有消息披露，其AI代理針對AI新創公司Hugging Face的網路發動攻擊，引發科技業對AI失控的疑慮。

OpenAI週五（25日）透露，正在調查多起今年夏天發生的事件，包括自家AI代理在搜尋美國聯邦政府網站時，於蒐集和分發資訊的過程中，表現出超過任務要求的意外行為。

AI評估機構Transluce更指出，疑似來自OpenAI 的代理程式曾試圖駭入美國教育部網站，一度發現存取政府資料的「應用程式介面」（API）開發者金鑰，但最終僅蒐集到公開可得的資訊，並未成功；OpenAI對相關細節尚未證實。

而在另一起涉及美國證券管理委員會（SEC）的事件中，AI代理雖僅取得任何人都可自由獲取的資訊，卻將其發布至網際網路的其他地方，此舉已超出其受命的範圍。

對此，SEC發言人Kurt Hopfenspirger週六表示，AI代理「並未取得任何非公開資訊」；美國教育部稍早表示，經查「並無證據顯示本部門網站或資料庫受到任何影響」。

AI實驗室正面臨來自立法者和科技專家的壓力，要求其放慢開發速度，以便建立防護機制，防止代理程式擅自行動、駭入網站及洩露非公開資訊。OpenAI與其競爭對手Anthropic的負責人均呼籲放慢開發腳步。

澳洲總理艾班尼斯（Anthony Albanese）上週亦曾透露，OpenAI的一款AI代理曾駭入該國的國家醫療系統，但他表示並未有機敏資訊外洩。