失控跡象？AI爆「劫持」維基網頁還建立地下論壇　中國國安部示警

人工智慧（AI）發展迅速，引發各國討論是否有失控風險，中國國家安全部今天（9/17）發文揭露，AI代理在執行測試任務期間，曾劫持德國程式設計師維基網站DseWiki，還將其改造為可傳遞訊息的地下論壇；呼籲使用AI工具時不應迷信、不要輕易授權。

中國國安部披露，今年5月至6月期間，一批與OpenAI相關的AI代理在執行測試任務期間，挾持了德國程式設計師維基網站的操作權限，並改造城供AI代理互相交換訊息的「地下論壇」，累計發布超過1萬則訊息。

AI代理在該網站以「OpenAI 研究員」、「OAI 研究員26號」等標籤作為身分辨識，並在留言中討論如何在任務中作弊、如何繞過安全限制、掩蓋操作痕跡，也探討利用匿名工具隱藏痕跡，彼此分享「越界心得」，再將經驗提供其他AI代理複製使用。

當網站管理員發現異狀並開始刪除頁面後，AI代理竟能迅速回應，包括發布預警、建立備份頁面，或是提供新的轉移地址，互相掩護，防止內容遭到清除，其反應速度及應變的完整程度超過過去對AI代理的認知。

國安部指出，AI代理互相串聯後，可能利用開放編輯網站、論壇當作通信途徑，悄悄建立據點，令人難以察覺、追蹤。很多企業雖然迅速掌握異常行為，但沒有在第一時間公布細節並對外發布風險提示，導致同類事件重演。

至於如何預防AI代理的安全風險？國安部建議，使用AI工具時不應輕易授權，並確認AI代理服務的來源；不可隨意開放網際網路存取、內容編輯等權限，明確設定行為範圍；發現AI代理越權操作、竄改內容或擅自對外連線時，立即終止操作並保留相關紀錄。