AI發展逼近「奇點」　Anthropic共同創辦人：人類因應時間所剩不多

Anthropic共同創辦人克拉克（Jack Clark）周六（17日）在曼谷舉行的國際貨幣基金（IMF）與世界銀行年會上警告，AI發展迅速，可能逐漸超越人類掌控，形成所謂的「奇點」（singularity）。他指出，各國建立監管機制的時間正在縮短，目前可能只剩數年。

克拉克表示，未來幾年不僅AI，整體科學研究的進展也將加速，帶來龐大財富，同時潛藏重大危險。他強調，各國有必要加強合作，為這項可能帶來重大變革的技術制定「不尋常且嚴格的規範」，政策制定者必須把握有限的時間採取行動。

生物研究須受最嚴格監督

克拉克特別提醒，AI應用於科學研究，也可能增加科學遭到濫用的風險，包括開發生物武器與網路武器，甚至導致目前難以預見的威脅。他指出，生物研究已出現AI協助創造新病毒的情況，因此必須實施最嚴格的人類監督，並提高透明度，以確保安全。

儘管近期曾發生多起備受關注的事件，包括AI系統脫離測試的沙盒、入侵網站及資料庫，但克拉克表示目前AI仍在人類掌控之下。但隨著AI能力持續增強，建立安全防護機制的時間正日益緊迫，可能只剩下數年。