「試錯時代已結束」OpenAI安全主管請辭　籲AI需核能等級防護

隨著外界對人工智慧（AI）的疑慮加深，一位近期辭職的AI新創公司OpenAI安全部門員工週六（3日）撰文，批評老東家對AI安全的處理方式，認為這種以快速開發為導向、步調緊湊的文化會增加失敗的風險。

曾帶領OpenAI安全團隊透明度工作的羅賓森（David Robinson）本週辭職後，他在由《大西洋月刊》（The Atlantic）刊載的專文中指出，OpenAI等AI公司的「謹慎程度遠遠不足」，呼籲在開發功能更強大的系統前，應更加重視安全專業知識與研究。

「試錯的時代已經結束」，羅賓森在這篇題為〈我離開OpenAI是因為它的企業文化出了問題〉（I Quit OpenAI Because Its Culture Is Broken）的文章中主張，先進的AI系統需要採用更類似於核能、航空等產業所使用的防護措施。

羅賓森指出，OpenAI過度依賴所謂的「迭代部署」（iterative deployment）模式，即先發布系統，待問題浮現後再強化防護措施。

羅賓森表示，他在OpenAI已工作3.5年，曾協助起草公司的應變準備框架，並監督12次先進模型發布的安全報告。他在文中寫道：「隨著公司從一次發布衝刺到下一次發布，它未能達到我認為所需的謹慎程度。」

路透社指出，上述言論已加劇AI業者們的辯論，即公司在開發日益強大的系統方面是否過於倉促。OpenAI 及其競爭對手Anthropic近期因安全控制失效或實驗系統出現意外行為等，已面臨外界嚴格檢視。

對此，OpenAI發言人透過聲明表示：「我們正確保模型的能力不會超出我們能安全管理與保障的範圍，且當需要放慢腳步時，我們會暫停訓練或延後發布模型」。

羅賓森還警告，AI的能力發展速度，已超越研究人員對AI「對齊」（alignment）的理解。以確保AI系統的目標、行為和決策過程，與人類的意圖、價值觀及社會規範保持一致。