加州州長否決全美首項AI監管法案　將與李飛飛等科學家共擬新法

美國加州州長紐森週日（9/30）出手否決州議會已通過的一項人工智慧安全法案。該法案是全美首創針對大型生成式AI模型的安全措施，要求這些AI模型上路前先進行安全測試，但OpenAI、Meta等企業都表示反對，宣稱有礙創新。

紐森（Gavin Newsom）週日否決法案時也發表聲明：「全世界50大AI企業中，有32家在加州。這項法案即使針對最基本的功能也實施嚴格標準，只要大型AI系統採用這些功能。我不認為這是保護公眾不受科技威脅的最佳作法。」

該法案正式名稱為「尖端人工智慧模型安全創新法案」（The Safe and Secure Innovation for Frontier Artificial Intelligence Models Act），專門規範研發生成式AI的大型公司。

法案規定，斥資逾1億美元建立AI模型的企業，必須為模型設置「終止開關」，並公開企業針對這些AI模型的安全協定，防止這些模型被任意操控，例如用於癱瘓加州的電網，或研發化武。專家指出，隨著AI生成式模型快速發展，這些情況都是可能發生的。

美聯社報導，該法案中訂定多項全美首創、針對大型生成式AI模型的規束。在生成式AI飛速發展，卻幾乎不受政府監管的情況下，紐森否決法案的決定，重挫了試圖約束該產業的努力。

紐森本月早在科技業年會Dreamforce演說時表示，由於國會未對生成式AI提出監管法案，加州必須率先採取行動，但上述法案「可能對AI產業形成寒蟬效應」。

紐森週日表示，該法案雖立意良好，但未考慮到AI系統是否在高風險環境中使用，是否涉及重要決策，或使用敏感資訊，「因為這些原因，我無法簽署該法案」。

紐森宣布該州將與「AI教母」李飛飛等多位產業專家合作，制定針對強大AI模型的護欄。李飛飛也反對紐森否決的AI安全法案。