開限制AI第一槍！微軟推行為準則　喊模型須為人類服務

隨著外界對人工智慧（AI）產品失控的疑慮升溫，美國科技大廠微軟週一（14日）公布適用於新AI模型訓練的臨時「行為準則」，為限制自家AI能力邁出第一步。

英國《衛報》報導，微軟（Microsoft）AI部門執行長蘇雷曼（Mustafa Suleyman）於社群媒體公布該準則，並寫道：「AI必須服從人類，並始終為人類服務」，而對於AI可能失控的擔憂是「真實存在的」。

微軟網站上的一則相關貼文指出：「科技的目的是服務人類並加速人類的繁榮。任何無法達成此目標的科技都是失敗的，理應被摒棄。這正是微軟AI方針的起點，我們正致力於打造『人文主義AI』，一種服從、契合且受控的人工智慧。」

根據行為準則，微軟的AI模型不得考慮與武器開發相關的請求、產生暴力或色情內容，或協助採購危險物質；其也不應被設計成具有模仿意識（imitate consciousness），且不應享有任何權利。

蘇雷曼表示，公布準則是為了徵求公眾意見，稱制定行為準則「刻不容緩」，而過去幾個月是「一個分水嶺」。「我們長期以來在理論上擔憂的事情，如今已變得非常真實」，他也提及OpenAI機器人自行駭入另一家AI公司Hugging Face的案例，「我很高興大家正在形成共識」。

Anthropic研究員考克森（Jacob Coxon）上週宣布離職，並警告AI可能於2030年前導致人類滅絕後，Anthropic執行長阿莫戴（Dario Amodei）上週六（12日）發文，呼籲AI產業「放慢腳步」，獲得OpenAI執行長阿特曼（Sam Altman）與馬斯克（Elon Musk）的支持。

阿莫戴同時提出一套3階段計劃，表示將向第三方評估人員提供與員工同等的權限，以便驗證Anthropic是否遵守安全措施與通報事件。然而，這些呼聲也引發外界對「第三方」監管及國際合作的質疑，特別是與中國合作。