OpenAI執行長阿特曼。路透社資料照片
美媒報導,OpenAI下一代人工智慧(AI)模型 GPT-5.6因效能過於強大,近似Anthropic的Mythos模型,美國政府已要求限制發布範圍。這是美國政府首次在AI模型發布前做出類似要求。
Axios新聞網站報導,白宮國家網路安全總監辦公室(Office of the National Cyber Director)與科技政策辦公室(Office of Science and Technology Policy)均向OpenAI發出命令,限制 GPT-5.6只能提供政府核可的少數用戶使用。美國政府正在建立框架,對新AI模型的安全性進行測試評估。
科技新聞網站The Information稍早報導,OpenAI執行長阿特曼(Sam Altman)已在公司內部發布備忘錄,通知員工限制GPT-5.6的發布範圍。
他在備忘錄中寫道,已向政府清楚表示,不希望這是長期模式,會與官方及業界人士合作,為未來的模型發布找出更可持續的方式。他希望GPT-5.6能在「兩週後」發布。
Axios引述消息人士透露,自Anthropic本月中旬突遭政府指示,必須禁止外國人使用最新AI模型Fable 5與Mythos 5之後,OpenAI一直就最新模型發布與政府積極合作,讓白宮官員了解最新模型的功能。
消息人士指出,政府介入GPT-5.6的發布,因為該模型的能力強大,已類似Mythos。Mythos是Anthropic在4月間發布的模型,但當時並未公開,僅供少數大型科技公司及政府機構使用,因為該模型不僅可發現電腦系統的陳年漏洞,還會自主發動攻擊。
Anthropic執行長阿莫戴(Dario Amodei)本月稍早曾倡議,若新一代AI模型帶來特定風險,政府應有權阻止AI開發商啟用這些模型。他指出,AI模型發布前應接受第三方測試,評估可能造成的風險,包括助長網路攻擊威脅、用於開發生化武器等。
美國各大AI新創公司目前處境艱難,競爭對手不僅包括美國同業,還有中國的開源模型。在此同時,安全官員與企業領袖也日益擔憂強大的AI模型可能落入間諜與網路犯罪份子之手,用於不法行為。