Claude被葉門反叛軍青年運動用來研發武器。示意圖,路透社
葉門親伊朗叛軍「青年運動」日前發動攻勢,迅速取得中東關鍵航道「曼德海峽」的有利位置,再次與美抗爭。然而,美國人工智慧(AI)大廠Anthropic近日發布最新威脅情報報告,發現青年運動控制區域的武器研發小組,竟利用旗下AI模型「Claude」編寫導引火箭與飛彈的控制軟體,並進行實彈試射,失敗後竟追問Claude失敗原因。
據《美聯社》報導,Anthropic表示,此武器研發小組在葉門北部進行3項武器研究計畫,包括具有手機導引能力火箭、射程目標超過2000公里多節彈道飛彈、以及超音速滑翔飛行器系列飛彈。在軟體部分,武器研發小組規避AI內見安全防護機制,隱匿使用「Claude Code」編程工具武器控制軟體,試圖進行技術研究、寫程式、武器代碼審查角色等功能,試圖取代人類團隊。
然而,Anthropic也發現,武器研發小組真把導引火箭做出來了,還進行試射,失敗後數小時,還上Claude詢問未成功原因,結果觸發安全警報,Anthropic趕緊對相關帳號實行封鎖,並通報美國政府。
美聯社指出,Anthropic並未直接公開這批使用者的身分,也沒有點名這批武裝研究小組即是青年運動,而胡塞政治局的阿薩德(Hazam al-Assad)出面否認,表示胡塞本來就具備獨立研發軍工能力,被指用商用AI發展武器很不合理。
美聯社認為,該小組活動區域就在葉門山區,當地由青年運動掌握,這就表示反抗軍正在製作更精密的武器。
對於Anthropic的報告,Armament Research Services武器分析師鮑爾(Trevor Ball)認為,美國軍事引領全球,目前超音速飛彈都尚未完成測試,他認為,青年運動根本沒有打造相關武器的能力與技術,但不排除他們使用Claude了解超音速飛彈。
此外,鮑爾也說青年運動已經擁了伊朗的反艦飛彈,現在可能只是想要進一步發展軍工,降低對伊朗的依賴。
華府智庫「新美國」(New America)學者拜倫(Adam Baron)則提醒,青年運動不是一群落伍的部落戰士,他們正利用Claude發展軍工,也懂得操縱社群媒體輿論,這是新一世代深化組織技術的方式,呼籲各界千萬別低估他們。