伊朗戰爭助長亂象　專家：為盈利使用AI生成的假影片越來越多

美國與以色列對伊朗開戰已滿一週，專家指出，目前出現一波前所未有、以人工智慧（AI）生成的錯誤資訊，且被越來越多能接觸到生成式AI技術的線上創作者用來變現。

英國廣播公司（BBC）查核部分析後發現大量使用AI生成影片和虛假衛星影像，對美以伊衝突提出錯誤和誤導性說法的例子，這些內容在網上累計獲得數億次瀏覽。

專家：AI幾分鐘就能完成假影片

澳洲昆士蘭科技大學數位媒體專家葛蘭姆（Timothy Graham）表示：「（AI造假）規模確實令人震驚，這場戰爭使得現在無法再忽視這個問題。」

葛蘭姆說：「過去需要專業影片製作的內容，現在用AI工具幾分鐘就能完成。製作逼真的合成衝突畫面的門檻，基本上已經消失。」

伊朗戰爭爆發後，許多轉向社群媒體搜尋並分享最新資訊。

創作者利用AI假影片盈利　X平台已防但難防

社群平台X本週宣布，如果創作者發布武裝衝突AI生成影片卻未加上標註，將暫時中止其盈利計劃。

X的盈利計畫獎勵符合資格的使用者，若其貼文產生大量的瀏覽、按讚、分享和評論，即可從平台獲得分潤。

牛津大學網路研究所專門研究伊朗的研究員阿里馬爾達尼（Mahsa Alimardani）表示：「這是一個顯著訊號，顯示X已經注意到這是個大問題。」

BBC詢問TikTok、臉書及Instagram的母公司Meta，是否打算採取類似行動，但皆未回應置評請求。

BBC查核部追蹤到的一個典型的AI生成影片例子，似乎顯示飛彈擊中以色列大城特拉維夫，背景中響起爆炸聲。

這段影片出現在300多則貼文中，隨後在各個社群媒體平台被分享數萬次。

部分X用戶求助於平台的AI聊天機器人Grok，以確認影片的真實性。但在BBC查核部看到的許多案例中，Grok錯誤地堅持認為該段AI生成影片是真的。

假影片恐使人不信任已驗證的網路資訊

另一段被觀看數千萬次的造假影片，聲稱顯示全球最高樓、杜拜的哈里發塔（Burj Khalifa）陷入火海，同時一群人看似正跑向該建築。

在居民和遊客對杜拜遭無人機和飛彈襲擊感到相當擔憂之際，這段AI生成影片在網路上廣泛傳播。

阿里馬爾達尼表示：「這類假影片會使人們對網路上已驗證資訊的信任度造成不利影響，並使記錄真實證據變得更加困難。」

利用AI造假的新特徵：AI生成衛星影像

BBC查核部分析，這次衝突的一個新特徵是AI生成衛星影像的出現。

BBC查證多段真實影片，顯示在衝突第一天，伊朗對位於巴林的美國海軍第五艦隊總部發動無人機和飛彈攻擊。

與伊朗政府有關聯的《德黑蘭時報》第二天在X上分享一張假照片，聲稱該座美軍基地遭到廣泛破壞。

這張假照片似乎是基於2025年2月拍攝的巴林美軍海軍基地的真實衛星影像，該影像在網路上可公開取得。

根據Google的SynthID浮水印檢測器，這張虛假影像是使用Google的AI工具生成或編輯。

其中一個查核線索是，停在室外的三輛車在真實衛星影像和AI圖片中的位置完全相同，儘管這些照片在時間上應該相隔了一年。

Google的AI工具，包括影片產生器Veo，正出現在越來越多的熱門AI平台名單中，例如OpenAI的Sora模型、中國的AI應用程式Seedance以及內置於X的Grok。

生成式AI專家艾傑德（Henry Ajder）表示：「現在可以用來製作各種高度逼真的AI變造內容的工具數量是前所未有的。我們從未見過這些工具如此唾手可得、使用如此方便且便宜。」

科技政策非營利組織「修復什麼」（What To Fix）執行長里歐（Victoire Rio）表示，這已導致網路上的AI生成內容激增，「因為現在進入社群媒體的管道幾乎可以完全自動化」。

X的產品主管3日表示，「99%」傳播這類AI生成影片的帳號，都試圖透過發布能產生大量參與度的內容，以換取X的「創作者收入分潤計畫」（Creator Revenue Sharing programme）的報酬，藉此「操弄變現」。

X並未公布有多少帳號參與這項計畫，也沒有公布這些帳號可以賺多少錢。但葛蘭姆估計，每百萬次經核實的用戶曝光量，X可能會支付8到12美元（約255至382元台幣）。

「病毒式傳播的AI生成內容基本上就是一台印鈔機」

葛蘭姆補充：「創作者必須在三個月內達到500萬次自然曝光，加上持有X premium訂閱，才有分潤資格。一旦加入，病毒式傳播的AI生成內容基本上就是一台印鈔機。他們建立了最終極的錯誤資訊企業。」

X並未回應BBC置評請求，也沒有回應關於創作者收入分潤計畫的問題。

專家告訴BBC查核部，雖然許多社群媒體公司表示，正試圖改變其審核和檢測系統，以應對AI生成內容傳播的規模和速度，但這個問題沒有簡單的解決方案。

葛蘭姆表示：「更深層的問題是，以用戶參與度為導向的獲利模式和正確資訊間存在著根本性的緊繃關係，沒有平台能夠完全解決這種緊繃，或許永遠也無法解決。」