網紅小玉涉嫌使用DeepFake(深度偽造)技術製作換臉謎片,成立社群群組「台灣網紅挖面」,盜用網紅、政治人物等名人頭像,換臉至色情影片獲取千萬暴利,已知超過百人受害,日前遭警方逮捕30萬交保。這項看似神奇的換臉技術,是怎麼運作的?
生成DeepFake影片,有兩組AI模型一起工作,專有名詞稱為「生成對抗網路(Generative Adversarial Network, GAN)」,用簡單的比喻解釋,第一組AI 像是仿畫大師,第二個AI則是鑑定家,仿畫大師要想辦法騙過鑑定家,鑑定家則要想辦法拆穿仿畫大師,經過不斷修正達到兩者的平衡,做出來的成品就會「看起來跟真的一樣」。
科技本身是把雙面刃,DeepFake技術常見於影視產業,例如美國好萊塢利用相似技術,讓已經逝世的電影明星重返大螢幕。國外企業也嘗試以「虛擬網紅」當代言人,只要購買肖像權,以替身搭配DeepFake技術製播宣傳廣告,省下明星進棚拍攝的費用,也不會受明星檔期、醜聞影響,將可大大降低行銷成本。
然而,DeepFake技術負面影響大於正面利益,數位性暴力事件中,有心人士未經當事人許可,盜臉合成色情影片,受害者不僅有明星、網紅,甚至素人的臉也能開價「客製」。Deepfake技術也被用來製作惡意的政治操弄,如「歐巴馬罵川普笨蛋」的影片,已被證實為假新聞。
衛福部呼籲大眾發現自己或親朋好友成了受害者時,務必要記得以下3步驟:截圖存證、報警協助、至iWIN申訴,也提醒大眾發現這類不法影像時,應「不持有、不轉傳、不上車」。
參考資料:
〈當你的臉不再屬於你自己|DEEPFAKE換臉技術【厚厚解說】〉
〈Deepfake大解密!「換臉」技術更簡單,到底怎麼辦到的?【數位時代】〉