馬斯克(Elon Musk)旗下xAI聊天機器人Grok推出「AI伴侶」,角色Ani形象被認為帶有性暗示,引發爭議。
美國富豪馬斯克(Elon Musk)旗下人工智慧公司xAI,近日為旗下聊天機器人Grok新增「AI伴侶(AI Companion)」功能,開放兩款虛擬角色和用戶互動,但其中一名角色Ani因形象帶有性暗示,被美國反性剝削組織(NCOSE)點名「外觀幼態、鼓吹高風險性行為」,要求平台下架,掀起爭議。
馬斯克的「AI伴侶」功能目前開放給所有Grok用戶使用,即使沒付費訂閱也沒問題,但要事先在應用程式設定中手動啟用「Enable Companions」選項。啟用後,就可以和動漫少女「Ani」及紅色貓熊造型角色「壞壞Rudi(Bad Rudi)」進行語音互動,兩者皆會根據語音做出口型與手部動作模擬,打造擬真互動體驗。
根據外媒《NBC News》報導,Ani的造型是日本動漫風的金髮雙馬尾少女,自稱可讓用戶生活「更性感」,並具備高度擬人反應。她會依用戶的對話行為逐步解鎖不同服裝,當互動親密度提高後,Ani甚至還會脫掉原本的服裝,只穿著遮住三點的黑色薄紗,以及扭腰晃動身體等動作。
另一個角色壞壞Rudi風格截然不同,外觀看起來似乎屬於萌系,但一開口就很偏激。根據網友們在社群上傳的測試影片,它會邀請用戶加入一個虛構的、目的要「製造混亂」的幫派,並描述包括炸銀行、破壞婚禮、擾亂水源等暴力計畫。不過,「暴力版本」需使用者在設定中主動開啟,預設版本則為語氣較溫和的友善模式。
對此,美國全國反性剝削中心(National Center on Sexual Exploitation)昨(7/15)日發表聲明,呼籲xAI應立即下架Ani。他們認為Ani的外觀與互動內容具有「性幼化」風險,不僅加強對女性角色的物化,也可能助長男性對性關係的扭曲認知。
NCOSE副總裁麥納馬拉(Haley McNamara)指出:「這些色情化互動會讓性控制與性挑逗行為合理化,極可能對未成年用戶造成負面影響。」截至目前,xAI尚未對外界批評做出正式回應。
不過,馬斯克今(7/16)稍早在X曬出一張新的日系動漫帥哥形象,宣告Grok將新增「帥哥版」的AI伴侶,並詢問大家「我們應該給我們的男性伴侶@Grok取什麼名字?」只見這個新的男性角色留著一頭黑色中分短髮,眼神銳利又憂鬱,留言區也開始爭相幫「他」取名字,反應熱烈。
馬斯克旗下xAI聊天機器人Grok即將推出帥哥版「AI伴侶」。翻攝自X