自2025年底起，在X平台可使用的生成式人工智慧（AI）Grok引發一連串爭議，有使用者在未經本人同意情況下，將真實女性的照片加工成不雅照。照片被加工者紛紛表達不滿。X平台所有人馬斯克終於在週日（4日）對此問題表態。
根據路透、ITMedia報導，住在巴西里約熱內盧的音樂人茱莉尤卡里（Julie Yukari），跨年夜在X發布一張由她未婚夫拍攝的照片。照片中她穿著紅色洋裝，與她的黑色貓咪Nori依偎在床上。隔天，在這張照片數百個讚中，她收到通知，有使用者在請求X內建的AI聊天機器人Grok，將她的照片數位化改成她只穿比基尼的樣子。
她起初沒太在意，以為AI機器人不可能會真的照做。但她錯了。很快，Grok生成的幾乎全裸照片在X上流傳開來。
路透分析發現，尤卡里的經歷在X平台並非個例。路透發現數起Grok生成未成年色情照片的案例。此前，針對報導稱平台上流傳未成年色情圖片，X母公司xAI回應稱：「傳統媒體在說謊。」
這波真實人物幾乎全裸照片的氾濫，已引起國際關注。法國閣員已向檢察與監管機關舉報X平台，稱這些色情及性別歧視內容「明顯違法」。印度資訊科技部也向X在當地的法人發函，指出平台未能阻止Grok生成與傳播淫穢及色情化內容。
引發爭議的原因在於Grok的官方帳號提供的圖片編輯功能。例如，使用者可對扮裝者（Cosplayer）或模特兒發布的圖片，以回覆形式留言「＠Grok 把服裝改成○○」，讓AI在未經本人同意下生成色情圖片。有藝人、政治人物因此受害。其中，也有少數人刻意發布自己的照片並以色情方式加工，或發布誘導性貼文以吸引注意。不過，基本上多數人都不希望自己的照片被擅自加工，因此，此類行為普遍遭到批評。
對此，馬斯克（Elon Musk）起初似乎抱持調侃態度，上週他在貼出包括自己等名人穿比基尼的AI生成圖片時附上笑哭表情符號。當一名X使用者表示，他的社群動態像是充滿比基尼女性的酒吧時，馬斯克回覆了一個笑哭表情。不過，他4日於自己的X帳號警告：「使用Grok製作非法內容的用戶，將承擔與上傳非法內容相同的後果。」
編輯 / 羅志光
【巴西華人資訊網】
