▲xAI聊天機器人Grok。（圖／達志影像／美聯社）
記者吳立言／綜合報導
Grok近 日因圖像生成功能涉及性別化與暴力內容，引發多國監管關注與社會爭議。面對潛在的罰款與監管壓力，Grok 已暫停向多數使用者提供圖像生成與編輯功能，目前僅限付費用戶使用。
圖像功能遭濫用 引發性別與暴力爭議
根據外界揭露，Grok 的圖像生成功能曾多次被用於操縱女性影像，包括移除衣物、加入性暗示姿勢，甚至生成涉及暴力情境的內容。相關案例在社群平台流傳後，引發對 AI 圖像工具倫理與濫用風險的強烈質疑。
英國監管壓力升高，不排除封鎖平台 官方聲明：圖像功能僅限付費帳戶
Grok 所屬平台 X 透過官方帳號表示，圖像生成與編輯功能目前僅對付費用戶開放。平台指出，付費帳戶需綁定個人與付款資訊，若發生濫用行為，將有助於進行身分追查與責任釐清。
事件也引起英國政府高度關注。英國首相 Keir Starmer 近期公開表態，要求平台必須有效控管 AI 生成的不當影像內容，並形容相關影像「令人無法接受」。依據英國《線上安全法》，監管機構 Ofcom 在嚴重情況下，可要求法院限制相關服務在英國境內運作，並對企業處以最高達全球營收 10% 的罰款。
研究指出：仍存在數位性侵風險
非營利組織 AI Forensics 的研究顯示，Grok 的圖像工具曾生成約 800 張涉及色情或性暴力內容的影像與影片。研究人員指出，即便限制為付費用戶，仍可能構成未經同意的數位性侵，相關風險並未完全消除。
截至目前，X 與 Grok 團隊尚未就後續監管配套、內容審核機制或是否進一步收緊功能使用條件，做出更詳細說明。外界普遍關注，這起事件是否將成為各國強化 AI 圖像生成監管的重要轉折點。
ETtoday新聞網提醒您：
保護被害人隱私，避免二度傷害。
移除下架性影像，洽性影像處理中心。
終結性影像，不拍攝、不持有、不下載、不分享。
讀者迴響