在面臨全球範圍內的強烈批評與監管壓力後，馬斯克旗下人工智慧工具Grok宣布暫停向大部分用戶開放其圖像生成功能。該決定緊接在英國首相史塔默發出可能依據《網路安全法》對X平台實施禁令的威脅。先前，Grok的「影像產生」功能被廣泛濫用，用於創造未經同意的女性性別化影像、虛假色情內容甚至暴力畫面，被指構成數位性侵犯。
據《衛報》報道，Grok已被用於製作描繪女性遭受暴力以及被移除衣物的性暗示圖像。 X平台上的Grok帳戶發布聲明稱，目前“圖像生成和編輯僅限於付費用戶”，普通用戶已無法使用。平台稱此舉旨在透過綁定付費用戶信用卡資訊以追溯濫用者身分。然而，批評者指出，這項限制並未根除問題，付費用戶仍可能利用該功能製作有害內容。
英國監管機構Ofcom有權在嚴重情況下尋求法院命令封鎖平台，並可處以全球營業額10%的高額罰款。史塔默首相強烈譴責此類內容「令人髮指」且違法，要求X平台立即採取行動清除。非營利組織AI Forensics的研究顯示，Grok Imagine工具在測試中產生了約800張包含色情與性暴力內容的圖像。儘管民眾呼聲高漲，平台此功能限制被外界視為在重大監管壓力下的被動應對，其實際效果與長期治理策略仍有待觀察。
