印度資訊科技部於當地時間週五下令，要求伊隆馬斯克旗下的X平台對其人工智慧聊天機器人Grok進行緊急技術與操作整改。此舉源自於該工具被指控產生「低俗色情」內容，包括利用AI技術篡改生成女性比基尼圖像，甚至涉及未成年人的性化素材。
據悉，這項命令直接回應了用戶舉報及印度議員普里揚卡·查圖維迪的正式投訴。印度當局要求X平台立即限制Grok產生涉及裸體、露骨色情等非法內容的能力，並在72小時內提交詳細整改報告。政府警告，若拒不遵守，平台可能喪失依印度法律享有的「安全港」責任豁免保護，進而面臨法律追責。
緊接著，X平台已承認相關安全防護存在漏洞，並表示已下架部分違規影像。然而，調查顯示，截至命令發布後，平台上仍可找到由Grok產生的竄改影像。這凸顯了整改的迫切性與複雜性。
值得注意的是，在此次專案命令發布前，印度政府已向所有社群媒體平台發出廣泛警示，強調遵守當地禁止低俗色情內容的法律是豁免責任的前提。印度作為關鍵數位市場，其加強AI內容監管的舉措，可能對全球科技公司產生連鎖影響。
同時，X平臺本身仍在法庭上對印度部分內容監管規則提出質疑，認為政府權力有濫用風險。但在此事件中，平檯面臨平衡創新、言論自由與法律合規的巨大壓力。隨著用戶越來越多地借助Grok進行時事查核與評論，其生成內容的合規性與社會責任顯得更為重要。
