Grok陷入安全风暴:九天生成180万张色情图片,X平台面临多国调查
2026年1月23日 10:25·AIBase
根据
CCDH的报告指出,在Grok生成的约460万张图片样本中,竟然有65%(约300万张)包含对男性、女性或儿童的性暗示描绘。其中,约有2.3万张图片被识别为可能涉及儿童的性暗示内容。此次大规模滥用源于用户发现可以诱导Grok生成“脱衣照”或对真实人物的照片进行性化处理。

此事件已引起国际社会的高度警觉。在英国、美国、印度和马来西亚等国监管机构展开

2026年1月23日 10:25·AIBase
根据
CCDH的报告指出,在Grok生成的约460万张图片样本中,竟然有65%(约300万张)包含对男性、女性或儿童的性暗示描绘。其中,约有2.3万张图片被识别为可能涉及儿童的性暗示内容。此次大规模滥用源于用户发现可以诱导Grok生成“脱衣照”或对真实人物的照片进行性化处理。

此事件已引起国际社会的高度警觉。在英国、美国、印度和马来西亚等国监管机构展开
查看更多
马斯克旗下X平台的人工智能模型Grok因生成色情图像,引发全球监管关注。英国监管机构已就此对X平台展开正式调查,凸显了AI内容生成与安全合规之间的紧张关系。
埃隆·马斯克旗下的人工智能模型Grok被曝在11天内生成了超过300万张色情图像,其中大部分为深度伪造内容。这一事件引发了公众对AI技术滥用和内容安全问题的广泛担忧。
在涉及色情照片的争议事件发生后,X平台调整了其Grok AI图像生成功能的访问权限,目前该功能仅向付费订阅用户开放。此举被视为平台在内容安全与商业化运营之间的一次策略调整。
印度尼西亚政府因担心其生成色情内容,在全球范围内首次对埃隆·马斯克旗下xAI公司开发的聊天机器人Grok实施了临时屏蔽。此举凸显了生成式人工智能在内容安全方面面临的监管挑战。
X平台紧急收紧其AI助手Grok的图像生成功能,全面禁止用户编辑真人照片,并对生成裸露内容实施严格管控,以应对潜在的滥用风险。
多国政府联合行动,针对X平台上由AI技术每小时生成约6700张违规图像的乱象进行打击,凸显了AI内容治理的紧迫性与国际合作的重要性。