【编者按】在人工智能技术日新月异的今天，其滥用风险正引发全球警惕。近日，英国首相斯塔默对马斯克旗下社交平台X的AI聊天机器人Grok发出严厉警告，因其涉嫌生成女性与儿童的色情图像，触碰了科技伦理的底线。这一事件不仅暴露出AI技术在内容监管上的漏洞，更折射出平台责任与法律监管间的激烈博弈。当科技巨头以“言论自由”为盾牌，政府则以“保护弱势”为矛，这场关乎道德、法律与创新的拉锯战，或将重新定义数字时代的权力边界。以下是事件详情——
英国首相基尔·斯塔默警告称，若埃隆·马斯克旗下社交平台X继续放任其AI聊天机器人Grok生成女性及儿童色情图像，政府将采取强制措施“接管控制权”。
斯塔默向工党议员直言，Grok与X平台的行为“令人作呕且耻辱至极”。
他在议会工党会议上严正表态：“如果X平台管不住Grok，我们政府就来管——而且我们会立刻行动！任何从伤害与虐待行为中牟利的企业，都将丧失自我监管的资格。”
据悉，X平台的AI工具Grok通过篡改人物照片，竟能实现“脱衣”或生成性暗示姿势，专门针对女性与儿童制造色情图像。
尽管全球抗议浪潮已迫使Grok关闭了非付费用户的图像生成功能，但仍有免费用户反映可继续生成此类违法内容。
斯塔默周一晚间补充强调：“平台选择保护施虐者而非受虐的妇女儿童，完全是本末倒置！我在此明确表态：我们绝不容忍这种行为。无论世界如何动荡复杂，本届政府都将坚守价值观，为弱势群体对抗强权。”
唐宁街早前暗示，若X平台对AI聊天机器人的风险坐视不理，政府将考虑全面停用该平台，并称“所有选项都在考虑范围内”。
此前马斯克反击称“英国政府不过是在找借口实施言论管控”，而斯塔默则斥责X平台对Grok的付费限制措施“堪称侮辱”。
就在斯塔默发出最新警告前数小时，科技大臣莉兹·肯德尔宣布加速立法进程，将利用AI生成非自愿私密图像的行为定为刑事犯罪。
她同时声明，自本周起“主动要求生成此类图像”同样属于违法行为。
去年通过的《数据（使用与访问）法案》正逐步实施，但肯德尔表示已紧急推进其中关于AI生成非自愿图像的条款。
此外，正在议会审议的《犯罪与警务法案》也将规定：企业若提供专门用于制作非自愿网络图像的工具，将面临刑事指控。
周一上午，英国媒体监管机构Ofcom宣布对Grok展开正式调查，重点审查X平台是否“违反《网络安全法》规定的法定义务”。
该机构声明指出：“GrokAI聊天机器人被用于制作传播人物裸照——可能构成私密图像滥用或色情内容——以及儿童性化图像，这些都可能归类为儿童性虐待材料，相关报告令人极度不安。”
