【编者按】人工智能的浪潮席卷全球，带来便利的同时也暗藏危机。近日，一款名为Grok的AI工具因被滥用于生成成人及儿童的色情图像，在国际社会掀起轩然大波。爱尔兰政府官员紧急约谈平台方X，欧盟监管机构介入调查，民间组织纷纷发声谴责。这不仅是技术伦理的警钟，更是对网络空间法治与人权的严峻考验。当AI成为伤害他人的武器，我们该如何筑起防护墙？以下是事件详情，值得每一位关注科技与社会的读者深思。
爱尔兰人工智能国务部长尼亚姆·斯迈思因担忧人工智能工具Grok被用于生成成人及儿童的色情图像，已要求与X平台进行紧急会面。
斯迈思女士表示，她已直接致函X，希望讨论该平台将采取哪些措施应对围绕埃隆·马斯克旗下xAI聊天机器人（已整合至X平台）的“令人不安”的报道。
媒体监管机构Coimisiún na Meán表示，正就Grok能响应用户指令、对人物（包括未成年人）图像进行“脱衣”并进一步在X上传播的担忧，与欧盟委员会进行磋商。
斯迈思女士称，她也已要求Coimisiún na Meán和总检察长办公室提供最新情况，并补充说，应从法律和监管双重角度应对这一“严重违法行为”。
“分享未经同意的私密图像是非法的，生成儿童性虐待材料也是非法的。”
“根据爱尔兰的在线安全框架，在线平台有明确的义务对非法内容报告采取行动。”
斯迈思敦促担心图像被在线分享的人，向爱尔兰警方、hotline.ie、遇到该内容的在线平台以及Coimisiún na Meán进行举报。
X表示，其平台会对非法内容（包括儿童性虐待材料）采取行动，例如删除内容、永久封禁账号，并与政府和执法机构合作。
该公司在X上发帖称：“任何使用或诱导Grok制作非法内容的人，将面临与上传非法内容相同的后果。”
昨日，爱尔兰总理迈克尔·马丁将这些报道描述为“不可接受”且“令人震惊”。
马丁表示：“我们将继续向Coimisiún na Meán和（欧盟）委员会提出此事。”
人工智能委员会主席呼吁加速法案进程
爱尔兰议会人工智能委员会主席敦促政府加快一项法案的进程，以应对AI深度伪造和“脱衣”换脸问题。
共和党议员马尔科姆·伯恩表示，《2025年声音与图像保护法案》为“急需的立法提供了一个实用的起点”。
“该法案预见到了本周变得明显的、将AI武器化用于性目的的相关问题。”
他表示：“未经同意为恶意目的滥用他人图像或声音的行为应构成刑事犯罪。”
早些时候，工党参议员劳拉·哈蒙表示，助长虐待行为的AI平台必须承担后果。
“我们在AI工具滥用中看到的情况，凸显了技术发展速度超过执法能力的现实。”
“公司从强大的AI系统中获利，却对工具如何被滥用或武器化视而不见，这是不可接受的。”
爱尔兰互联网热线支持禁止‘脱衣’应用
爱尔兰互联网热线——hotline.ie——是指定的儿童性虐待图像举报机构。
该组织表示，支持全面禁止“脱衣”应用及其他能生成儿童和成人深度伪造色情图像的AI功能。
该热线在一份声明中表示：“我们一贯的立场是，此类技术没有合法用途。”
人权专家称99%的深度伪造针对女性
爱尔兰儿童保护特别报告员考伊尔菲翁·加拉格尔表示，据估计，网上可获取的色情深度伪造内容中99%涉及妇女和女童。
她告诉爱尔兰广播电视台的《早安爱尔兰》节目：“这也是一个基于性别的暴力问题。”
研究表明，深度伪造性虐待对描绘对象造成的伤害与真实图像造成的伤害相当。
“因为对受害者来说，这些视频感觉是真实的，而且鉴于它们如此逼真，受害者知道别人也可能认为它们是真实的。”
“我们在此应对的是Grok在未经同意的情况下对人们进行数字‘脱衣’，包括生成例如12岁儿童穿着比基尼的图像，并制作裸体或色情的儿童样貌图像。”
我们需要您的同意才能加载此rte-player内容。我们使用rte-player来管理可在您的设备上设置cookie并收集有关您活动数据的额外内容。请查看其详细信息并接受以加载内容。管理偏好设置
她补充说，生成这些图像通常是虐待或骚扰模式的一部分。
加拉格尔女士表示，还必须考虑更广泛的社会问题。
“不仅是Grok，更广泛地说，我们知道其他脱衣应用是在大量以女性图像为主的数据集上进行训练的，因为它们往往对女性身体最有效。”
她表示，国际社会普遍担忧现有保护措施是否足够，因为从国际法律和政策角度来看，大多数措施都非常侧重于可能生成图像的用户本身，而非平台和产品。
不过，她说总检察长办公室本周正在开展工作，审查现有框架。
妇女援助组织表示，将从明天起“不再维持”在X平台上的存在。
该慈善机构称，“AI深度伪造的创建和分享、未经同意的私密图像以及儿童性虐待材料的制作”是“临界点”。
“这种针对妇女和儿童——尤其是女童——的网络暴力通常会产生毁灭性的现实影响，我们认为继续使用这样的平台来分享我们的工作已不再合适。”
心理健康慈善机构Turn2Me呼吁Coimisiún na Meán和欧盟委员会封禁Grok AI工具。
该慈善机构首席执行官菲奥娜·奥马利表示，“未经同意和剥削性AI生成内容的持续扩散”对人们的心理健康“极为有害”。
她说：“受害者的肖像被篡改并作为露骨材料传播，尤其是涉及儿童时，对其造成的心理影响怎么强调都不为过。”
“这种虐待会加剧创伤、焦虑、抑郁，并对在网上寻求安全的脆弱人群造成困扰。”
教师兼研究员埃奥因·克利里呼吁禁止AI‘脱衣’应用：
英国政府考虑就Grok深度伪造采取‘所有选项’
英国政府可能停止使用X社交媒体平台，以抗议Grok被用于制作色情深度伪造图像。
唐宁街表示，“所有选项都在考虑之列”，包括抵制X，同时内阁大臣们支持媒体监管机构Ofcom采取行动。
首相基尔·斯塔默的发言人说：“我们在Grok上看到的情况是可耻的。这完全不可接受。”
“任何人都不应经历在网上看到自己私密深度伪造图像的折磨，我们不会允许这些侮辱性图像的扩散。”
“X需要紧急处理此事，Ofcom在那些未能保护英国用户的公司采取执法行动方面得到我们的全力支持。”
“它已有权处以高达数十亿英镑的罚款，甚至可停止访问违反法律的网站。”
“在保护人们在线安全方面，所有选项都仍在考虑之中。”
当被问及政府是否会停止使用该应用时，发言人表示：“所有选项都在考虑之列”。
