本文是关于校园深度性犯罪的三篇系列文章中的第二篇。这些犯罪行为包括篡改照片和视频来制作露骨的内容，造成学生之间的不信任和紧张关系，有时还会导致学生和老师之间的关系紧张。该系列是与《韩国时报》的姊妹报纸《韩国日报》的调查性报道专门小组“卓越实验室”（Excellence Lab）合作制作的。- ED。
在韩国和美国的学校都发生了严重的假性犯罪事件之后，15岁的弗朗西斯卡·马尼（Francesca Mani）和她的母亲多洛塔·马尼（Dorota Mani）把她们的个人磨难变成了一场强大的变革运动。
“我不是在寻求同情，我想要的是责任，”弗朗西斯卡在最近的一次采访中告诉《韩国时报》。
“学校需要明确表示，这种行为是不可接受的，并确保肇事者对他们的行为负责。”
她的故事与韩国的类似案件形成鲜明对比，受害者往往保持沉默或受到社会的污名化。
去年10月，新泽西州韦斯特菲尔德公立学校（Westfield Public School）的弗朗西斯卡（Francesca）和其他几名10年级女生向学校管理人员报告说，男同学使用人工智能软件制作并传播了她们露骨的深度假照片。
学校在当月晚些时候展开了调查。然而，该制度未能充分保护受害者。
虽然学校管理人员悄悄地询问了一些涉案的男孩，但他们公开把弗朗西斯卡和其他被深度伪造的女孩叫到了学校办公室，通过对讲机宣布了她们的名字。
学校校长玛丽·阿斯芬迪斯（Mary Asfendis）承认事件的严重性，并给家长们发了一封电子邮件，称深度造假是“非常严重的事情”。马尼一家表示，尽管学生和家长担心这些照片可能会被传播，但阿斯芬迪斯向他们保证，学校相信所有伪造的照片都已被删除，不再被分享。
虽然学校承认事件的严重性，但未能对违法者采取适当的行动。
就在deepfake事件曝光几天后，弗朗西斯卡发现，负责制作伪造图像的一个男孩只被拘留了一到两天，作为惩罚。
这些罪犯继续上学，甚至代表学校参加体育比赛，表现得好像什么都没发生过一样。
当她质疑这种从轻处罚时，学校告诉她，他们无法采取进一步措施，理由是缺乏针对此类事件的立法。
“那天，我女儿回到家说，‘这不对。我拒绝佩戴受害者的徽章，’”多洛塔回忆道。
她说：“这一事件最初令人震惊，但随着时间的推移，更大的失望来自法律、立法和法规的缺乏。”
这位母亲还谴责学校管理人员逃避责任，因为他们以不熟悉深度伪造技术及其不断发展的威胁为自己的不作为辩护。
弗朗西斯卡决心确保学校在未来能够更有效地应对，她告诉母亲，她想倡导法律变革，并寻求母亲的帮助。
“一切就是这样开始的，”多洛塔回忆起她和女儿正在开始的努力时说。
“看似最难的其实是最容易的”
对于弗朗西斯卡和多洛塔来说，最初引发震惊和愤怒的深刻事件成为她们通过制度变革寻求正义的强大催化剂。
“我认为最困难的部分——修改法律和通过立法——结果是最容易的，”多洛塔说。
他们联系了包括众议员乔·莫雷尔（Joe Morelle）在内的议员，莫雷尔七年来一直在倡导反对深度造假。
多洛塔说：“莫雷尔是我们合作过的第一位议员。
1月16日，Morelle宣布了他的两党提案，即《防止深度伪造亲密图像法案》，旨在阻止人工智能生成的深度伪造色情内容的传播。
他强调，深度色情是一种性剥削和性虐待。令他震惊的是，这还没有被列为联邦犯罪。
“我的立法最终将使这种危险的做法非法，并追究肇事者的责任，”莫雷尔通过电子邮件告诉《韩国时报》。
马尼家族还与德克萨斯州参议员特德·克鲁兹（Ted Cruz）合作，制定了两党立法《拿下它法案》（Take It Down Act）。
该提案于6月18日提出，旨在将发布未经同意的性剥削图像（包括人工智能生成的深度伪造图像）定为刑事犯罪，并要求在线平台实施允许受害者要求删除此类内容的机制。
多洛塔说：“《拿下它法案》确实与与深度造假有关的一般性犯罪产生了共鸣。”
她指出，有些受害者出于各种原因——宗教、家庭或个人原因——不愿意站出来。
“我们不该评判或强迫他们，但他们需要一种方式来夺回对这些照片的控制权，”她说。
多洛塔强调了赋予受害者权力的重要性，她指出：“人们需要一个渠道，让他们能够收回这些照片的力量。”
截至12月2日，该法案仍在参议院悬而未决。
除了与议员们合作，弗朗西斯卡和多洛塔还通过克鲁兹的办公室联系了社交媒体公司Snapchat，这是一款流行的即时通讯应用，大约60%的青少年都在使用。
多洛塔说：“Snapchat告诉我们，他们一直在进行一项为期三年的研究，研究他们的平台对年轻一代的影响。”
在涉及深度造假的反复事件发生后，该公司开发了一种工具，旨在帮助教育工作者了解并教学生如何在数字时代保护自己。
多洛塔继续与Snapchat沟通，探索向教育工作者介绍该工具的机会。
她说：“这将为教育工作者提供资源，让他们更深入地了解当前的技术，从而更好地保护他们的学生。”
打破沉默，争取问责制
虽然他们的积极努力导致了旨在扩大受害者声音的立法提案，但他们认为，学校没有改变，在制定有效的政策来应对此类事件方面仍然落后。
监督该地区公立学校的地区办事处最初专注于控制ChatGPT等生成式人工智能工具的使用，以防止作业作弊，但未能采取措施解决深度造假问题。
10个月后，学校终于修改了人工智能规定。更新后的政策现在包括针对学生的课程，内容包括制作非法深度赝品的民事和刑事后果，以及此类行为对受害者的深远影响。
尽管经历了种种磨难，但弗朗西斯卡称自己很幸运，因为许多人支持她努力创造有意义的改变。
“我的老师和朋友都非常支持我。是学校管理辜负了我们。”弗朗西斯卡说。
她还表达了继续反对深度造假的热情，强调了她作为联合国动态青少年联盟的合作伙伴和耶鲁大学人工智能大使的工作。
她的努力为她赢得了巨大的认可，包括被评为今年《时代》杂志人工智能100强中最年轻的人。
韩国也在采取措施打击深度造假犯罪，10月10日通过的新立法要求对涉及该技术的数字性犯罪实施更严厉的惩罚。
修订后的性犯罪处罚法规定，对于那些被发现拥有、购买、存储或观看深度伪造的性材料和其他伪造视频的人，最高可判处三年监禁或3000万韩元（22251美元）的罚款。
此外，政府于11月宣布了旨在更有效地打击与深度假相关的性虐待的措施，包括立即删除剥削性材料和使用秘密调查。
然而，弗朗西斯卡的案例凸显了受影响者的声音如何在推动系统性变革中发挥关键作用。
弗朗西斯卡强调了维护个人权利的重要性。
“如果这个体系让你失望，那么是时候重新审视它，要求问责了，”她说。
