卡洛琳·穆雷(Caroline Mullet)是西雅图附近Issaquah高中(Issaquah High School)的九年级学生，去年秋天她第一次参加了返校舞会，那是一场以詹姆斯·邦德(James bond)为主题的狂欢，有21点牌桌，数百名女孩穿着派对礼服参加。
几周后，她和其他女学生得知，一名男同学在传播参加舞会的女孩的假裸照，这些露骨的色情照片是他利用一款人工智能应用程序制作的，该应用程序旨在自动“脱衣”真实女孩和女人的衣服照片。
15岁的穆雷提醒了她的父亲、华盛顿州民主党参议员马克(Mark)。虽然她不是照片中的女孩，但她问是否可以做些什么来帮助她的朋友，因为男同学看到了她们的模拟裸照，她们感到“非常不舒服”。很快，马克·穆雷(Mark Mullet)和州议会的一位同事提议立法，禁止分享人工智能生成的对真实未成年人的露点描绘。
卡洛琳·穆雷在1月份的一次法案听证会上对州议员说:“我讨厌这种想法，我应该担心这种事情再次发生在我的任何女性朋友、姐妹甚至我自己身上。”
州议会在没有反对意见的情况下通过了这项法案。民主党州长杰伊·英斯利(Jay Inslee)上个月签署了该法案。
在校园内迅速蔓延的新型同侪性剥削和性骚扰问题上，各国处于最前线。美国各地的男孩都在使用广泛使用的“裸体化”应用程序，偷偷地制作女同学的露骨色情照片，然后通过Snapchat和Instagram等应用程序的群聊传播这些模拟裸照。
现在，部分受到像穆雷特这样的十几岁女孩令人不安的描述的刺激，联邦和州立法者正急于制定保护措施，以跟上剥削性人工智能应用的步伐。
根据非营利组织国家失踪与受剥削儿童中心汇编的数据，自去年年初以来，至少有24个州提出了法案，以打击人工智能生成的18岁以下未成年人的色情图像——即所谓的深度造假。一些州已经颁布了这些措施。
其中，南达科他州今年通过了一项法律，规定拥有、制作或传播人工智能生成的描绘真实未成年人的性虐待材料是非法的。去年，路易斯安那州颁布了一项深度造假法，将人工智能生成的对未成年人的露骨色情描述定为犯罪。
“听到这些案件以及造成的伤害有多大，我有一种紧迫感，”民主党众议员蒂娜·奥沃尔(Tina Orwall)说。她在听到伊萨卡高中(Issaquah High)这样的事件后，起草了华盛顿州明确的深度法律。
一些立法者和儿童保护专家表示，迫切需要这样的规定，因为人工智能裸照应用程序的容易获得使得大量生产和传播虚假的、生动的图像成为可能，这些图像可能会在网上流传一辈子，威胁到女孩的心理健康、声誉和人身安全。
“一个男孩用他的手机在一个下午就可以伤害40个女孩，未成年女孩，”国家失踪和受剥削儿童中心的首席法律官Yiota Souras说，“然后他们的照片就会流传出去。”
在过去的两个月里，深度假裸体事件在学校蔓延，包括伊利诺伊州的里士满、加利福尼亚州的比佛利山庄和拉古纳海滩。
然而，美国很少有法律专门保护18岁以下的人免受人工智能应用程序的剥削。
美国众议员Joseph Morelle表示，这是因为许多现行法规禁止儿童性虐待材料或成人未经同意的色情内容(包括真人的真实照片或视频)，可能不包括人工智能生成的使用真人面部的露骨图像。
去年，他提出了一项法案，将披露人工智能生成的可识别成人或未成年人的私密图像定为犯罪。它还将赋予深度造假的受害者或家长起诉个别肇事者要求赔偿的权利。
莫雷尔说:“我们想让任何人哪怕只是考虑这样做，都感到痛苦，因为这是一种你无法简单消除的伤害。”“即使对一个15岁的男孩来说，这似乎是一个恶作剧，但这是非常严重的。”
美国众议员亚历山大·奥卡西奥-科尔特斯，纽约州民主党。美国最近推出了一项类似的法案，使受害者能够对深度造假犯罪者提起民事诉讼。
但这两项法案都没有明确赋予受害者起诉人工智能认证应用程序开发者的权利，辩护律师表示，这一举措将有助于破坏露骨色情深度假货的大规模生产。
“需要立法来阻止商业化，这是问题的根源，”代表性侵犯和性骚扰案件受害者的华盛顿律师伊丽莎白?汉利(Elizabeth Hanley)表示。
美国法律禁止传播电脑生成的儿童性虐待材料，这些材料描绘了可识别的未成年人从事露骨的性行为。上个月，美国联邦调查局(FBI)发出警告称，这些非法材料中包括人工智能生成的逼真的儿童性虐待图像。
然而，专家表示，人工智能生成的真实少女裸体的假图像可能不构成“儿童性虐待材料”，除非检察官能够证明这些假图像符合露骨性行为或猥亵展示生殖器的法律标准。
一些辩护律师试图利用这种明显的法律模糊性。最近，在新泽西州的一起深度造假诉讼中，一名为一名男高中生辩护的律师辩称，法院不应该暂时限制他的当事人观看或分享这些照片，因为他们制作了一名女同学的裸照，因为这些照片既不有害也不违法。这位律师在一份法庭文件中辩称，联邦法律的设计并不适用于“计算机生成的合成图像，这些图像甚至不包括真实的人体部位”。(被告最终同意不反对针对这些照片的限制令。)
现在，各州正在努力通过法律，制止对人工智能图像的剥削。本月，加州提出了一项法案，更新了该州对儿童性虐待材料的禁令，专门涵盖人工智能生成的虐待材料。
马萨诸塞州的立法者正在起草立法，将未经同意分享露骨图片(包括深度伪造)定为犯罪。它还要求一个国家实体为分享露露图片的未成年人制定一项转移注意力的计划，教导他们“负责任地使用生成式人工智能”等问题。
惩罚可能会很严厉。根据路易斯安那州的新法律，任何故意制作、分发、宣传或销售未成年人色情作品的人都可能面临最低5到10年的监禁。
《纽约时报》通过公开记录请求获得的警方文件显示，去年12月，迈阿密-戴德县(Miami-Dade County)警方逮捕了两名中学生，他们涉嫌制作和分享两名12岁和13岁女同学的假裸照。根据2022年的一项州法律，这些男孩被控犯有三级重罪，该法律禁止未经同意改变性描绘。(迈阿密-戴德县的州检察官办公室表示，它无法对未决案件发表评论。)
华盛顿州的新深度造假法采取了不同的方法。
马克·穆雷(Mark Mullet)从女儿那里得知伊萨夸高中(Issaquah High)发生的这件事后，他联系了奥沃尔(Orwall)。奥沃尔是性侵幸存者的倡导者，曾是一名社会工作者。奥沃尔曾参与起草该州首批复仇色情法案之一，随后起草了一份众议院法案，禁止传播人工智能生成的未成年人或成人的亲密或露骨的图像。(马雷发起了参议院的配套法案，现在正在竞选州长。)
根据最终的法律，初犯者可能面临轻罪指控，而先前因泄露色情图片而被定罪的人将面临重罪指控。新的deepfake法规将于6月生效。
“我们在保护方面落后并不令人惊讶，”奥沃尔说。“这就是为什么我们想要如此迅速地推进它。——《纽约时报
×
