在Vicky Pattison导演和制作的一部纪录片之后，deepfake这个词再次成为头条新闻。
她是英国电视名人，最出名的是出现在电视真人秀节目，如乔迪海岸和我是一个名人。放我出去！她还是一名主持人、作家和播客主持人。
帕蒂森想用这部新的纪录片来说明成人内容是如何在网上传播的，以及这些图像和视频是如何被删除的。
然而，像23岁的朱迪（Jodie）这样的网络虐待受害者建议不要播放这段视频。她告诉《卫报》，使用帕蒂森的深度造假视频的决定“缺乏同情心”，而且“品味低下”。
她说：“当制片人联系幸存者组织时，他们强烈反对这样做。”“他们寻求建议，然后又完全无视，这实在是太没品味了。”
虽然这部纪录片可能会引起争议，但它提出了关于深度造假及其影响的重要问题。
深度造假通常与色情有关，但它们并不局限于成人内容或视频。虽然色情是最具破坏性的深度虚假内容之一，但它并不是唯一有害的应用。
那么，深度造假是如何工作的呢？
深度伪造通常涉及对一个人的脸或身体进行数字改变，使他们看起来像另一个人。在深度伪造音频的情况下，一个人的声音被合成成一个片段，听起来像是他们在说他们从未说过的事情。这些操作是由机器学习和人工智能驱动的。
2019年Deeptrack实验室的一项研究发现，96%的深度造假视频是色情视频。然而，自那以来，社交媒体上不那么露骨的深度虚假内容激增，因为制作这些内容的工具变得更容易获得。
例如，你可能看过Miles Fisher的在线内容。他在抖音上发布了汤姆·克鲁斯做幽默事情的深度假视频。费希尔的声音和真实的身体都可以看到，但克鲁斯的脸是数字的。
费雪的外表和声音与年轻时的克鲁斯惊人地相似，这当然有所帮助。
当Deepfake技术在未经人们同意的情况下被用来制作色情内容，或者被用作传播错误信息或虚假信息的工具时，它是最危险的。
即使是表面上最无害的深度造假内容，也会按下与恶意内容相同的一些按钮，让你的大脑相信它是真实的，即使它被标记为深度造假。
深度假视频可能会显示一名政治候选人在选举前说了一些煽动性的话，试图破坏他们获胜的机会。这可能是一个公众人物公开反对疫苗，尽管他从未这样做过。
2019年，一段深度假鲍里斯·约翰逊支持杰里米·科尔宾的视频在网上流传。人工智能智库Future Advocacy制作该视频是为了敦促国会议员解决网上深度造假的蔓延问题。
工具已经被开发出来，并且还在不断改进，以跟上深度伪造技术日益复杂的步伐。然而，由于其中一些内容具有病毒式传播的性质，损害往往是在视频或音频剪辑被曝光为假货时造成的。
在深度假色情片中，名人或公众人物的脸被移植到性爱场景中，有效地将任何色情片都变成了多年前曾吸引如此多关注的那种“性爱录像带”内容。
女演员玛格特·罗比和斯嘉丽·约翰逊都是深度虚假色情作品的受害者。
2010年，约翰逊公开表示，试图遏制那些制造深度假货的人是多么无用。
“从法律上讲，我认为这是一种无用的追求，主要是因为互联网是一个巨大的黑暗虫洞，它会吞噬自己。对我来说，这是徒劳的追求，但这与那些因为自己的形象被那样利用而丢掉工作的人的情况是不同的。”
她说：“互联网只是性交易的另一个地方，弱势群体被掠夺。任何低级别的黑客都能窃取密码和身份。任何一个人成为目标只是时间问题。”
一般来说，深度造假在英国并不违法，因为它们覆盖范围很广——从无害的换脸应用到有害或恶意的用途，比如涉及公众人物的色情视频。考虑到深度造假背后的应用范围和技术创新，彻底禁止深度造假是不现实的。
然而，英国政府已采取行动解决深度伪造技术的有害使用问题。2022年11月，它宣布了一项计划，将未经个人同意分享色情深度伪造作品的行为定为刑事犯罪。这些露相的、经过处理的图片或视频将被《网络安全法案》（online Safety Bill）修正案所涵盖，该法案旨在加强对网络的保护，并处理未经同意的私密内容。
除此之外，其他恶意使用深度造假的行为可能会受到现行法律的约束，比如欺诈、诽谤或诽谤。例如，如果deepfake被用来欺骗或欺骗某人或损害他们的声誉，可能会导致刑事或民事诉讼。
然而，截至2025年1月，没有针对某人在深度造假中使用你的肖像的全面法律保护，这意味着如果个人的图像被以这种方式使用，除非它属于法律规定的特定伤害类别之一，否则个人不会自动受到保护。
英国围绕深度造假的法律环境仍在不断演变。然而，目前的重点是解决最有害和恶意的使用，同时平衡技术创新和保护个人权利。
如何识别视频是否是人工智能生成的：识别深度造假的重要技巧
太空工程师表示，人工智能将在未来几年成为人类的“真正帮手”
被deepfake视频盯上的斯托蒙特市议员敦促法律制裁
