11月初，新加坡体校（SSP）学生之间流传的深度假裸照，让人们意识到恶意使用人工智能（AI）的危险，因为它与同意、性、性别和网络意识等问题有关。深度伪造是指利用人工智能模仿某人的外表或声音，对内容（图像、视频或音频）进行数字化修改。
这并不是深度造假的图片和视频第一次登上新加坡的头条。事实上，在SSP事件发生后不久，就有消息称，在100多名新加坡公务员中，有5名部长收到了带有“有损形象”的深度伪造图像的勒索邮件。这种用色情材料敲诈他人的行为也被称为“性勒索”。
这些事件表明，任何人，无论是否公众人物，都可能成为深度造假的目标。它们强调了互联网用户，尤其是年轻人，每天必须面对的有害空间和行为，因为他们的大部分生活都在网上。具体来说，在SSP案中，深度假裸体利用了现有人物的图像，这一案例揭示了年轻人之间关于同意、性行为、性别和（有限的）网络意识的交叉问题。
Gen AI和深度造假问题
生成式人工智能（Gen AI）可用于创建深度伪造图像、视频和音频内容。新一代人工智能工具的扩散和易于使用，不仅普通互联网用户可以使用，网络犯罪分子和恐怖分子也可以使用。
当然，制造深度伪造的工具不仅用于恶意目的。深度伪造还可以提供幽默和娱乐——比如换脸应用，抖音账号专门用于汤姆·克鲁斯的深度伪造，或者卢克·天行者在《曼达洛人》中的深度伪造，吸引了星球大战粉丝的注意。然而，目前几乎不可能确保它们仅用于娱乐或良好目的。
深度造假被用来传播虚假信息，包括与选举有关的虚假信息，为网络犯罪活动提供动力，并用于敲诈勒索。例如，在最近的印度、印度尼西亚和美国选举中都出现了深度伪造虚假信息的例子，这促使新加坡在10月份通过了一项法律，禁止在选举期间对候选人进行深度伪造。
深度造假也可用于身份欺诈。由于新加坡与柬埔寨在亚太地区的身份欺诈增加率（高达240%）并列第二，因此在这些方面如何利用深度造假值得特别关注。
还有与数据相关的担忧。例如，即使是出于无害目的的用户生成深度伪造，用户也必须注意诸如应用程序所有者公司如何存储和使用他们的数据之类的问题。
生成合成图像或音频所需的图像和音频输入已经在减少，更新的技术将继续使深度伪造更加逼真，更容易访问和创建。
虽然一些公司试图设置护栏，防止其产品被滥用，但其他公司，尤其是较小的企业和初创企业，可能没有必要的资金和动力来整合这些安全措施，并遵循最佳实践。专家必须不断研究，以确定安全漏洞，并衡量现有和即将采取的措施的有效性。
性别角度不容忽视
SSP学生制作和传播女同学的深度假裸照也使女性和女孩面临的危险成为人们关注的焦点。深度假裸照通常与未经同意分享私密图像这一更广泛的问题联系在一起，这是基于图像的性虐待（IBSA）这一更大问题的一部分。
如果不是所有形式的IBSA，女性成为目标的风险更大。例如，有研究表明，大多数基于图像的性虐待幸存者是女性，而且男性比女性更有可能实施此类暴力。那些被深度伪造的裸照（通常被称为“裸体”，进一步使人工智能时代的内容合法化）攻击的人可能会受到类似于性侵犯幸存者的影响，对一个人的健康以及职业或个人声誉产生影响。露骨的深度假照可能导致女性进一步物化，造成心理创伤，玷污她们的声誉，并带来身体伤害的风险。事实上，根据SG Her Empowerment （SHE）的说法，在他们的一项研究中，超过一半的青年参与者认为“女性的性化/物化”是人工智能的“负面影响”。
多年来，新加坡曝光了各种针对女性的IBSA案件，例如将真实或伪造的面孔叠加在上身赤裸的身体上或摆出妥协的姿势，偷窥视频和裙底视频。其中，最近一名男子偷拍他妻子的侄女并将她的脸编辑到色情视频上的案件表明，图像和视频（通常是妇女和女孩）可以在未经同意的情况下轻松拍摄和编辑。
对抗深度伪造危险
解决深度造假问题是一个复杂的问题。我们需要更广泛地讨论底层人工智能开发者的责任，以及那些为他人提供代码或深度创作服务的人的责任，这些人的责任使得人工智能技术能够被广泛使用。Maria Pawelec正确地指出，开源开发者和在大型科技公司、专业初创公司和深度伪造应用中工作的专业人士等行为者需要参与围绕人工智能伦理和治理的对话，以遏制深度伪造的危险。
包括人工智能在内的新技术也被用于检测人工智能产生的有害材料。多种基于技术的检测系统和取证方法可以分析数字内容的不一致性，这些不一致性通常与深度伪造有关。随着时间的推移和更广泛的采用，基于人工智能的检测措施将变得更加复杂，并对打击有害的深度造假产生更大的影响。
这一领域的政策和立法正在迅速涌现，例如新加坡的生成式人工智能模型治理框架。然而，在缺乏强制性行动的情况下，政府必须采取保护措施，以确保公司遵循最佳做法，并在必要时有途径介入。
网络安全措施、持续的政策和监管努力以及公众意识的结合，将成为打击深度造假相关危害的基石。打击有害的深度造假需要全社会的参与；虽然人们不应该独自挑起打击恶意深度伪造的沉重负担，但他们需要掌握驾驭它们的技能，并知道如何在它们成为目标时采取行动。
有能力打击深度造假的社区
与深度假相关的IBSA造成的心理创伤对幸存者来说可能挥之不去，他们需要能够轻松获得支持并寻求补救方案。在新加坡，幸存者有法律选择，因为根据刑法，涉及篡改照片的行为构成犯罪。然而，在幸存者不认识犯罪者的情况下，或者在大型在线社区的情况下，此类行为可能很晚才曝光和/或跨越地理界限，幸存者在报告、调查和法律补救方面可能面临几个障碍。这些行动还会带来情感上的损失，因此，执法机构和官员接受培训，以适当和敏感的方式处理这类问题就显得尤为重要。
在SSP案件中，几名肇事者面临纪律处分，包括鞭刑、停学、停学和寄宿，以及禁止参加体育旅行。幸存者的父母向警方报案，一些人还要求学校对肇事者进行更严厉的惩罚，比如开除，他们指出，这些女孩的安全感受到了损害。
在这种情况下，幸存者和肇事者都是未成年人，彼此认识，就需要提出一些关于意图的令人不安的问题。意识到网上的同意和良好的性行为，以及有害的男性气概对互联网的影响，特别是在被称为“管理圈”的空间里，是这个问题的重要方面。
意识在塑造和引导网络行为方面发挥着至关重要的作用，互联网用户，尤其是年轻人，需要定期进行网络意识教育和培训。这包括对正确网络表达的认识，对有害网络行为和活动的理解，以及现行立法下的处罚。它还包括引导男孩和年轻男子远离庄园的黑暗空间。可靠的性教育资源的可用性可以在很大程度上防止性暴露的深度虚假材料的产生和传播。在这方面，教育部增加性和性别知识的努力是一项重要的努力，可以延伸到学校以外。
对于政府官员和面对公众的幸存者来说，了解如何应对深度造假，包括报告敲诈勒索的电子邮件，无视发起联系或付款的指示，从而避免金钱损失。
虽然深度伪造带来的威胁将继续上升，但网络意识与网络卫生最佳实践相结合，例如良好的密码操作、拒绝分享未经验证的信息和有意识的图像共享，可以确保我们在一定程度上抵御它们。毕竟，无论是在线下还是线上，预防胜于治疗。
