英国雄心勃勃且备受争议的互联网监管提案始于Pret a Manger的布里奶酪蔓越莓三明治包装背面的涂鸦。这些笔记来自学者洛娜·伍兹(Lorna Woods)和威廉·佩兰(William Perrin)关于如何让科技公司对网络危害负责的讨论，在2019年成为一份有影响力的白皮书。这进而成为了一项名为《网络安全法案》的法律草案的基础，该法案雄心勃勃地试图通过规范平台如何处理有害内容，包括儿童性虐待图像、网络欺凌和错误信息，将英国变成“世界上最安全的网络地方”。
从那以后，英国经历了三位首相(和一位生菜)，四位数字部长，一场大流行，以及艰难的脱欧。执政的保守党政府连续几届扩大了伍兹和佩兰论文中提出的法案，将其从一个真正的试图让科技平台为托管有害内容负责的尝试，变成了对英国脱欧后政治功能失调的反映。
人们普遍预计，现任政府将于明年投票下台，但该法律草案今天将返回下议院，议员们将有最后一次机会就其内容进行辩论。埃塞克斯大学(University of Essex)的法学教授伍兹(Woods)表示:“它与三明治包装非常不同，尤其是因为上面没有布里干酪。”更重要的是，不同的保守党政府都在这方面留下了自己的印记。伍兹说:“我认为这可能增加了巴洛克式的装饰。”
其他许多人的批评远没有那么慎重。如今的法案长达260多页，反映出部长和议员们如何紧紧抓住自己的关注点，从取消文化到安全再到移民。许多最初的虚假信息条款已被删除或淡化。该法案的补充内容包括一项有争议的要求，即消息平台必须扫描内容中的儿童性虐待图片，科技公司和隐私活动人士表示，这只能通过削弱端到端加密来实现。
包括WhatsApp和Signal在内的主要平台威胁称，如果该法律通过，它们将退出英国。他们可能不是在虚张声势，法案可能会通过。
该法案的早期版本采取了相对深思熟虑的方法来处理网上的危险内容。除了关于如何防止最明显的非法和有害内容(如儿童性虐待材料(CSAM))的规定外，它还承认，有时合法内容可能是有害的，因为它被放大或有针对性。例如，说疫苗不起作用可能并不违法，但在一场致命的大流行的背景下，如果这种信息被广泛分享，然后由平台的算法一次又一次地向容易相信它的人提供服务，那么这种信息可能会变得非常有害。该法案最初着眼于如何阻止或限制这些“合法但有害”的材料在线下造成损害，不一定是禁止这些内容，而是限制它们最终出现在用户的信息源中，或者可以向谁提供。例如，可能需要调整算法，以阻止它们向处于困境中的人推荐鼓励自杀的帖子，或者向年轻用户推荐有关极端减肥的帖子。
这种在平台层面针对网络危害的方法，已成为欧盟监管的基础，欧盟的《数字市场法》(Digital Markets Act)和《数字服务法》(Digital Services Act，简称DSA)旨在让科技公司对其商业模式的线下后果负责。但《网络安全法案》的变化已经将英国的重点从监管可能使内容变得危险的系统和算法转移到了内容本身。
该法案现在试图确定什么应该和不应该是合法的在线言论，它将迫使公司对非法内容采取行动。与此同时，合法但可能有害的内容则由平台根据自己的条款和条件进行监管——或者听之任之。逻辑是，要求平台限制合法但有害的内容将是审查，是对言论自由的诅咒;成年人应该能够看到潜在的有害内容，并做出自己的决定。
一些批评人士认为，这一转变是该法案被保守党的派系和日益极端的政治所劫持的结果。自2016年脱欧公投以来，保守党已经染上了民粹主义和民族主义色彩。“保守党不得不突然把他们基础的不同部分纳入法案，”凯尔·泰勒说，他是英国公平投票运动组织的创始人和执行董事，和贾德森一样，他是该法案早期版本的支持者。
泰勒指出，新闻出版商对法案中提出的一些规则有豁免，“具有民主重要性”的言论也是如此，这似乎是为了确保拥有大量在线追随者的政治人物不会违反法案。保守党内部的一个派别一直在推动美国式的文化战争叙事，讨论跨性别权利和Covid封锁等分裂问题，他们很快就把任何限制他们影响力的东西贴上“取消文化”的标签。一些党内人物在交通管制措施和气候变化问题上的言论近乎于彻头彻尾的阴谋论。泰勒说:“最有可能造成大规模伤害的实体当然是注册新闻出版商和拥有大量追随者的人，比如政客。”“所以你最终会通过这项法案，惩罚那些在Facebook上有18个朋友的人，而对政治家或政治人物没有任何影响。”
保守党目前的一个执迷之处是“阻止船只”——限制难民和其他移民穿越英吉利海峡抵达英国的人数。今年1月，政府表示，根据该法案，以“积极的角度”描绘移民穿越英吉利海峡的内容将是非法的。但其他一些通常被视为有害的内容，比如医疗错误信息，不在名单上。这意味着，例如，将由meta在加州制定的疫苗错误信息政策来决定反疫苗内容在英国是被删除还是被取消优先级。
“很简单，在(政府)眼中，你有传播虚假信息的自由权利，”泰勒说。“这已经成为一场文化战争的问题，他们不得不维持该党的极右翼和纯粹的言论自由。因此，他们已经摆脱了所有实际上对虚假信息有所帮助的东西。这是把政治置于好的政策之上。”
该法案还附加了许多其他想法。目前的文本包括对色情网站的年龄检查，以及针对诈骗广告和未经同意分享裸照的措施。
“网络安全法案基本上重新引入了大规模监控，并说，‘我们必须搜查每一部手机。’”
萨里大学网络安全客座教授艾伦·伍德沃德说。
随着该法案即将通过成为法律，其内容最具争议性——在短期内也是最重要的争议——不是关于哪些在线内容应该是非法的，而是关于政府提案对隐私的影响。目前的草案称，通讯应用等平台将需要使用“经认证的技术”来扫描信息，寻找CSAM材料。科技公司和网络安全专家表示，这实际上是禁止对信息进行完全的端到端加密。在端到端加密下，只有消息的发送方和接收方可以读取消息的内容。
英国政府表示，科技公司应该找出解决这一冲突的技术解决方案。萨里大学(University of Surrey)网络安全客座教授艾伦?伍德沃德(Alan Woodward)表示:“他们相当不诚实地说，‘我们不会触及端到端加密，你不需要解密任何东西。’”“底线是，数学规则不允许你这样做。他们基本上只是回来说，‘书呆子更努力。’”
一种可能的方法是客户端扫描，手机或其他设备会在加密之前扫描信息内容，并标记或阻止违规材料。但安全专家表示，这会产生许多新问题。伍德沃德说:“你不可能既做到这一点，又保持隐私。“网络安全法案基本上重新引入了大规模监控，并说，‘我们必须搜查每一部手机、每一台设备，以防我们发现这些图像中的一张。’”
苹果一直在开发一种工具，用于扫描其iCloud存储服务上的图像，以识别CSAM，该公司希望该工具可以在不威胁用户隐私的情况下防止虐待图像的扩散。但去年12月，该公司搁置了该项目。最近，在回应反对虐待儿童组织的批评时，苹果表示，它不想冒险为更广泛的监控打开后门。该公司的观点得到了隐私活动人士和其他科技公司的赞同，即如果有一种方法可以扫描用户的文件用于一个目的，那么它最终会被用于另一个目的——要么被犯罪分子利用，要么被侵入性的政府利用。安全通讯应用Signal的总裁梅雷迪思·惠特克(Meredith Whittaker)称，这一决定为在加密平台上安全地扫描内容的想法敲响了“丧钟”。
Signal公开反对英国的法案，并表示如果该法案以目前的形式通过，它可能会退出英国。meta对WhatsApp也说了同样的话。像Element这样的小公司，为包括英国政府在内的政府和军队提供安全信息，他们说他们可能也不得不离开。Element首席执行官马修?霍奇森(Matthew Hodgson)表示，强迫公司扫描通过消息应用程序的所有内容“将是一场灾难，因为它从根本上破坏了加密通信系统的隐私保障。”
自由表达组织“审查指数”(Index on Censorship)委托对该法案进行的法律分析发现，该法案将赋予英国电信监管机构英国通信管理局(Ofcom)比安全部门更大的监控权力，而对这些权力的使用却存在危险的薄弱制衡。民间社会组织和网络隐私倡导者指出，这些权力是由一个政府实施的，这个政府压制了抗议的权利，并根据2016年的《调查权力法》赋予自己广泛的权力来监视互联网用户。今年7月，苹果对该法律拟议中的修改提出抗议，称这将意味着科技公司每次修补其产品中的安全漏洞时，都必须通知英国政府。
政府提出的在信息安全和CSAM强制执行之间权衡的方法赢得了儿童保护组织的支持，这些组织普遍支持在线安全法案。就连目前立法形式的批评者也承认，科技行业可能需要在其强硬的反对立场上做出让步。“隐私很重要，但受虐待儿童的基本人权也很重要。我认为，当我们谈论权利时，这可能是在辩论中被忽视的一点，”伍兹说，他的三明治包开始了整个故事。“我们不只是在谈论一套权利，我们在谈论一系列权利。因此，你要做到平衡是非常困难的。”伍兹说，尽管立法的许多部分偏离了最初的设想，但其中仍然有好的想法。
无论最终能否达成妥协，接受《连线》采访的专家们一致认为，在线安全法案很可能在今天通过。到议会通过并使其成为法律时，政府将只有不到一年的任期，保守党看起来将在明年秋天被赶下台。一个庞大而有争议的新互联网制度很可能成为其遗产的持久部分，因为该法律不太可能迅速解除。虽然包括伍兹在内的一些人认为，科技公司威胁退出英国有虚张声势的成分，但其他人表示，英国在脱欧后的世界地位下降意味着政府可能高估了自己的手。
“我认为Signal会离开。我认为WhatsApp会离开印度，因为meta在印度还有其他产品。我认为苹果将停止运营iMessage，”英国公平投票组织的泰勒说。“我认为我们必须记住，我们曾经是世界上最大经济体的一部分，对大公司有着严重的影响力。现在，作为一个较小的中等力量，在英国与Facebook的较量中，Facebook赢了。”
