如果你担心人工智能开发的生物武器，你的恐惧可能不是完全没有根据的。
今天早些时候，乔·拜登总统公布了他备受期待的关于人工智能的行政命令——一个很长的清单，尽管不是特别以解决方案为导向，列出了人工智能关注的问题和风险缓解建议，分为八个不同的兴趣领域。在这些类别中，第一个列出的——也许是最具针对性的——是关于“人工智能安全和保障的新标准”的部分，该部分声称将指导“采取有史以来最全面的行动，保护美国人免受人工智能系统的潜在风险”。
可以肯定的是，所有描述的风险——人工智能怂恿的诈骗、错误信息威胁和网络安全问题，等等——都是严重的。也许这只是全球大流行谈话的持久创伤，但其中一个风险似乎比大多数风险更引人注目:警告美国必须防止使用人工智能来“设计生物材料”。或者，换句话说，生物武器。
为了应对人工智能设计的危险生物武器的威胁，白宫在命令中解释说，它将制定“强有力的生物合成筛选新标准”，并补充说，“资助生命科学项目的机构将把这些标准作为联邦资助的条件，创造强有力的激励措施，以确保适当的筛选和管理可能因人工智能而变得更糟的风险。”
虽然这两种缓解策略本身都不是想法，但它们仍然相当模糊，可以说不能平息焦虑。人工智能被广泛吹捧为药物发现的强大推动者，有史以来第一种由人工智能设计的药物已经在进行人体临床试验。但是，虽然有些人可能会使用人工智能来寻找我们生物知识中的空白，从而进一步生产有用的药物和疗法，但不良行为者可能会使用类似的做法来更快、更有效地开发复杂和危险的病毒、病原体和其他有害物质。
拜登并不是第一个关注这个问题的人。早在今年7月，Anthropic首席执行官达里奥·阿莫代伊(Dario Amodei)就警告参议院司法委员会(Senate Judiciary Committee)成员，今天的人工智能工具已经有能力消除制造此类武器所需的高水平专业知识的需求。据报道，这一话题也将在英国即将举行的人工智能峰会上讨论。
简而言之，许多人认为人工智能的发现可能引发生物恐怖主义，这是一个非常现实的风险。虽然我们很高兴各国政府都在讨论这一威胁，但在拜登亲自给我们一个生化武器的护身符之前，我们将与我们心中的人工智能生化武器夜魔作斗争。
