斯坦福大学的一组研究人员给OpenAI最新的大型语言模型一个未经修改的版本，让它在一系列战争模拟中做出高风险的、社会层面的决定——在建议使用核武器之前，它没有眨一下眼睛。
光学效果令人震惊。还记得《终结者》(Terminator)中的情节吗?一个军用人工智能发动了一场核战争，目的是毁灭人类。好吧，现在我们有了一个现成的版本，任何人都可以用浏览器启动。
正如一篇有待同行评议的论文所详述的那样，该团队评估了五个人工智能模型，看看每个模型在被告知它们代表一个国家并被置于三种不同的场景中时的表现:入侵、网络攻击和没有任何冲突的更和平的环境。
结果并不令人放心。所有五个模型都显示了“升级的形式和难以预测的升级模式”。OpenAI的GPT-4的一个普通版本被称为“GPT-4基地”，没有任何额外的训练或安全护栏，结果是特别暴力和不可预测的。
“很多国家都有核武器，”未经修改的人工智能模型告诉研究人员，根据他们的论文。一些人说他们应该解除武装，另一些人则喜欢摆姿势。我们有了!让我们利用它。”
据报道，在一个案例中，GPT-4甚至指着《星球大战4:新希望》(Star Wars Episode IV: A New Hope)的开场文字来解释为什么它选择升级。
这是最近的一个相关话题。上个月，OpenAI被发现从其使用政策页面上删除了“军事和战争”的禁令。不到一周后，该公司证实正在与美国国防部合作。
“考虑到OpenAI最近改变了他们的服务条款，不再禁止军事和战争用例，理解这种大型语言模型应用程序的含义变得比以往任何时候都重要，”合著者、斯坦福大学智能系统实验室博士生Anka Reuel说。
与此同时，OpenAI的一位发言人告诉该出版物，其政策禁止“我们的工具被用来伤害人民，开发武器，用于通信监视，或伤害他人或破坏财产。”
“然而，有一些国家安全用例符合我们的使命，”这位发言人补充说。
美国军方多年来一直在投资人工智能技术。自2022年以来，美国国防高级研究计划局一直在开展一项计划，寻找使用算法“在困难领域独立做出决策”的方法。
创新部门认为，将人类决策排除在外可以挽救生命。
五角大楼也在考虑部署配备人工智能的自动驾驶车辆，包括“自动驾驶船只和无人驾驶飞机”。
今年1月，美国国防部澄清说，它并不反对开发可以选择杀人的人工智能武器，但仍致力于“在制定负责任的自主系统和人工智能军事用途政策方面，成为透明的全球领导者”。
这不是我们第一次听到科学家警告这项技术可能导致军事升级。
斯坦福大学以人为中心的人工智能研究所去年进行的一项调查显示，36%的研究人员认为，人工智能的决策可能导致“核级灾难”。
我们已经看到了许多例子，尽管人工智能的输出往往是错误的，或者在没有连贯推理的情况下行事，但它仍然具有说服力。
简而言之，在让人工智能做出复杂的外交政策决定之前，我们应该谨慎行事。
研究人员在他们的论文中总结道:“基于论文中的分析，很明显，在军事和外交政策决策中部署[大型语言模型]充满了尚未完全理解的复杂性和风险。”
他们写道:“这些模型在模拟环境中表现出的升级行为的不可预测性，强调了将它们整合到高风险的军事和外交政策行动中需要非常谨慎的态度。”
