在1983年的电影《战争游戏》(WarGames)中，美国国防部运行的一台超级智能中央计算机被一名少年入侵，他无意中几乎引发了一场核世界末日。当被称为约书亚的电脑在与少年玩井字游戏后得知核战争不可能有赢家时，世界末日被避免了。这一顿悟使他取消了导弹发射命令，并评论道:“一个奇怪的游戏。唯一赢的办法就是不玩。”
约书亚体现了一个超级智能人工智能将具有拟人化思维的想法。然而，那一年是人类拯救了世界。1983年9月，当苏联的自动预警系统错误地显示美国将发动核攻击时，斯坦尼斯拉夫·彼得罗夫中校违抗了发动灾难性报复性核打击的命令。超级智能机器不能任其自生自灭。它们——以及它们的发展——需要得到妥善处理。
OpenAI公司是最著名的电子人体模仿者ChatGPT的制造商，该公司的混乱局面使这一点变得更加困难。该公司首席执行官萨姆?奥特曼(Sam Altman)的解雇和重新聘用，引发了人们对OpenAI是否会成为又一家逐利企业的质疑。这将是一种损失。OpenAI是一项创新尝试，旨在促进大规模合作，降低人工智能风险。它的管理章程，无论执行得多么不完美，都承诺公司要帮助竞争对手，而不是与他们竞争。
奥特曼与埃隆·马斯克(Elon Musk)在2015年成立了OpenAI，作为一个非营利性研究实验室，旨在安全地实现计算领域的圣杯:一种可以媲美或超越人类思维的人工通用智能(AGI)。但事实证明，这是一项昂贵的冒险——OpenAI成立了一家盈利子公司，通过将OpenAI的突破商业化来为这项工作提供资金。2019年，微软开始对此感兴趣。两年后，该公司出资130亿美元收购了这家营利性公司49%的股份，OpenAI认为这是对其崇高事业的“捐赠”，而不是“投资”。
从纸面上看，OpenAI经营的是一家盈利企业，其回报是有限的，由一家致力于为“人类最大利益”开发人工智能的非营利组织控制。奥尔特曼之所以被解雇，是因为他“在与(非营利组织)董事会的沟通中并不总是坦诚”。当员工警告说，奥特曼的离开可能引发OpenAI的崩溃时，据报道，董事会表示，这将“与使命一致”。
所有投票支持奥尔特曼离职的人都被一个对商业更友好的团队所取代——据报道包括微软的一个席位，这是奥尔特曼回归的关键。超级智能领域的一个可能突破导致了他最初的堕落，人们对此做了大量的讨论。但这似乎是异想天开。目前的人工智能系统看起来更像是数字奴隶，尽管这些奴隶拥有超人的能力。
在电影《战争游戏》中，约书亚问:“我们玩个游戏好吗?”在发动核战争之前。伤害、毁灭或欺骗人类的自主权力永远不应该被赋予人工智能。政府需要更谨慎地监管这一领域。如果对技术霸权的追求意味着良心的抗拒和法律的规避呢?OpenAI的破产或许是成熟的标志。仓促的选择做出了又取消了。但现金已经做出了最后的决定。企业的历史表明，许多企业都有逃避社会监督的目标和财力。让这种精神主导另一家人工智能公司将是一种退步。
你对这篇文章提出的问题有什么看法吗?如果你想提交一封不超过250字的信给我们考虑出版，请通过电子邮件发送至observer.letters@observer.co.uk
