(路透社)-OpenAI周二表示，该公司已经成立了一个安全委员会，由包括首席执行官萨姆·奥特曼在内的董事会成员领导，该委员会将开始训练其下一个人工智能模型。
OpenAI在公司博客上表示，董事Bret Taylor、Adam D'Angelo和Nicole Seligman也将领导该委员会。
微软(microsoft)支持的OpenAI聊天机器人具有人工智能生成功能，比如参与类似人类的对话，以及根据文本提示创建图像，随着人工智能模型变得强大，这些聊天机器人引发了人们对安全的担忧。
前首席科学家Ilya Sutskever和Jan Leike本月早些时候离开了公司，他们是OpenAI超级校准团队的领导人，该团队确保人工智能与预期目标保持一致。
据美国全国广播公司财经频道(CNBC)在这些高调离职几天后报道，OpenAI在5月初解散了Superalignment团队，距离该团队成立不到一年，一些团队成员被重新分配到其他团队。
新委员会将负责就OpenAI项目和运营的安全和安保决策向董事会提出建议。
它的首要任务是在未来90天内评估和进一步发展OpenAI现有的安全实践，之后它将与董事会分享建议。
该公司表示，在董事会审查后，OpenAI将公开分享所采纳建议的最新情况。
委员会的其他成员包括新任命的首席科学家Jakub Pachocki和安全主管Matt Knight。
该公司还将咨询其他专家，包括美国国家安全局(National Security Agency)前网络安全主管乔伊斯(Rob Joyce)和前司法部官员卡林(John Carlin)。
OpenAI没有提供更多关于它正在训练的新“前沿”模型的细节，只是说它将把它的系统带到“我们通往AGI的道路上的下一个能力水平”。
5月初，它宣布了一种新的人工智能模型，能够进行逼真的语音对话和跨文本和图像的交互。
(Muhammad Tasim Zahid报道)
×
