一个具有自我复制能力的数字生命体可能引发全球灾难，这是AI安全领域一个严肃的研究课题。目前，人们更多地关注AI的单体智能水平，但忽视了另一种风险，即AI系统发展出实现自主复制所需的核心能力。这种风险可能引发网络攻击、垃圾邮件机器人等问题，甚至可能导致灾难性的后果。
AISI是一家专注于AI安全的研究机构，他们引入了一个现实且实用的基准，即RepliBench，旨在衡量和跟踪AI复制这一新兴能力。该基准包含20个新颖的智能体评估任务，旨在衡量AI复制这一能力。这些任务包括获取模型权重、在计算资源上进行复制、获取资源以及保持持久性等四个关键能力。
虽然当前AI系统尚不具备完全自主复制的能力，但研究结果揭示了AI在许多核心子任务上的显著能力，尤其是在与具有清晰接口的系统（如网页API）交互方面。随着时间的推移，模型性能有明显的上升趋势。虽然目前还没有模型能完全通过测试进行AI复制，但按照AISI的判断，如果AI系统能够突破上述提到的关键能力，这种类似科幻故事的场景，也许很快就会进入人类生活。
这项研究的核心反映的是当前AI发展中一个根本性的张力拉扯。一方面是各大巨头不断创造性能超强的模型，另一方面则是致力于AI安全的组织要确保这些系统始终处于人类控制之下、服务于人类利益的需求。通过增进理解和加强预警，为驾驭这场史无前例的技术变革提供导航。毕竟，没有人能想象出5代、10代以后的AI模型会是什么样子。
AI“自我复制”！RepliBench警示：其正在学会伪造身份
新智元
"AMD锐龙Z2 A曝光：20W版AERITH PLUS性能揭秘"
近日，AMD公司在北京时间6月8日发布了锐龙Z2处理器家族的两款新品，分别是锐龙AI Z2 Extreme和锐龙Z2 A。这两款处理器是与微软Xbox和华硕ROG合作推出的，专为联名版Ally掌机设计。华硕ROG Xbox Ally掌机的图...
IT之家｜2025-06-11 14:56
《生化危机9》新主角曝光 经典角色惊喜回归
在今年的夏日游戏节上，卡普空正式公布了《生化危机》系列最新作《生化危机：安魂曲》，并发布了首支预告片。新作的主角Grace Ashcroft引发了玩家热议，因为她与系列经典角色Alyssa Ashcroft似乎存在血缘关系，后者曾在2004...
快科技｜2025-06-08 21:40
考生忘带身份证 外卖小哥紧急送回家
6月7日高考首日，在合肥三中考点外发生了一件暖心事。一位考生因忘带身份证向京东外卖骑手求助，骑手程小冲立即载他回家取证，最终在8点49分将考生送回考点，确保他顺利参加考试。京东外卖表示将对程小冲的善举进行表彰。据了解，京东外卖在高考期间专门...
快科技｜2025-06-08 19:16
特斯拉CEO重返岗位 公司股价飙升
周二（5月27日）美股早盘交易时段，特斯拉股价出现显著上涨，涨幅超过6.7%，盘中最高触及每股362.32美元。这一价格创下自今年2月以来的新高，与4月份的低点相比累计反弹幅度接近70%，显示出市场对特斯拉的信心正在恢复。特斯拉CEO埃隆·...
快科技｜2025-05-31 10:00
AMD神秘新卡RX 7000系列首次曝光！
近日，有网友曝光了一款AMD RX 7000系列显卡的原型卡，引发了硬件爱好者的关注。这款显卡的具体型号尚不明确，但从泄露的信息来看，其规格明显低于目前市面上的最低端型号RX 7600，甚至比已知的RX 7500 XT还要低。根据曝光的GP...
快科技｜2025-05-23 20:00
OpenAI 计划在阿布扎比建设的数据中心将比摩纳哥更大
据彭博社最新报道，OpenAI 准备助力开发阿布扎比一个规模惊人的 5 吉瓦数据中心园区，这将使该公司成为...
2025-05-20 13:47
南通爱尔眼科CEO因违规宴请公职人员被撤销政协委员资格
南通爱尔眼科医院高层管理人员于文娟近日受到党纪处分，并被撤销政协委员身份。这一事件源于武汉市中心医院急诊科主任艾芬的实名举报，举报内容涉及南通市多名公职人员违规接受于文娟宴请。接到举报后，南通市纪委监委迅速成立工作专班展开调查，最终对相关涉...
经济观察报｜2025-05-18 17:36
古巨基20年前竟办过二次元演唱会？游戏迷身份藏不住了
今天的话题源于这周在bilibili吧（一个老牌ACG贴吧，和B站关系不大）刷到的一个帖子，内容是楼主吐槽一个老演唱会片段，从歌曲名字到舞台呈现都让人“两眼一黑”。帖子本身的留言并不多，但相关截图在QQ群等社交媒体上传播得还挺广的。于是我去...
BB姬?｜2025-05-15 10:36
百度、阿里争夺AI定义权
文 | 光子星球“MCP”（模型上下文协议）突然火了。百度从C端切入，“心响”利用MCP协议整合多种AI模型和外部工具，百度地图也宣布支持MCP接口。阿里云百炼上线全生命周期MCP服务，在支付宝等产品中集成了MCP协议，实现AI工具的一键调...
钛媒体APP｜2025-05-12 18:56
魅族Note 16系列官宣搭载独立AI键：可选20项高频功能
2025年5月9日，星纪魅族官微预热新机魅族Note 16系列，其一大亮点——独立AI按键正式官宣。这枚独立AI按键位置符合人体工学，处于手指黄金舒适操控区。它支持多达20项可选高频功能，可大幅提升操作效率。同时，该按键还支持场景助手拓展A...
PChome电脑之家｜2025-05-12 13:06
meta推出独立AI应用，海内外AI布局加速，互联网迎新机遇
今年4月底，meta推出独立AI应用，通过用户数据分析提供个性化服务，并规划付费订阅与广告植入模式；ChatGPT新增购物推荐功能，实现从搜索到消费的闭环，展现AI在电商领域的变现潜力。meta广告收入同比增长16%，AI投放优化效果显著；...
每日经济新闻｜2025-05-12 12:48
魅族 Note 16 系列搭载独立 AI 按键，20 项可选高频功能
IT之家 5 月 9 日消息，魅族 Note 16 系列将于 5 月 13 日 14:30 发布，今日最新预热显示，新机搭载独立 AI 按键，位于更符合人体工学的位置。该按键提供多达 20 项可选高频功能，支持场景助手拓展 AI 个性需求。...
IT之家｜2025-05-12 10:00
本信息来自互联网，不代表导读网立场，如若转载，请注明出处：http://www.frfey.com/news/50810/
