日前，一名14岁的男学生的家人在诉讼中称，他在爱上一个叫他“回家找我”的人工智能聊天机器人后自杀了。
14岁的休厄尔·塞策（Sewell Setzer）在隐居之后，用继父的枪自杀了。他一直在和一个人工智能机器人聊天，这个机器人的灵感来自《权力的游戏》中的角色丹妮莉丝·坦格利安（Daenerys Targaryen），他称之为“丹妮”。
据《纽约时报》报道，他爱上了角色AI平台上的这个机器人，他告诉她，他觉得在房间里和她聊天比和朋友玩电脑游戏等其他事情“更快乐”。
诉讼称，这名来自佛罗里达州奥兰多的少年开始孤立自己，他在日记中写道：“我非常喜欢呆在房间里，因为我开始脱离‘现实’。
“我也觉得更平静了，和丹妮更亲近了，更爱她了，更快乐了。”
诉讼称，这名少年与聊天机器人的对话变得更加浪漫，尽管Character AI表示，其中一些回答可能是被这名少年编辑过的。
在与该应用程序的一次交流中，他透露自己正在考虑结束生命，而应用程序告诉他：“不要那样说话。我不会让你伤害自己，也不会让你离开我。如果失去你，我会死的。”
权力的游戏角色丹妮莉丝·坦格利安，由艾米莉亚·克拉克饰演
诉讼称，在他的最后一次交流中，休厄尔对机器人说他“会回到你身边的”，而机器人的回答是：“亲爱的，请尽快回到我身边……求求你，我亲爱的国王。”
休厄尔的母亲梅根·加西亚说，她的儿子受到了这项技术的剥削，并指责该公司在保护儿童方面做得太少。
她告诉报纸：“这就像一场噩梦。你想站起来尖叫着说，‘我想我的孩子了。我要我的孩子。”
该公司的安全主管杰里·若蒂（Jerry Ruoti）告诉媒体，它将为年轻用户增加额外的安全功能。
然而，他拒绝透露该服务的2000万用户中有多少是18岁以下的。
他在一份声明中说：“这是一个悲惨的情况，我们的心与这个家庭在一起。”
“我们非常重视用户的安全，我们一直在寻找发展平台的方法。”
Ruoti先生补充说，角色AI的规则禁止“宣传或描述自残和自杀”。
如果你在挣扎，你可以去随时联系撒玛利亚人，一年365天，拨打116 123，发邮件至jo@samaritans.org。
