Instagram正面临一项法律挑战，据称该公司通过允许用户宣传人工智能生成的儿童性虐待图片来获利。
此前，警方的一项调查发现，性侵者正在利用Instagram推广出售性侵内容的网站，而这些内容只需点击两下即可获取。
在活动人士所说的“恐怖新前沿”中，恋童癖者正在使用人工智能软件生成数千张儿童的性图片，并肆无忌惮地在Instagram上进行营销，告诉用户点击他们的网站购买更露骨的内容。
希林斯律师事务所代表儿童慈善基金会，对社交媒体巨头meta发起了“开创性的法律挑战”。meta拥有Instagram、Facebook和WhatsApp。
它声称，Instagram通过托管“将成人和儿童用户置于危险境地的内容”，“与在线剥削儿童串通一通”。
它引用了一份警方档案的证据，该档案“清楚地表明，人工智能生成的儿童色情图片在Instagram上广泛存在，Instagram正在将用户与非法内容联系起来”。
5权利基金会(5Rights Foundation)致力于为儿童创造安全的数字环境。该基金会的创始人比班·基德隆男爵夫人(Baroness Beeban Kidron)发誓，如果meta不采取行动，她将通过法院追究它，并警告说:“很容易在meta平台上起步，然后点击两下就会陷入地狱。”
今天发布的另一份报告显示，在短短六个月内，公开报道的人工智能生成的虐待图像在开放网络上翻了两番，这是一个可怕的新趋势，罪犯从社交媒体上窃取无辜儿童的照片，并用软件“裸体”受害者，操纵图像来实现他们扭曲的幻想。
互联网观察基金会的报告警告说，英国正处于一个“可怕的临界点”，因为人工智能工具现在能够生成非常逼真的图像和视频，以至于无法区分真假，这使得警察很难营救受害者。
Baroness Kidron说:“看到这些性感的照片让我想哭。是非常年轻的女孩穿着暴露摆出暗示的姿势。人工智能儿童性虐待材料正在创造一个新的恐怖领域，Instagram正在吸引人们去那里，让用户能够访问儿童性虐待材料。”
“儿童正在被剥削，而meta正在帮助增加对这些材料的需求。如果你的业务是让人们不断点击，而你根本不在乎他们点击了什么，那就是故意视而不见，因为最终的动机是赚钱。”
去年12月，当便衣警察开始调查时，他们发现了数十个名为“变态癖”(pervy kinks)的账户，其中包括人工智能生成的儿童性图片。
除了部分裸照外，还有付费网站和加密即时通讯Telegram频道的链接，其中包括真实儿童被强奸的镜头。
在为期六个月的调查中，Instagram的算法向警方推荐了许多类似的账户，这让人们担心，在这些网站上绊倒的儿童可能会落入虐待儿童团伙的魔掌。
席林斯说，这些材料的公开使虐待儿童“合法化”，因为恋童癖者可以在光天化日之下联系，而不必隐藏在黑暗的网络上。
为了了解它是如何工作的，男爵夫人Kidron允许警方访问她自己的照片，他们能够展示人工智能是如何创建她8岁时的虐待图像的。
她说:“看到这些照片真是太可怕了，我再也不能看着自己小时候的照片而看不到这些照片了。”
今年1月，警方通过Instagram的应用内举报功能标记了四名违法者的个人资料，但什么也没发生。
警方随后向meta发出了有关账户的官方信息要求，但没有得到任何回应。
席林斯上个月提交了一份证据文件，要求进行独立调查。
在《每日邮报》联系meta之前，该公司一直没有回应，当时该公司声称从未收到过这封邮件。
该公司已经删除了所有账户。meta表示:“今年早些时候，我们删除了所有违规账户。无论是人工智能还是真人，任何形式的儿童剥削都是可怕的，我们有明确的规定反对它。
“我们定期向国家失踪和受虐儿童中心报告明显的此类内容。
“我们还与其他公司分享打击跨平台滥用的线索，并支持执法部门逮捕和起诉背后的罪犯。”
