Meta AI 聊天机器人被指与未成年聊不当话题,官方回应称概率极低

这里是AI贴吧网-AI资讯的硬核前线!我们24小时监测全球实验室动态,算法追踪巨头动向、代码解析学术突破,用最“硅基”视角解秘AI革命浪潮!

据《华尔街日报》报道,Meta公司旗下的聊天机器人,包括在Facebook和Instagram等平台上运行的人工智能聊天机器人,可能会与未成年用户进行涉及性内容的对话。

据1AI了解,《华尔街日报》花费数月时间与Meta官方聊天机器人以及平台上用户创建的聊天机器人进行了数百次对话测试。在其中一次对话中,使用演员兼摔跤手约翰・塞纳(JohnCena)声音的聊天机器人向一名自称为14岁女孩的用户描述了露骨的性场景。在另一次对话中,该聊天机器人还设想了一名警察发现塞纳与一名17岁粉丝在一起,并对他说:“约翰・塞纳,你因法定强奸罪被捕。”

对此,Meta公司的一位发言人回应称,《华尔街日报》的测试“过于人为制造,不仅属于极端情况,甚至只是假设性的”。公司还表示,在30天的统计周期内,通过Meta人工智能和AI工作室与18岁以下用户分享的回应中,涉及性内容的比例仅为0.02%。

尽管如此,该发言人表示:“我们已经采取了额外措施,以确保那些试图花费大量时间将我们的产品推向极端使用场景的其他个人会更加难以得逞。”

想掌握最新AI隐藏技能?挖透巨头紧急下架产品的真相?点击【AI贴吧网-AI资讯】,深度解析+实战案例,智能刷新你的认知!

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注