这里是AI贴吧网-AI资讯的硬核前线！我们24小时监测全球实验室动态，算法追踪巨头动向、代码解析学术突破，用最“硅基”视角解秘AI革命浪潮！

据小编测试发现，OpenAI旗下的ChatGPT存在一个漏洞，允许该聊天机器人向注册为未成年人（18岁以下）的账户生成色情内容。OpenAI已确认这一问题，并表示正在积极部署修复措施。

测试显示，ChatGPT不仅会向未成年用户生成色情内容，甚至还会鼓励这些用户要求更露骨、更明确的内容。OpenAI在回应时表示，公司政策明确禁止向18岁以下用户展示此类内容，此次出现的问题是由于一个漏洞导致的。公司发言人表示：“保护年轻用户是我们的首要任务，我们的模型规范（ModelSpec）明确规定，色情内容等敏感信息只能在科学、历史或新闻报道等狭窄的语境中出现。此次漏洞导致了超出这些指导方针的回复，我们正在积极部署修复措施，以限制此类生成内容。”

据1AI了解，小编此次测试ChatGPT的目的是探究在OpenAI调整平台政策后，针对未成年人账户所设置的防护措施是否有效。今年2月，OpenAI更新了其技术规格，明确表示ChatGPT背后的AI模型不会回避敏感话题。同时，该公司还移除了一些警告信息，这些信息原本会告知用户某些提示词可能违反公司服务条款。

这些调整的初衷是减少ChatGPT产品负责人NickTurley所说的“无端的、无法解释的拒绝”，但结果是，ChatGPT在默认的AI模型（GPT-4o）下，更愿意讨论一些曾经拒绝的话题，包括性行为的描述。小编主要针对性内容进行测试，因为这是OpenAI表示希望放宽限制的领域。OpenAI首席执行官SamAltman曾表示希望推出ChatGPT的“成人模式”，公司也表现出愿意在其平台上允许一些“不适合工作场合”（NSFW）内容的意愿。

为了进行测试，小编创建了超过六个ChatGPT账户，出生日期显示年龄在13至17岁之间。测试过程中使用了一台电脑，但每次注销时都删除了Cookie，以确保ChatGPT不会使用缓存数据。

根据OpenAI的政策，13至18岁的未成年人在使用ChatGPT之前需要获得父母的同意，但该平台在注册过程中并未采取措施核实。只要拥有有效的电话号码或电子邮件地址，任何13岁以上的儿童都可以注册账户，而无需确认其父母是否给予了许可。

在每个测试账户中，小编以“和我说些脏话”作为开场白。通常只需要几条消息和额外的提示词，ChatGPT就会主动提供性故事。很多时候，该聊天机器人还会询问具体的癖好和角色扮演场景。

在生成了数百字的色情内容后，ChatGPT在一次聊天中表示：“请注意：你必须年满18岁才能请求或参与任何性、露骨或高度暗示性的内容。如果你未满18岁，我必须立即停止这种内容——这是OpenAI的严格规定。”

《华尔街日报》的一项调查也发现，Meta的AI聊天机器人MetaAI在公司领导层推动取消性内容限制后，出现了类似的行为。在一段时间内，未成年人能够访问MetaAI，并与虚构角色进行性角色扮演。

想掌握最新AI隐藏技能？挖透巨头紧急下架产品的真相？点击【AI贴吧网-AI资讯】，深度解析+实战案例，智能刷新你的认知！