ChatGPT或将推出成人模式 引发隐私与伦理担忧

OpenAI计划为ChatGPT推出成人模式，允许成年人生成情色内容，该举措引发人工智能与社会伦理专家的广泛关注和担忧。

人工智能专家Julie Carpenter表示，尽管支持人们探索性取向，但必须确保过程安全并意识到数据监控风险。她指出，AI通过个性化记忆和交互设计有意激发用户情感联结，而加入情色内容后，这种单向关系可能变得复杂甚至危险。

OpenAI早在两年前的官方文件中已暗示将允许用户生成情色内容，但具体发布时间尚不明确。近期，其外部顾问委员会对即将推出的成人功能表达担忧，包括可能出现“性感自杀教练”等极端风险。OpenAI未就此事回应媒体。

伦敦国王学院AI与社会教授Kate Devlin指出，AI情色互动本身并非新现象，但OpenAI在主流平台正式接纳此类内容属首次。以往此类服务多存在于小众网站或如Grok等平台，后者曾因非自愿深度伪造图像和“机械希特勒”模式引发争议。

ChatGPT的“记忆”功能可记录用户偏好并提供个性化回应，如饮食习惯、旅行偏好等。若该功能用于记录用户的性幻想内容，如兽人色情、海滩三人行等，将极大提升隐私风险。目前尚不清楚OpenAI如何处理此类敏感对话。

用户可启用“临时对话”功能，使聊天内容不被记录或用于模型训练。但OpenAI官网声明，出于安全考虑，系统可能保留此类对话长达30天。此外，网站还提示“部分服务的数据保留可能受近期法律发展影响”。

此类情色AI互动构成一种“亲密监控”，其细节远超传统色情内容消费记录，可能涉及长期积累的极端幻想。若账户被盗、发生安全漏洞或政府要求访问聊天记录，用户高度敏感的性对话可能被暴露。

此前，ChatGPT曾因漏洞导致部分用户聊天标题泄露，且去年有用户因未注意分享设置，导致聊天内容被索引至Google搜索，对公众公开。

Carpenter强调，用户在与AI互动时可能因沉浸于“创造性空间”而放松警惕，从而分享最私密的性幻想，实则处于脆弱状态。