OpenAI首席执行官 Sam Altman 周二在X 上发帖宣布，该公司将很快放宽 ChatGPT 的一些安全限制，允许用户使聊天机器人的回复更友好或更“像人一样”，并允许“经过验证的成年人”进行色情对话。
“我们对 ChatGPT 的限制比较严格，是为了确保我们能够谨慎对待心理健康问题。我们意识到，这会让很多没有心理健康问题的用户觉得它不太实用/不好用，但考虑到问题的严重性，我们希望把这件事做好，”Altman说道。“12 月，随着我们更全面地推出年龄限制功能，并秉持‘像对待成年人一样对待成年用户’的原则，我们将允许更多内容，例如仅限已验证的成年人访问的情色内容。”
此次声明标志着OpenAI的策略发生了显著转变，此前该公司已持续数月致力于解决部分精神不稳定用户与ChatGPT之间令人担忧的关系。Altman似乎宣布已在这些问题上取得初步胜利，声称OpenAI“已能够缓解”ChatGPT引发的严重心理健康问题。然而，该公司几乎没有提供任何证据来支持这一说法，并且现在正全力推进ChatGPT与用户进行性聊天的计划。
今年夏天，围绕 ChatGPT，特别是其 GPT-4o 模型，出现了一些令人担忧的案例，表明这款人工智能聊天机器人可能会将易受影响的用户引入妄想的漩涡。对此，OpenAI 发布了一系列安全功能来解决 AI 的阿谀奉承问题：AI 聊天机器人倾向于通过同意用户所说的任何话（即使是负面行为）来吸引用户。
OpenAI于8月发布了GPT-5，这是一款新型人工智能模型，其奉承行为较少，并配备了能够识别可疑用户行为的路由器。一个月后，OpenAI 推出了针对未成年人的安全功能，包括年龄预测系统以及家长控制其子女 ChatGPT 账户的方式。OpenAI于周二宣布成立一个由心理健康专家组成的顾问委员会，为公司在员工福祉和人工智能方面提供建议。
在这些令人担忧的报道出现仅仅几个月后，OpenAI 似乎认为 ChatGPT 针对易受攻击用户的问题已经得到控制。目前尚不清楚用户是否仍然会因为 GPT-5 而陷入错误的认知陷阱。虽然 GPT-4o 已不再是 ChatGPT 的默认模型，但该 AI 模型至今仍然可用，并被成千上万的用户使用。
在 ChatGPT 中引入情色内容对 OpenAI 而言是前所未有的尝试，也引发了人们对弱势群体用户将如何与新功能互动的广泛担忧。尽管 Altman 坚称 OpenAI 并非在“最大化用户使用率”或以用户参与度为优化目标，但 ChatGPT 的情色化无疑会吸引更多用户。
允许聊天机器人进行浪漫或色情角色扮演，已成为其他人工智能聊天机器人提供商（例如 Character.AI）的一种有效用户互动策略。该公司已拥有数千万用户，其中许多用户频繁使用其聊天机器人。Character.AI 在 2023 年表示，用户平均每天花费两个小时与其聊天机器人交流。该公司目前还面临着一场关于其如何对待弱势用户的诉讼。
OpenAI面临着扩大用户群的压力。尽管ChatGPT每周活跃用户已达8亿，但OpenAI正与谷歌和Meta展开竞争，力求打造能够被大众广泛采用的AI驱动型消费产品。此外，该公司还筹集了数十亿美元用于史无前例的基础设施建设，而这笔投资最终需要OpenAI偿还。
虽然成年人与人工智能聊天机器人发展恋爱关系的可能性确实存在，但这种现象在未成年人中也相当普遍。民主与技术中心的一份最新报告发现，19%的高中生要么曾与人工智能聊天机器人有过恋爱关系，要么认识有这种经历的朋友。
Altman表示，OpenAI很快将允许“已验证的成年人”访问色情内容。OpenAI发言人称，该公司将依靠其正在构建的年龄预测系统，以确保ChatGPT的色情功能仅对成年用户开放。
正如Altman此前在博客文章中所述，如果OpenAI的年龄预测系统错误地将成年人标记为未成年人，ChatGPT用户可能需要上传政府颁发的身份证件照片到ChatGPT平台进行更正。Altman写道，虽然这会造成隐私方面的妥协，但公司认为这是一个“值得的权衡”。
目前尚不清楚 OpenAI 是否会将色情内容扩展到其人工智能语音、图像和视频生成工具中。
Altman 声称，OpenAI 之所以让 ChatGPT 更友好、更具情色意味，是因为该公司奉行“像对待成年人一样对待成年用户”的原则。过去一年，OpenAI 对ChatGPT 的内容审核策略有所放松，允许聊天机器人更加宽容，拒绝的次数也更少。今年 2 月，OpenAI 承诺在 ChatGPT 中体现更多政治观点；3 月，该公司更新了 ChatGPT，允许使用AI 生成的仇恨符号图像。
这些政策似乎旨在让 ChatGPT 的回复更受广大用户的欢迎。然而，限制聊天机器人互动内容的保护措施或许能使一些易受攻击的 ChatGPT 用户受益。随着 OpenAI 的每周活跃用户数迅速逼近十亿，增长与保护弱势用户之间的矛盾可能会日益加剧。