ChatGPT开放色情内容生成 但也有限制

本周 OpenAI 发布其模型规范的最新版本显示该公司在生成式人工智能内容政策方面的转变，尤其是围绕成人色情和血腥暴力等敏感内容方面。

此前 ChatGPT 的安全边界严格禁止生成任何成人色情和血腥暴力方面的内容，但在某些特定使用场景下这种安全边界设置会阻碍使用，因此也有不少用户提交反馈希望 OpenAI 能够支持成人模式。

那这些特定的使用场景指的是什么呢？OpenAI 表示： ChatGPT 不应生成色情内容、非法或非自愿性行为的描述或极端血腥内容，除非是在科学、历史、新闻、创意或其他敏感内容适当的背景下。

简单来说就是原本的安全边界虽然为大多数人尤其是未成年人提供保护，但也妨碍专业人士使用 ChatGPT 分析犯罪现场描述、某些类型的报道、可能包含暴力或性内容的法律文本甚至影响到某些专业的医学文本。

后续在特定的使用场景也就是通过提示词预设的 OpenAI 认为合理使用的背景下，ChatGPT 就可以生成色情或血腥方面的内容，不会出现安全内容警告。