专栏名称: 码农学习联盟
码农学习联盟,分享Java、Python、大数据、机器学习、人工智能等程序员必备技术,关注程序员技术能力提升、关爱程序员成长,50万+码农学习第一站!
目录
相关文章推荐
梅特涅的信徒  ·  困龙翻身与刘秀脱困 ·  昨天  
生物探索  ·  Nature Medicine | ... ·  2 天前  
生物学霸  ·  北京高校,拟整体搬迁,将腾退 5 个校区 ·  2 天前  
51好读  ›  专栏  ›  码农学习联盟

色情是第一生产力?OpenAI考虑允许生成色情内容

码农学习联盟  · 公众号  ·  · 2024-05-11 21:26

正文

目前非开源的文字生成图像类人工智能应用都是禁止用户生成任何色情内容的,如果用户尝试在提示词中描述相关词汇可能会被系统自动拦截,严重的情况下甚至有可能会被平台封禁账号。

这种共识至少现阶段是被各种人工智能模型普遍遵守的,但如果是开源 / 开放可以在本地运行的人工智能模型,自然没有这种限制,用户完全可以自己部署并生成任何内容。

现在 OpenAI 已经开始考虑是否要放开这个限制,即允许用户通过诸如 DALL-E 3 等文本生成图像模型来生成色情图片或使用 ChatGPT 生成色情类的文本内容。

OpenAI 似乎已经了解到用户可能对通过人工智能生成色情图片有着期望,因此需要探索能否在负责任的前提下,在适合年龄的环境中生成 NSFW 内容 ( 注:NSFW 指的是不适合上班浏览,用于代指各类色情或令人不适的内容等 )。

需要强调的是 OpenAI 考虑的不仅是文本生成图片,按照讨论诸如利用 ChatGPT 生成色情类的文本内容也是可以的,当然这都可能需要验证年龄确保用户在已经成年的情况下使用。

对于生成图片类,尽管 OpenAI 考虑允许使用人工智能生成色情图片 (甚至包括未来使用 OpenAI Sora 模型生成色情视频),但前提是不得使用深度伪造 (DeepFake),即用户不得生成用来伪造他人色情内容的图片。







请到「今天看啥」查看全文