划重点：

  • OpenAI 正在探索允许用户“负责任”地制作 AI 生成的色情内容。

  • OpenAI 正在重新审视与 AI 产品相关的 NSFW（Not Safe For Work）政策。

  • 存在对开放 NSFW 政策可能带来的风险的担忧。

5月9日 消息: 美国人工智能巨头 OpenAI 在一份征求产品规则反馈的文件中透露，他们正在探索在适当年龄段的环境下“负责任”地允许用户制作 AI 生成的色情内容。

目前 OpenAI 的规则大多禁止性暗示内容和色情内容，但公司正在重新审视这一禁令。OpenAI 在文件中表示：“我们正在探索是否可以在适当年龄段的环境下负责任地提供生成 NSFW 内容的能力。”NSFW 内容涵盖不雅用语、极端血腥和色情。OpenAI 模型负责人 Joanne Jang 在 NPR 采访中提到，公司希望就 AI 产品中色情文本和裸体图像是否应永久禁止进行讨论。

OpenAI 可能将允许用户创建被视为 AI 生成的色情内容的图像。这包括了新型 AI 应用和服务，它们可以“去衣”人的图像，这在青少年中尤其受到关注，形成了一种在学校迅速蔓延的新形式的同龄人性侵犯和骚扰，引发特别担忧。

同时，研究人员对高级人工智能技术用于创建深度伪造色情内容以骚扰、勒索或羞辱受害者的潜在风险感到担忧。OpenAI 的文件中包含了一个 ChatGPT 提示示例，涉及性健康问题，这是它可以回答的。然而，在另一个请求中，聊天机器人拒绝了写一段色情文字的请求。Jang 表示，聊天机器人可能应该能够回答这类问题作为创意表达的一种形式，这一原则可能扩展到图像和视频，只要它们不是滥用或违反法律。

然而，允许任何形式的 AI 生成图像或视频色情内容都可能被滥用，并造成严重伤害。Jang 强调，如果目标是创造色情内容，她会选择去其他地方工作。