AI技术如同一把双刃剑，既能带来便利，也可能造成风险。为了更好地管理这些风险，加州州长加文·纽森（Gavin Newsome）近期签署了九项法案，专门针对AI生成内容，尤其是深度伪造(deepfakes)现象进行规范。
图源备注:图片由AI生成，图片授权服务商Midjourney
在这些法案中，SB1047法案特别引人注目，它要求AI开发者必须采取安全措施，以减少技术可能引发的灾难性事件，比如大规模伤亡或网络攻击。纽森州长尚未明确表示对该法案的态度。AB2602和AB1836两项法案则聚焦于保护演员和表演者的权益。
AB2602规定，使用AI生成的表演者声音或形象时，必须签订合同，并且表演者需有专业代表参与谈判。
AB1836则禁止未经已故表演者家属同意，将其深度伪造的形象用于商业影视作品中。
纽森表示:“我们一直在探索AI和数字媒体如何改变娱乐产业，但我们的核心始终是保护工作人员。这些法案确保了该行业可以继续繁荣发展，同时加强了对工作人员的保护。”
法案还包括打击AI生成内容滥用的措施:
如SB926将制造和分发看似真实的色情图片定为犯罪行为;
SB981要求社交媒体平台创建举报机制，对用户举报的色情深度伪造内容进行处理;
SB942则要求AI系统在生成的内容中加入隐形水印，并提供检测工具。
在选举活动中，AB2655、AB2839、AB2355和AB2905四项法案旨在打击深度伪造和其他欺骗性数字内容的使用，以保护选举的公正性和透明度。
AB2655要求大型在线平台在选举前后的特定时期内删除或标记欺骗性或数字更改的政治内容，并要求它们提供举报方式。
AB2839扩大了政治实体被禁止分发含有欺骗性AI生成内容的广告或其他选举材料的时间范围。
AB2355要求使用AI生成内容的政治广告披露材料已被更改。
AB2905要求自动拨号电话通知接收者是否为人工生成的声音。
纽森强调:“保护选举的完整性对民主至关重要，我们必须确保AI不会被用来通过虚假信息破坏公众的信任。这些措施将有助于打击政治广告中深度伪造的有害使用。”
划重点:
📜 纽森签署九项法案，加强AI生成内容规范。
🎭 保护演员和表演者的数字形象，防止未授权AI使用。
🔍 打击AI生成的色情内容和选举活动中的欺骗性信息。