随着2024年美国大选的临近，AI 技术的快速发展引发了越来越多的关注。最近，Axios 的分析显示，至少有26个州已经通过或正在考虑相关法律，以监管选举中使用的生成式 AI。这意味着，在未来的选举中，AI 将不再是一个简单的技术工具，而是一个可能影响投票结果的 “游戏规则改变者”。
图源备注:图片由AI生成，图片授权服务商Midjourney
众所周知，生成式 AI 有时会被恶意使用，甚至可能造成选民的困惑和压制。弗吉尼亚州的参议员马克・沃纳在一封邮件中指出，AI 技术的滥用风险不容小觑。他表示:“我认为，开发生成式 AI 的公司和平台对这种滥用潜力并没有足够的重视。” 这让很多人开始担心，AI 的使用是否会影响到民主选举的公平性。
实际上，已有多个实例表明，生成式 AI 的确被用于误导选民。例如，在新罕布什尔州，有人利用 AI 生成的假电话，模仿拜登的声音，鼓动民主党选民不要参加初选。而去年7月，支持佛罗里达州州长德桑蒂斯的超级政治行动委员会，也使用 AI 模仿特朗普的声音制作广告，对其进行攻击。这些事件让人们意识到，AI 的误用已经成为一个不容忽视的问题。
尽管一些州已经开始采取行动，比如德克萨斯州在2019年成为首个禁止制作和传播针对候选人的深度伪造视频的州，但在联邦层面上，关于 AI 的监管措施仍然很有限。甚至连拜登总统的 AI 行政命令，都是以自愿为主，缺乏强制执行的力度。
目前，19个州已通过法律，专门针对 AI 生成的 “深度伪造” 媒体进行管理。其中，加州的法律禁止在选举前60天内传播 “实质性欺骗” 的音视频内容，明尼苏达州和密歇根州则在2023年禁止在选举前90天内传播 AI 生成的深度伪造内容。此外，新墨西哥州、佛罗里达州、犹他州等也在今年通过了要求披露 AI 生成内容的法律。
虽然一些州在考虑相关法律时，也考虑到某些例外情况，比如如果内容中有披露，或者是属于讽刺和模仿类广告，但各州在对待违规行为的分类和处罚上仍然存在差异。随着越来越多的州开始行动，专家们表示，要想真正解决这个问题，还需要联邦层面的全面行动。
* 划重点:*
📊 * 至少26个州正在考虑或已经通过相关法律，监管选举中的生成式 AI 使用。*
📞 AI 技术被恶意使用的实例屡见不鲜，包括假电话和模仿候选人声音的广告。
⚖️ * 目前联邦层面的监管措施相对有限，各州的法律也存在差异，亟需更全面的法律框架。*