在年初，关于生成式人工智能如何干扰全球选举、传播宣传和虚假信息的担忧广泛存在。然而，Meta 近日发布的报告显示，这些担忧并没有在其平台上实现。Meta 表示，在 Facebook、Instagram 和 Threads 等社交平台上，生成式人工智能对选举相关信息的影响极为有限。
图源备注：图片由AI生成，图片授权服务商Midjourney
根据 Meta 的研究，报告涵盖了多个国家和地区的重大选举，包括美国、孟加拉国、印度尼西亚、印度、巴基斯坦、欧盟议会、法国、英国、南非、墨西哥和巴西。Meta 指出，虽然在选举期间确实存在一些确认或怀疑使用人工智能的情况，但总体数量仍然很低，现有政策和流程足以降低生成式 AI 内容带来的风险。报告显示，在上述选举期间，与选举、政治和社会话题相关的 AI 内容被事实核查的虚假信息中占比不足1%。
为防止与选举相关的深度伪造图像，Meta 的 Imagine AI 图像生成器在选举日之前一个月拒绝了近590，000个创建涉及特朗普、哈里斯副总统、沃尔兹州长和拜登总统等的请求。此外，Meta 还发现，试图传播宣传或虚假信息的网络账户在使用生成式 AI 方面仅有轻微的生产力和内容生成提升。
Meta 强调，AI 的使用并没有妨碍其打击这些隐秘影响活动的能力，因为该公司关注的是这些账户的行为，而不是它们发布的内容，不论这些内容是否由 AI 生成。此外，Meta 还宣布已全球范围内删除约20个新的隐秘影响操作，以防止外国干涉。这些被打击的网络大多没有真实的观众，有些甚至通过虚假的点赞和关注者来虚假展现其受欢迎程度。
Meta 也指责其他平台，称与美国选举有关的虚假视频往往出现在 X 等平台上。Meta 表示，在总结这一年所学到的经验时，将继续审查其政策，并将在未来几个月内宣布任何变更。
划重点:
📰 Meta 报告显示，AI 内容在选举相关虚假信息中占比不足1%。
🚫 Imagine AI 图像生成器拒绝了近590，000个深度伪造图像请求。
🌍 Meta 全球范围内打击了约20个隐秘影响网络，防止外国干涉。