8月18日消息,据外媒报道,AI生成的埃隆·马斯克的形象,已经出现在数千条虚假广告中,导致许多人被骗。AI驱动的“深度伪造”(deepfake)视频预计每年将造成数十亿美元的欺诈损失。

外媒举了一个具体的例子,去年年底,82岁的退休人员博尚普(Steve Beauchamp)看到了一段“马斯克”推荐一个激进投资机会的视频,该机会承诺会带来快速的回报。他联系了推销该项目的公司,并开设了一个账户,存入了248美元。在接下来的几周内,通过一系列交易,博尚普耗尽了他的退休账户,最终投资了超过69万美元。

然后,这些钱消失了,被利用人工智能的新型犯罪企业的数字骗子骗走了。

这些骗子编辑了一段马斯克的真实采访,利用AI工具替换了他的声音。这个AI足够先进,可以改变细微的嘴部动作,以匹配他们为这个数字假冒人物编写的新台词。对普通观众来说,这种操控可能难以察觉。

有业内人士评价称,这些视频往往非常逼真,模仿了马斯克标志性的语调和南非口音。

在过去几个月中,数以千计由AI生成的视频(称为深度伪造)充斥网络,其中包括虚假的马斯克形象,欺骗了众多潜在投资者。德勤预计,AI驱动的深度伪造每年可能导致数十亿美元的欺诈损失。

这些视频制作成本仅需几美元,几分钟内即可完成,并通过社交媒体(包括Facebook的付费广告)推广,扩大其影响范围。

AI行业正在快速发展,这些伴随产生的欺诈事件,需要AI行业和监管部门共同努力应对,以防止滥用。