8月18日消息，据外媒报道，AI生成的埃隆·马斯克的形象，已经出现在数千条虚假广告中，导致许多人被骗。AI驱动的“深度伪造”（deepfake）视频预计每年将造成数十亿美元的欺诈损失。

外媒举了一个具体的例子，去年年底，82岁的退休人员博尚普（Steve Beauchamp）看到了一段“马斯克”推荐一个激进投资机会的视频，该机会承诺会带来快速的回报。他联系了推销该项目的公司，并开设了一个账户，存入了248美元。在接下来的几周内，通过一系列交易，博尚普耗尽了他的退休账户，最终投资了超过69万美元。

然后，这些钱消失了，被利用人工智能的新型犯罪企业的数字骗子骗走了。

这些骗子编辑了一段马斯克的真实采访，利用AI工具替换了他的声音。这个AI足够先进，可以改变细微的嘴部动作，以匹配他们为这个数字假冒人物编写的新台词。对普通观众来说，这种操控可能难以察觉。

有业内人士评价称，这些视频往往非常逼真，模仿了马斯克标志性的语调和南非口音。

在过去几个月中，数以千计由AI生成的视频（称为深度伪造）充斥网络，其中包括虚假的马斯克形象，欺骗了众多潜在投资者。德勤预计，AI驱动的深度伪造每年可能导致数十亿美元的欺诈损失。

这些视频制作成本仅需几美元，几分钟内即可完成，并通过社交媒体（包括Facebook的付费广告）推广，扩大其影响范围。

AI行业正在快速发展，这些伴随产生的欺诈事件，需要AI行业和监管部门共同努力应对，以防止滥用。