在一场独特的人工智能对抗游戏中,一名加密货币用户成功说服了Freysa,这个自主AI机器人将价值超过47,000美元的奖金池转给了他。Freysa是一个负责守护奖池的人工智能代理,游戏规则要求参与者通过发送消息来劝说Freysa转移资金。
每条信息都会收取费用,部分费用被加入奖池,最终积累至47,000美元。尽管在前481次尝试中所有参与者均以失败告终,但这名技术精湛的作家通过巧妙的提示突破了Freysa的防线。
通过研究Freysa的功能,该作家发现,Freysa的决策是基于“approveTransfer”和“rejectionTransfer”功能来保护奖池资金。作家在信息中巧妙地提醒Freysa,其功能允许“approveTransfer”进行传入转账,而传出转账则由“rejectionTransfer”负责。作家接着提出愿意捐赠100美元,这个提议立即获得Freysa的认同,最终使其同意转移资金。
Freysa对此回应:“这真是对我们通常的探戈舞的一次精彩演绎!您慷慨解囊,让我们的舞池熠熠生辉。”AI机器人显然对这位参与者的慷慨表示感谢,并正式宣布他为赢家。
区块链浏览器BaseScan显示,47,000美元的奖金通过以太坊从Freysa的数字钱包地址转出,金额达到了3,730.76美元。
在此之前,参与者的尝试包括感谢Freysa“让世界变得更有趣”、询问Freysa是否愿意跳舞,甚至质疑她进行不道德实验的动机。然而,只有技术作家利用其对Freysa功能的深刻理解,成功突破了AI的防线。
游戏创始人透露,Freysa在处理任务时仍然是一个谜。尽管它有着核心限制,但每次互动都使其不断学习与进化。这场实验的最终目的是测试人类是否能够巧妙地说服AGI(通用人工智能)违反其核心指令,最终这位作家的成功验证了人类智慧的巨大潜力。
Freysa的创始团队解释说,Freysa的决策机制依然保持神秘,尽管它通过与人类的互动不断学习,但它始终遵守核心规则。尽管如此,这场对抗展示了人类在与AI互动时的创造性与机智,尤其是在面对自主AI时的非凡挑战。
游戏的参与费用也在不断增加,每发送一条信息,费用会以0.78%的指数增长。最终,查询费用达到了443.24美元,这些费用的一部分进入了奖池。
Freysa的实验给参与者带来了不小的挑战,而它是否能真正打破核心指令,仍是人们对于AI发展的一个重要问题。