白帽黑客Johann Rehberger近日揭露了一个令人震惊的安全漏洞，他发现ChatGPT可被黑客利用作为间谍软件，持续窃取用户数据。Rehberger将这种攻击方式命名为"SpAIware"，主要针对macOS版ChatGPT应用程序的新功能——长期记忆。
这一漏洞利用了ChatGPT最近推出的持久记忆功能。通过精心构造的提示注入，黑客可以在ChatGPT的长期记忆中植入恶意命令，使其将用户的对话内容传送至远程服务器。更令人担忧的是，这种攻击甚至不需要直接访问用户账户，可通过编码在图像或网站中的有效载荷实现。
图源备注:图片由AI生成，图片授权服务商Midjourney
尽管OpenAI最初对Rehberger的报告反应冷淡，但在他提供概念验证后，开发团队终于采取了行动。目前，OpenAI已发布部分修复程序，禁止ChatGPT将数据发送到远程服务器。然而，AI仍可接受来自不可信来源的提示，这意味着黑客仍能将恶意提示注入长期记忆。
Rehberger强调，这种攻击对用户几乎不可见，且具有持久性。即使用户开始新的对话，植入的恶意命令仍会继续窃取数据。目前，这一漏洞仅在ChatGPT的macOS应用版本中得到证实，网页版不受影响。
为防范潜在风险，用户应警惕使用ChatGPT扫描未知网站或图像。同时，建议定期检查应用程序的记忆工具，删除任何可疑条目。这一事件再次提醒我们，在享受AI便利的同时，"TrustNoAI"（不要信任AI）可能是我们都应该牢记的准则。