微软已对一个组织采取法律行动，该组织被指控故意开发并使用工具绕过其云 AI 产品的安全护栏。根据微软去年12月向美国弗吉尼亚东区地方法院提起的诉讼，一群由10名未透露姓名的被告组成，涉嫌使用窃取的客户凭证和定制软件侵入 Azure OpenAI 服务。
微软指控被告违反了《计算机欺诈和滥用法案》、《数字千年版权法案》和联邦敲诈勒索法，非法访问和使用微软的软件和服务器，目的是“创建攻击性”和“有害和非法内容”。微软没有提供有关所生成滥用内容的具体细节。
该公司正在寻求禁令和“其他公平”救济和损害赔偿。微软在投诉中表示，它在2024年7月发现，拥有 Azure OpenAI 服务凭证（特别是 API 密钥，用于对应用程序或用户进行身份验证的唯一字符串）的客户被用于生成违反该服务可接受使用政策的内容。
图源备注：图片由AI生成，图片授权服务商Midjourney
微软的诉状中写道:“被告获取用于实施本诉状中所述不当行为的所有 API 密钥的具体方式尚不清楚，但看起来被告已参与了系统性的 API 密钥盗窃模式，使他们能够从多个微软客户那里窃取微软 API 密钥。”
微软指控被告利用窃取的美国客户 Azure OpenAI 服务 API 密钥来实施“黑客即服务”计划。根据起诉书，为了实施该计划，被告创建了一个名为 de3u 的客户端工具，以及用于处理和路由从 de3u 到微软系统的通信的软件。
微软称， De3u 允许用户利用被盗的 API 密钥，使用 DALL-E（Azure OpenAI 服务客户可用的 OpenAI 模型之一）生成图像，而无需编写自己的代码。根据投诉，De3u 还试图阻止 Azure OpenAI 服务修改用于生成图像的提示，例如，当文本提示包含触发微软内容过滤的单词时，就会发生这种情况。
截至发稿时，托管在 GitHub（微软旗下公司）上的包含 de3u 项目代码的 repo 已无法访问。
微软在周五发布的一篇博客文章中表示，法院已授权其查封一个对被告的行动“至关重要”的网站，该网站将使该公司能够收集证据，破译被告所谓的服务如何货币化，并破坏其发现的任何其他技术基础设施。
微软还表示，它已经“采取了对策”，但公司没有具体说明，并且针对其观察到的活动为 Azure OpenAI 服务“增加了额外的安全缓解措施”。