微软在新诉讼中指控一些组织开发滥用其AI服务的工具

微软已经对一个团体采取了法律行动，该公司声称该团体故意开发并使用工具绕过其云人工智能产品的安全护栏。根据该公司于12月向美国弗吉尼亚州东区地方法院提交的一份诉状，一个由10名未具名被告组成的团体涉嫌使用窃取的客户凭据和定制设计的软件入侵AzureOpenAI服务，该服务是由ChatGPT制造商OpenAI的技术提供支持的微软全面管理服务。

在诉状中，微软指控被告（微软仅称其为"Does"，法律上的化名）违反了《计算机欺诈和滥用法》、《数字千年版权法》和联邦勒索法，非法访问和使用微软的软件和服务器，以"创建攻击性"和"有害的非法内容"。微软没有提供所生成的辱骂性内容的具体细节，该公司正在寻求禁令和"其他公平"救济以及损害赔偿。

微软在诉状中称，它于2024年7月发现，拥有AzureOpenAI服务凭证（特别是API密钥，即用于验证应用程序或用户的唯一字符串）的客户被用于生成违反该服务可接受使用政策的内容。随后，通过调查，微软发现这些API密钥是从付费客户那里窃取的。

"被告获得用于实施本起诉书所述不当行为的所有API密钥的确切方式尚不清楚，"微软在起诉书中写道，"但被告似乎参与了一种系统性的API密钥盗窃模式，使他们能够从多个微软客户那里窃取微软API密钥。"

微软指控被告使用窃取的属于美国客户的AzureOpenAI服务API密钥，创建了一个"黑客即服务"计划。根据诉状，为了实施这一计划，被告创建了一个名为de3u的客户端工具，以及用于处理和路由de3u与微软系统之间通信的软件。

微软称，De3u允许用户利用窃取的API密钥，在无需编写自己的代码的情况下，使用DALL-E生成图像，DALL-E是AzureOpenAI服务客户可用的OpenAI模型之一。根据起诉书，De3u还试图阻止AzureOpenAI服务修改用于生成图像的提示，例如，当文本提示中包含触发Microsoft内容过滤的单词时，就可能发生这种情况。