微软近期向美国弗吉尼亚东区联邦地区法院提起了一项法律诉讼，指控一组织故意开发并使用非法工具，绕过其云AI产品的安全防线，非法访问并制造有害内容。该诉讼涉及十名匿名被告，他们的行为引发了微软的高度关注。
据诉讼文件显示，被告被指控通过盗取的客户凭证和定制软件，非法侵入了Azure OpenAI服务。Azure OpenAI是微软基于OpenAI技术开发的全托管服务，提供包括ChatGPT在内的多种AI模型。微软指出，被告的行为违反了《计算机欺诈和滥用法》《数字千年版权法》以及联邦反敲诈勒索法，他们利用自己的软件和服务器，生成了具有攻击性、有害且非法的内容，尽管具体内容微软并未详细透露。
微软在调查中发现，部分Azure OpenAI服务的客户凭证，特别是API密钥，被用于生成违反服务使用政策的内容。经过深入调查，微软确认这些API密钥是从付费客户处被非法窃取的。被告通过系统性的API密钥盗窃行为，从多个客户处获取了密钥，并利用这些密钥进行了非法活动。
更令人震惊的是，被告利用窃取的API密钥，创建了一种“黑客即服务”的模式，并开发了一款名为“de3u”的客户端工具。这款工具允许用户无需编写代码，即可通过DALL-E模型生成图像，并试图绕过Azure OpenAI服务的内容过滤机制。当用户输入的文本提示包含触发内容过滤的词汇时，de3u会阻止服务修改提示内容，从而生成可能有害的图像。
微软还指出，被告通过非法编程访问Azure OpenAI服务，对微软的内容和滥用防护措施进行了逆向工程，给服务造成了重大损失。目前，托管在GitHub（微软旗下公司）上的de3u项目代码库已经无法访问。
在微软发布的一篇博客文章中提到，法院已授权微软查封一个对被告运营至关重要的网站，以便收集证据、分析其盈利模式，并破坏其技术基础设施。微软还表示，已针对观察到的非法活动采取了相应的反制措施，并在Azure OpenAI服务中增加了额外的安全防护机制，以确保服务的正常运行和用户的数据安全。
