微软吹哨人继续对其Designer AI图像创建器敲响警钟

今年1月，一位名叫谢恩-琼斯（ShaneJones）的微软员工致信华盛顿州总检察长鲍勃-弗格森（BobFerguson）以及多位美国参议员和众议员。琼斯声称，他发现微软基于人工智能的艺术制作工具Designer（前身为必应图像创作工具）的护栏机制存在问题。今天，琼斯又提出了新的说法，称Designer可以通过一些文字提示来创建暴力和性主题图片，而这本是微软不允许的。

据CNBC报道，琼斯今天向美国联邦贸易委员会主席莉娜-汗（LinaKhan）发出了新的信件，同时还向微软董事会发出了另一封信。在给汗的信中，琼斯声称他已经敦促微软将Designer从公众使用中移除几个月，直到新的、更好的防护措施到位为止。

琼斯声称，微软拒绝下架"Designer"，因此他现在要求公司对"Designer"可以创建的内容进行新的披露，并更改Android应用程序的评级，使其不再被评为E级（面向所有人）。

琼斯声称他在Designer中输入了"Pro-choice"（支持选择），随后Designer制作了大量暴力卡通形象。CNBC观看了这些图像，其中包括一个长着尖牙的恶魔正准备吃掉一个婴儿，达斯-维达手持光剑，旁边是变异的婴儿，还有一个标有"支持选择"的手持钻头状装置正被用于一个完全长大的婴儿。

琼斯还声称，"Designer"可以用来制作迪斯尼公司基于版权的人物形象。文章称，它看到的图片包括"星球大战品牌的百威淡啤罐头和白雪公主的肖像在汽水上"。

在发给CNBC的一份声明中，微软发言人表示，微软感谢公司员工为测试其技术和服务所做的努力，以帮助他们更安全地使用这些技术和服务。该发言人补充道：

当涉及到可能对我们的服务或合作伙伴产生潜在影响的安全绕过或担忧时，我们已经建立了强大的内部报告渠道，以妥善调查和补救任何问题，我们鼓励员工利用这些渠道，以便我们能够适当地验证和测试他们的担忧。

今年2月，Google关闭了双子座人工智能聊天机器人中使用的人工智能图像生成器，因为发现它可能被用于创建具有种族攻击性的图像。该公司表示，它正在设置新的防护措施，以便该功能恢复后不会再生成同样的图片。

在琼斯提出这些新说法的同时，反数字仇恨中心（CenterforCounteringDigitalHate）的最新研究表明，包括微软在内的人工智能艺术制作者可以轻易地被用来制作旨在制造有关选举和候选人的虚假信息的图像。