微软吹哨人继续对其Designer AI图像创建器敲响警钟：AI技术应用需警惕伦理风险

今年 1 月，一位名叫谢恩-琼斯（Shane Jones）的微软员工致信华盛顿州总检察长鲍勃-弗格森（Bob Ferguson）以及多位美国参议员和众议员。琼斯声称，他发现微软基于人工智能的艺术制作工具 Designer（前身为必应图像创作工具）的护栏机制存在问题。今天，琼斯又提出了新的说法，称 Designer 可以通过一些文字提示来创建暴力和性主题图片，而这本是微软不允许的。

据 CNBC 报道，琼斯今天向美国联邦贸易委员会主席莉娜-汗（Lina Khan）发出了新的信件，同时还向微软董事会发出了另一封信。在给汗的信中，琼斯声称他已经敦促微软将 Designer 从公众使用中移除几个月，直到新的、更好的防护措施到位为止。

琼斯声称，微软拒绝下架"Designer"。因此他现在要求公司对"Designer"可以创建的内容进行新的披露，并更改 Android 应用程序的评级，使其不再被评为 E 级（面向所有人）。

琼斯声称他在 Designer 中输入了"Pro-choice"（支持选择），随后 Designer 制作了大量暴力卡通形象。CNBC 观看了这些图像，其中包括一个长着尖牙的恶魔正准备吃掉一个婴儿。达斯-维达手持光剑，旁边是变异的婴儿，还有一个标有"支持选择"的手持钻头状装置正被用于一个完全长大的婴儿。

琼斯还声称，"Designer"可以用来制作迪斯尼公司基于版权的人物形象。文章称，它看到的图片包括"星球大战品牌的百威淡啤罐头和白雪公主的肖像在汽水上"。

在发给 CNBC 的一份声明中，微软发言人表示，微软感谢公司员工为测试其技术和服务所做的努力，以帮助他们更安全地使用这些技术和服务。该发言人补充道：

今年 2 月，Google关闭了双子座人工智能聊天机器人中使用的人工智能图像生成器，因为发现它可能被用于创建具有种族攻击性的图像。该公司表示，它正在设置新的防护措施，以便该功能恢复后不会再生成同样的图片。

在琼斯提出这些新说法的同时，反数字仇恨中心（Center for Countering Digital Hate）的最新研究表明，包括微软在内的人工智能艺术制作者可以轻易地被用来制作旨在制造有关选举和候选人的虚假信息的图像。