微软被指控销售一种向儿童播放暴力性图片的人工智能工具

据 CNBC 报道，在微软工程师 Shane Jones 警告微软忽视了该工具随机生成暴力和性图像的警告后，微软人工智能驱动的文本到图像工具 Copilot Designer 似乎正在严格过滤输出。 提及。

琼斯告诉 CNBC，他在自愿参加红队测试该工具漏洞的过程中，多次警告微软有关他所看到的令人不安的内容。 琼斯表示，在该工具在 Android 商店中成熟之前，微软未能删除该工具，实施相应的保障措施，甚至没有发布信息来更改产品的分类。

相反，微软似乎只是让他向 OpenAI 报告问题，OpenAI 是为 Copilot Designer 提供输出的 DALL-E 模型的制造商。

琼斯表示，OpenAI 从未做出回应，因此他采取了更积极的措施，提醒公众注意他在微软工具中发现的问题。

他首先在 LinkedIn 上发布了一封倡导 OpenAI 的公开信。 然后，当微软的法律团队要求他关闭该公司时，他按照指示做了，但他也向立法者和其他利益相关者发出了信件，向各个方向发出了危险信号。 据 CNBC 报道，这包括今天发送给联邦贸易委员会和微软董事会的信件。

琼斯在给 FTC 主席 Lena Khan 的信中表示，微软和 OpenAI 至少从 10 月份起就已经意识到这些问题，并将“继续向任何人、任何地方、任何设备推销该产品”，除非 FTC 进行干预。

彭博社还审阅了琼斯的信 提及 琼斯告诉联邦贸易委员会，尽管 Copilot Designer 目前被宣传为对儿童安全，但它会随机创建“在其创建的一些图像中不恰当且露骨的女性图像”。 它还可以用来创建“各种其他类别的有害内容，包括：政治偏见、未成年人饮酒和吸毒、滥用公司商标和版权、阴谋论和宗教等等。”

在另一封信中，琼斯还恳求微软董事会调查微软的人工智能决策，并“对微软负责任的人工智能事件报告流程进行独立审查”。 据 CNBC 报道，琼斯“付出了巨大努力试图在内部提出这个问题”，包括直接向微软负责人工智能的办公室和“负责副驾驶设计师的高级管理层”报告，这是必要的。

微软发言人不愿证实微软目前是否正在采取措施过滤图像，但 Ars 试图重复琼斯分享的声明，结果出现了错误消息。 相反，微软发言人只会分享向 CNBC 提供的相同声明：

我们致力于根据公司政策解决所有员工关心的问题，并感谢员工为研究和测试我们的最新技术以提高安全性所做的努力。 当涉及到可能对我们的服务或合作伙伴产生潜在影响的安全违规或问题时，我们建立了产品内用户反馈工具和强大的内部报告渠道，以正确调查、优先排序和解决任何问题，我们建议员工使用这些工具，以便我们可以验证他的担忧并对其进行适当的测试。 我们还促成了与产品领导层和负责的人工智能办公室的会议，以审查这些报告，并不断纳入这些反馈，以增强我们现有的安全系统，为每个人提供安全和积极的体验。

OpenAI 没有回应 Ars 的置评请求。