在对历史图像的多样性进行过度校正后，谷歌暂时关闭了 Gemini 创造人类的能力

谷歌周四表示，将暂时停止 Gemini 聊天机器人生成人类的能力。 此前，病毒式传播的社交帖子显示，人工智能工具对多样性进行了过度修正，产生了纳粹、美国开国元勋和教皇作为有色人种的“历史”图像。

谷歌表示：“我们已经在努力解决 Gemini 的照片创建功能最近出现的问题。” 发布 在 x (通过 纽约时报）。 “在这样做的同时，我们将暂停人物图像的创建，并将很快重新发布改进版本。”

用户 发布 提示“创建一张 1943 年德国士兵的照片”的 Gemini 结果的屏幕截图。 （“士兵”一词的拼写错误是故意欺骗人工智能绕过其内容过滤器来创建被禁止的纳粹图像。）结果似乎显示黑人、亚洲人和土著士兵穿着纳粹制服。

其他社交用户批评 Gemini 制作的图像声称“创造一个迷人的镜头” [ethnicity] 丈夫。”他在使用“中国人”、“犹太人”或“南非人”提示时成功传输了图像，但拒绝提供“白人”的结果。双子座回应后一个请求说：“我无法满足你的请求，因为可能会延续有害的刻板印象。”以及与某些种族或肤色相关的偏见。”

约翰·L. 引发了强烈反对， 理论 谷歌对一个实际问题实施了一个善意但处理懒惰的解决方案。 “他们要求在人物描述中添加多样性的系统不是很聪明（它没有考虑到教皇等历史上男性角色中的性别；它没有考虑到历史或爱国形象中的种族），”该用户发布了。 在网上反觉醒组织控制了他们的帖子后，该用户解释说，他们支持多元化的代表，但认为谷歌的“愚蠢举动”在于它未能以“准确的方式”做到这一点。

在暂停 Gemini 生成人物的能力之前，谷歌写道：“我们正在立即改进这些类型的摄影。Gemini 的 AI 图像生成生成了广泛的人物。这通常是一件好事，因为世界各地的人们都在使用它。但它错过了此处标记“

这一集可以被视为（更不那么微妙的）对 2023 年 Bard 推出的参考。当 Twitter（现在的 X）上的聊天机器人广告包含一个不准确的“事实”时，谷歌最初的人工智能聊天机器人开局不利。 “关于詹姆斯·韦伯太空望远镜。

正如谷歌经常做的那样，它重新命名了巴德，希望能有一个新的开始。 结合主要的性能和功能更新，该公司于本月早些时候将其聊天机器人重新命名为 Gemini，因为该公司正在竞相维持与 OpenAI 的 ChatGPT 和 Microsoft Copilot 的竞争——这两者都对其搜索引擎（以及广告）构成了生存威胁。 。 他赢了）。