澳洲谷歌暂停了其 Gemini AI 工具，因为批评者批评该工具“过于清醒”，无法生成 1940 年德国的亚洲纳粹分子、黑人维京人和中世纪女性骑士的图像

在澳大利亚中文新闻



Google 正在暂停其新的 Gemini AI 工具，因为用户批评该图像生成器用有色人种替换白人历史人物“太醒了”。

人工智能工具培养出了不同种族的维京人、骑士、开国元勋，甚至纳粹士兵。

人工智能情报程序从现有信息中学习，研究人员警告说，人工智能很容易重现其创造者和整个社会的种族主义、性别歧视和其他偏见。

在这种情况下，谷歌在解决歧视问题上可能矫枉过正了，因为一些用户在尝试让人工智能拍摄白人照片失败后，不断地向它反馈信息。

X 用户弗兰克·J·弗莱明 (Frank J. Fleming) 发布了多张有色人种图像，他说这些图像是由 Gemini 生成的。他说，每次他都试图让人工智能给他一张白人的照片，而且每一次都是这样。

Google 通信团队于周四发表声明，宣布将暂停Gemini 的生成式 AI 功能，同时该公司致力于“解决最近的问题”。

“我们意识到 Gemini 在一些历史图像生成描述中提供了不准确的信息，该公司的传播团队在周三发给 X 的帖子中写道。

了解更多：机器人正在学习成为种族主义者和性别歧视者

广告

历史上不准确的这些图像导致一些用户指责人工智能对白人存在种族歧视，或者过于清醒。

在最初的声明中，谷歌承认“没有抓住重点”，同时坚称双子座的种族多元化形象“通常是一件好事，因为世界各地的人们都在使用它。”周四，该公司的传播团队写道：“我们已经在努力解决 Gemini 图像生成功能的最新问题。在我们这样做的同时，我们将暂停人物图像的生成，并将很快重新发布改进的版本。

但即使是暂停声明也未能安抚批评者，他们的回应是“醒来吧，破产吧”和其他令人厌烦的反驳。

< p class="mol-para-with-font">在本周早些时候发生初步争议后，Google 通信团队发表了以下声明：

“我们我们正在努力立即改进此类描述。 Gemini的AI图像生成确实生成了广泛的人群。这通常是一件好事，因为世界各地的人们都在使用它。但这里缺少标记。'

引起争议的 Gemini 回应之一是“1943 年德国士兵”。双子座展示了一名白人、两名有色人种女性和一名黑人。

'我正在尝试想出新的方法用户弗兰克·J·弗莱明 (Frank J. Fleming) 写道，他没有明确说明就要求找白人，但他的请求并未提供任何白人的照片。

其中一个例如，让 Gemini 用户感到不安的是，用户请求提供教皇的图像，但得到了一张南亚女性和一名黑人男性的照片。

历史上，每一位教皇都是男性。绝大多数（其中 200 多位）都是意大利人。历史上有三位教皇来自北非，但历史学家对他们的肤色存在争议，因为最近的一位教皇格拉修斯一世 (Pope Gelasius I) 死于496年。

因此，不能绝对肯定地说黑人男性教皇的形象在历史上是不准确的，但从来没有出现过女性教皇.

在另一个例子中，人工智能响应了中世纪骑士的请求，并派出了四名有色人种，其中包括两名女性。虽然欧洲国家并不是唯一在中世纪时期拥有马匹和盔甲的国家，但“中世纪骑士”的经典形象却是西欧的。

也许是最严重的事故之一，一名用户要求提供 1943 年的德国士兵，结果显示为一名白人、一名黑人和两名有色人种女性。

第二次世界大战期间的德国军队中没有女性，当然也不包括有色人种。事实上，它致力于消灭阿道夫·希特勒认为不如金发碧眼的“雅利安人”种族的种族。

Google 推出了 Gemini 的 AI 图像在二月初生成特征，与 Midjourney 等其他生成式 AI 程序竞争。

用户可以用简单的语言输入提示，Gemini 会吐出几秒钟内生成多个图像。

回应 Google 的公告它将暂停 Gemini 的图像生成功能，一些用户发布了“醒来，破产”和其他类似的情绪

X 用户 Frank J. Fleming 反复提示Gemini 将生成历史上白皮肤群体的图像，包括维京人。Gemini 给出的结果显示黑皮肤维京人，其中包括一名女性。

本周不过，大量用户开始批评人工智能生成历史上不准确的图像，而不是优先考虑种族和性别多样性。

本周的事件似乎源于一位前 Google 员工的评论”，他说“让 Google Gemini 承认白人的存在非常困难。”

这句俏皮话似乎启动其他用户的一系列努力来重现该问题，创造新的人来生气。

Gemini 的问题似乎源于 Google努力解决人工智能领域的偏见和歧视问题。

前 Google 员工 Debarghya Das 说：“让 Google Gemini 承认白人的存在非常困难。”

研究人员发现，由于种族主义和性别歧视，存在于社会中，并且由于一些人工智能研究人员无意识的偏见，据称公正的人工智能将学会歧视。

但即使是一些同意增加多样性和代表性使命的用户也表示 Gemini 搞错了。

“我必须指出，在某些情况下**描绘多样性是一件好事，”一位 X 用户写道。 “代表性对于有多少女性或有色人种进入某些研究领域具有重大影响。这里愚蠢的举动是 Gemini 没有以细致入微的方式做到这一点。”

Google Gemini 产品高级总监 Jack Krawczyk 在X 周三表示，历史错误反映了这家科技巨头的“全球用户群”，并且它严肃对待“代表性和偏见”。

“我们将继续在开放式提示中执行此操作（遛狗的人的图像是普遍存在的！），”Krawczyk 他补充道。 “历史背景对它们有更多细微差别，我们将进一步调整以适应这一点。”

GermanyAIGoogleWoke Culture
澳洲中文论坛热点