架构师大咖
架构师大咖，打造有价值的架构师交流平台。分享架构师干货、教程、课程、资讯。架构师大咖，每日推送。
相比 OpenAI 带来文生视频模型
Sora
、微软投资法国 AI 初创公司
Mistral AI
等带来的得意，另一大科技巨头 Google 最近正焦头烂额，深陷争议的漩涡之中。
在接连道歉之后，据 The Verge 报道，Google CEO 桑达尔·皮查伊最新在内部发了一封内部信，深刻地反思道：
Gemini 应用程序给出具有种族问题的反馈，出现这样的问题是不可接受的，公司要进行结构性改变来解决这个问题。
前情：接连报错的 Google Gemini
几天前，有不少网友发现，Google Gemini 应用程序开始“发疯”，有时候文本答非所问，有时候无法准确地描绘出用户所要求的一些图像。
例如，当网友要求 Gemini 生成一张特斯拉 CEO 马斯克的图像时，意外地得到了这个：
又有人提出让 Gemini 生成美国开国元勋的图像时，Gemini 提供了非常不准确的 18 世纪领导人图像：
还有用户让 Google Gemini 生成一张北极熊图像时，得到了一头黑熊的图片：
几乎无一例外，Google Gemini 生成的图像似乎存在种族偏见问题。就连一位 Google 前员工也出来发帖称，“让 Google Gemini 承认白人的存在是非常困难的”。
随着越来越多的网友发现 Gemini 问题，Google 迅速成为众矢之的。
但是通过 Google 早几日发布的声明不难发现他们还没有意识到问题的严重性，彼时其说道，“我们正在努力立即改进这些描述。Gemini 的 Al 图像生成确实能生成各种各样的人。这通常是件好事，因为世界各地的人们都在使用它。”
这样的道歉不但没有获得用户的支持与谅解，反而更加激发大家的不满。
X 用户@kaydenmark 评论道：“
我不明白这样一款备受期待的人工智能产品怎么会在推出时出现如此滑稽的缺陷。我很庆幸自己没有持有 Alphabet 的股票。老实说，我很想做空它。”
Google 紧急关停 Gemini 文生图功能
愈演愈烈下，Google 紧急宣布暂停 Gemini AI 图像生成功能。
此后，Google 高级副总裁 Prabhakar Raghavan 发表了一篇《Gemini 图像生成错了，我们会做得更好》的声明，进行了正式的道歉——“很明显，创建任务图像的功能没有达到目标。生成的一些图像不准确甚至具有攻击性。我们感谢用户的反馈，并对功能未能正常运行感到抱歉。”
并进一步解释了为什么会发生这种情况：
「Gemini 会话应用是一个独立于搜索、底层人工智能模型和其他产品的特定产品。它的图像生成功能建立在名为 Imagen 2 的人工智能模型之上。
当我们在 Gemini 中构建这一功能时，我们对其进行了调整，以确保它不会陷入我们过去在图片生成技术上看到的一些陷阱，例如创建暴力或色情图片，或描述真人。由于我们的用户来自世界各地，我们希望它能为每个人提供良好的服务。如果您需要一张足球运动员或遛狗者的照片，您可能希望收到各种人的照片。您可能不想只收到一种种族（或任何其他特征）的人的图片。
但是，如果你向 Gemini 提示特定类型的人物图片，例如“教室里的黑人老师”或“带着狗的白人兽医”，或者特定文化或历史背景下的人物，你绝对会得到准确反映你所要求的内容的回复。
那么，哪里出了问题？简而言之，有两点。
这两点导致模型在某些情况下过度补偿，而在另一些情况下则过度保守，从而产生了令人尴尬和错误的图像。
」
此后，Google DeepMind CEO Demis Hassabis 表示，Google 计划在未来几周内重新推出这一功能。
不过在没有彻底解决这一问题时，Google 的信任度开始受损，据 Forbes 报道， Google 母公司 Alphabet 因此消息在周一时市值损失 900 亿美元。
同时也直接惹怒一些名人，比如说开头提到的马斯克。就在今天，马斯克接连在自家的 X 平台上怒批道：Google Gemini 是超级种族主义者和性别歧视者！
随即，当美国著名投资人 Gavin Baker 发表评论称：
非政治化或中间派正在成为公司的重要竞争优势。
Gemini 是首次超越 GPT-4 的产品，但它的推出却成了一场不折不扣的灾难，该产品很可能会因为其中的意识形态而退出市场。
当这种意识形态不带有严重的种族主义或历史偏见时，它简直就是荒谬的：就伤害而言，微小的冒犯有时候堪比热核爆炸。
具有讽刺意味的是，如果谷歌只是遵循其使命宣言 "组织世界信息，使其普遍可用和有用"，那么他们的产品发布就会大获全胜。
相反，他们几乎肯定会像很久以前微软不得不撤下 Tay 一样撤下该产品。 迄今为止，他们的公关重点一直放在图像生成上，但文本生成产品在种族主义和荒谬性方面要糟糕得多。Gemini 内置的意识形态没有一点是“有用”的。
Gemini 1.5 Pro 表明，谷歌拥有保护其搜索专营权的技术能力；只有意识形态阻碍了谷歌漫长、缓慢、尴尬的衰落。
如果不采取迅速果断地行动，谷歌将面临真正的 Bud Light 风险。
对此，马斯克再次火速现身评论并透露称，“距离 Google 带有疯狂种族主义和性别歧视的 Gemini 产品首次亮相以来，已经过去了很多天了。但是还没有一个人因此而被解雇。”
皮查伊出面：大家在昼夜不停地工作，希望早日解决这一问题
事情发展到今日，据外媒 Semafor 报道，皮查伊在发布内部信时透露，公司“一直在夜以继日地工作”，希望解决“Gemini 应用中存在问题的文本和图片回复”。
