马斯克怒了,因为Gemini。
事情是这样的。
最近有很多网友陆陆续续发现啊,Gemini在文生图的时候,好像刻意在拒绝生成白人的形象。
取而代之的,是强行把图中的人物变成黑人、女性,以及弱势群体。
就拿马斯克本尊来说吧,一位网友让Gemini生成他的形象。
然后就有了上面这张照片。
而且马斯克还不是个例,很多网友在尝试让Gemini文生图的时候都仿佛中了黑色魔力圈一样。
例如给Gemini一个机会,让它生成教皇,它能给你一个很多元化的版本:黑人、LGBT小旗子
还有黑人女性版本的教皇:
许多网友在看到教皇的这一面,直呼这也太冒昧了吧~
但冒昧的岂止这些啊,再来看下Gemini眼中的美国开国元勋得是黑的!
生成的维京人,也得是黑的!
还有更奇葩的,就连香草布丁,Gemini还是得给你搞成黑色儿的
总而言之,用网友的话来说就是:
死活就不带白人玩儿呗?
不爽这事的可不止是一众网友,马斯克也坐不住了,直接亲自下场,在自家X上开启怒怼模式:
觉醒思想病毒(woke mind virus)正在杀死西方文明。
而马斯克的矛头并非仅仅指向谷歌一家,他借着这事儿把OpenAI、Facebook、Instagram以及维基百科等等都喷了一遍。
不过对于谷歌,马斯克还是格外关照的,数条推文内容都比较犀利。
例如这条不带任何文案的,仅是配图,杀伤力也是极大:
嗯,马斯克这次是真的不高兴了。
谷歌致歉,连夜下架Gemini文生图
老马怒一下,舆论震一震。
不仅是网友们在X上群嘲Gemini只认黑人,就连主流媒体们也是争相报道,标题中充斥着疯狂、种族歧视等字眼。
谷歌这边也是意识到了自家Gemini闯了大祸,立马采取措施——下架整顿文生图功能。
直到现在,如果你给Gemini提出生成一张Elon Musk形象的要求,它的回答仍然是:
我们正在努力提高Gemini生成人物图像的能力。
我们预计这个功能很快就会回归,并在发布更新时通知您。
(小插曲:Gemini还有两幅面孔呢,中英提问的问答截然不同。)
谷歌官方这边也对这件事做出了正式说明。
整体来看,这份声明内容总共分为三大块。
诚恳致歉
大约是在三周前,谷歌为Gemini推出了图片生成的功能,其中就包括创建人物的能力。
不过现在这种结果,谷歌方面表示始料未及,但同时也非常感谢用户们的反馈:
我们已经认识到了这个错误,并在改进版本的同时,暂时停止了Gemini中人物图片的生成功能。
解释原因
根据谷歌官方的说法,Gemini对话式应用是一种特定产品,独立于 Google 搜索、底层AI模型和其他产品。
而它的图像生成功能是建立在一个名为Imagen 2的AI模型之上。
谷歌最初在人物图像生成上的考量是希望能让全世界不同人群用户,在使用过程中,可以生成自己想要的特定人群。
例如如果你提出教室里的黑人老师、教室里的黑人老师,那么Gemini应当给出的就是符合语境的结果。
那么现在问题出在了哪里?谷歌将此归结为2点:
首先,我们为了确保Gemini展示多种人群而进行了调整,但没有考虑到那些显然不应该出现的案例。
其次,随着时间的推移,模型变得比我们预期的要谨慎得多,完全拒绝回答某些提示——错误地将一些非常无害的提示判定为敏感词。
这两件事导致模型在某些情况下过度补偿(overcompensate),而在其他情况下又过于保守,导致生成的图片令人尴尬。
经验和教训
对此,谷歌坦言现在的结果并不是他们的初衷。
在这次闭关整顿的期间,谷歌表示Gemini的人物图像生成功能将进行广泛的测试,直到能力达标之后才会再次开放。
谷歌也基于这件事情做了一下反省:
Gemini是作为一个创意和生产力工具而构建的,它可能并不总是可靠,特别是在生成关于当前事件、不断发展的新闻或热点话题的图片或文本时。它会犯错误,正如我们从一开始就说过的,幻觉是所有大型语言模型的一个已知挑战——有时候AI就是会弄错事情。我们一直在努力改进这一点。
Gemini是有在努力给出真实的回答,例如我们的双重检查功能有助于评估网上是否有内容可以证实双子座的回答,但我们建议依赖谷歌搜索,因为它有独立的系统从网络上的各种来源提供新鲜、高质量的信息。
我们不能保证Gemini不会偶尔犯错,但可以保证的是,每当我们发现问题时都会采取行动做改进。人工智能是一项新兴技术,在很多方面都很有帮助、潜力巨大,我们正在尽最大努力安全、负责任地对其进行推广。
不过在谷歌这份声明发布之前,还有一件比较drama的事情。
马斯克在X中亲自爆料称,谷歌一位高管和他在前一晚打了一个小时的电话,并向马斯克保证会解决Gemini在种族和性别歧视上的问题。
不过网友们也是调皮,又把黑人版马斯克搬出来了:
你问他这张照片是怎么个事儿了吗?
不过有一说一啊,Gemini这次犯的错只能说是谷歌AI在种族、性别偏见上的一个事件点。
正如马斯克在回答网友问题中所说,他和谷歌高管的对话内容仅限于Gemini的改进,但其实谷歌其他很多产品同样也存在类似的问题。
谷歌搜索,不是第一次翻车
针对这一情况,我们亲自在谷歌搜索中尝试了一下。
例如在谷歌图片中输入:
快乐的白人女性和男性。
得到的结果是这样的:
嗯,搜索的要求是非常明确,但得到的结果,就是非得给你往里塞点黑人群体。
这就与谷歌在刚才的《致歉声明》中非常自信提到的我们建议您依赖谷歌搜索背道而驰。
趁着这次Gemini翻车,很多网友也是纷纷开始对谷歌搜索做测试,结果也是和我们的测试一致。
但如果我们把谷歌搜索的时间线拉长一点,就会发现这不是它第一次翻车。
早在九年前(2015年),一位黑人兄弟Jacky Alciné就发现,谷歌图片就存在严重的歧视现象——
竟然把他的黑人朋友分类成了大猩猩!
当时这一消息可谓是轰动一时,谷歌闻讯同样是立即出面道歉,并表示整改。
但在数年之后,当人们再次检验整改效果时,却发现谷歌只是为图像识别算法去掉了大猩猩gorilla这个类别。
因此,加上Gemini这次引发的舆论,谷歌搜索九年来已经第二次在黑人问题上大翻车了。
不过这两次的翻车事件,或许也影射出了谷歌在技术发展的一个隐患。
从数年来谷歌在AI的发展中来看,虽然它的成果和进展依旧处于全球科技巨头的第一梯队,但近年来(尤其是在生成式AI)相比微软、Meta来说似乎并没有那么耀眼。
早在去年ChatGPT引爆生成式AI之际,微软和谷歌在火拼的过程中,谷歌的动作多次慢半拍;后来被曝出内部像当时Bard这样的产品早就有了,只是高层的顾虑太多,迟迟没有推进。
或许就是谷歌内部事事追求政治正确,用力过猛,反而造成了在技术上的笑话。
One More Thing
在马斯克多条怒喷谷歌的帖子中,有这么一条是比较有意思的。
他po出了四张贾斯廷·特鲁多的照片,穿戴不同民族服装,甚至还有黑人版的照片,并附上文案:
我不敢相信Gemini竟然生成了这些特鲁多的假照片。
但实际上,这些照片都是特鲁多的真实照片,也因为这些照片他此前深陷过种族歧视的舆论中。
不得不说,马斯克,你是懂阴阳的。
参考链接:
[1]https://blog.google/products/gemini/gemini-image-generation-issue/
[2]https://twitter.com/elonmusk/status/1760677431961407672
[3]https://twitter.com/elonmusk/status/1761020387691790399
[4]https://twitter.com/RichardHanania/status/1760874143049035953
以上就是关于【谷歌Gemini离谱翻车 马斯克被大黑特黑】的相关消息了,希望对大家有所帮助!
5月5日消息,当前国内一众新势力车企,普遍为自家车型配备了高阶智能辅助驾驶功能,一些车主为吸引眼球,故意采取危险驾驶的方式来使用智驾功能。
5月5日消息,据国外媒体报道,近期关于苹果将在iPhone上采用屏下Face ID的消息一直不断,但几乎所有消息都确定,这一计划已经推迟到了2026年。
5月5日消息,据龙芯中科官方最新透露,2024第一季度龙芯3A5000和3A6000两款芯片总出货量已经达到了2023年全年水平。
五一档电影《维和防暴队》昨晚终于在豆瓣平台开分,此时距离五一假期结束仅剩一天。 作为五一档票房最高的电影(目前3.87亿),却收获开画5.6分的糟糕表现。 目前有6.9万人打出评价,其中占比最多的为30.3%的观众打出3星,29.2%的观众打出2星。 《维和防 ...
5月5日消息,今日,#太疲惫身体会变臭#话题登上微博热搜,引发热议。难怪我最近感觉自己难闻,原来是熬夜熬久了,有网友说道。
5月5日消息,日前,易车网公布了国内4月硬派越野车销量T10榜单。 榜单中,长城汽车实力霸榜,前十席位中,长城品牌旗下车型独占七席,并且包揽销量冠亚军。 具体来看,4月份,坦克300以5800辆的成绩,成为国内硬派越野车的销冠,而这一成绩,长城坦克300 ...
Rockstar在去年公布了《GTA6》,并透露了两个主角——露西亚和杰森。 从那以后,玩家们便一直在拼命地推断是谁扮演了这两名角色。目前,LegacyKillaHD带来了最新一份十分具备可信性的情报。 LegacyKillaHD是一位拥有70多万订阅者的油管博主, ...
在五一假期,当你开心地前往一些旅游景点,被迷人的自然风光所吸引时,常常会遇到一些水果摊,上面摆放着许多你从未见过的水果,它们有的金灿灿的,有的十分有光泽,看上去很诱人。在炎炎夏日或是疲惫的旅途中,你试图从中获得一份清凉和饱腹的救赎。
5月5日消息,今年在处理器领域最值得期待的就是AMD Zen5架构了,官方也已确认桌面、笔记本、服务器三大领域下半年都会迎来新品,样品也在顺利推进中。
5月5日消息,锐龙X3D系列配备独家的3D V-Cache堆叠缓存,对于游戏性能提升大有裨益,比如顶级的锐龙9 7950X3D就额外堆叠了64MB 3D缓存,加上原生64MB,总共有128MB三级缓存。
5月5日消息,据灯塔专业版,截至5月5日19时08分,2024五一档(5月1日-5月5日)档期内票房已突破15亿。
5月5日消息,据央视新闻@大国外交最前线 官方账号报道,央视主持人康辉在巴黎Citywalk,边走边聊中法关系。
5月5日消息,2024英雄联盟季中冠军赛(以下简称MSI)于5月1日在中国成都举办。 据英雄联盟赛事官方介绍,2024MSI入围赛已经收官。 T1、TES、PSG、FNC从中成功晋级,胜败分组赛抽签结果出炉: GEN vs FNC TL vs TES G2 vs T1 BLG vs PSG 胜败分组赛:5月 ...
《剑星》自发售以来,游戏中Eve等角色的战衣博得了不少玩家们的喜爱,近日《剑星》官方在社交媒体X中放出了游戏中星球空降衣(3rd)的概念艺术图。