神秘顾客访问谷歌树立了一个“安全”架构

发布日期：2024-03-07 11:39    点击次数：153

谷歌Gemini文生图风云还未平神秘顾客访问，更劲爆的内幕音书又被曝出来了。

Pirate Wires爆料，Gemini此次的翻车，谷歌里面此前并不是绝不知情，翻车甚而是“特意”导致的。

具体来说，谷歌树立了一个“安全”架构，Gemini要生成一张图实质上要经过三个模子。

概况来说，进程是这样婶儿的：

用户在聊天界面央求Gemini生成一张图片，Gemini收到央求后，会把央求发送给一个较小的模子。

这个较小的模子的作用是左证公司的“多元化”战略重写用户的指示。

为作念到这少许，这个较小的模子又通过LoRA时候在另一个模子（第三个模子）生成的合成数据上历练，而这个第三模子使用了谷歌详备、长达数页的“多元化”战略文档看成“序论”。

是以，较小模子重写用户的指示后，蓝本“给我看一个汽车修理工”会酿成“给我看一个穿工装裤面带含笑的亚洲汽车修理工”、“一个拿着扳手的非洲裔好意思国女性汽车修理工”、“一个戴安全帽的好意思洲原住民汽车修理工”……

何况重写后的指示还会进一步发给扩散模子搜检，确保指示词不违犯轨范安全战略（比如触及儿童的内容、真东谈主图像等），最终才会生成图片，生成的图片在响应给用户前也会再被搜检一遍。

转头来说，用户临了收到的是一个“套娃式”生成的截止，经过了谷歌“多元化”的层层清洗。

不外，这种“多元化”些许有点过了头。

过度进度，让曾在Google Ventures任职的红杉老本合推动谈主Shaun Maguire齐忍不住出来痛批：

在谷歌曾因是白东谈主而不成擢升。

字里行间绝不装潢我方的大怒：

马斯克曾经发表了辩驳：

比年来，这种情况格外浩繁。

Pirate Wires在采访过谷歌干系职工后暗意，这背后更深一层是谷歌咫尺群龙无首的近况。

一位未被流露姓名的谷歌高档工程师甚而暗意：“我合计在谷歌推出好家具是不可能的。”

“懦弱文化”正在谷歌延长

此前，Gemini文生图刻意间隔生成白东谈主形象，在西洋公论环境下激发刚劲争议。

后续该功能被动下架，母公司AlphaBet股价下降一度尽头11%，带来格外严重的效果。

而外媒Pirate Wires此次对谷歌干系职工采访后发现，Gemini的翻车与谷歌不良的DEI文化谈论。

（DEI是“Diversity，Equity， Inclusion”的缩写，华文意为“万般性、公谈性、包容性”，是一个被等闲愚弄于企业等其他组织中的认识，旨在促进一个愈增多元、对等和包容的环境）

有接近Gemini项筹办东谈主流露，其实Gemini团队在发布前就被提醒过“过度万般化”的问题，撇开种族问题不谈，即使是最无害的搜索截止的质地也会受到严重影响。

滥觞提到的三个模子齐是为增加“万般性”而被联想的，斗争过安全架构的东谈主甚而还流露，干系团队“可能将一半的工程时辰齐花在这上头了”。

而且公司里面关于这种复杂架构的格调节采选进度存在不对，“当Gemini技俩公开后失败时，不仅是这个团队，所有这个词公司齐感到格外颓废和挫败”。

神秘顾客_赛优市场调研

关于这少许，前几天谷歌独创东谈主谢尔盖·布林现身AI黑客马拉松现场，也有干系流露——

大众正在把玩的Gemini 1.5 Pro模子的出身其实仅仅个巧合。

当咱们历练它的时候，仅仅看成扩大范畴施行的一个尝试，压根没猜测会变得如斯刚劲。

当看到它的进展时，咱们不想再恭候，咱们想让全寰球齐来试试它。

更进犯的是，神秘顾客网站公司里面肖似情况还有好多，Gemini生图仅仅其中一个缩影。

比如，据流露有东谈主坚捏条目工程师不成使用像“建筑忍者（build ninja）”、“核爆旧缓存（nuke the old cache）”、“缄默搜检（sanity check）”或“哑变量（dummy variable）”这样的术语，根由是它们治安对应了文化挪用、军事隐喻、编造精神疾病、编造残疾的问题。

有工程师被激烈残暴在他的公司个东谈主简介中遴聘一万般种化的代词组合来暗意我方，比如“zie/hir”、“ey/em”、“xe/xem”、“ve/vir”。

还有一个名为Greyglers（“Google”和“grey”的消亡词）的小组，正在改名。

Greyglers小组是一个面向40岁以上资深职工的小组，有东谈主合计并不是所有40岁以上的东谈主齐有灰头发，是以这个组名艰涩“包容性”，甚而据爆料，谷歌还礼聘了外部照管人为小组重定名。

Pirate Wires还流露，简直每个被采访的东谈主齐用了“懦弱文化（culture of fear）”这个词，这不仅讲明了对公司极点DEI行径的无力不服，也阐发了为何这一生界时候东谈主才聚首地艰涩立异。

无论在哪个层级的职工，简直出于每个原因，齐局促挑战那些仍是使公司堕入逆境的许多过程。除擢升期除外，大浩繁东谈主齐局促被防卫到。

哪怕是想要擢升，也会受到种族和性别的影响。

然鹅，果真就这样浮浅，痛恨于失控的DEI念念维解决吗？

为什么谷歌会这样？

2、科学性强。调查过程全程监控，没有中间环节，不必进行层层组织和布置，可排除调查过程中的人为干扰因素，使得调查结果更加客观和公证，数据质量高。所有调查访问均以录音方式保存下来以供复核，不易出现问题。

Pirate Wires的著作中合计，这仅仅公司更大问题的所进展出来的一个“症状”，这个更大的问题用四个字来说等于：群 龙 无 首。

领先，谷歌咫尺边临着典型的“立异者逆境”，也等于发展一项全齐在其才能范围内的新的时候，会羁系其现存生意形式。

其次，更进犯的是莫得东谈主认真。

在谷歌简直每个主要家具的解决团队到工程、销售、信任与安全、公关和市集营销的职工嘴里，Pirate Wires暗意大众描写出的谷歌形象比报谈的要要阴雨得多：

谷歌是一个失控的、印钞机式的搜索驾御企业，莫得愿景、莫得换取力，何况由于其难以置信的孤岛式文化，团队之间确切的情况了解甚少。

千千万万的东谈主在不同的时辰处理着一个大拼图的各个部分，彼此之间很少配合。比如，在跨团队配合者想要匡助Gemini团队，要么会失败，要么被忽视。

集合职工的惟一渠谈是一个刚劲的、遍布的东谈主力资源官僚体系。

而独创东谈主拉里·佩奇、谢尔盖·布林、CEO桑达尔·皮查伊之间的一种奇怪的解决，让大浩繁职工对谁确切认真公司莫得什么嗅觉，不细目性是所有这个词公司熟练的主题。

由此，这亦然为什么有着劈柴哥绰号的CEO桑达尔·皮查伊成为了世东谈主袭击的对象，据Business Insider音书，华尔街方面甚而出现越来越多条目现任CEO劈柴哥下台的声息。

用一位谷歌工程师的话来说：“桑达尔是谷歌的鲍尔默，所有这些不起作用的家具、无序扩展、过度招聘神秘顾客访问，这一切齐发生在他的换取下。”

• 神秘
• 顾客
• 竖立
• 访问
• 骨骼