作者:《纽约客》 James Somers翻译:新浪科技 堆堆、李明量子位 经授权转载 | 公众号 QbitAI最近,《纽约客》杂志写了一篇长文,描述谷歌唯二11级工程师杰夫·迪恩(Jeff Dean)和桑杰·格玛沃特(Sanjay Ghemawat)之间的深厚友情。
2000年,他们两人就靠一起分析二进制机器代码,解决了一场谷歌前所未遇的大危机。后来,他们还又合作多次重构谷歌搜索引擎核心算法,开发了MapReduce,把全球各处的谷歌服务器整合成了“一台行星那么大的计算机”。
他们性格迥异,也有着独特的合作方式:桑杰写代码,杰夫在一旁点评提意见,就像驾驶员和副驾驶。
以下为文章全文,由新浪科技翻译,量子位经授权转载,稍作编辑:
2000年三月里的某一天,谷歌内最优秀的六位工程师聚集在一间临时“作战室”内。公司正面临一场前所未有的危机。
前一年十月,谷歌的负责爬取网页内容并做索引的核心系统已经停止运行。所以当时,虽然用户依然可以在谷歌网页上输入问题进行搜索,但他们获得的结果其实是五个月之前的了。
实际上,该问题的严重程度还不止如此。谷歌的联合创始人拉里·佩奇(Larry Page)以及谢尔盖·布林(Sergey Brin)当时正在与雅虎协商谈判,计划为其提供搜索引擎支持,他们承诺提供比其拥有的搜索引擎强大十倍的索引。这样的索引需要跟上万维网的发展速度,而后者在之前一年时间内规模增加了一倍。
如果他们失败了,那么与雅虎的谈判有可能功亏一篑,谷歌也将烧掉所有资金,淡出大众视野。
在楼梯旁的会议室里,工程师们把门板放在锯木架上,然后摆好了电脑。二十七岁的克雷格·西尔弗斯坦(Craig Silverstein)体型瘦削,嗓门洪亮。他就坐在远处的墙边。西尔弗斯坦是谷歌的第一位员工:在他加入谷歌时,谷歌的办公室还设在布林的起居室里,大部分编程都是他自己重写的。
在接连四天四夜的奋战之后,他和罗马尼亚的系统工程师博格丹·科考塞尔(Bogdan Cocosel)依然毫无头绪。“我们所做的分析毫无价值。”西尔弗斯坦回忆道,“所有东西都出问题了,而我们找不到原因。”
西尔弗斯坦几乎没有注意到自己左肩上方桑杰·格玛沃特(Sanjay Ghemawat)的存在。桑杰是一个沉默寡言的麻省理工毕业生。他眉毛浓密,有着一头乌黑的头发。
几个月之前,桑杰才刚刚加入公司。他是和Digital Equipment Corporation(DEC)的同事——31岁的杰夫·迪恩(Jeff Dean)一起跳槽到谷歌的。杰夫又高又瘦,精力充沛,他比桑杰早十个月离开了DEC。两人之间非常要好,愿意合写代码。
在作战室里,杰夫把他的椅子挪到了桑杰的桌子旁边。桑杰敲代码的时候,杰夫就凑到他旁边,像是新闻主持人耳畔叮嘱的制片人一样,纠正桑杰的代码。
杰夫和桑杰开始研究索引方面的问题。他们发现有一些词消失了——搜索“邮箱”的话,网页不会显示任何结果——而其他一些词汇则是以乱序出现。几天内,他们一直忙于寻找代码中的错误,沉浸在逻辑的世界里。
他们核查了所有代码,但并未找到程序错误的根源。
有些时候,程序员会将他们的软件概念化成一个多层级结构,从顶端的用户界面往下延伸到基础层级。为了探究该架构的底部(这也是软件和硬件的交汇之处),这就需要关注代码存在所依靠的电力宇宙以及承载它的硅片。
作战室第五天,杰夫和桑杰开始怀疑他们寻找的问题根源并非出在逻辑上,而是物理层面。他们将乱成一团的索引文件转为原始形式:二进制码。
他们要看到机器所看到的东西。
在桑杰的显示器上,出现了由1和0组成的纵列,每一排都代表着索引词。桑杰指出:一个本应该是0的数字却是1。当杰夫和桑杰将所有误分类的词集中在一起之后,他们发现了一个规律——每个词汇都出现了一种相同的小差错。
机器的内存芯片不知怎么回事似乎被破坏了。
桑杰看了看杰夫。
数月以来,谷歌内硬件故障的情况越来越多。随着谷歌规模的扩大,计算基础设施也在不断发展。计算机硬件鲜少会出现故障,除非你堆了太多——之后便会一直失灵。电线会老化、硬盘会散架、电脑主板过热等。许多机器在一开始就不能用,有一些机器也会莫名其妙地处理速度变缓。
陌生环境因素可能也会起到一定影响。当一颗超新星爆炸的时候,冲击波会带来高能量粒子,朝着各个方向散射。科学家们认为有一种微弱的可能,部分粒子可能会击中地球上的计算机芯片,将0变为1。全球最稳固的计算机系统,例如NASA、金融公司等会采用特殊的硬件来预防这种情况。
但是谷歌在当时,运营模式依旧像是一个初创企业,它所购买的计算机缺乏这种特性。
这家公司已经到达了一个拐点。其计算集群已经发展到了一个很大的规模,即便是不太可能会发生的硬件故障也是无可避免的。
杰夫和桑杰联手写代码来弥补机器出现的问题。很快,他们完成了新的索引,作战室也就此解散了。西尔弗斯坦感到些许困惑,他很擅长找bug,这一工作的关键在于深入代码底层。杰夫和桑杰探索得更加深入。
直到三月的索引崩溃事件之前,谷歌系统采用的还是其创始人在斯坦福大学读研时所写的代码。
佩奇和布林并非专业的软件工程师。他们是在搜索技术领域进行试验的学者。当他们的网络爬虫崩溃时,没有任何诊断信息,只是一句——“Whoa, horsey!”佩奇和布林写过一个名叫“BigFiles”的软件,被谷歌早期员工称为“BugFiles”。
他们重要的索引代码都需要数天时间才能运行完,如果出现问题,还需要从头开始。用硅谷的话来说,谷歌无法“规模化”。
我们会说自己“搜索网页”,但其实并非如此。我们的搜索引擎来回穿梭在互联网的索引,就像一张地图。
当谷歌在1996年还被叫作BackRub时,这张地图小到足以适配佩奇寝室内安装的计算机。到2000年3月,它已经庞大到当时没有超级计算机能处理得了。
谷歌能做的唯一一点就是购买消费级机型,然后将其连接为一个舰队。由于谷歌认为这些计算机一半价钱都用在了破烂上,所以他们会去订购主板和硬盘,自己组装。
在加州圣克拉拉的一栋建筑物里,谷歌拥有1500个这种设备,堆起来有六英尺高。由于硬件故障,只有1200个还能用。随机发生的故障正在不断破坏系统。为了存活下去,谷歌必须将其计算机整合成一个无缝连接、有适应能力的整体。
杰夫和桑杰一同负责这一任务。
曾在苹果负责过Macintosh前身的韦恩·罗辛(Wayne Rosing)在2000年11月加入了谷歌,管理一个数百人的工程团队。“他们都非常优秀。”他这样说道。
他们连着每周工作90个小时写代码,就为了单个硬盘的故障不会破坏整个系统。他们还在爬虫过程中增设了检查点,让它出问题时能从中间开始重新运行。通过制定新的编码以及压缩体系,他们能够高效增加系统的功率。他们是不知疲倦的优化者。
当车辆转弯时,外面的车轮必须接触到更多地面。与之类似,旋转硬盘的外沿也必须比内沿的移动速度要快。谷歌将频繁被访问的数据移到外部,而保持内部空白。杰夫以及桑杰利用此空间来存储常见搜索查询中被预先处理过的数据。
在2001年的四天内,他们证明了谷歌的索引可以采用快速随机存取存储器(RAM),而不必使用相对缓慢的硬盘。这一发现改变了公司的经济情况。
佩奇和布林知道,用户会争相来使用能立即提供答案的服务。问题在于速度就意味着计算力,而计算力需要资金。杰夫和桑杰用软件克服了这一困难。
罗辛在2005年离开之后,艾伦·尤斯塔斯(Alan Eustace)成为了工程团队的负责人。“矛盾的是,为了解决一定规模的问题,你需要掌握最细微的细节。”尤斯塔斯说道。杰夫和桑杰能够非常确切得掌握计算机的细节信息。
杰夫曾经发布了一份清单,讲的是“每一位程序员都应该知道的延迟值”。实际上,几乎没有一个程序员知道这些值意味着什么:比如调用L1缓存需要半纳秒,顺序读取1MB数据需要250微秒。这些数字已经深深嵌入在了杰夫和桑杰的大脑中。他们带头重新编写谷歌核心软件时,系统的功率成量级增长。即便零件有的老旧或失灵,系统也依然存活了下来。
如今,谷歌的工程师会被分为很多级。
第一级就是IT支持人员,第二级是刚出大学的应届生,第三级则是有硕士学位的毕业生。达到第四级需要几年时间,或是需要拥有博士学位。大多数人止步于第五级。第六级的工程师——最顶尖的10%——非常厉害,他们可以说是一个项目成功的原因。第七级和第六级的工程师资历都非常老了,首席工程师也就是第八级,他们通常会负责一个主要产品或基础架构。杰出工程师为第九级,他们在业内备受尊崇。如果成为了谷歌研究员,那么你就是十级工程师,这是一种终身荣誉。谷歌研究员在其各自领域都是全球的顶尖专家。
杰夫和桑杰就是谷歌的高级研究员——公司内绝无仅有的两个十一级工程师。
谷歌的园区就坐落在距离里山景城市中心几分钟车程的公路旁。园区内有一排低矮的建筑物。
去年夏天的一个周一,早晨完成编程之后,杰夫和桑杰一起去园区内名为“Big Table”的自助餐厅就餐。该餐厅的名字是以他俩在2015年参与开发的系统来命名的,该系统可以将无数台计算机当作是一个数据库进行处理。
瘦瘦高高的桑杰穿着褐红色的亨利衫、灰色的裤子,戴着一副线框眼镜。他看到外边的一个桌子,很快走过去,打开伞,然后坐在阴凉处。他又将太阳下的另一把椅子搬过来。杰夫几分钟之后走了过来。
两人就像是一对夫妻,各自讲述一点过去的事情,就这么拼凑出了过往的回忆。他们开始回忆起自己早期的项目。
“我们当时还是手打代码。”桑杰说道。他的眼镜在阳光下萌生了一丝阴影。“我们会重新写代码,然后就感觉——‘哦,这好像是我们上个月写过的那个。’”
“或是索引数据略微不同。”杰夫补充道。
“略微不同。这就是我们发现问题的方式。”桑杰说道。
“这是关键。”杰夫说道。
“这是共有的模式。”桑杰说。
杰夫咬了一口他买的披萨,他的手指像水手的手指,骨节突出且有些粗糙。而桑杰的手指相比而言更显纤细。桑杰在想他们是怎么成为搭档的。“我有点记不太清楚为什么觉得我俩做搭档更好了。”
“我们在谷歌之前就一起合作。”杰夫说。
“但我记不清为什么我们要在一台电脑上编程,而不是在两台电脑上工作。”桑杰说。
杰夫说:“在DEC工作的时候,我经常从我的实验室走两个街区到他的实验室。两个实验室中间有一个冰淇淋店。”
“是冰淇淋店!”桑杰笑道。
桑杰一直未婚,他会在假期同杰夫、杰夫的妻子海蒂以及他的两个女儿一起度假。杰夫的女儿们叫他桑杰叔叔,他们五个人经常在周五共进晚餐。桑杰和杰夫的大女儿会一起做烘焙。“我算是见证了他两个女儿的成长。”桑杰自豪地说道。
在谷歌2004年IPO之后,他们搬到了仅隔四英里的房子里。桑杰住在山景城一个三居室房子里,而杰夫则自己设计了房屋,在地下室里装了一个蹦床。在设计房屋时,他发现自己虽然喜欢设计空间,但并没有耐心去完成建筑方面“适合桑杰的部分”:横梁的细节、螺栓以及供电量等等。
“我不知道为什么没有更多的人像我们这样合作。”桑杰在提及与搭档一同编程时说道。
“你需要找到一个搭档,他的思维方式与你兼容,这样你们两个人就能够优势互补。”杰夫说道。
他俩将桌子往后移,在餐厅和谷歌员工中四处溜达,寻找软质冰淇淋。杰夫更急于解释,在他们走动的过程中,他分享了自己软质冰淇淋的策略。“我负责压。我想挤压的方法能够增加稳定性。”他说道。桑杰则为他的甜筒选了巧克力和香草味的混合冰淇淋。
在社会学家迈克尔·法瑞尔(Michael P. Farrell)于2011年出版的《协作圈:友谊动机和创造性工作》(Collaborative Circles:Friendship Dynamics and Creative work)一书中,作者对比了两组创作型人群——法国印象派、西格蒙德·弗洛伊德(Sigmund Freud)及其同时代人——之间的的区别。
“构成新愿景的想法并非是在整个团队齐心协力时出现的,也不是在成员单独工作时出现的,而是在双方合作并组队回应另外一队人时出现的。”他这样写道。
莫奈和雷诺阿曾在1869年一同合作,开创了印象派画法。毕加索和乔治·布拉克合作的六年时间内,催生出了立体主义,因为双方通常会在油画背面签名,以掩盖究竟是谁完成了作品。(“一幅油画完成与否,得由我们双方都觉得它完成了才行。”毕加索之后回忆道。)
在新科学或艺术的“理论构建”阶段,进行大范围的探索非常重要,而不能绕进死胡同。
François Jacob以及Jacques Monod一同开创了基因调控。他指出到二十世纪中期,分子生物学新兴领域的大多数研究都是两人合作的结果。“相比一个人,两个人能更好地想出理论并且建构模型。”雅各布写道,“当两个人一同解决问题时,创意会更加‘茂密’、更快出现。它们会在合作伙伴之间来回反射。两者会结合得更加紧密,就像是树上的枝杈一样。而在此过程中,假象就会很快被扼杀在萌芽中。”在过去三十五年来,大约有一半的诺贝尔奖生理学或医学奖被授予给了科学合作伙伴。
在分享工作生活多年之后,两个人会形成一种私密的语言,就像是双胞胎一样。他们会模仿彼此的穿着、习惯。幽默感会在潜移默化中传递。分清功劳是一件不可能的事情。
但是这种强度的合作关系在软件开发中是非比寻常的。尽管一些开发者有时候会谈论“组队编程”——两个程序员共用一台电脑,一个人“驾驶”、另一个人“导航”——他们通常会认为这样的合作关系显得很多余,这就好像同一架飞机上安排了两个副驾驶员。
相比之下,杰夫和桑杰有时候就像是一个大脑的两个部分。他们的一些知名论文有一大群共同作者,不过,他们的经理比尔·库格兰(Bill Coughran)回忆道:“他们两个人搭档时效率很高,以至于我们经常围绕他们来组建团队。”
1966年,系统开发公司的研究人员发现最出色的程序员是糟糕程序员效率的十倍以上。所谓的“10倍程序员”说法自此开始引发争议。这一想法推崇个体,但软件项目规模庞大,通常需要多人参与。在编程中,极少数人能依靠单打独斗取得成功。
即便如此——或是颇具讽刺意味的是——许多程序员都认为杰夫和桑杰合作的成果是10倍程序员存在的证据。
杰夫1968年7月出生在夏威夷。他的父亲安迪是一名热带疾病研究人员,他的母亲弗吉尼亚·李是一位会说六国语言的医学人类学家。
有趣的是,父子两人设计了一台IMSAI 8080工具包电脑。他们在机器上进行焊补更新,掌握了机器的每个零件。
杰夫和他的父母经常搬家。十三岁那年,他在八年级最后三个月时间里翘课,去西部索马里的难民营帮助其父母。之后,在高中,他开始为流行病学家编写一个叫作Epi Info的数据收集程序。之后,该程序成为了流行病学家野外工作的标配工具,最终,它以十多种语言被复制发行了数十万份。
△ 杰夫高中毕业时的照片,至今还挂在美国疾病预防控制中心维护的Epi Info网站上
杰夫的博士研究方向是编译器,这种软件可以将人类写的代码转化针对计算机优化的机器语言指令。“就有趣程度来说,编译软件要多无聊有多无聊。”Alan Eustace说道,但另一方面它又能让你“非常接近机器”。
桑杰一边用食指揉着太阳穴,一边形容着杰夫,“当你在编写代码时,他的脑海里就能有一个模型。”他说道,“这些代码的性能会怎么样?他会半自动得思考所有极端情况。”
桑杰是17岁去康奈尔念书时才第一次接触电脑。他1966年出生在印第安纳州西拉斐特,但在一个位于印度北部的工业城市长大。他的父亲Mahipal是一位植物学教授,他的母亲Shanta则在家照顾桑杰以及另外两个兄妹。他们一家人都喜爱读书,桑杰的哥哥成为了哈佛商学院有史以来最年轻的终身教职人员,现在则是纽约大学斯特恩商学院教授。
在MIT读研究生期间,桑杰认识了一群关系亲密的朋友。尽管如此,他却从不去约会,现在约会的次数也是“屈指可数”。他说自己并不想结婚——他就是这么想的。朋友在知悉之后决定不再就此事去打扰他,他的父母很早之前就接受了自己的儿子将会一直是单身汉的事实。
也许他喜欢清静,在谷歌时,他就散发着一种神秘的气息。
他虽然沉默寡言,但思想深邃——他是一个能进行深入思考,但思路依旧清晰的人。近二十年来,他一直在自己的桌上放着一堆Mead笔记本,上面满是干净的清单以及示意图。他喜欢用钢笔写草体字。他很少翻阅之前的笔记本,书写只是为了思考。
在麻省理工,他的毕业导师是一位颇具影响力的计算机科学家Barbara Liskov。在她看来,最好的代码就像是写作。它需要认真思考结构,每个词都能物尽其用。编程也需要获得读者的共鸣。这就意味着代码不仅仅只是一种实现目的的手段,而它本身就是一项人工制品。
“我觉得桑杰最擅长的就是设计系统。”克雷格·西尔弗斯坦说道,“如果你看过桑杰写的代码,你会发现它就和比例完美的雕塑一样漂亮。”
在谷歌,杰夫的知名度要更高一些。员工间会流传杰夫的传说。但在那些了解杰夫和桑杰的人看来,桑杰也同样是一位杰出的人才。
“杰夫擅长于想出新点子然后设计原型。”与他们共事很久的同事威尔逊·谢(Wilson Hsieh)说道,“桑杰擅长打造一个持久的产品。”
在生活中,杰夫性格更外向一些,桑杰则是偏内向。而在编程的世界里,恰恰相反。杰夫的编程令人头晕目眩——他能很快列出惊人的想法——但是,正因为想法之快,它会将阅读代码的人抛在身后。而桑杰的代码则易于理解。
西尔弗斯坦表示:“一些人的代码松松垮垮。整个屏幕上的信息寥寥无几。你需要来回翻阅才能弄清楚。”还有一些人写的代码非常密集:“你仔细阅读之后,就会心想——我并不想阅读这样的内容。桑杰却能够在两者之间取得更好的平衡。看他的代码,你的感觉就是——‘好的,我可以明白’,但你依然能发现这一页上有很多内容。每当我想要在桑杰的代码上添加新功能时,似乎这些功能早就设计好了。我感觉自己像是Salieri,我能理解它的伟大,但我不明白这究竟是怎样做到的。”
今年春天,某个周一的早晨,杰夫和桑杰站在谷歌人工智能部门的小厨房内。在他们身后,一块白板上写满了矩阵代数。桌上放着一份无监督对抗网络论文。
杰夫穿着一件褪色的T恤和牛仔裤,看上去像是一个在海滩消遣的人,而桑杰则穿着毛衣和灰色裤子。明亮的窗户外是一棵高高矗立的松树,再往外则是一块田地。不论何时,杰夫在谷歌工作的地方总有意式咖啡机。
“我们快迟到了。”桑杰在咖啡机旁说道。已经是八点三十二分了。
喝完咖啡,他们就走向自己的电脑。杰夫从他的桌子那边将椅子移到桑杰的桌子旁。
杰夫的桌子上一团乱,反观桑杰的桌子却是整洁无暇。杰夫将一只脚搭在文件柜上,背靠椅子,而桑杰则在看着面前的屏幕。
他们面前共有四个窗口,左边是一个网页浏览器和一个终端,主要用于运行分析工具。右边,文本编辑器Emacs中有两个文档,一个是待办事项和笔记,另一个文档则是五颜六色的代码。桑杰的一本笔记就放在计算机旁边。
“好了,我们做些什么?”桑杰问道。
“我想我们应该看看TensorFlow Lite的代码规模。”杰夫说道。
这是一个关于机器学习的新型软件项目,杰夫和桑杰担心项目有些“臃肿”。就像是书本编辑一样,他们在寻找可以削减的地方。
“我想的是弄清楚速度有多慢。”桑杰说道。
“已经非常慢了。”杰夫说道,他往后靠了靠,神态轻松。
“这个是120kb。”桑杰说道,“大概是八秒左右吧。”
“12000个函数调用堆栈。”杰夫说道,“而不是kb。”
“额,kb的文本。”桑杰说道。
“好吧,我的错。”杰夫说。
“我不太清楚我们应该挑选什么样的单元大小。”桑杰说,“半兆?”
“看上去不错。”杰夫说。桑杰开始输入代码,杰夫的目光则放在了屏幕上。“你刚才是说,如果这比我们抽样的结果要大……”剩下一半话他还没说完,桑杰就用代码回答了他的问题。
当桑杰工作的时候,他会聚精会神。他会将双脚岔开到肩宽,似乎这就是他工作的姿势。他的手指在键盘上轻微移动。几位年轻的程序员加入进来。
很快,他们达到了一个小的里程碑。桑杰输入了一个命令来测试进度。他似乎有些疲惫,在测试运行过程中他查看了自己的电子邮件。测试完成之后,他也并没有在意。
“嘿,”杰夫说。他打了一个响指,然后指向屏幕。
虽然谈话中充满了玩笑和俏皮话,但当他和桑杰坐在电脑前时,他还是会变得固执、粗鲁,意见也是经常不合。而桑杰则淡然处之,当他认为杰夫速度太快时,他会把手从键盘上拿开,摊开手指,好像在说,“停下来”(通常来说,杰夫是加速器,桑杰就是刹车)。这就是他们在争论了:在一起20年了,他们已经不记得要提高嗓门了。
桑杰滚动着屏幕,让一段新代码进入视线。杰夫说:“比如,所有这些都可以变成例行程序,不是吗?”
桑杰表示同意,“嗯”。
杰夫按压着指关节,啪啪作响。“似乎可行,我们应该那样做吗?”
桑杰显得很谨慎。“不,我……”
杰夫有些不高兴的说:“这样我们将会忽视一个问题?”
“不,我的意思是,我们只想弄清楚正在发生的事情的类型。然后,我们可以做笔记,对吧?”
杰夫高兴地回答说:“好吧。”他的情绪很快变得轻松了,然后他们开始一起做笔记了。
午餐时间快到了。他们工作了两个小时,中间休息了10分钟,大部分时间都在讨论。
让另一名程序员检查你的代码,已成为一种标准的开发惯例。但杰夫和桑杰则跳了过这一步,只是在他们的日志中输入了“LGTM”(looks good to me),即“看起来还不错”。
表面上看,他们的工作都是一些微小的事情。但事实上,他们的代码被用于谷歌整个公司范围内。有时,杰夫回到家里会告诉自己的女儿:“今天,桑杰和我把谷歌搜索的速度提升了10%。”
2003年,通过MapReduce软件,杰夫和桑杰曾赋予谷歌一次最大规模的升级。、
他们第三次重写谷歌爬虫和索引器的时候,有了这个想法。每一次,他们都解决了一个重要的问题:在分布于许多不同地区的、个别不可靠的计算机上协调工作。泛化他们的解决方案意味着,他们可以避免一次又一次地重温这个问题。但同时,它也将创造出一种工具,任何谷歌的程序员都可以用它来操纵数据中心里的机器,就好像它们是一台单一的、行星大小的计算机一样。
杰夫和桑杰开发的MapReduce对可能非常复杂的程序强加了顺序。在MapReduce诞生之前,每个程序员都必须弄清楚如何划分和分发数据、分配工作,并自己解决硬件故障。而MapReduce则赋予程序员一种结构化思考这些问题的方式。
正如厨师的开工前准备一样,在组合各种配料之前,要准备好这些配料。
MapReduce要求程序员将他们的任务分成两个阶段。首先,一名编程人员告诉每台机器如何执行任务的“映射(map)”阶段(例如,计算一个单词在网页上出现的次数);其次,编写指令“减少(reduce)”所有机器的结果(例如,将它们加起来)。MapReduce处理分发的细节,并通过这样做来隐藏它们。
第二年,杰夫和桑杰根据MapReduce任务重写了谷歌的爬虫和索引系统。不久,当其他工程师意识到它的强大时,他们开始使用MapReduce来处理视频、渲染谷歌地图上的内容。MapReduce如此简洁,以至于新的任务一直不断地自我提示。谷歌拥有所谓的“日使用曲线”——白天的流量比晚上多——MapReduce任务开始吸收空闲容量。
早期曾有迹象表明,谷歌是一家人工智能内(AI)公司,假扮成一家搜索公司。
2001年,与杰夫和桑杰在同一办公室的诺姆·沙泽(Noam Shazeer),对谷歌从另一家公司授权获得的拼写检查器感到沮丧:因为它总是犯一些令人尴尬的错误。例如,用户明明想输入“TurboTax”,它总是认为用户想输入“turbot ax.”。
字典有多好,拼写检查器就有多好,沙泽意识到,在互联网上,谷歌已经访问到了有史以来最大的字典。于是,他编写了一个程序,利用网络上文本的统计特性来确定哪些单词可能拼错了。该软件能分清,“pritany spears”和“brinsley spears”都是指小甜甜布兰妮(Britney Spears)。
当沙泽在谷歌每周一次的T.G.I.F.大会上演示这个程序时,员工们试图从中找出一些毛病,但大多数都失败了。通过与杰夫和另一位工程师乔治·哈里克(Georges Harik)合作,桑杰后来又在网页广告中使用了类似的技术。
随着越来越多的编码人员使用MapReduce从谷歌的数据中提取各种规律和结论,使得转录用户的语音邮件、回答他们的问题、自动完成他们的查询,并在一百多种语言之间进行翻译成为可能。这样的系统就是使用不太复杂的机器学习算法开发的,杰夫说,“技术很简单,只要你有大量的数据,就能做得相当好。”
随着“数据、数据、数据——通过BigTable、MapReduce和后续产品来存储和处理——变成一项重要的任务之后,谷歌在全球范围内的基础设施才变得越来越无缝和灵活。如今,分布式计算已经成为陈旧的概念了,云计算和大数据正在推动谷歌的崛起。
但是,通过让普通的程序员在编写分布式程序时更加智能、易于管理,杰夫和桑杰让谷歌对这类技术的掌握达到了一个新水平。
事实上,用户可能已经感觉到事情已经发生了变化:谷歌云变得越来越智能。
2004年,杰夫和桑杰意识到,大量的数据处理会给天文学家、遗传学家和其他需要处理大量数据的科学家们带来大量裨益,他们撰写了一篇论文《MapReduce:大型集群上的简化数据处理》,并公开发表。
硬件价格日益低廉、Web服务的普及,以及联网设备的增加,导致了大量数据的出现,但是没有几家公司有相应的软件来处理这些信息。为此,两名工程师迈克·卡弗雷拉(Mike Cafarella)和道格·卡亭(Doug Cuting)在意识到了MapReduce的重要性之后,决定从头开始,对这套系统进行“克隆”。
后来,他们把该项目命名为“Hadoop”,名字的来源就是卡亭儿子的一个棕黄色大象玩具的名字。随着Hadoop的成熟,如今它已被“财富50强”的一半企业采用,它甚至成为了“大数据”的代名词。目前,Facebook正在使用“Hadoop MapReduce”来存储和处理用户的元数据,包括用户点击了什么、喜欢什么,以及观看了哪些广告等。
它还一度拥有世界上最大的Hadoop集群,LinkedIn和Netflix也在使用Hadoop MapReduce。此外,美国国家安全局(NSA)前技术总监兰迪·加勒特(Randy Garrett)还曾向NSA局长基思·亚历山大(Keith Alexander)演示过该技术。与之前的系统相比,Hadoop在执行分析任务时的速度要快出一万八千倍。如今,它已成为情报搜集新方式的基础,一些观察家将其称之为“收集一切”。
杰夫天性不安定:一旦看到了解决问题的雏形,他对这个问题的兴趣就变得不那么浓厚了。
2011年,当世界开始拥抱云计算的时候,他开始与斯坦福大学的计算机科学教授吴恩达(Andrew Ng)合作。当时,吴恩达在谷歌领导一个秘密的项目,研究神经网络。
杰夫在大学时代接触过神经网络,但那时候,人们还不能解决一些现实中的问题。吴恩达告诉杰夫,如今这种情况正在发生改变。在斯坦福大学,由于神经网络能够访问到大量数据时,研究人员已经取得了一些令人兴奋的结果。
考虑到谷歌的规模,吴恩达认为,神经网络不仅有用,而且是非常强大的。
神经网络与传统的计算机程序有着很大的不同。神经网络的行为不是由编码人员以通常的方式指定的,相反,它可以利用输入和反馈来“学习”。自大学毕业后,杰夫的神经网络知识就没有多大进步。但随后,妻子海蒂(Heidi)就发现,他们的卫生间中堆满了相关书籍。
后来,杰夫开始每周花一天的时间来做这个名为“谷歌大脑”(Google Brain)的项目。许多谷歌员工对这项技术表示怀疑,他当时的经理艾伦·尤斯塔斯(Alan Eustace)回忆说:“太浪费人才了。”
当时,桑杰也不理解杰夫的举动,他在心里想:你从事基础架构工作,跑到那边干什么?
在接下来7年的时间里,“谷歌大脑”团队开发了神经网络,它在机器翻译、语音和图像识别方面超越了当前技术。最终,他们还取代了谷歌最重要的搜索结果排名和广告定向算法,“谷歌大脑”也成为公司发展最快的团队之一。
2001年就已入职的谷歌工程师克莱尔·崔(Claire Cui)称,杰夫的参与代表着谷歌在人工智能领域的一个转折点:有些人相信它,有些人不相信,而杰夫给出了答案,它是可行的。
人工智能在很大程度上依赖于规模,为此,杰夫又领导开发了TensorFlow,相当于人工智能时代的MapReduce。TensorFlow简化了在一组计算机上分布神经网络的任务,将其变成一个大脑。2015年,当TensorFlow面向公众发布时,就成了人工智能的通用语言。
近期,谷歌CEO桑达尔·皮查伊(Sundar Pichai)宣布谷歌是一家“人工智能为先”的公司,并任命杰夫为人工智能战略负责人。
如今,杰夫每周花4天时间来运营“谷歌大脑”,指挥着3000人的工作。他出差发表演讲,每周召开一次会议来研究一种新型计算机芯片(TPU,专门为神经网络设计),并帮助开发AutoML,后者是一套使用神经网络设计其他神经网络的系统。
除此之外,他每周只能与桑杰共同编程一次。
工程业绩往往会抹杀自己。如今,我们还记得18世纪伟大的探险家詹姆斯·库克(James Cook)和乔治·温哥华(George Vancouve),但已不记得约翰·哈里森(John Harrison)。哈里是一名钟表匠,发明了航海精密计时器,解决了海上精确定位的问题。
近期,杰夫和桑杰曾在他们经常光顾的一家墨西哥餐厅“Palo Alto Sol”享受美食。杰夫拿出手机问:“Gmail何时诞生?”手机回答说:“2004年4月1日。”
对于杰夫不专心享受美食,桑杰似乎并不欣赏,但杰夫本人却很得意。如今,通过一系列程序的无缝整合,谷歌可以通过说、听和回答的方式,让用户通过手机连接到全球的数据中心。
当前,他们在谷歌的职责各有不同。桑杰目前是一位“个人贡献者”,一名编程人员,不管理任何人。对此,他感到很满足。他说:“我不想要杰夫的工作。”目前,他正在开发一款软件,允许工程师轻松整合和管理十几款应用程序。
如果把谷歌比作一所房子,杰夫是在建造一个附加产品,而桑杰则在支撑结构,加固房梁,拧紧螺丝。
同时,在周一的编程时间里,他们已经启动了新项目。这是一个人工智能项目,据杰夫称,要训练一个巨大的机器学习模型,能够处理上千、甚至上百个不同的任务。对于该想法,杰夫已经考虑好多年。近期,他认为时机已成熟。他和桑杰想先建立一个原型,然后整个团队再基于此进一步开发。
杰夫的妻子海蒂说:“我认为他们还是想念着对方。”当合作放缓时,他们就会在星期五一起吃晚餐。
3月份的一个星期日,杰夫和桑杰在库比蒂诺(Cupertino)郊外有一次会面。当时,天气晴朗,在阳光的照射下也显得很热。杰夫开着一辆蓝色的特斯拉Roadster跑车,桑杰开着红色的Model S。整个早上,桑杰在阅读,杰夫在踢足球。小腿上的一个设备告诉他,他已经跑了7.1英里。
在建立“3月索引”20年后,杰夫像一名退休的耐力运动员,他的皮肤被太阳晒伤了。而桑杰看起来并不显老。
他们走在一条6英里的环线道路上,穿过一片茂密的森林。杰夫带路,他们在森林里回忆起谷歌的成长。桑杰会议说,在公司第一次发展壮大的时候,一个水管工在男厕所的一个隔间里安了两个坐便器。他说:“我记得杰夫当时的评价,两个总比一个好!“说完就笑了。
杰夫说:“这山要比我想象的陡。”
而桑杰说:“我还想有人会说这是一个很平缓的徒步旅行。”
杰夫接着说:“这可能就是为什么那边没有自行车道的原因。”
他们又重新爬回了树林。在转弯处,杰夫向树林之外一瞥,说:“在某个时候,我们要好好看看。”
这条路延伸到山顶上,又高又宽,没有树木遮挡,景色尽收眼底。尽管地平线上有一片雾霭,但他们向南仍可以看到圣克鲁斯山,向东可以看到Mission Peak公园。
杰夫说:“桑杰,那里就是你的办公室!”他们站在一起,眺望山谷。
— 完 —
诚挚招聘
量子位正在招募编辑/记者,工作地点在北京中关村。期待有才气、有热情的同学加入我们!相关细节,请在量子位公众号(QbitAI)对话界面,回复“招聘”两个字。
量子位 QbitAI · 头条号签约作者
վ'ᴗ' ի 追踪AI技术和产品新动态
jeff个人介绍(纽约客特写JeffDean与Sanjay两位11级大神的二十年友谊)
2024-11-22 08:33:23 作者:那浮浅啲爱 网址:https://m.xinb2b.cn/tech/kgc108368.html
- 家具尺寸及布置空间(厨房做了6年踩过坑)
- 2024-11-22厨房做了6年踩过坑hello,我是小南,厨房的细节很多,做不好就像鸡肋,食之无味,弃之可惜特别是关于尺寸方面的把握,我这边总结了最全的厨房家具尺寸,特别实用,用上了记得回来给我点个赞一、电器柜尺寸若考虑把微波驴、电饭锅。
- 于和伟九大爆梗高能时刻(于和伟的两幅面孔)
- 2024-11-22于和伟的两幅面孔在昨日播出的《下一站,别离》中,于和伟饰演的秋阳终于打破“注孤生”的自我设定,与李小冉饰演的盛夏开启了协议婚姻模式协议内容是盛夏逐条设立,每一项都将秋阳框住,从一开始心疼被秋阳“数落”的盛夏的观众们,。
- 三杯鸡怎么做(三杯鸡做法介绍)
- 2024-11-22三杯鸡做法介绍香菇和红椒切块备用鸡肉洗净,切小块放入容器中,加1汤勺料酒、白胡椒粉、姜片、蒜拌匀,腌制20分钟炒锅倒入植物油,烧至5成热,倒入腌好的鸡肉和腌鸡肉的姜片和蒜,炸至断生捞出将炸好的鸡肉块放入砂锅中,倒入。
- 茶轴rgb机械键盘100左右(用机械键盘办公爽不爽)
- 2024-11-22用机械键盘办公爽不爽手感一直是一个玄学的问题,在机械键盘领域这种现象尤为突出,红、黑、茶、青四种轴体是目前机械键盘中最为常见的轴体,都属于Cherry的MX轴一种,手感也几乎囊括了敲击时各种极端感受,各有各的爽点得力于德。
- 独一无二的二字昵称女可爱(魅不可耐的昵称四个字女生撩人-可爱点)
- 2024-11-22魅不可耐的昵称四个字女生撩人-可爱点一个绿杉少女手执双桨,自缓缓划水而来,口中唱着小曲今天可爱点小编准备了女生撩人昵称四个字,快随小编一起看看吧书向鸿笺美格傾世岁月长河别太着迷诗词歌赋得未曾有無非虛妄魅不可耐车水马龙对酒无言环抱孤独合拍。
- 经典港剧大时代丁蟹家产(港剧经典配角塑造沙僧)
- 2024-11-22港剧经典配角塑造沙僧听到麦长青这个名字你可能非常陌生,不过说道他塑造的角色,你们肯定会说原来是他啊作为香港TVB经典配角,曾经带给我们太多欢乐,今天小编就和大家一起聊一聊他麦长青,江湖人称麦包,1968年出生于广东顺德,。
- 初一数学有理数知识点(有理数的概念及分类)
- 2024-11-22有理数的概念及分类暑假期间,相信很多同学们都有了自己比较周密的学习计划,尤其是对于刚升入初一的学生来说,为了能够快速的适应初中生活,更应该提前熟悉初中学科,防止一开学的时候,看到小学与初中的差距,导致措手不及今天我和大。
- 有没有现代小诗(原创现代小诗影子)
- 2024-11-22原创现代小诗影子文/老农我越来越清晰地听到你的劝说和告诫谁人没有摔倒的经历却没有人想过是你的失职~请原谅我的无知对你的讨厌和愤恨未来的路还很长很长再不去想如何摆脱~如果你能走到我的前面我也会象你一样尾随在你的身后也会。
- 河南发现特大金矿在哪个市(河南发现特大金矿)
- 2024-11-22河南发现特大金矿河南南阳桐柏县围山城一带,原老湾金矿深部及外围发现特大型金矿,储量初步估算为31.555吨,矿体达16个据勘探专家表示,年底有可能达到50吨按照目前最近约367元/克的价格估算,此次黄金价值已经超百亿。
- 不锈钢430是什么材质(不锈钢430介绍)
- 2024-11-22不锈钢430介绍不锈钢430是具有良好耐腐蚀性能和抗氧化性能的通用钢种,属铁素体不锈钢,由于安全无毒,广泛应用于食材餐具导热性能比奥氏体好,热膨胀系数比奥氏体小,耐热疲劳,添加稳定化元素钛,焊缝部位机械性能佳430不。
- 多么不正经的合唱团完整版 没有休止符的草根合唱团
- 2024-11-22多么不正经的合唱团完整版 没有休止符的草根合唱团原标题:福建三明市工人文化宫里孕育出来的爱乐合唱团,30多年弦歌不断——(引题)没有“休止符”的草根合唱团(主题)工人日报-中工网记者李润钊通讯员刘有端“在我的怀里在你的眼里……”清早,福建三明化工厂。
- 宝鸡机电学院有哪些专业(宝鸡文理学院电子电气工程学院发展历史)
- 2024-11-22宝鸡文理学院电子电气工程学院发展历史一.历史沿革电子电气工程学院始建于1984年,前身是宝鸡大学电气工程系1992年,宝鸡大学与宝鸡师范学院合并为宝鸡文理学院,成立了电子电气工程系2014年根据学校人才培养和学科建设工作需要,电子电气工。