九年前,Hinton发起了一场拍卖,没有选择百度的理由让人咂舌!

共 5125字,需浏览 11分钟

 ·

2021-03-19 13:18



  新智元报道  

来源:连线

编辑:LQ,小匀

【新智元导读】这是一个Hinton推广深度学习的故事。 


2012年12月,Hinton要去美国参加NIPS会议,为此他不得不坐上了去多伦多市区的公交,时隔7年,他再一次坐了下来。
 
他常说:「我上次坐下来还是2005年的时候,那是个巨大的错误。」
 
年轻的时候,Hinton帮母亲搬取暖器伤了腰;等到了五十多岁,由于腰间盘突出,他甚至不能坐下来,一旦触发了老毛病,可能要卧床休息好几周。
 
Hinton在多伦多大学的办公室里放着一张很高的桌子,这样他就可以站着办公;吃饭的时候,他就在地上放一块泡沫板,然后跪在上面,像庙里的僧人一样。
 
开车的时候座椅靠背也要尽量放低。长途旅行,他会选择火车或轮船,一般不坐飞机,尤其是一般的航班,因为这些航班起飞降落时都要求必须「坐着」。
 
腰椎问题严重到,他一度以为自己会残废,所以他不得不严肃对待这一问题。
 
就这样,Hinton先坐公交到多伦多市区,又换乘长途大巴从多伦多到纽约,又坐火车从纽约横跨美国东西2700英里来到加州的特拉基,然后又躺在出租车后座坚持了1个小时,最终到了目的地南太浩湖。
 
 
这个秋天,Hinton开了一家公司。这个公司只有2个员工,都是他实验室的研究生,加上他,全公司仨人。
 
这个叫DNN-research的公司没有产品,也没有任何计划做产品,公司官网上只挂了一个名字,其他一片空白,而这个名字还不如空白页面有吸引力。
 
64岁的Hinton头发灰白、蓬松稍乱,穿着羊毛衫,他的幽默感总是快人一步,长期待在学术界,Hinton如鱼得水,在两个学生找他之前,他其实并不确定是否要开公司。
 
 
但就是这家毫无吸引力的公司引得全球几大顶尖科技公司竞相争抢。
 

2012年的NIPS

 

Hinton此行的目的地是太浩湖边的Harrah’s and Harveys,这是两个大赌场,也是会议中心。
 
那年的NIPS会议就在这里召开。
 
 
NIPS会议全称「神经信息处理系统大会」(Neural Information Processing Systems),是人工智能领域的顶会之一,Hinton每年都会参加这个会,但这次很不同,在他看来,这次会议非常适合竞拍,而且是一场赌注很高的竞拍。
 
两个月前,Hinton和他的学生建立了「神经网络」,这是以大脑神经元网络为模型的数学系统,它可以识别常见物体,比如花、狗和汽车,达到了此前机器达不到的精度,改变了机器看待这个世界的方式。
 
Hinton和他的学生展示了神经网络可以通过分析大量的数据来学习人类的技能,他们称之为「深度学习」。深度学习具有巨大的潜力,它不仅将改变计算机视觉,还将改变数字语音助手、自动驾驶和新药研发。
 
神经网络的想法并不新鲜,20世纪50年代就出现了。但先驱们并没有实践出来,反而进入了技术上的死胡同,2000年后,很多学者都放弃了这一研究,甚至在向顶会投稿时,都不会直接说「神经网络」,而是会用其他词作掩饰,以免引起同行反感。
 

「一个人疯就够了」

 

Hinton是少数几个坚信神经网络拥有未来的人,他认为神经网络将会实现识别物体、语音、自然语言,和人类对话。甚至能做一些人类做不了的事——探索生物学、医学、地质学和其他科学的新方法。
 
但这也让他变得很「异类」。他所在的多伦多大学有很多年一直「坚持」拒绝再聘任新的研究人员和他一起进行机器学习研究。
 
「一个人疯就够了。」Hinton觉得校领导肯定这样想。
 

9页论文改变历史

 

2012年秋天,Hinton和他的学生发表了一篇9页的论文,详细介绍了他们的突破,他们向世界宣布,神经网络确实像Hinton长期以来声称的那样强大。
 
紧接着,Hinton收到了一封百度人工智能专家余凯的邮件。乍一看,这两人是没有共同点的:Hinton生在战后英国一个上流社会家庭,父母都是科学家,曾在剑桥求学,后来在爱丁堡大学获得人工智能博士学位,之后的40年一直研究计算机科学。
 
余凯比Hinton小30岁,在中国长大,父亲是一名汽车工程师,曾在南京大学和慕尼黑大学读书,后来在硅谷一家公司做研发工作。


不管是年龄、文化还是语言,Hinton和余凯都是完全不同的,但是有一点却是相同的,那就是对神经网络的执著。
 
此前,Hinton和余凯曾经在加拿大一次学术会议上见过,那是一次试图「复兴」神经网络的会议,当时参会学者还试图把这一理论重新命名为「深度学习」。
 
Hinton的9页论文一发表,余凯就告诉百度高层要把Hinton招过来,越快越好。余凯通过电子邮件把Hinton介绍给了当时百度的一个副总裁,后者立刻要以1200美元聘请Hinton和他的两个学生,聘任期限仅仅为几年。
 
有那么一瞬间,Hinton和百度几乎就要达成协议了。但Hinton停了一下。当时,他也在和其他几家大大小小的公司接触,包括百度在美国的两大竞争对手,这些公司把电话打到了他在多伦多的办公室,询问如何聘请他和他的学生。
 

HInton发起拍卖

 

想到可能有更多的机会,他并不想放弃,所以他先问百度在达成1200万协议之前他是否可以征求其他的报价,百度同意了。
 
随后Hinton翻转了整个局面,在学生的激励下,他意识到,相比聘请学界人士,不管是百度还是它的竞争对手都更愿意斥巨资收购一家公司,于是,浸淫学界40年的Hinton创业了,成立了一家名为DNNresearch的小公司,名字是deep neural networks(深度神经网络)的缩写,也是向神经网络致敬。
 
他向多伦多一名律师咨询,如何才能让一家只有三名员工、没有产品、没有历史的初创公司的价格最大化。
 
律师给了他两个选择:要么直接雇一名专业谈判和大公司谈判,不过这样也容易激怒有收购意向的小公司,要么就发起一次竞拍:谁出价高就卖给谁。
 
Hinton选择了竞拍。最后入围的有四家公司:微软、谷歌、百度、deepmind.
 
当时deepmind刚成立2年。
 
竞拍开始后,谷歌工程主管Alan Eustace驾驶自己的双引擎飞机来到了南太浩湖,同行的还有Jeff Dean,他们与Hinton和他的学生在Harrah’s顶层的餐厅共进晚餐。那天是Hinton65岁生日。

 
晚餐期间他们讨论了谷歌的野心、这次的拍卖,以及Hinton在多伦多的实验室正在进行的最新研究。对两位谷歌人来说,这次晚宴主要是为了对Hinton的两个学生施加压力,此前他们从未见过这两个学生。
 
百度、微软和 DeepMind 也派代表前往太浩湖参加会议。
 
开启这场竞赛的余凯在竞标开始前也与Hinton团队见了面。
 
不过四家自始至终从没有见过面,Hinton也没有透露其他竞标公司代表的身份。
 

Harrah’s 酒店731房间

 

竞拍是以电子邮件方式进行的。
 
Hinton在他的房间——Harrah’s 酒店731房间主持了这场竞拍。
 
每天他都会为下一轮竞拍设定时间,在指定的时间,他和他的两个学生会聚集在他的房间里,用笔记本电脑观看竞拍结果。
 
他们把垃圾桶倒扣放在桌子上,再把笔记本放上去,这样Hinton就可以站着打字。
 
竞标价格都会发到Hinton的Gmail邮箱,对此,一开始,微软感到不满,竞拍开始前几天还抱怨,谷歌可能是他们最大的竞争对手,也是最有可能的竞争对手,可能会窃听私人信息,并以某种方式玩弄竞价。
 
Hinton也有这样的担心,但他并没有表达严重的担忧,而是对谷歌日益增长的巨大影响力发表了一番尖锐的评论。
 
最后,Hinton和微软都把他们的担忧搁置一边,Hinton说:「我们相当确信谷歌不会看我们的 Gmail」。
 
deepmind刚成立,现金不充足,直接拿公司股份参加竞拍,但仍无法与这些巨头竞争,很快就退出了。
 
只剩下百度、谷歌和微软。随着出价持续攀升,先是1500万美元,然后是2000万美元,微软也退出了,但是后来又回来了。
 
一天傍晚,当Hinton向窗外望去时,两架飞机从相反的方向飞过,留下的尾迹在天空中交叉,就像一个巨大的X,正好在连绵的山峰之上。他和2个学生兴奋地思考着这意味着什么,然后想起谷歌的总部设在一个叫山景城的地方。
 
「这是否意味着我们应该加入谷歌?」Hinton问道。「还是说我们不应该这么做?」
 
出价达到2200万美元的时候,Hinton暂停了拍卖,他想与一位竞标者讨论,半小时后,微软再次退出。
 
这样就只剩下百度和谷歌了,随着时间的推移,这两家公司出价更高了。
 
一开始余凯负责百度的报价,但当报价达到2400万美元时,百度的一位高管接管了这一工作。
 
余凯会时不时地到731房间看看,稍微了解一下拍卖的走向,但他不知道的是,他偶尔的拜访也在731房间引发了一些慌乱。
 
以往,Hinton来太浩湖时很容易生病,因为这里空气稀薄还寒冷干燥,这次他很担心自己会再次生病,但他并不希望被那几大科技公司的人看到自己「又老又衰」的样子。
 
为了防止自己生病,他想了个办法:把床垫放到两张床中间,他又找了一些像熨衣板一样又长又结实的支撑物加在两张床之间,然后拿几条毛巾浸湿,盖在上面,晚上他就睡在这样的「帐篷」里,保证有足够湿润的空气。
 
但他并不想让其他人看到他独特的加湿室,所以每次余凯到之前,Hinton只能求助他的两个学生,他们急急忙忙把加湿帐篷拆掉,给房间恢复原状,
 
在这个只有3个人的公司里,Hinton开玩笑说:「这就是副总裁的工作」。
 
有一次,余凯把包落在了731,当Hinton和他的学生看到背包放在椅子上时,他们想知道是否应该打开它,看看里面是否有什么东西能告诉他们百度愿意出多高的价格。但是他们知道这么做不对,所以他们没有这么做。
 
后来百度和谷歌的出价一直上涨,直涨到4400万。
 
然后Hinton终止了拍卖,因为他决定把公司卖给谷歌。
 
他后来承认,这正是他一直想要的。
 
余凯早就猜到了这个结果,他想就算不是谷歌,也会是另一家美国公司,毕竟Hinton的背并不允许他承受往返中国的长途旅行。
 
不过,余凯还是很高兴百度能参与到这次竞拍当中,这个过程是他想向百度领导展示的,至少,和美国对手的角逐让他的领导看到了深度学习未来的无限潜力。
 

是学者,不是企业家

 

Hinton停止了拍卖,因为对他来说,为他的研究找到合适的地方最终比要价最高更重要。
 
当他告诉谷歌他将以4400万美元停止拍卖时,他们认为他是在开玩笑ーー价格还在涨,为什么现在停下来。
 
但他不是在开玩笑,他的学生和他一样了解情况。他们是学者,而不是企业家,更忠于他们的想法而不是其他任何东西。
 
Hinton没有意识到他们的想法是多么有价值。也没人知道。深度学习的兴起标志着数字技术发展方式的根本性转变。
 
Hinton从731房间退房后,登上了回多伦多的长途火车ーー到现在他也没有坐下。
 
2017年,当他被要求透露参与竞标的公司时,他用自己的方式给出了答案。
 
「我签了合同,永远不会透露与我们谈话的对象。我与微软、百度和谷歌分别签订了协议。」他拒绝提DeepMind,这意味着直到现在,一些参与竞拍的人从未完全了解他们的对手是谁。





参考资料:

https://www.wired.com/story/secret-auction-race-ai-supremacy-google-microsoft-baidu/



浏览 31
点赞
评论
收藏
分享

手机扫一扫分享

分享
举报
评论
图片
表情
推荐