Hinton:人类就是机器,绝妙的机器-aigc导航|ai导航
三十多年以来,Geoffrey Hinton一直徘徊在人工智能研究的边缘地带。他像一个局外人一样坚守着一个简单的观点:计算机可以像人类一样思考,依靠直觉而不是规则。
这个念头在Hinton的青少年时代已经萌芽。当时有个朋友向他描述了全息图的工作原理,物体表面无数的反射光线被记录下来,被存入一个巨大的数据库里。来自科学世家的Hinton,立刻想到大脑也是这样工作的——
海量的细胞由无尽的神经元图谱连接起来,信息在其间传递并沿着十多亿条路径传输。
少年想知道:计算机是否也能这样?
主流学术界给出的答案,是一个震耳欲聋的No。他们说,计算机最佳的学习方式,就是规则和逻辑。Hinton主张的神经网络,被他们证明是错的。
1957年,康奈尔大学的科学家Frank Rosenblatt发布了世界上第一台神经网络机器。这个机器被称为感知器(Perceptron),它的任务是图像识别。如果你给感知器看一张苹果的照片,它就能告诉你这是“苹果”,理论上。
这个感知器运行在IBM的机器上。尽管有点丑,但还是激发了人们夸张的科学幻想。1958年,纽约时报预测这将是第一个能像人脑一样思考的设备,“(感知器)将能走路、说话、观察、书写、自我复制,意识到它自己的存在”。
然而并没有。这个左右都不分的机器最终成了一个笑话。彼时神经网络基本在学术圈被除名了。然而这并没有阻挡Hinton。
“大脑必然以某种方式运作,但肯定不是编好的程序,”Hinton说,“我们不是被编程的,我们有常识。”他相信神经网络并不是错,问题在于计算力。要让计算机发现图片的意义,需要先给它数百万张图片,但当时的设备还做不到。样本量太小了。
1972年,25岁的Hinton在爱丁堡大学攻读博士学位,并把神经网络作为研究重点。导师几乎每周都会提醒他在浪费时间。然而Hinton不为所动。其实神经网络当时也取得了小小的成功,在发现信用卡欺诈方面证明了自己的价值。
博士毕业后,Hinton在匹兹堡的卡内基梅隆大学(CMU)谋得一份差事。
然而作为一个骄傲的社会主义者,Hinton被当时里根政府的外交政策深深困扰。他和妻子Ros想收养一个来自南美洲的孩子,所以不想让孩子在卷入南美洲血腥冲突的国家里成长。而且,美国大部分人工智能研究都是国防部资助的,与Hinton可以说格格不入。
1987年,Hinton夫妇决定北上,接受加拿大高等研究院(CIFAR)的邀请。CIFAR为Hinton提供了学术自由,还有体面的薪水。尽管从未学过计算机课程,Hinton的新工作安排在了多伦多大学计算机专业,并为CIFAR展开机器和大脑学习项目研究。
他在圣乔治校区的桑福德·弗莱明楼有了一个小小的办公室,然后悄悄地开始工作。随着时间的推移,他身边逐渐聚拢了一小撮深度学习的信徒。
其中就包括Ilya Sutskever,他后来成为OpenAI的联合创始人。2000年代初期,Sutskever加入Hinton的实验室,当时还是AI的“冬天”,搞人工智能研究既没什么就业前景,也没什么资金支持,更别提工业界的青睐。
“我们都是局外人,但我们都觉得自己抱持着稀有的洞见,觉得我们与众不同。”Sutskever回忆当年时这样说。
一直到大约2009年前后,计算机最终有了足够的算力挖掘大型数据库,从此神经网络开始在语音和图像识别方面战胜基于逻辑的系统。工业界很快注意到变化的发生,微软、Facebook、谷歌等科技巨头开始在这个领域投资。
2012年,谷歌的绝密实验室Google X,宣布建立了一个由16000个电脑处理器组成的神经网络。谷歌大脑的工程师们,在传奇人物Jeff Dean的带领下,“喂给”这个神经网络数百万随机、未被标注的YouTube视频。
随后一个激动人心的时刻来到了,这个神经网络自己学会了识别猫。“在训练中我们从没说过这是一只猫,”Jeff Dean当时说,“从本质上讲,它发明了‘猫’这个概念。”
这个突破同时也把Hinton推上AI浪潮的领袖地位。2013年,Jeff Dean把Hinton招入谷歌工作。“我们本来在体制之外,力图证明传统路线是错的,然而有趣的是,转眼间我们成了正统。”Sutskever说。
曾经被抛弃的Hinton,突然成为业界最重要的人物,从默默无闻变成明星。
“我之所以有很大的影响力,是因为我是少数相信这个道路的人之一,所有相信这个方向的学生跟随着我一起工作,我必须选出那些拥有最佳判断力的人。”说到这里Hinton笑了:“判断力好意味着他们同意我的看法。”
从他在多伦多大学的办公室望出去,能俯瞰校园中心的主干道。Hinton一边吃着三明治,一边走来走去,不时在白板上写写画画,尝试让我更懂神经网络。
如果必须要为猫和狗分配一个性别,他画了一个小猫然后说,在我们的文化中,大多数人可能会把狗看做男性,把猫看做女性。这背后的原因不能用逻辑证明,但这种印象的确隐藏在人们的脑海里。机器想要学到的这种直觉,有着一种吸引人的诗意:
知识源于鲜活的生命,充满了累积的意义和经验。
这就是神经网络之美。“这更接近弗洛伊德,意识的薄膜、谨慎的推理以及其下所有沸腾的东西。下面这些沸腾的东西不是有意识的推理,而是其他东西——有点像类比。”Hinton说。
他不断的重复着这个基本理念。去年秋天的Google Go North大会期间,加拿大总理特鲁多、加拿大创新部长、时任Alphabet执行董事长施密特等各界知名人士,像热切的学生一样齐聚在桌前,只有Hinton站在那里没有坐下。
Hinton从不坐下。
因为他患有椎间盘突出。第一次出现问题是19岁那年,Hinton帮母亲搬一个沉重的暖器,而他本身在代谢钙方面有基因缺陷。随着时间推移,问题变得越来越糟,坐下变成一种痛苦。所以从2005年开始,他基本就不再坐着了。
但这不是一个理想的解决方案,尤其对于一位需要在全球出席各种会议的知名学者来说。Hinton有办法从多伦多到赫尔辛基,一路不坐。但这需要11天。
“首先躺在一辆开往布法罗的巴士后座上,然后换乘一辆芝加哥到纽约的卧铺,接着搭乘玛丽女王号邮轮到南安普顿,然后站到伦敦,接着乘坐欧洲之星,站到巴黎,再换卧铺到柏林,然后搭乘一辆古老的列车抵达罗斯托克,最后乘船到达赫尔辛基。”
这就是Hinton常见的说话方式,把数据切成可理解的东西,目光聚焦在远处,嘴上挂着微微的笑意。
在Go North现场,Hinton解释了他和两位谷歌工程师的最新突破:Capsule(胶囊)网络。神经网络依靠庞大的数据库学习,需要很长时间才能认识到从不同角度看到的对象,是同一个物体。而Capsule是人造神经元组成的层,能够跟踪对象各个部分之间的关系。这能让识别更快也更精准。
Capsule一直是科技世界的热门话题。纽约大学一位从事图像识别的教授,在《连线》杂志上说:“每个人都在等待它,等待Hinton下一个巨大的飞跃。”
由于Hinton研究AI的方法如此的不流行,很多这方面的专家此前都是跟在他身边学习。几十名Hinton曾经的学生,现在已经成为Facebook、谷歌、苹果、Uber等公司的核心人物,并且不断在学术界传播神经网络的“福音”,成为新的布道师。
在这些分布在各大科技公司的专家眼中,Hinton是一位颇受欢迎的教授,他会和学生们一起工作,而不是仅仅指派任务。为了缓解深夜研究的紧张气氛,Hinton会把葡萄塞到嘴里,然后一个一个吐到空中再接住,表演帽子戏法。
过去十年,多伦多的人才不断外流。硅谷吞并了当地的创业公司,多伦多大学的深度学习社区也面临危机。据报道,典型的人工智能专家,甚至是新手和刚毕业的学生,都能在硅谷找到一份年薪30万-50万美元的工作,股票期权可超百万美元。
多伦多需要想办法利用Hinton的存在,吸引精锐的深度学习专家们留在、甚至是回到他们最初开始学习的地方。
最终矢量研究所(Vector Institute)成立了,Hinton答应出任首席科学顾问。加拿大希望重现往日荣光,尤其是当曾经强大的加拿大科技公司北电和黑莓覆没之后。Vector Institute成为下一个期待。
Hinton说过,在自己长大成人的过程中,他的母亲给过他两种选择:“做学者,或是做失败者。”
Hinton的家谱几乎完全被科学家们占据。
他的高祖父是大名鼎鼎的乔治·布尔——布尔逻辑的创立者,因“布尔检索“而闻名于世;乔治·布尔的女婿之一Charles Howard Hinton是Hinton的曾祖父,一位数学家,同时是一名科幻小说家,他创造了“超立方体”的概念,后来因在维多利亚时代的英国犯了重婚罪而逃到美国。
Hinton的中间名是Everest,一如他高祖母的叔叔、地理学家Everest,“珠穆朗玛峰”的英文名就是以他的名字命名的;Hinton父亲的表亲中还有一位Joan Hinton(也就是我们熟知的寒春)她是一位核物理学家,也是中国人民的老朋友。寒春曾经参与了美国的曼哈顿计划,后来拿到了中国绿卡。
1947年Geoffrey Hinton生于英国的温布尔顿。他的父亲Howard Hinton是一名昆虫学家,母亲Margaret Clark则是一位教师。
Hinton与兄弟姐妹一起成长于一间住满了各种动物的大宅子,那里有“占了很大地方”的猫鼬,车库的一个坑里甚至养着毒蛇。一次小Hinton拿了一块手帕去逗那些蛇,但其中一条冲上来差点就咬到了他的手,Hinton险些因此丧命。
△ 8岁的Hinton抱着一条蟒蛇(python)
除此之外,Hinton还照料着几只中华鳖,这些中华鳖是Hinton的父亲1961年于中国的旅行途中所购回。尽管那时的中国几乎对外国游客封闭,皮埃尔·特鲁多(后来的加拿大总理、现任加拿大总理贾斯廷·特鲁多的父亲)还是设法去了一趟,当时他和老Hinton住在同一间酒店,甚至共用一间浴室。据家庭传说,当时老Hinton就把这些中华鳖养在浴缸里,以打消特鲁多想要洗澡的念头。
Hinton回忆了自己的好奇心被激发起的时刻。当时他只有四岁,和母亲一同出游。他们坐在一趟通行于乡间的大巴上。大巴上有一个向后倾斜的座位,正对着行李架,Hinton从口袋里掏出一枚硬币放在上面,但它却没有向后,而是滑向了前面,看上去就像是对抗着重力往上爬。
这枚不可思议的硬币让Hinton魂牵梦萦了十年。在青少年时期,他终于弄明白,那枚硬币的运动和当时大巴上天鹅绒的座套以及大巴行进过程中振动方向有关。一个令人满意的结论。
“有些人可以对自己所不理解的现象熟视无睹。但对于这些违背了我所知世界的”模型“的东西,我一点都忍不了。”Hinton说。
Hinton的母亲十分和善,但他的父亲却令他敬畏,不论是体力上(他可以单手完成引体向上),还是智力上。“他喜欢那些思维清晰的人。如果你说了哪怕一点废话,他就会称其为垃圾。他不是那种多愁善感的思想者,他也不会虐待人,但他确实极其强硬。”
Hinton上的是一所名为克利弗顿学院的私校。“并非顶尖的。”他说。当时Hinton和他的朋友Inman Harvey——现在是萨塞克斯大学的一名计算机科学家和AI研究员,那时常常在邻近的村子搭车嬉闹。Hinton现在还记得一家人在餐桌上讨论社会主义,以及在大选时为劳工党投票的情形。
“Geoff的父亲对我非常好。但他是个严格的父亲,争强好胜。”Harvey说,“Geoff部分继承了父亲的这个特点。他的父亲是皇家学会成员,而Geoff后来也成为了皇家学会成员。他可能感受到了达到父亲期盼的需要。”
Hinton的青年时期与自由放任的六七十年代相冲突,但他为了不负家族期望而选择的道路却依然充满曲折。
1966年,大学前的一个暑假,Hinton和Harvey进行了一次穿越美国和墨西哥的背包行。两个年轻人是如此困窘,以至于会为了省下住旅店的钱去乘坐夜班大巴;在南墨西哥的一个小渔村,他们在游泳时把一个背包落在海滩上,包里的钱和护照被人偷走。每个下午,这对兄弟都会走相同的7公里到最近的村庄,去看看他们更换的旅行支票是否已经到了银行。他们一度用三美元捱过了一整周,还试过把香蕉皮装进罐子用高温加热来做香蕉汁——一个失败的实验。
70年代,在完成了实验心理学的学位后,Hinton做着一些零星的工作和木工活。1972年他开始攻读人工智能方向的PhD,但却对自己的研究感到沮丧和矛盾。一个周末,Hinton参加了一个研讨班,是某种自我实现的心理辅导课程。他对此烦得不行。
当时那个研讨班一共八个人,共同敞开心扉,挖掘自己的渴望和需求。在最后一天,每个人都要宣布他们在生命中最、最想要的东西。别人都在说,他们想要被爱。
“都是些原始的、不受压抑的东西。“Hinton回忆道。当时他都快石化了,不知道该说什么好。别人在小组里徘徊,大声喊出自己的秘密愿望时,Hinton的宣言令自己都大吃一惊。
“我真正想要的是一个PhD!”他怒吼。而这次宣言也再次点燃了他对神经网络研究的激情。
△ 31岁的Hinton
当被问起对于生长在一个显赫之家的阴影中作何感想时,Hinton说:“压力。感觉就像是压力。”Hinton说,自己一辈子都在压抑、沮丧中挣扎,而工作就是他释放压力的方式。当人们从深度学习中淘出金子,这种压力减轻了一些。
“很长一段时间里,我都感觉我没有……”Hinton说,“好吧,我最终做到了。那真是种巨大的解脱。“
除了面对学术上的不认可,Hinton还在1990年代初,遭遇了更多打击。在收养了他们的婴儿后不久,他的第一任妻子Ros死于卵巢癌。Hinton成了单身父亲。习惯于住在实验室的Hinton,被拽回抚养两个小孩的现实世界。
尽管还有个保姆,但Hinton仍然不得不在下午6点赶回家,安排和照顾自己的儿子,然后冲向Gap抢购正在大甩卖的袜子。
“我无法想象一个带着孩子的女人如何继续学术生涯,我习惯把时间花在思考问题上。教育很有意思,但是有点分散注意力,而其余的生活——我没时间过,”Hinton说。工作成了躲避现实的避风港,Hinton说他觉得自己用数学作为自己感性一面的防御。
为人父母带来了改变。以前Hinton在超市遇到数学不好的收银员,他总抱怨超市为什么不雇一个数学好的员工。现在他会想“超市真不错,还能雇这个人”。Hinton补充说:“我不想成为一个更好的人,但就这么发生了,这不是我的人生目标”。
△ Hinton和第二任妻子结婚,还有两个孩子:8岁的托马斯和6岁的艾玛
1997年Hinton再次结婚,娶了英国艺术史学家Jackie。三年前,她被查出患有胰腺癌,现在Hinton正处于失去第二任妻子的边缘。
Hinton一生在医院中度过了很多时间。他提出的疑问经常惹恼工作人员。他深切地体会过病患等待许久却得到一个模糊诊断时的挫败感。但与大多数人不同,他知道很快会有技术能把需要等待一周的检验结果,缩短到一天。
作为一个克制的英国人,Hinton对深度学习能带来的医疗革命充满热情。“我看过太多的医生低效的使用数据,病患的历时信息被大量忽略;我看到医生们无法很好地阅读CT扫描,两个医生对同一个扫描片能得出不同的解读”。
在三次不同的场合,医生基于CT扫描说他妻子有继发性肿瘤,但每次都是误诊。Hinton相信AI会最终让放射科医生失业,或者至少取代看片子的工作。识别是AI的核心,也是成功诊疗的核心。Hinton说:“最终,AI工程师会弄清楚如何训练你的免疫系统去消灭癌细胞”。
矢量研究所的首个项目,就是用神经网络连接多伦多各个医院的大量数据。
人工智能技术可以通过访问庞大的数据集(本质上就是病患病例)来实现突破,包括远程监视病患的心跳,帮助医生确定理想的出院时机等等。Hinton的一位学生还在研发可以读取DNA的AI,这将有助于及早发现疾病并确定最佳治疗方案。
经过几十年的缓慢前进,深度学习正在快速发展,而Hinton陷入了类似《罗伦佐的油》一样的困境中。他急于推动科学进步,试图挽救亲人的生命。但胰腺癌非常残酷,而且在早期很难诊断。“对她来说,恐怕太迟了。”Hinton说。
Yoshua Bengio是驻扎在蒙特利尔大学的深度学习先驱,他和Hinton以及Facebook的Yann LeCun一道,被科技界称为“加拿大AI黑手党”。几十年来,每当Bengio到多伦多工作时,他就住在Hinton位于Annex的家里,和他一起走很远的路。Hinton到哪里都是走着去,他只有保持竖直的状态背才不疼。
Bengio看着Hinton一跃而成科技领袖,同时也有以一些警惕。“他不是上帝。他也犯错。他只不过是一个普通人,做着普通人的事情,”Bengio说“他有时可以穿过黑暗看清事物。但他的个人生活非常不容易。他也有他的黑暗时代”。
去年九月,Hinton和他的妻子在加拿大蜜月圣地Muskoka的小屋里住了好几天,那是一年中最漂亮的时候。“她非常勇敢也非常通情达理,她只觉得自己得到了额外的时间,她要好好得过。”
然后Hinton问我能否帮一个忙。他说:“能不能在这个故事里讲一下,过去两年半的时间里我一直能继续我的工作,因为我的妻子对她的癌症抱有非常积极的态度,”他平静地说。
“非常感谢你”。
Vector Institute有一种新车的味道、一个像恶霸巢穴的名字,弥漫着开学头一天的氛围。
这家机构去年秋天开放,从加拿大地方和中央拿到了1亿多美元的资金,还从30多家企业合作伙伴获得了8000万美元,这些合作伙伴包括加拿大的大型银行、加拿大航空、泰勒斯电信、Google等等。Vector是一个公私结合体,混合了学术界、政府公共部门和企业界的力量。
截至目前,Vector已经录用了20位科学家,他们正在为世界上一些宏大的问题探求技术解答:如何用AI来诊断儿童癌症,检测语言障碍?怎样建造机器,赋予人类像动物一样的视力,或者谱写优美的乐曲?或者怎样用量子计算来加速分析里人类活动产生的大量数据?Vector有一名关键员工Raquel Urtasun,会将她的部分时间分配给Uber,在那儿开发自动驾驶汽车。
如今的AI狂热不仅仅是为了金钱,也是因为AI融入日常生活的快速步伐。我们所用的手机从翻盖打电话发展到带有人脸识别功能的iPhone X,用了不到10年。
很多著名科学家担心这项技术发展太快,已经超出了我们的控制能力。霍金、伊隆·马斯克和比尔·盖茨都针对人工智能失控的危险发出过警告。“我担心AI可能会完全取代人类。”霍金最近说。
Hinton明白这种道德影响,他在联合国签署了一项请愿书,要求禁止致命的自主武器——通俗一点来说就是杀人机器人,还因为担心AI在安全领域的滥用,拒绝了与加拿大通信安全局相关的一个理事会职位。他认为,政府需要介入并制定法规,防止军队利用这项他耗费一生心血来完善的技术,他说,特别是要从防止军队开发杀人机器人开始。
然而,大多数时候Hinton对这种“AI焦虑”持乐观态度。
“我认为它能让生活变得更容易。人们所说的这些潜在影响,和这种技术本身无关,而是与社会的组织形式有关。作为一名社会主义者,我认为当技术进步提高了生产力时,每个人都应该分享到这些收益。”
去年夏天,我和Hinton在城里的Google食堂共进午餐。那个地方就像大部分科技公司一样,有一种托儿所般的审美,颜色鲜艳,摆着像阿米巴虫似的沙发以及一排健康午餐,大群30岁不到的人在那儿吃着饭。露台上,可以看见迷你高尔夫场地,还有一个授粉蜂窝,咖啡机发出响亮的声音。
很难想象,这就是机器入侵可能开始的地方,然而……
Hinton站着吃藜麦和鸡肉:“计算机接管世界这种天启场景,很长一段时间里都不会发生。我们离类似的事情还有很长、很长的路要走,哲学家思考这种事是好的,但我对这个问题不是特别感兴趣,这不是我有生之年必须面对的事。”他面无表情,很难看出是不是在开玩笑。
但这种对机器的依赖怎样改变我们?我对他说,每当我的手机给出一条消息回复建议(“听起来不错!” “在那儿见!”)我都有一种无力感,感觉自己变得机械化了。从《2001太空漫游》开始,流行文化一直在滋长、里汇集这样的恐惧。在娱乐圈,机器的进步被解读成个人的孤独、失败,就好像机器变得更加人性化的同时,我们变得不那么人性化了。
Hinton听我说着,看着我,表情说不上不友善,但带着一丝怀疑。“你用袖珍计算器的时候,会觉得不像人类吗?”他问。在他四周,Google的80后90后们吃着沙拉喝着咖啡,门禁卡在屁股后边晃来晃去。他们要么在看手机,要么拿着手机。
Hinton说:“我们是机器,我们只是通过生物方式制造的。大多数做AI的人对这一点毫不怀疑。我们只是特别精密的机器。我刚才不该说‘只是’。我们是特别的、绝妙的机器。”