最新消息:
当前位置:逍遥网 > 人物

深度学习之父Geoffrey Hinton的传奇人生

逍遥摘要:多伦多大学计算机系教授Geoffrey Hinton是Deep Learning的开山鼻祖,我们来讲讲他的故事。

深度学习之父的传奇人生

他有个传奇的姑姑

不过先来说说他姑姑吧,他姑姑Joan Hinton是一个与中国有关的具有传奇经历的人物,中文名字叫——寒春,是一个参加过曼哈顿计划的科学家,但是后来在中国养了几十年牛。

深度学习之父的传奇人生

1945年,23岁的寒春已经是美国曼哈顿计划中的一名女科学家,参与制造了人类历史上第一颗原子弹。中国的红色革命也深深吸引了她,于是她放弃了纯科学的研究,追随着她的丈夫、有共同理想的美国青年阳早来到了中国延安,并于1949年在革命圣地延安的窑洞里举行了烽火中的婚礼。

之后两人一起帮助中国人民发展畜牧业,为中国的奶牛事业贡献了毕生,并在北京昌平设计建造了中国第一座机械化养牛场。2003年阳早去世,骨灰就埋在 了牛场。

他姑姑是个传奇,但Geoffrey Hinton的传奇程度也不亚于她。

谷歌为了他,花几千万美元专门买了一个公司

2013年,Google收购了多伦多大学的一家初创公司DNNResearch,实际上,这家公司只有三个成员,Geoffrey Hinton和他的两个刚毕业的的学生——Alex Krizhevsky 和 Ilya Sutskever。

深度学习之父的传奇人生

或者我们可以理解为,Google为了让Geoffrey Hinton为他们工作,专门收购了这家公司,有人调侃到Google花了几千万美元买了几篇论文。

当然在此之前,Google也给了他的研究小组提供了60 万美元的科研经费。

Deep Learning祖师爷

Geoffrey Hinton本人正是Deep Learning学派的开山祖师爷。

何为Deep Learning?简单地说就是建立、模拟人脑进行分析学习的人工神经网络。

深度学习之父的传奇人生

比如一个广为流传的例子就是,谷歌用1.6万块电脑处理器构建了全球最大的电子模拟神经网络,并通过向其展示自YouTube上随机选取的1000万段视频。在无外界指令的自发条件下,该人工神经网络自主学会了识别猫的面孔。

自从2006年被提出后,Deep Learning极大地推动了语音识别、视觉、自然语言处理等方面的进展。

探秘大脑的工作原理

在剑桥大学学习心理学时,Hinton发现人类大脑有数十亿个神经细胞,它们之间通过神经突触相互影响,形成极其复杂的相互联系。然而科学家们并不能解释这些具体的影响和联系。神经到底是如何进行学习以及计算的,这是他一直想研究的问题。

深度学习之父的传奇人生

这个问题在他的努力下已经取得了部分进展。他和他的伙伴建立了一层层互相连接的人工神经元模型,模仿大脑的行为,处理视觉和语言等复杂问题。他也致力于研究可以使神经网络变得更好的方法,来更好的模拟人脑的某些方面。

在80年代初,电脑性能还远远不能处理人工神经网络(ANN)需要的巨大数据集,神经网络的研究在短暂的火热后,就陷入了低潮。

板凳坐得“三十年”冷

在之后的二十几年,虽然还是有一些研究人员坚持人工神经网络的研究,但整个学术界关于人工神经网络的研究基本都陷入了停滞,研究人员拿到不到相关的科研基金,与人工神经网络有关的优质论文发表量极少。连著名的学术会议NIPS(Advances in Neural Information Processing Systems,神经信息处理系统进展大会)都变成基本与神经网络无关的会议。

Geoffrey Hinton的学术生涯也像人工神经网络一样起起伏伏,所幸的是他一直没有放弃人工神经网络的研究。他们为实现自己的想法,定期聚集在一起召开研讨会,构建了更强大的深度学习算法,操作更大的数据集。

然而学术圈的依旧对神经网络的研究不感兴趣,他们的研究也很难申请到科研经费。学术圈的冷落其实不无理由,人工神经网络的很多成果,很难用数学予以解释或者证明,大家只是在不断调整参数,改善算法,以得到更好的结果。

事情的转机出现在2006年左右,Geoffrey Hilton和他的学生发明了用GPU来优化深度神经网络的工程方法,并发表在《Science》和相关期刊上发表了论文,首次提出了“深度信念网络”的概念。他给多层神经网络相关的学习方法赋予了一个新名词–“深度学习”。

深度学习之父的传奇人生

随后深度学习的研究大放异彩,广泛应用在了图像处理和语音识别领域。比如Geoffrey Hilton的学生就用深度学习算法赢得2012年的ImageNet。

互联网的巨头开始注意到他们,这个领域才开始火热起来,深度学习领域也涌现出以Hinton、吴恩达等为首的四大深度学(tiao)习(can)天王。

深度学习和人工智能的春天

离人工智能最近的IT互联网公司敏锐嗅到了这一机遇。从2011年开始,深度学习算法的成熟令人工智能技术实现飞跃,包括微软、苹果、谷歌、Facebook、国内BAT在内的企业都开始深度布局人工智能和深度学习,试图把握风口,成为下一个产业变革的巨擘。

相关文章推荐 相关标签:神经网络深度人工研究
    暂无相关文章
大家在看 换一换

精彩评论