杰弗里·辛顿(Geoffrey Hinton)
人物简介
杰弗里·埃弗里斯特·辛顿(1947年12月6日-),英国裔加拿大计算机科学家和心理学家,深度学习领域的先驱,被称为”深度学习之父”,2018年图灵奖得主。他反向传播算法的改进者,深度置信网络的发明者,为深度学习的复兴和发展做出了奠基性贡献。
教育背景
- 1970年:毕业于剑桥大学,获得实验心理学学士学位。
- 1978年:获得爱丁堡大学人工智能博士学位,博士论文研究的是神经网络的联想记忆。
职业生涯与贡献
辛顿的职业生涯大部分时间都在研究神经网络,即使在神经网络研究的低谷期也始终坚持:
- 1986年:与大卫·鲁梅尔哈特、罗纳德·威廉姆斯合作发表了《通过反向传播误差学习表示》的论文,提出了反向传播算法的改进版本,解决了多层神经网络的训练问题,为深度学习的发展奠定了基础。
- 2006年:与鲁斯兰·萨拉赫丁诺夫合作发表了《深度置信网络的快速学习算法》,提出了深度置信网络(DBN)和逐层预训练方法,解决了深层神经网络训练困难的问题,正式开启了深度学习革命,”深度学习”这个概念也由此普及。
- 2012年:他的学生亚历克斯·克里泽夫斯基(Alex Krizhevsky)使用卷积神经网络AlexNet在ImageNet图像分类比赛中以巨大优势夺冠,证明了深度学习的强大能力,引发了深度学习的爆发式发展。
- 2013年:谷歌收购了他创立的DNNresearch公司,辛顿加入谷歌大脑,继续深度学习研究。
- 2018年:与杨立昆(Yann LeCun)、约书亚·本吉奥(Yoshua Bengio)共同获得图灵奖,以表彰他们在深度学习领域的开创性贡献,三人被合称为”深度学习三巨头”。
核心贡献
- 反向传播算法:改进了反向传播算法,使其能够有效训练多层神经网络,这是深度学习最核心的训练算法。
- 深度学习复兴:在神经网络研究低谷期坚持研究,2006年的突破性工作让深度学习重新回到人们的视野,开启了深度学习的新时代。
- 人才培养:培养了一大批深度学习领域的优秀学者,包括AlexNet的作者Alex Krizhevsky、强化学习大牛Richard Sutton等,他的学生和追随者遍布全球AI领域。
- 理念传播:不遗余力地推广深度学习理念,让学术界和工业界认识到神经网络的巨大潜力。
主要观点
- 类脑计算:辛顿坚信人工智能应该借鉴人类大脑的工作原理,他的很多研究都受到神经科学的启发。
- AI风险担忧:近年来辛顿多次表达对AI发展风险的担忧,认为超级人工智能可能会对人类构成威胁,呼吁加强AI监管。2023年他从谷歌辞职,以便能够自由地谈论AI的风险。
- 反对AI军事化:公开反对将AI技术用于军事目的,尤其是致命性自主武器系统。
荣誉与奖项
- 2018年ACM图灵奖
- 加拿大勋章
- 英国皇家学会院士
- 美国国家工程院外籍院士
- 美国国家科学院外籍院士
- 加拿大皇家学会院士
- 多项国际学术奖项和荣誉博士学位
趣闻轶事
- 辛顿是逻辑学家乔治·布尔(布尔代数的发明者)的玄孙,数学家和作家查尔斯·霍华德·辛顿的曾孙,家族有着深厚的学术传统。
- 他患有红绿色盲,而且是近视,这让他对人类视觉系统的工作原理产生了浓厚兴趣。
- 他被称为”神经网络的教父”,在深度学习领域德高望重,受到所有AI研究者的尊敬。