AI教父辛顿与神经网络:从怀疑到警告,深度学习的开拓者2024年诺贝尔物理学奖授予了约翰·J·霍普菲尔德 (John J. Hopfield) 和图灵奖得主、AI教父杰弗里·辛顿 (Geoffrey E. Hinton),以表彰他们利用人工神经网络进行机器学习的奠基性发现和发明。辛顿在接受电话采访时表示,他对此感到惊讶,完全没有预料到
AI教父辛顿与神经网络:从怀疑到警告,深度学习的开拓者
2024年诺贝尔物理学奖授予了约翰·J·霍普菲尔德 (John J. Hopfield) 和图灵奖得主、AI教父杰弗里·辛顿 (Geoffrey E. Hinton),以表彰他们利用人工神经网络进行机器学习的奠基性发现和发明。辛顿在接受电话采访时表示,他对此感到惊讶,完全没有预料到。
约翰·J·霍普菲尔德 (John J. Hopfield) 于 1933 年出生于美国伊利诺伊州芝加哥。他于 1954 年获得斯沃斯莫尔学院学士学位,1958 年获得康奈尔大学物理学博士学位。他在贝尔实验室理论组工作了两年,之后在加州大学伯克利分校、普林斯顿大学、加州理工学院和普林斯顿大学任教,现为霍华德·普莱尔分子生物学名誉教授。他与贝尔实验室保持了 35 年的密切联系,并在 1986 年成为加州理工学院计算与神经系统博士项目的创始人之一。
霍普菲尔德的学术成果主要集中在凝聚态物理学和神经科学领域,其中最具影响力的论文包括:描述极化子的 "The Contribution of Excitons to the Complex Dielectric Constant of Crystals"(1958 年);描述长程电子转移量子力学的 "Electron transfer between biological molecules by thermally activated tunneling"(1974 年);"Kinetic Proofreading: A New Mechanism for Reducing Errors in Biosynthetic Processes"(1974 年);"Neural Networks and Physical Systems with Emergent Collective Computational Abilities"(1982 年)(被称为 Hopfield 网络),以及与 D. W. Tank 合著的 "Neural Computation of Decisions in Optimization Problems"(1985 年)。他目前的研究和近期发表的出版物主要集中在理解神经元动作电位的时间和同步性如何在神经生物学计算中发挥作用。
杰弗里·辛顿 (Geoffrey E. Hinton),英国出生的加拿大计算机科学家和心理学家,多伦多大学教授,以其在类神经网络方面的贡献闻名。他是反向传播算法和对比散度算法 (Contrastive Divergence) 的发明人之一,也是深度学习的积极推动者,被誉为 "深度学习教父"。辛顿因其在深度学习方面的贡献,与约书亚·本希奥 (Yoshua Bengio) 和杨立昆 (Yann LeCun) 一起获得了 2018 年的图灵奖。
辛顿是一位传奇人物,他的家族背景也同样引人注目。他的 "玄祖父" 乔治·布尔 (George Boole,1815 年 - 1864 年) 是一位著名的数学家,布尔代数和布尔逻辑就是以他的名字命名。布尔的夫人玛丽是一位女权主义哲学家,也是自学成才的数学爱好者,特别喜欢代数。玛丽夫人的娘家姓氏 (Everest) 也出了好几位科学名人,实际上,Everest 是西方对珠穆朗玛峰的称呼,这来源于玛丽的叔叔乔治·埃佛勒斯 (George Everest),他勘察印度时发现了这座山,珠穆朗玛峰便以他的名字命名。杰弗里·辛顿的中间名便取为 Everest,即珠穆朗玛峰的英文名。
布尔和玛丽育有五个女儿,她们以及她们的配偶和后代都取得了非凡的成就。布尔女儿中的老大和老小都与中国有渊源。布尔的大女儿玛丽嫁给了数学家和作家查理斯·辛顿,生了四个儿子。其中小儿子的孙辈中,韩丁是“中国人民的好朋友”,写了一本有关中国土地改革的长篇作品《翻身》。韩丁的妹妹寒春是参与了曼哈顿计划的女核物理学家,她的丈夫阳早是美国养牛专家,夫妻俩长年定居中国。布尔的第五个女儿,艾捷尔·丽莲·伏尼契,为中国人所熟悉是因为她是《牛虻》一书的作者。
辛顿的父亲是剑桥大学教授,是著名的昆虫学家,研究甲虫的权威。辛顿和他的三个兄弟姐妹在一所充满动物的大房子里长大,父亲还曾经将毒蛇关在车库的坑里。辛顿的父亲是一个严厉的人,自视甚高,似乎认为儿子永远无法攀登自己的顶峰。
辛顿的求学生涯并不总是顺利,他高中时进入了他口中的 “二流公立学校”,克里夫顿学院。然而,辛顿在那里遇到了一位十分聪明的同学,这位朋友对他说:“你知道吗?大脑的记忆并不是储存在某个特定的地方,而是分布在整个大脑,在整个神经网络里传播。”,朋友又解释道:“大脑使用全息图,在全息图中,你可以砍掉一半,但你仍然可以获得整个图片,所以……”朋友的话使辛顿兴奋,也正是从这个时候起,辛顿开始对大脑的运作深深着迷。
18 岁的辛顿进入剑桥大学国王学院学习物理、化学和数学,但于一个月后就退学了。他尝试过各种学科,包括建筑学、哲学、物理和生理学,但最终都没有坚持下来。最终,他于 1970 年获得了实验心理学学士学位,之后放弃了剑桥大学,成为了一名木匠。他一边做书架、木门,一边思考人类大脑的运作原理,自认为这是他喜欢的生活方式。
一年多之后,辛顿又有了新的想法,他决定回归学术界,并尝试一个新方向:人工智能。1972 年,他进入苏格兰爱丁堡大学攻读博士学位,在那里,他遇到了一位研究神经网络的教授希金斯 (Christopher Higgins)。然而,就在他开始追求这个目标时,希金斯教授改变了他的学术初衷,转向了 AI 的符号主义一边,认为联结主义的神经网络是无稽之谈。
20 世纪 70 年代末,在加利福尼亚州,圣地亚哥有一个团体,特别是 David Rumelhart 等,他们认为神经网络非常有趣。1986 年,辛顿与 David Rumelhart 和 Ronald Williams 共同发表了一篇题为 “通过反向传播误差来学习” (Learning representations by back-propagating errors) 的论文。他们将反向传播算法应用于多层神经网络并证明了这种方法对机器学习行之有效,他们的论文也证明了,神经网络中的多个隐藏层可以学习任何函数,从而解决了闵斯基等书中提出的单层感知机存在的问题。同一时期,辛顿与 David Ackley 和 Terry Sejnowski 共同发明了玻尔兹曼机。
辛顿在匹兹堡的卡内基梅隆大学找到了一份工作,但他对里根领导下的美国外交政策,特别是对中美洲的干涉越来越感到不安。他和他的妻子罗斯收养了来自南美的一男一女,但却不太喜欢在美国抚养他们。另外,美国的大多数人工智能研究都是由国防部资助的,这也让辛顿不满意,因此他接受了加拿大高级研究所的邀请,以及多伦多大学计算机科学领域的职位,并在加拿大启动了 “机器和大脑学习” 项目。
辛顿 1986 年有关反向传播算法和波尔兹曼机的两篇重要文章,未能抵挡住 "人工智能的寒冬",看似反响不大。然而,辛顿在加拿大多伦多大学获得了一个稳定的职位以及还算充裕的支持神经网络的研究经费,这使他能够在这个冷门领域里坚持耕耘三十余年无怨无悔。随着时间的推移,一些深度学习的信徒们被辛顿所吸引,他培养了不少学生,学生又有 student,加上博士后及合作者,研究神经网络深度学习的人才济济群星闪烁,尽管寒冬期间工作机会少,资金仍然稀缺,但研究者们兴趣盎然,他们凭借自身的信念,排除嘈杂的干扰而自得其乐,江湖貌似平静但暗流涌动,为人工智能春天之到来做好了准备。
辛顿长久的在这个冷门的领域耕耘,最终迎来了春天,不但为他赢得了 2018 年的图灵奖,也为人工智能领域带来了革命性的突破。然而,这位 AI 大神却退缩了,他对教会它学习的机器产生了怀疑,甚至愤怒。他担心他毕生的工作可能导致人类的终结,他认为他的最终使命是警告世界!
辛顿的经历以及他对于人工智能的警示,提醒我们,技术的发展需要与伦理和社会责任同步。在享受人工智能带来的便利和进步的同时,我们也要思考如何避免人工智能的负面影响,确保它能够真正服务于人类福祉。
声明:本文内容来源自网络,文字、图片等素材版权属于原作者,平台转载素材出于传递更多信息,文章内容仅供参考与学习,切勿作为商业目的使用。如果侵害了您的合法权益,请您及时与我们联系,我们会在第一时间进行处理!我们尊重版权,也致力于保护版权,站搜网感谢您的分享!(Email:[email protected])