“AI教父”获诺奖之前，曾对AI说“后悔”
本文来自微信公众号：果壳 （ID：Guokr42），作者：见文末，编辑：Steed
2024年诺贝尔物理学奖让许多人惊呼——物理学不存在了！因为它颁给了约翰‧霍普菲尔德（John J.Hopfield）和杰弗里‧辛顿（Geoffrey E.Hinton），理由是他们为机器学习奠定了基础，为今天包括ChatGPT在内的人工智能铺平了道路。（戳科学解读）
虽然成就斐然，而且可以预期，必将深刻影响人类文明的未来，然而……会不会有那么一点不太“物理”啊？
难怪就连诺贝尔奖官X都发了一条试图往回找补——
霍普菲尔德，真正的物理学家
要说不够物理，获奖者约翰·霍普菲尔德可未必同意——他本人就是物理学出身，虽然跨界生物学和神经科学研究多年，但2006年还担任了美国物理学会的主席。
霍普菲尔德出生于1933年，爸妈都是物理学家，从小就在物理学的世界里长大。他喜欢拆解家中的物品，如电视机、收音机，甚至是他的自行车和模型飞机，来观察它们的工作原理。于是，他从小就建立起了一个意识：这个世界是可以理解的，你可以拆开任何的东西，理解各部分之间的关系，并通过做实验建立起定量的理解。
尽管他的父亲因为经济大萧条被迫改行，但这并未影响霍普菲尔德对物理学的热情。他在斯沃斯莫尔学院选择了物理学专业，并最终走上了科学研究的道路。
起初，霍普菲尔德对固体物理学感兴趣，并因此去了康奈尔读博士，毕业后又去了贝尔实验室，之后还在加州大学伯克利分校和普林斯顿大学工作。然而，据霍普菲尔德本人说，他在科学问题上的注意力持续时间相对较短，总是在寻找更有趣的问题。
后来他转向了生物物理学，之后又转向了生物动力学，还发表了两篇论文。在霍普菲尔德看来，物理学和生物化学的思路不一样：对于不会发生的事，生物化学基本不考虑；但物理学认为，大多数化学反应在室温下都是可能的。这种思维上的区别，让他能够以不同的角度看待生物学问题。也因为那两项研究，他离开了普林斯顿的物理学院，进入加州理工学院化学和生物学学院工作。
此时的霍普菲尔德已经40多岁了，但他还没进入最终让他获得诺奖的那个研究领域。
1977年，麻省理工的生物学教授弗朗西斯·奥托·施密特（Francis O.Schmitt）邀请他加入一个神经科学研究项目。霍普菲尔德不知道别人为什么推荐他，而且根据他自己所说，他当时在会议上讲了关于生物分子精确性的研究，在场40名不同领域的专家都没听懂——然而，他还是以物理学家的身份进入了这个研究项目。
然后他就对神经科学着迷了。
1979年，他开始研究简单网络中二元神经元的计算动力学。1982年，年近五旬的他发表论文，介绍了一种现在被称为霍普菲尔德网络的递归神经网络，这也是今天为他带来获得诺奖荣誉的研究。
今天，他获得了诺贝尔物理学奖，如今他91岁。
有趣的是，今天的另外一位获奖人，杰弗里‧辛顿，搞了一辈子神经网络，却没有一种网络被称为辛顿网络。霍普菲尔德一个搞物理的，反倒创造了用自己名字命名的霍普菲尔德网络——还真是造化弄人。
辛顿：家庭不允许我当学渣
辛顿家绝对是标准的书香门第。杰弗里的曾祖父，查尔斯·辛顿，娶了乔治·布尔的的女儿Mary Ellen——此布尔是英国著名数学家，提出了“布尔代数”。布尔的妻子Mary Ellen Boole是一位自学成才的数学家，帮助丈夫编纂了数学著作。
玛丽的叔叔乔治·埃弗勒斯，是著名探险家、地理学家，他的学生用“埃弗勒斯”给珠穆朗玛峰做了英文名（而埃弗勒斯本人表示反对）。玛丽的妹妹Ethel，更被中国人熟知的身份是《牛虻》的作者伏尼契夫人——伏尼契是她的夫姓。
曾祖父查尔斯本人也是数学家，同时创作科幻小说。
著名的《麦克白夫人》绿色戏服，是杰弗里·辛顿曾祖父的妹妹设计的
杰弗里的父亲是昆虫学家、皇家学会成员。杰弗里的堂姑是寒春（Joan Hinton）。寒春是物理学博士，曾参与曼哈顿计划，后与未婚夫阳早来到中国，从事农业相关工作。寒春的哥哥韩丁（William Hinton）也与中国有很深的渊源，著有《翻身——中国一个村庄的革命纪实》。
辛顿家的各种血亲姻亲里，还包括：查尔斯·霍顿，数学家，首次提出四维超正方体；塞巴斯蒂安·霍顿，户外攀爬架的发明者；露西·埃弗勒斯，第一位被选入皇家化学学会的女性……
书香门第，外加严厉的父母，令杰弗里从小就倍受压力。妈妈给他的童年教育是：做不成学者，就是个渣渣（Be an academic，or be a failure）。爸爸说：“你要是像我一样努力，等你到了我现在年纪的两倍时，估摸着能达到我现在的成就！”在彭博社的采访里，杰弗里说：“大概在7岁的时候，我就意识到一件事：我不读个博士是不行的。”
辛顿曾对AI说“后悔”
对于他亲自奠定了基础、如今正在飞速发展的AI，辛顿感到了“后悔”。
2023年5月离开谷歌后，辛顿终于能毫无顾忌地警示“AI的风险”了。而在10年之前，辛顿与两名学生创立了深度神经网络研究公司DNN-research，在ImageNet图像识别竞赛中取得了突破性成绩，从而引起了科技巨头们的注意。谷歌收购了该公司，辛顿随即加入，负责Google Brain的部分研究工作。
离开谷歌后，辛顿在多个场合表达了自己的担忧：
今年2月，在牛津大学Romanes讲座上，他说“如果数字超级智能真的想要控制世界，我们不太可能阻止它”；
他越是使用ChatGPT，越是感到不安，他说它的理解水平似乎代表了人工智能的一个新时代。当辛顿开始他的研究时，没人认为他所从事的方向会成功，即使开始成功，也没有人想到会这么快成功。所以辛顿既期待它在很多领域做出贡献，也担心技术由于发展太快会被滥用。
他担心AI可能会取代人类的工作，导致大量失业，尤其是在那些涉及例行任务的职位上，如律师助理、个人助理和翻译；辛顿认为AI创造的财富可能会加剧全球贫富差距，因为新增的财富可能会流向已经富有的人群，而不是穷人，等等。
辛顿曾在社交媒体上这样写道，毛毛虫吸取营养，而后化茧成蝶。人们已经提取了数十亿个理解的金块，而GPT-4就是人类的蝴蝶——很多人看到过这句话。
是辛顿开创的技术，导致了这种蜕变的发生，但按他现在的想法，蜕变还远没结束。辛顿在积极推动建设AI监管框架和建立AI安全共识，以免AI通向人类无法控制的未来。
不过，得知自己获得诺贝尔物理学奖之后，老爷子倒是没有再次表示“后悔”，而是顺手——取消了核磁共振检查。
鉴于老爷子的高龄，这边建议还是按时做完身体检查呢……
参考文献
[1]https://analyticsindiamag.com/intellectual-ai-discussions/geoffrey-hinton-its-all-in-the-family-tree/
[2]https://www.newyorker.com/magazine/2023/11/20/geoffrey-hinton-profile-ai
[3]https://www.britannica.com/biography/Geoffrey-Hinton
[4]John J.Hopfield.2014.Whatever Happened to Solid State Physics?Annual Review of Condensed Matter Physics.Vol.5:1-13.https://doi.org/10.1146/annurev-conmatphys-031113-133924
作者：麦麦，luna，沈知涵
编辑：Steed
明天下午，2024年诺贝尔奖还将公布化学奖。果壳依然会跟你一起等待诺奖的结果，并在第一时间发布最靠谱的诺奖解读。
相关推荐
“AI教父”获诺奖之前，曾对AI说“后悔”
刚刚，AI 教父获得诺贝尔物理学奖，曾表示后悔毕生工作，警告AI 取代人类可能比想象中快
百度曾1200万美元挖AI教父被拒，揭秘一场价值数亿的人才拍卖
都号称“诺奖风向标”，到底谁靠谱？诺奖魅力究竟何来？
AI复现诺奖研究，人类又压力山大了？
没有重复的诺奖，却永远有雷同的诺奖文章
今年“诺奖风向标”揭晓，DeepMind创始人获奖
“人工智能教父”从谷歌离职，只为给人类敲响警钟？
AI教父Hinton 46分钟对谈：AI可复制人类心智，或加剧全球贫富差距
当「中国AI新教父」拿起韭菜镰刀
网址: “AI教父”获诺奖之前，曾对AI说“后悔” http://m.xishuta.com/newsview126351.html
