AI，人类豢养的老虎，还是智慧之子？
当辛顿在上海人工智能大会上，把AI比作人类正在豢养的一只可爱的小老虎时，我想起了机器人先驱莫拉维克的名著《心灵的孩子：机器人与人类智能的未来》（Mind Children:The Future of Robot and Human Intelligence），他把人工智能看成是人类教养自己的智能后代，这甚至可能是一种人类文明的继承者。
一、人工智能，人类在养虎还是养子
辛顿与莫拉维克是同时代人，年长一岁。他们开始在人工智能领域取得成就时，1980年代前期与中期，AI主流仍是符号主义，强调规则、逻辑推理等。当时莫拉维克与布鲁克斯（Rodney Brooks）等人提出“新AI”（Nouvelle AI）主张具身机器人，更关注感知、行为和环境互动。同时，辛顿等人则复兴连接主义，以神经网络为核心架构，强调学习与适应能力。
这两位从欧洲移民到加拿大的当代AI先驱，都深入研究了数字智能与生物智能，即AI与大脑。他们都相信，智能可以脱离硬件而存在，如果不必然是人类大脑中的智能，而是人工智能的话；所以他们都相信人工智能会有一天超过人脑，成为超级智能。
有所不同的是，在辛顿那里，当小老虎长成大老虎时，它可能会吃人。在莫拉维克那里，超级智能是人类智慧之子，当它长大成人，它将继承人类的文明，人类自身，尤其是大脑也要适应这一转化，这是一个“和平演变”的过程。
我们可以读一下莫拉维克的这段文字，需要注意的是，他在1980年代末所展望的机器人超过人类智能的时间，即构建出普世通用机器人（Universal Robot），是在2030～2040年之间：
在未来半个世纪里，计算能力将持续增长，机器人也将逐步超越“爬行动物阶段”：它们将像哺乳动物那样学习、像灵长类动物那样构建对世界的模型，最终达到类人推理的能力。
那时，取决于你的视角，人类要么造出了一个真正值得的继任者，要么超越了自身的某些先天局限，从而将自己转化为一种全新的存在。
莫拉维克并非无视AI可能带来的风险，因为它会代替人类，但是莫拉维克更倾向于认为这是对人类的一种“温和的接管”，这是人类演化和自然选择的产物。
这也体现出莫拉维克与辛顿对于AI发展各自的侧重。莫拉维克推崇进化时间带来的感知/动作优化；强调机器模拟人脑需大量计算力与架构复制。而辛顿注重训练方法与神经结构设计，强调数据与算法的力量；更关注如何让AI学习而非进化。一个强调进化的时间，一个强调设计的空间。正因为如此，才产生了更著名的莫拉维克悖论。
二、莫拉维克悖论
在《心灵的孩子》中，莫拉维克有这样一段描述：
人类大脑中那些高度进化的感知与运动区域，承载着十亿年的生命记忆——关于这个世界的本质，关于如何在其中生存。我们称之为“推理”的那个刻意过程，我认为，不过是人类思维中最薄如蝉翼的一层表皮，之所以奏效，只因它依附在那一套更古老、更强大、却往往不为我们所察觉的感知-运动知识之上。
我们每个人，其实都是感知与动作领域里的奥运选手，强大到可以把复杂变得看似轻松。至于抽象思维，它是个新鲜的把戏，也许诞生还不满十万年——我们还未真正驯服它。它本身未必真的如此艰深；只是在我们运用它时，才显得如此艰难。
也就是说，人类作为一种生命体经过亿万年演化而来的感知与运动能力，已经强大到刻入人类的基因，每个人可以轻松地完成，而那些听起来高深的“推理”能力，不过是人类还没有真正驯服的能力，所以用起来才感到艰难。
这个悖论是莫拉维克与布鲁克斯和明斯基（Marvin Minsky）等人在1980年代提出的，长期以来成为对机器人和AI一种最真实的写照。与我们的直觉相反，人类的推理能力（即人类的高阶认知能力）其实只需非常少的计算资源，而感知-运动技能（在人类中被视为较低层次的能力）却需要极大的计算资源。
明斯基也强调：“最难以被逆向工程（模仿）的，是那些我们无意识中具备的人类技能。”
辛顿认为大模型理解语言的方式，与人类没有什么区别。而从物理世界出发，莫拉维克给出了一个进化论式的解释：我们应当预期，那些在人类进化史中存在得更久的认知技能，在AI中会更难被复现，因为进化过程对这些“古老技能”施加了更强的优化压力。而在生存压力之下能经历长期选择与优化的技能，正是感知与感知/运动技能。
这就是莫拉维克悖论的反直觉之处：我们人类物种史前进化打磨出来的，正是那些“低阶”技能，而且这些低技能的任务是由高度优化的算法栈（加上身体中的配套硬件）完成的，比如视觉任务依赖眼睛，听觉任务依赖耳朵，活动依赖四肢，这些系统共同支撑着人类行为背后的算法。这些人类祖先经历上百万年进化出来的生存技能，今天看起来是那么“四肢发达，头脑简单”。
人类进入文明阶段之后，那些语言文字能力、思考推理能力等发展起来了，但是因为时间较短，较容易进行“逆向工程”。而人类长期积累下来的、用以谋生存和生活的能力，潜藏在人类的无意识当中。
三、机器人莫拉维克悖论
莫拉维克是智能机器人的先驱，今天人们真正记住他的，正是莫拉维克悖论。当下具身智能和人形机器人火得一塌糊涂，但莫拉维克悖论，总是让人们清醒和谦卑一些。
最近较少在X上发言的Jim Fan，在看到了宇树机器人又拿出一套“广播体操”后，就用“莫拉维克悖论”说事了。他是英伟达的机器人总监和科学家，GEAR实验室的联合创始人，直接向黄仁勋汇报。大语言模型和推理AI之后，物理AI是黄仁勋最看重的一个新兴领域。他更看好中国的物理AI，宇树就是他最喜欢的中国人形机器人公司。
您目前设备暂不支持播放
视频展示的是宇树继H1和G1后第三款人形机器人R1
这种“机器人莫拉维克悖论”也让人产生一种错觉：仿佛物理智能已经非常先进了。其实并不是。我不是专门说某家厂商（比如宇树），这个现象几乎适用于所有近期炫技式的机器人表演。你可以做一个简单测试：在那个会侧空翻的机器人前面放一堵墙，它会直接撞上去，砸出一个好看的画面——因为它只是死记硬背了那一套运动轨迹，根本没有对周围环境的感知。
的确，我们看到的机器人健步如飞的视频，多数是经过无数次的跌倒失败，精心剪辑那些成功片段而成的，与它们实际上的表现大相径庭。在北京的机器人马拉松比赛上，人形机器人需要人类用遥控器形影不离控制，小步跑得跌跌撞撞，经常摔跤，有的都掉脑袋了。
这可能是目前人形机器人的常态，简单套路的娴熟程度会提升很快。不过问题在于，目前在炫技的人形机器人，可能与我们想像中能学会干活的人形机器人，还不是一个物种。
Jim Fan认为：“这个悖论存在的根本原因是：训练一个‘盲体操选手’远比训练一个‘会看、会操作’的机器人容易得多。前者可以完全在模拟器中训练完成，并直接零样本（zero-shot）部署到现实世界；而后者则要求极其真实的渲染、接触物理，以及现实世界中千奇百怪的物体动态——这些目前都没法在模拟器中还原得好。”
“会看会操作”的机器人，所需要的正是人类经过长期进化的感知和行动能力。我们看到的目前霸屏的机器人，并不具备感知能力，或者只具备非常初级的感知能力，它们只是执行预设轨迹的机器人，有些因为物理模拟的能力也日益强大，训练时不接触真实世界，也能直接在真实环境中执行任务。
不过宇树认为，在机器人学会干活之前，不是需要先掌握各种动作吗？先通过各种杂耍游戏让处于幼年期的人形机器人学会爬行、走路、跑步、翻跟头、手舞足蹈，不正是为以后让机器人学会干活做准备吗？
莫拉维克在前互联网时代做出了通用机器人的预言，他也用了超级人工智能（superman intelligence)这个词，甚至包括通用智能，如他在1987年发表了论文《移动机器人与通用智能》（Mobile Robots and General Intelligence）。莫拉维克面对的是真实的物理世界，而今天的所说的通用人工智能AGI，被OpenAI和Anthropic等公司和一些人定义为在数字空间和电脑屏幕上达到人类智能的水平。
Jim Fan认为：“机器人研究的本质极大地复杂化了设计空间。与LLM处理纯文本的‘比特世界’不同，机器人研究人员要面对的是混乱的‘原子世界’……没有‘触摸’、没有‘感知’、没有‘具身性’，就没有通用人工智能（AGI）。”
这似乎代表了英伟达的看法，包括对于AI给人类带来生存威胁的看法。《黄仁勋：英伟达之芯》记载了这么一段：黄仁勋对于辛顿的担忧不以为然，在他的影响下，辛顿的p(doom)=50%，即人工智能毁灭人类的机率为50%，已经下降到了10%~20%。
辛顿在WAIC的另外一场对话中谈到，在训练同一个AI时，可以同时用让它更聪明的技术和让它更善良的技术，这两种技术可以分别拿出来使用和分享。如果少数AI大国不想分享让AI聪明的技术，可以先分享让AI更善良的技术。也的确是一种非常好的愿望。
但是对于莫拉维克来说，人类最终可能已经没有能力操这个心了。智能机器人可能是人类文明的长子，“机器人拥有远超我们的智能……但它们会对我们抱有好奇，也能复制我们的文明”。
最后，回到明斯基的思路。也许，AI可能在进行一场人类进化的终级逆向工程，从这个角度理解，它是不是不可能对人类不好？
参考资料：
The Universal Robot，Hans Moravec
https://digiethics.org/en/2023/08/29/schmidhuber-kurzweil-and-moravec-artificial-intelligence-as-a-surrogate-religion/
https://epoch.ai/gradient-updates/movarec-s-paradox
https://www.wired.com/1995/10/moravec/?utm_source=chatgpt.com
本文来自微信公众号：未尽研究 （ID：Weijin_Research），作者：周健工
相关推荐
AI，人类豢养的老虎，还是智慧之子？
老虎基金最近也急着搞退出了
对话五条人AI MV主创：究竟是人带着AI飞，还是AI带着人类飞
AI将超越人类智慧总和，人类需启动四项文明工程，才能避免被AI控制
诺奖得主辛顿呼吁建立AI安全机构，称人类无法消除AI
诺贝尔奖得主George Smoot：AI意识觉醒，人类沦为机器奴隶，《西部世界》变成现实？
人类的考试，考验不了AI了
AI与人类的中线
马斯克预言，AI 行业将由缺硅变为缺电，中国将成最大赢家？
诺奖得主辛顿称人类无法消除AI，呼吁培育安全AI
网址: AI，人类豢养的老虎，还是智慧之子？ http://m.xishuta.com/newsview139461.html
