诺贝尔奖得主George Smoot：AI意识觉醒，人类沦为机器奴隶，《西部世界》变成现实？
编者按：本文来源于微信公众号“造就”（ID：xingshu100），翻译 一成，编辑 陈溪、田晓娜，36氪经授权发布。
校对 | Lily；视频 | Eddie；版面 | 田晓娜
从机器出现的那一天起，人类就开始思考自己和机器的关系，并在影视作品中体现了这种思考。
电影《终结者》中，AI是人类的终极敌人，要将人类赶尽杀绝；
《终结者》中的猎杀机器人
《黑客帝国》中，AI将人类饲养起来，控制了整个世界；
被AI豢养的人类
美剧《西部世界》中，游客更是被机器人杀死，所有想逃离乐园的人都被锁定，机器人开始了他们的觉醒和反抗之路。
AI反抗人类
AI似乎是影视作品中永恒的反派。
现实当然并非如此。
随着科技的迅猛发展，人类正与AI形成合作机制。机器将人类从繁琐的重复性工作中解放出来，效率被大幅提升、错误率和成本则大幅下降。
然而，许多人对于AI的未来仍有许多困惑与警惕。
人类和AI的关系到底会走向何方？
未来是人类控制AI，还是AI反过来控制人类？
人和机器之间，是否需要建立信任？
终有一天，AI会比人类更聪明、更高效。当这一天到来时，人类该怎么办？
带着这些疑问，造就采访了2006年度诺贝尔物理学奖得主、爱因斯坦奖获得者、被誉为“宇宙胚胎学之父”的乔治·斯穆特。
斯穆特说，AI将重新定义“人何以为人”
（采访视频可点击原文链接观看）
造就：未来，人类和AI的关系是怎样的？是协作，还是冲突？
斯穆特：这个问题很有趣。现在人类开始和AI合作共同完成工作。去年，AI和人类工作的比例是2:8，相比数字化的程度而言，这已经是不小的成就了，而更高层次的应用需要在实践中判断。
未来两年，我们预计AI和人类工作的比例将达到4:6，四年后，AI的工作比例将进一步提高。工作比例的变化将改变我们的工作方式。
现阶段，我们正在形成和AI的合作机制。长期而言，AI将重新定义“人何以为人”。人类将不再被所从事的工作所定义，他们将会被社交活动和生活中充满创造性的事情所定义。
短期来看，AI与人类是合作；未来十年，AI会取代大部分人力和工作岗位。人类让AI来运营社会经济和文化生活，人类只要坐享其成就可以了。
AI取代人类的工作
我们将看到的不仅仅是AI能够以成本更低、更高效、更专注、全时段的方式做人类的工作，同时，AI可以让人类的工作更安全。
我举一个自动驾驶汽车的例子：自动驾驶已经被证明，它的安全度比人类驾驶员高出一到两个数量级。未来，人类将不再开车。因为与人工智能司机相比，人类司机对其他人构成了威胁。
我们对AI有很多需求，我们需要机器人做外科手术、需要自动驾驶的汽车……所有这些都将使世界变得更安全、更有效率、成本更低。城市里将不再有那么多汽车，你只要呼叫滴滴，它会开车过来接你，自动驾驶的汽车可以带你去你想去的地方。
AI在手术中的应用
所有这些都是有益的，但也打乱了现有的社会节奏。因为我们享受的这些便利曾是其他人类提供的，这是他们的工作。而现在，他们将不得不去做其他的工作来负担自己的生活。
我认为，技术的进步可以给人类带来诸多改变：我们可以以简单和低成本的方式进行基因改造；我们可以提升人类抵御疾病的能力，变得更聪明、更漂亮，拥有更好的体力。我们可以做很多事情。
与此同时，我们也需要与AI在很多方面进行竞争，人类面临着许多挑战。其一，是人类的伦理道德；其二，是人类和机器互动中的伦理。我们如何去处理这些问题呢？
我们希望，我们设计和培训出的机器是友善的，是善于与人沟通的。世界上的AI会越来越多，人类要做的也必须是表现友善。人和机器必须以小组的形式合作，这意味着建立信任是至关重要的。
建立人类和AI之间的信任
建立信任的方式，就是表现友善。让机器和机器，机器和人之间变得友善。
造就：在未来，是人控制AI，还是AI控制人？
斯穆特：现在，人工智能的主要驱动因素，是它们能让人类做一些自己不能做的事情，它们也能让人类制造成本更低的产品，在生产环节或工作岗位上节省开支。但伦理问题远未被考虑清楚。
人工智能的崛起要比人类自身文明的进步快得多，这就意味着我们需要关注伦理问题。比如和AI互动意味着什么？人们不再做那些日常工作，AI取而代之，而AI会比人类更聪明、更高效。我们如何处理这种情况？这是一项艰巨的任务。
现在，人工智能机器学习的来源是人类的行为。它们模仿人类进行学习。我相信，如果你的目标是制造出比人类更人性化的人工智能，那么，你可以实现目标。
你可以让它们看所有的电影来了解人性，读所有的书，听所有的电话交谈……它们可以观察人类的所作所为，进而模仿人类的行为。它们可以模仿得惟妙惟肖，却把人类的优点和缺点都模仿到了。
AI的学习和模仿
既然人工智能是从人类提供的例子中学习，如果人类有不好的特征也一样会被学习。除非，它足够聪明，能够在海量内容中剔除不好的特征，只保留好的特征。
所以，问题的关键在于AI学习的是什么。AI最终控制了一切，尽管人们可能认为控制权在自己手中，但实际上AI才是控制者。人类要教AI友善，做正确的事。
人类期望，人工智能的到来使生活变得更好。同时，AI要向更重要、更强大的方向发展。AI将成为我们生活中必不可少的一部分。
造就：AI距离拥有自我意识还有多远？
斯穆特：这个问题不那么好回答，除非对意识有一个明确的定义。
我认为，未来有一天，人们会和AI系统互动。AI系统会有个性、有感情，能判断对错，并以人们描述的方式表现出它们的意识所在，人们会向它们描述出所需要的各种各样的动机。
即使在技术上，这不会导致AI拥有意识，但人们会接受AI这个完全智能的系统，人们会认为它们和人类相差无几。
电影《机器人总动员》中的一幕
相关推荐
诺贝尔奖得主George Smoot：AI意识觉醒，人类沦为机器奴隶，《西部世界》变成现实？
《西部世界》第三季开播，机器人会比人类更有人性吗？
粒子机器人，能否敲开机器意识觉醒之门？
观察+ | 模式创新走入狭路，“硬科技+人文”是创新新风口
《西部世界》确实是神剧，如果只拍第一季的话
机器学习圣杯：图灵奖得主Bengio和LeCun称自监督学习可使AI达到人类智力水平
“不差钱”的诺贝尔经济学奖得主，什么来头？
从《西部世界》到《开发者》：物理学家为你解答剧中提出的“自由意志论”
专访图灵奖得主Yoshua Bengio：AI能否有“意”为之？
马斯克坚信的“矩阵模拟”，是一种怎样“烧脑”的存在？
网址: 诺贝尔奖得主George Smoot：AI意识觉醒，人类沦为机器奴隶，《西部世界》变成现实？ http://m.xishuta.com/newsview13179.html
