专访OpenAI前科学家：无证据表明Sora、ChatGPT没有意识
文生视频是洪水猛兽吗？在Sora问世半个月后，这个议题余温仍在。
居里夫人曾表示：“世界上没有恐惧的事物，只有尚未被认识的事物。知之越深，畏之越浅。”
两位前OpenAI的人工智能科学家也认为无需畏惧Sora：“就像你如果是一位画家，但你发明不出画布。Sora就是那张画布，它被发明了出来，你的才华反而能被显现出来。唾手可得的技术可以帮你把想法叠加起来，但它并不会代替你创造出全新的想法。”
这两位科学家就是肯尼斯·斯坦利（Kenneth Stanley，简称“肯尼斯”)和乔尔·雷曼（Joel Lehman，简称“乔尔”），两位也是《为什么伟大不能被计划》这本关于创新方法论的书的作者。在加入OpenAI之前，二人还都曾在Uber AI实验室工作。
AI激变之际，《中国企业家》与两位科学家探讨了AI于普通人创新而言的危与机，颠覆性AI技术的孵化环境，以及人们应如何警惕被AI掌控的“终结者”时代。
在肯尼斯的观点中，AI文生视频时代，由于生成视频的技术门槛大幅度降低，视频数量会激增，因此，关于内容“有趣”的标准会提升，对内容生产者的创新性会有更高的要求：“比如，当Sora可以根据命令自行编辑视频的内容时，那些非常基础的工程师与艺术家就会被取代。”
普通人如何在AIGC时代提升自己的创新力？二人在采访与书中都提到，最关键的是人们要把生活中的部分时间用来做“新奇探索”——忽视宏大的目标、只研究感兴趣的内容，对事物保持开放、敏感，这样就可能带来无心插柳柳成荫的成果。
苹果创始人史蒂夫·乔布斯一直都站在艺术与科技的交叉点上——他热爱音乐、研习书法、喜欢包豪斯设计风格，也热爱计算机。所以iPod、MacBook与iPhone系列，才能以跨界的思维和简约的风格在科技产品中取胜。
而谈到ChatGPT和Sora为何能在谷歌、Meta、亚马逊等一众硅谷巨头的AI军备竞赛中胜出，肯尼斯和乔尔给出了巨头的两个创新壁垒：一、决策链条冗长；二、缺乏颠覆性研究和巨额投资的勇气。
在他们看来，抢占了基础设施先机的OpenAI，在下一轮AI的颠覆式变革中仍有很大的几率胜出。但想要再次研发出占据行业优势的新产品，对OpenAI而言也存在着“革自己命”的挑战。
对于更远的未来，AI可能产生的社会与伦理问题，肯尼斯和乔尔倒是有一些忧心。
在他们看来，随着社会变得更加人工智能化，地球上的财富分配可能会更加不均，造成阶层分化加剧。但也不排除在生产力的大规模提升之下，可能筑就一个完全相反的乌托邦世界。
尽管二人都认为自主意识AI在近期内还不会生成，但他们担忧这会是AI发展的终极形态。在肯尼斯看来，问题不仅在于未来AI产生了自我意识该如何解决，还在于当下它们是否已具有了自主意识萌芽。“没有证据表明ChatGPT和Sora具有意识，但同时也没有已知证据表明它们没有，我们甚至不知道证据是什么。”
在可能走向“失控”的背景之下，AI究竟应该走“有效加速主义者”（即包括阿尔特曼在内的AI发展激进派），还是走“超级爱对齐主义者”（AI研发速度放缓派）的路径？这是一个值得叩问的话题。
以下为《中国企业家》与肯尼斯、乔尔的对话实录（有删节）：
《中国企业家》：你们对Sora的初印象是怎样的？在你们看来，Sora的到来是否意味着一场AI领域的颠覆性技术革命？
乔尔：在某种意义上，这不应该令人惊讶，因为这就是OpenAI的速度。同时，高分辨率的视频纹理非常逼真，被渲染得非常准确，它们有趣而惊人。
我认为它们将开辟许多可能性。一旦有了强大的理解力和视频的生成能力，以前AI在很多地方遇到的困境现在都可以解决。如今，视频的创新力可以更好地被发挥出来。
肯尼斯：OpenAI的技术成果的令人惊喜之处，在于每一次都发生得如此之快，表明它有比我意识到的更强大的算力。但是也正因为技术进步太快，它并不像一些普遍评价看来的那样完美。
我认为这在AI内部并不具有颠覆性，因为它实际上只是一段时间以来研究成果的延续。但对于其他行业可能会是颠覆性的，尤其是那些涉及到视频商用的领域。
我认为随着Sora的迭代，比如根据命令自行编辑视频的部分内容，那些非常基础的工程师和艺术家的工作开始会被取代。这项技术可能会带来一些有趣的颠覆。
《中国企业家》：对平台YouTube和TikTok来说，Sora的出现会不会是一种颠覆？OpenAI最近在TikTok上创建了一个账号，未来OpenAI与TikTok的关系会是怎样的？
乔尔：这是一个有趣而复杂的问题，我已经开始想象TikTok上充满Sora制作视频的画面了。不过，Sora可以运用于很多平台，OpenAI和TikTok、YouTube是维度非常不同的公司。因此，很难说未来他们之间会构成怎样的竞争关系。
比如，如果你创建了一个YouTube视频，你想要吸引很多人看，唾手可得的技术可以帮你更快把想法叠加起来，但是它不会帮你创造出全新的想法。
肯尼斯：我不认为它会产生巨大的破坏性影响，这只是TikTok平台生存模式的延续。因为人们一直在尝试寻找一些新的工具软件来升级视频。在这之前，我们用各种软件来剪辑视频，只不过现在，我们显然是在从文本中生成原始视频。
如今，如果我们能够通过Sora生成独家的视频，使得视频变得更有趣，在用户看来更具有新鲜度，那整个视频生态系统的确会发生根本性的改变，但那是积极的改变。
《中国企业家》：普通人应该如何抓住AIGC时代的机遇？
肯尼斯：我觉得AIGC赋予普通人的权利很多，它让普通人创作视频成为可能。AIGC时代创作出了一种新的表达工具。就像你如果是一位画家，但你发明不出纸张，有人发明出来了，你的才华就能够被展现。所以我认为AIGC会很有用。如果你还不是AI方面的专家，那就想想你有什么创造性的倾向。
OpenAI的文生视频截图。来源：X社交平台截图
在AIGC时代，被认为是“有趣”的标准会提高，因为产生新视频的门槛大幅度降低了。想要创造大量的垃圾的、无趣的内容肯定会非常容易。对于一般人来说，视频制作、编程不再需要那么多技术能力，因为AIGC可以帮你实现，但你仍需要深刻的洞见和新奇的想法，才能更好地发挥你的创造性。
创新的诞生土壤
《中国企业家》：从企业角度来看，目前最先进的AI技术来自于OpenAI，而不是硅谷大公司的原因是什么？是否因为大公司业务众多，更容易停留在原有业务的舒适区，或者更长的决策链条？
乔尔：我觉得可能是大公司对于创新不像初创性公司那么渴望，而OpenAI从最初就打算把AI的算力扩充，后续就是不断在最初的计划上翻倍。OpenAI有独特的眼光和一流的人才。
另外，以我在不同规模的公司的经验来看，更大的机构更官僚，决策时间更长，对个人的信任会减少，对程序的信任会增加。
肯尼斯：这可能与他们规模小的事实确实有关。但你也要记住，还有很多其他的初创公司也没能研发出ChatGPT和Sora，所以这里的样本量很小。也许只是因为他们有独特的文化或者个人。
我认为其中一部分是勇气，必须有人说，让我们花数百万美元做一些我们不知道结果如何的事情吧。就像刚开始训练大模型，它非常昂贵，而且可能结果很糟糕。但是当他们训练出基于GPT-2的ChatGPT时，他们就愿意从一点点变化中相信AI训练的规模化能够带来质的改变。这种笃信需要非常大的勇气。
《中国企业家》：你认为下一个颠覆性的AIGC产品仍然会出现在OpenAI之类的初创公司，还是互联网大公司？
肯尼斯：接下来我们应该会在OpenAI看到一些令人欣喜的研究进展，我觉得目前一定不是他们发展的终极形态。他们应该会在这个领域领先一阵子。
但是在这之后，他们是否能持续领先会非常难说。因为曾经的革命者创造出来的新鲜事物，会逐渐变得稀松平常。对他们来说，比起其他人，可能更难重新去创造具有革命性的新技术。
OpenAI必须革自己的命。
《中国企业家》：在二位看来，乔布斯到马斯克，当代互联网科技领域的创新者、变革者，身上有哪些个性、喜好上的共同特征？
肯尼斯：说他们的一个共同特征可能是创造力。比起人的共性，我更喜欢从做事规律的角度去总结。当你喜欢一个事物，却不害怕去尝试，这是能够实现创造力的一种配方。这在我们的书中有所涉及。
很多新奇的点子实际上都是近在咫尺的，但不被很多人察觉到。实际上我认为就像iPod之后的iPhone一样，他们有某种用户友好的共性。但这显然不是CD机到随身听的升级，而是从音乐播放器到手机的跨度。
创新人士大都能看到未来的发展趋向，虽然在时点掌握方面可能没那么准确。比如马斯克可能对自动驾驶技术实现的时间预估存在偏差，他当时觉得2017、2018年就能彻底实现，但他的确看到了这个方向。
乔尔：他们的特质就是开放、敏感。作为一个企业家在科技领域创新，即使没有按照他们想要的方式发展，他们也会对他人的反馈和解读很敏感，对一些建议很开放，也许最终会达到意想不到的结果。
《中国企业家》：你们来过中国吗？和中国企业家、科研工作者有哪些接触？他们和美国同侪有哪些异同？
肯尼斯：我去北京参加过会议。我认为很难概括，因为我对中国的创业了解不多。
如果我试着概括一下，我认为美国的企业生态系统可能更多样化，美国企业家对盈利计划、营收计划更模糊。
在中国，至少从历史上看，人们更倾向于采用传统的方法。你需要有一个商业计划和商业模式来理解你将如何赚钱。这种方法可能在美国也不是最常见的方法。所以在中国，打破常规相对会比较难。
乔尔：我去澳门参加过会议，那是个很有趣的地方。
我与比较多的中国科研工作者有过接触，我在中国科学家身上看到了一种超级强烈的职业道德。有时候，想要跳出思维定式是很困难的。
永远保持好奇心
《中国企业家》：书中提到了比较多创新的偶然性，你们如何看待一些科学家在晚上做梦时得到灵感，解决了创新性难题？比如苯环的发现者在梦中构想出了结构。
肯尼斯：我觉得这不是一个随机发生的过程。从某种意义上说，它确实与工作有关，就像踏脚石（书中提到的以兴趣为导向搜集的各种“宝物”）的集合，即使你不知道你要去哪里，踏脚石是可以引导别人去你要去的地方，它们很有趣。如果你收集了一些“收藏家”（科研工作者）发现的有趣想法，就相当于踩上了一块踏脚石，在某个时候，合成的成分就在那里了。
梦是一种不同的整合思想的方式。这很有可能发生在有准备的人身上，他们原本就具有解开答案的这种能力，只不过在梦境状态中体现了出来。
《中国企业家》：在你们看来，离创新型发明较近时，是否也会出现相应的奇点时刻？研究人员和普通人如何去找到实现梦想的“踏脚石”？
乔尔：还要再次强调，你要对有趣的想法保持敏感。
比如你有必须要做的事情，像找一份工作，赚很多钱，然后结婚。所以你大部分的注意力都集中在目标上，就没有兴趣空间。可事实上你可能会在这过程中发现一些很有趣的东西，但你会质疑这无法引导你实现目标，于是兴趣就会渐渐离你而去，因为你不给它机会。
《中国企业家》：在“新奇性搜索”时，研究者是否会遇到投入过多时间、资金，却又无法实现创新的情况？
肯尼斯：重要的是要承认追求兴趣涉及的风险，而且可能不会有回报。所以我们这本书并不是在介绍一种成功秘籍。从实践层面上来说，就是不要把鸡蛋放在一个篮子里。否则就养活不了家人。
乔尔：我认为这并不完全矛盾，即使你因为需要稳定与安全感而做着一份工作，也可以对其他的事物保持开放、好奇的态度。
这个世界是如此复杂和有趣，本质上就是这样。我认为总有一些兴趣的因素可以引导我们实现梦想，甚至在大多数情况下，我们能在工作中发现意义和兴趣，这不完全是零和游戏。总的来说，就是对快速奔流和无限复杂的时代保持好奇心。
AI的社会与伦理挑战
《中国企业家》：你们觉得人类该如何面对创新科技带来的很多伦理问题？比如是否会因为大多数人失业，从而导致未来阶层分化加剧？
乔尔：我确实认为这种分层已经恶化了。所以它需要很多人知道AI的未来会如何发展。如果这个世界变得越来越自动化，那财富可能集中在更少的人手中，这的确令人担忧。
但有一种乐观主义想法认为，未来我们可能生活在一种乌托邦的时代，那时候我们在AI技术非常发达的情况下，平等、自由地做最人性化的事情，而不是受AI操控。
肯尼斯：我非常担心你所描述的极端不平等分配，这真的是一个非常严峻的问题。我认为从长远来看，在新的社会结构中，拥有技术的人需要一定程度决定如何无私地使用AI。
不过阶层是永远会存在的，并且有着一定的合理性。就像我们从历史上看到的，当领导者把工作环境创造成完全的利他主义，技术人员工作得反而不会那么好。
事实上我不太确定未来我们该怎么做，因为这会是一个前所未有的社会结构，与此前所有政府面临的都不同。
《中国企业家》：在你们看来，AGI什么时候会确切地到来？
乔尔：很难确切地想到它什么时候会到来，因为它与所有这些关于当前范式的问题纠缠在一起。当前的模型存在局限性，这得基于能否克服更多数据上的难题。如果说是那种超人类的程度，我觉得这会变得更难回答。但如果是一般意义上的AGI，我觉得大概在5~10年内。
肯尼斯：我们应该系统地看待这个问题。如今，AGI已经在不断地重新定义，和多年前相比，人们对通用智能有了成倍的预期。如果10年前，你跟我说可以和ChatGPT互动，我会非常惊讶，甚至可以加上图片和声音。
如果说AGI只是在当下的发展上提升数据与规模，那我们一直在走上坡。但不确定的是，AGI也有可能需要基于AIGC领域全新的模型。
至于具体多久，我们可以放在更广的时间轴去思考。比如你会知道下一个爱因斯坦何时诞生吗？我无法告诉你什么时候会实现。该发生的自然会发生，5年到50年都有可能。
《中国企业家》：你们觉得电影《终结者》中，人类被机器人统治的局面，未来是否有可能会出现？如果可能，为了应对可能到来的机器人有意识并掌控世界的这种局面，AI科研人员与相关机构的管理者，还需要对创新做哪些前置预防措施？
肯尼斯：首先，我想说的是，《终结者》中发生的事情，机器人可以是没有意识的，不过没有意识的计算机系统也是可以杀人的。我们显而易见要为此担忧。
最后要谈的是自主意识，我认为这是一个独立的问题。我现在不会因此失眠，因为感觉还很遥远，这听起来像是科幻小说情节，但我不认为这是不可能实现的。
现在，没有证据表明ChatGPT或Sora是有意识的，但同样重要的是，没有已知证据能告诉我们它没有意识。这不仅仅是因为我们没有证据，我们甚至不知道证据是什么。这是一个哲学问题。我认为你有意识的唯一原因只是因为你是人类，否则我无法证明你有意识。
如果AI变得有意识，这将关乎于它们是否有权利，因为它们是一个个自主的存在。当下的AI离自主意识应该还比较远，所以我认为可能不适合过早地把这当成一个道德困境来探讨。但我同意你的看法，不知道未来哪天，也许它就会越过那条线。
乔尔：这是涉及人类尊严的议题。因为意识，我们比其它动物更智慧。但如果AI越过了这条线，这就变成了有趣而可怕的事。这就好比我们可以把想法投射到AI上，它们可能给我们提供最适合的需求，但也可能像终结者一样消灭我们。
在社交平台上，每年都有调查问终结者时代到来的时间。有些人认为这永远不会发生，有些人认为在短短几年内就会到来，专家们在此观点上也存在分歧。我不认为它会很快发生，但我希望我们能做好准备，因为作为一个独特的物种，我们应该主宰我们的命运。
本文来自微信公众号：中国企业家杂志 （ID：iceo-com-cn），作者：陶淘，编辑：李薇
相关推荐
专访OpenAI前科学家：无证据表明Sora、ChatGPT没有意识
OpenAI首席科学家：ChatGPT可能已经有了意识
Sora团队首次专访：Sora就是太强了，所以不让普通人用
独家专访科大讯飞董事长刘庆峰：追着OpenAI打仗
OpenAI的Sora会砸掉谁的饭碗？
前主编 ：AI如何看待Sora？ChatGPT称7类岗位或被取代
Sora冲击波
踢开AGI大门！Sora会让世界成为“太虚幻境”吗？
人大系初创与OpenAI三次“撞车”：类Sora架构一年前已发论文
OpenAI又爆了！首个视频生成模型Sora惊艳亮相，视频行业被颠覆？
网址: 专访OpenAI前科学家：无证据表明Sora、ChatGPT没有意识 http://m.xishuta.com/newsview111711.html
