首页 > 科技快讯 > 专访OpenAI前科学家:无证据表明Sora、ChatGPT没有意识

专访OpenAI前科学家:无证据表明Sora、ChatGPT没有意识

文生视频是洪水猛兽吗?在Sora问世半个月后,这个议题余温仍在。  

居里夫人曾表示:“世界上没有恐惧的事物,只有尚未被认识的事物。知之越深,畏之越浅。”

两位前OpenAI的人工智能科学家也认为无需畏惧Sora:“就像你如果是一位画家,但你发明不出画布。Sora就是那张画布,它被发明了出来,你的才华反而能被显现出来。唾手可得的技术可以帮你把想法叠加起来,但它并不会代替你创造出全新的想法。

这两位科学家就是肯尼斯·斯坦利(Kenneth Stanley,简称“肯尼斯”)和乔尔·雷曼(Joel Lehman,简称“乔尔”),两位也是《为什么伟大不能被计划》这本关于创新方法论的书的作者。在加入OpenAI之前,二人还都曾在Uber AI实验室工作。

AI激变之际,《中国企业家》与两位科学家探讨了AI于普通人创新而言的危与机,颠覆性AI技术的孵化环境,以及人们应如何警惕被AI掌控的“终结者”时代。

在肯尼斯的观点中,AI文生视频时代,由于生成视频的技术门槛大幅度降低,视频数量会激增,因此,关于内容“有趣”的标准会提升,对内容生产者的创新性会有更高的要求:“比如,当Sora可以根据命令自行编辑视频的内容时,那些非常基础的工程师与艺术家就会被取代。”

普通人如何在AIGC时代提升自己的创新力?二人在采访与书中都提到,最关键的是人们要把生活中的部分时间用来做“新奇探索”——忽视宏大的目标、只研究感兴趣的内容,对事物保持开放、敏感,这样就可能带来无心插柳柳成荫的成果。

苹果创始人史蒂夫·乔布斯一直都站在艺术与科技的交叉点上——他热爱音乐、研习书法、喜欢包豪斯设计风格,也热爱计算机。所以iPod、MacBook与iPhone系列,才能以跨界的思维和简约的风格在科技产品中取胜。

而谈到ChatGPT和Sora为何能在谷歌、Meta、亚马逊等一众硅谷巨头的AI军备竞赛中胜出,肯尼斯和乔尔给出了巨头的两个创新壁垒:一、决策链条冗长;二、缺乏颠覆性研究和巨额投资的勇气。

在他们看来,抢占了基础设施先机的OpenAI,在下一轮AI的颠覆式变革中仍有很大的几率胜出。但想要再次研发出占据行业优势的新产品,对OpenAI而言也存在着“革自己命”的挑战。

对于更远的未来,AI可能产生的社会与伦理问题,肯尼斯和乔尔倒是有一些忧心。

在他们看来,随着社会变得更加人工智能化,地球上的财富分配可能会更加不均,造成阶层分化加剧。但也不排除在生产力的大规模提升之下,可能筑就一个完全相反的乌托邦世界。

尽管二人都认为自主意识AI在近期内还不会生成,但他们担忧这会是AI发展的终极形态。在肯尼斯看来,问题不仅在于未来AI产生了自我意识该如何解决,还在于当下它们是否已具有了自主意识萌芽。“没有证据表明ChatGPT和Sora具有意识,但同时也没有已知证据表明它们没有,我们甚至不知道证据是什么。”

在可能走向“失控”的背景之下,AI究竟应该走“有效加速主义者”(即包括阿尔特曼在内的AI发展激进派),还是走“超级爱对齐主义者”(AI研发速度放缓派)的路径?这是一个值得叩问的话题。

以下为《中国企业家》与肯尼斯、乔尔的对话实录(有删节)

《中国企业家》:你们对Sora的初印象是怎样的?在你们看来,Sora的到来是否意味着一场AI领域的颠覆性技术革命?

乔尔:在某种意义上,这不应该令人惊讶,因为这就是OpenAI的速度。同时,高分辨率的视频纹理非常逼真,被渲染得非常准确,它们有趣而惊人。

我认为它们将开辟许多可能性。一旦有了强大的理解力和视频的生成能力,以前AI在很多地方遇到的困境现在都可以解决。如今,视频的创新力可以更好地被发挥出来。

肯尼斯OpenAI的技术成果的令人惊喜之处,在于每一次都发生得如此之快,表明它有比我意识到的更强大的算力。但是也正因为技术进步太快,它并不像一些普遍评价看来的那样完美。

我认为这在AI内部并不具有颠覆性,因为它实际上只是一段时间以来研究成果的延续。但对于其他行业可能会是颠覆性的,尤其是那些涉及到视频商用的领域。

我认为随着Sora的迭代,比如根据命令自行编辑视频的部分内容,那些非常基础的工程师和艺术家的工作开始会被取代。这项技术可能会带来一些有趣的颠覆。

《中国企业家》:对平台YouTube和TikTok来说,Sora的出现会不会是一种颠覆?OpenAI最近在TikTok上创建了一个账号,未来OpenAI与TikTok的关系会是怎样的?

乔尔这是一个有趣而复杂的问题,我已经开始想象TikTok上充满Sora制作视频的画面了。不过,Sora可以运用于很多平台,OpenAI和TikTok、YouTube是维度非常不同的公司。因此,很难说未来他们之间会构成怎样的竞争关系。

比如,如果你创建了一个YouTube视频,你想要吸引很多人看,唾手可得的技术可以帮你更快把想法叠加起来,但是它不会帮你创造出全新的想法。

肯尼斯我不认为它会产生巨大的破坏性影响,这只是TikTok平台生存模式的延续。因为人们一直在尝试寻找一些新的工具软件来升级视频。在这之前,我们用各种软件来剪辑视频,只不过现在,我们显然是在从文本中生成原始视频。

如今,如果我们能够通过Sora生成独家的视频,使得视频变得更有趣,在用户看来更具有新鲜度,那整个视频生态系统的确会发生根本性的改变,但那是积极的改变。

《中国企业家》:普通人应该如何抓住AIGC时代的机遇?

肯尼斯:我觉得AIGC赋予普通人的权利很多,它让普通人创作视频成为可能。AIGC时代创作出了一种新的表达工具。就像你如果是一位画家,但你发明不出纸张,有人发明出来了,你的才华就能够被展现。所以我认为AIGC会很有用。如果你还不是AI方面的专家,那就想想你有什么创造性的倾向。

OpenAI的文生视频截图。来源:X社交平台截图

在AIGC时代,被认为是“有趣”的标准会提高,因为产生新视频的门槛大幅度降低了。想要创造大量的垃圾的、无趣的内容肯定会非常容易。对于一般人来说,视频制作、编程不再需要那么多技术能力,因为AIGC可以帮你实现,但你仍需要深刻的洞见和新奇的想法,才能更好地发挥你的创造性。

创新的诞生土壤

《中国企业家》:从企业角度来看,目前最先进的AI技术来自于OpenAI,而不是硅谷大公司的原因是什么?是否因为大公司业务众多,更容易停留在原有业务的舒适区,或者更长的决策链条?

乔尔:我觉得可能是大公司对于创新不像初创性公司那么渴望,而OpenAI从最初就打算把AI的算力扩充,后续就是不断在最初的计划上翻倍。OpenAI有独特的眼光和一流的人才。

另外,以我在不同规模的公司的经验来看,更大的机构更官僚,决策时间更长,对个人的信任会减少,对程序的信任会增加。

肯尼斯:这可能与他们规模小的事实确实有关。但你也要记住,还有很多其他的初创公司也没能研发出ChatGPT和Sora,所以这里的样本量很小。也许只是因为他们有独特的文化或者个人。

我认为其中一部分是勇气,必须有人说,让我们花数百万美元做一些我们不知道结果如何的事情吧。就像刚开始训练大模型,它非常昂贵,而且可能结果很糟糕。但是当他们训练出基于GPT-2的ChatGPT时,他们就愿意从一点点变化中相信AI训练的规模化能够带来质的改变。这种笃信需要非常大的勇气。

《中国企业家》:你认为下一个颠覆性的AIGC产品仍然会出现在OpenAI之类的初创公司,还是互联网大公司?

肯尼斯:接下来我们应该会在OpenAI看到一些令人欣喜的研究进展,我觉得目前一定不是他们发展的终极形态。他们应该会在这个领域领先一阵子。

但是在这之后,他们是否能持续领先会非常难说。因为曾经的革命者创造出来的新鲜事物,会逐渐变得稀松平常。对他们来说,比起其他人,可能更难重新去创造具有革命性的新技术。

OpenAI必须革自己的命。

《中国企业家》:在二位看来,乔布斯到马斯克,当代互联网科技领域的创新者、变革者,身上有哪些个性、喜好上的共同特征?

肯尼斯:说他们的一个共同特征可能是创造力。比起人的共性,我更喜欢从做事规律的角度去总结。当你喜欢一个事物,却不害怕去尝试,这是能够实现创造力的一种配方。这在我们的书中有所涉及。

很多新奇的点子实际上都是近在咫尺的,但不被很多人察觉到。实际上我认为就像iPod之后的iPhone一样,他们有某种用户友好的共性。但这显然不是CD机到随身听的升级,而是从音乐播放器到手机的跨度。  

创新人士大都能看到未来的发展趋向,虽然在时点掌握方面可能没那么准确。比如马斯克可能对自动驾驶技术实现的时间预估存在偏差,他当时觉得2017、2018年就能彻底实现,但他的确看到了这个方向。

乔尔:他们的特质就是开放、敏感。作为一个企业家在科技领域创新,即使没有按照他们想要的方式发展,他们也会对他人的反馈和解读很敏感,对一些建议很开放,也许最终会达到意想不到的结果。

《中国企业家》:你们来过中国吗?和中国企业家、科研工作者有哪些接触?他们和美国同侪有哪些异同?

肯尼斯:我去北京参加过会议。我认为很难概括,因为我对中国的创业了解不多。

如果我试着概括一下,我认为美国的企业生态系统可能更多样化,美国企业家对盈利计划、营收计划更模糊。

在中国,至少从历史上看,人们更倾向于采用传统的方法。你需要有一个商业计划和商业模式来理解你将如何赚钱。这种方法可能在美国也不是最常见的方法。所以在中国,打破常规相对会比较难。

乔尔:我去澳门参加过会议,那是个很有趣的地方。

我与比较多的中国科研工作者有过接触,我在中国科学家身上看到了一种超级强烈的职业道德。有时候,想要跳出思维定式是很困难的。

永远保持好奇心

《中国企业家》:书中提到了比较多创新的偶然性,你们如何看待一些科学家在晚上做梦时得到灵感,解决了创新性难题?比如苯环的发现者在梦中构想出了结构。

肯尼斯:我觉得这不是一个随机发生的过程。从某种意义上说,它确实与工作有关,就像踏脚石(书中提到的以兴趣为导向搜集的各种“宝物”)的集合,即使你不知道你要去哪里,踏脚石是可以引导别人去你要去的地方,它们很有趣。如果你收集了一些“收藏家”(科研工作者)发现的有趣想法,就相当于踩上了一块踏脚石,在某个时候,合成的成分就在那里了。

梦是一种不同的整合思想的方式。这很有可能发生在有准备的人身上,他们原本就具有解开答案的这种能力,只不过在梦境状态中体现了出来。

《中国企业家》:在你们看来,离创新型发明较近时,是否也会出现相应的奇点时刻?研究人员和普通人如何去找到实现梦想的“踏脚石”?

乔尔:还要再次强调,你要对有趣的想法保持敏感。

比如你有必须要做的事情,像找一份工作,赚很多钱,然后结婚。所以你大部分的注意力都集中在目标上,就没有兴趣空间。可事实上你可能会在这过程中发现一些很有趣的东西,但你会质疑这无法引导你实现目标,于是兴趣就会渐渐离你而去,因为你不给它机会。

《中国企业家》:在“新奇性搜索”时,研究者是否会遇到投入过多时间、资金,却又无法实现创新的情况?

肯尼斯:重要的是要承认追求兴趣涉及的风险,而且可能不会有回报。所以我们这本书并不是在介绍一种成功秘籍。从实践层面上来说,就是不要把鸡蛋放在一个篮子里。否则就养活不了家人。

乔尔:我认为这并不完全矛盾,即使你因为需要稳定与安全感而做着一份工作,也可以对其他的事物保持开放、好奇的态度。

这个世界是如此复杂和有趣,本质上就是这样。我认为总有一些兴趣的因素可以引导我们实现梦想,甚至在大多数情况下,我们能在工作中发现意义和兴趣,这不完全是零和游戏。总的来说,就是对快速奔流和无限复杂的时代保持好奇心。

AI的社会与伦理挑战

《中国企业家》:你们觉得人类该如何面对创新科技带来的很多伦理问题?比如是否会因为大多数人失业,从而导致未来阶层分化加剧?

乔尔:我确实认为这种分层已经恶化了。所以它需要很多人知道AI的未来会如何发展。如果这个世界变得越来越自动化,那财富可能集中在更少的人手中,这的确令人担忧。

但有一种乐观主义想法认为,未来我们可能生活在一种乌托邦的时代,那时候我们在AI技术非常发达的情况下,平等、自由地做最人性化的事情,而不是受AI操控。

肯尼斯:我非常担心你所描述的极端不平等分配,这真的是一个非常严峻的问题。我认为从长远来看,在新的社会结构中,拥有技术的人需要一定程度决定如何无私地使用AI。

不过阶层是永远会存在的,并且有着一定的合理性。就像我们从历史上看到的,当领导者把工作环境创造成完全的利他主义,技术人员工作得反而不会那么好。

事实上我不太确定未来我们该怎么做,因为这会是一个前所未有的社会结构,与此前所有政府面临的都不同。

《中国企业家》:在你们看来,AGI什么时候会确切地到来?

乔尔:很难确切地想到它什么时候会到来,因为它与所有这些关于当前范式的问题纠缠在一起。当前的模型存在局限性,这得基于能否克服更多数据上的难题。如果说是那种超人类的程度,我觉得这会变得更难回答。但如果是一般意义上的AGI,我觉得大概在5~10年内。

肯尼斯:我们应该系统地看待这个问题。如今,AGI已经在不断地重新定义,和多年前相比,人们对通用智能有了成倍的预期。如果10年前,你跟我说可以和ChatGPT互动,我会非常惊讶,甚至可以加上图片和声音。

如果说AGI只是在当下的发展上提升数据与规模,那我们一直在走上坡。但不确定的是,AGI也有可能需要基于AIGC领域全新的模型。

至于具体多久,我们可以放在更广的时间轴去思考。比如你会知道下一个爱因斯坦何时诞生吗?我无法告诉你什么时候会实现。该发生的自然会发生,5年到50年都有可能。

《中国企业家》:你们觉得电影《终结者》中,人类被机器人统治的局面,未来是否有可能会出现?如果可能,为了应对可能到来的机器人有意识并掌控世界的这种局面,AI科研人员与相关机构的管理者,还需要对创新做哪些前置预防措施? 

肯尼斯:首先,我想说的是,《终结者》中发生的事情,机器人可以是没有意识的,不过没有意识的计算机系统也是可以杀人的。我们显而易见要为此担忧。

最后要谈的是自主意识,我认为这是一个独立的问题。我现在不会因此失眠,因为感觉还很遥远,这听起来像是科幻小说情节,但我不认为这是不可能实现的。

现在,没有证据表明ChatGPT或Sora是有意识的,但同样重要的是,没有已知证据能告诉我们它没有意识。这不仅仅是因为我们没有证据,我们甚至不知道证据是什么。这是一个哲学问题。我认为你有意识的唯一原因只是因为你是人类,否则我无法证明你有意识。

如果AI变得有意识,这将关乎于它们是否有权利,因为它们是一个个自主的存在。当下的AI离自主意识应该还比较远,所以我认为可能不适合过早地把这当成一个道德困境来探讨。但我同意你的看法,不知道未来哪天,也许它就会越过那条线。

乔尔:这是涉及人类尊严的议题。因为意识,我们比其它动物更智慧。但如果AI越过了这条线,这就变成了有趣而可怕的事。这就好比我们可以把想法投射到AI上,它们可能给我们提供最适合的需求,但也可能像终结者一样消灭我们。

在社交平台上,每年都有调查问终结者时代到来的时间。有些人认为这永远不会发生,有些人认为在短短几年内就会到来,专家们在此观点上也存在分歧。我不认为它会很快发生,但我希望我们能做好准备,因为作为一个独特的物种,我们应该主宰我们的命运。

本文来自微信公众号:中国企业家杂志 (ID:iceo-com-cn),作者:陶淘,编辑:李薇

相关推荐

专访OpenAI前科学家:无证据表明Sora、ChatGPT没有意识
OpenAI首席科学家:ChatGPT可能已经有了意识
Sora团队首次专访:Sora就是太强了,所以不让普通人用
独家专访科大讯飞董事长刘庆峰:追着OpenAI打仗
OpenAI的Sora会砸掉谁的饭碗?
前主编 :AI如何看待Sora?ChatGPT称7类岗位或被取代
Sora冲击波
踢开AGI大门!Sora会让世界成为“太虚幻境”吗?
人大系初创与OpenAI三次“撞车”:类Sora架构一年前已发论文
OpenAI又爆了!首个视频生成模型Sora惊艳亮相,视频行业被颠覆?

网址: 专访OpenAI前科学家:无证据表明Sora、ChatGPT没有意识 http://m.xishuta.com/newsview111711.html

所属分类:行业热点