段永朝 苇草智酷创始合伙人
本文根据腾讯研究院对段永朝老师的访谈整理
访谈时间:2025年8月1日
目前的大模型就像一个“话痨”,有问必答,从不承认“不知道”。这种无论对错都要给出答案的特性,恰恰是其技术尚处初级阶段的体现。
AI时代,个体的独立性在下降,而对群体智慧(外脑)的依附性在上升。这相当于把过去加载在个体身上的、沉重的认知负担,合理地转移到了“外脑”上。
当参考资料变得极易获取,人们在做自主决策时的信心反而会下降。因为他看到的分析维度林林总总,反而无法判断哪一种是恰当的,这是一种新的不确定性。
我们过去的小学、中学乃至大学的通识教育,本质上都是对人进行知识的“预训练”过程。大模型的出现,意味着这个漫长的“预训练”过程可以被大大缩短。
未来极有可能重新定义生命,机器将成为一个“新物种”。如果我们不能想象这个由新物种构成的“新世界”,就只能在旧世界的框架里讨论新关系,永远也讨论不清楚。
未来的人类将不再是纯粹的生物学概念,而是一个介于“纯种人”与“赛博格”之间的模糊地带,可以用不同比例来定义。
人的物理劳动将退出生产要素的行列,人类的劳动将更多地发生在精神与创造领域。
未来的制造业将成为无人化的公共事业,生产、消费、分配三个环节不再是线性的先后顺序,而是同步发生的“并发逻辑”。
未来的经济模式将不再以“交易”为中心,而是以每个人的“意愿”(intention)为中心,围绕个体的兴趣和真实需求来组织。
我们正用着图灵定义下的“有限”计算工具去处理“无限”的现实世界,结果恍然以为自己拥有无限工具。
预测未来最好的方式是去创造它。但不能“穿新鞋走老路”,用着AI这样的新技术,脑子里却还是旧的增长模式与竞争思维。必须开创一条与技术范式相匹配的“新路”。
AI的浪潮正深刻地改变着人类社会,触及个体认知、群体智慧形态,乃至人类未来生存方式的根本性变革。近来,《纽约客》的文章引发了关于AI对人类智慧“降智”的讨论,对此,我们需要超越二元对立的视角,深入分析其现象,构想未来的人机关系,并探索可行的应对策略。
AI对人类认知的影响,可以归纳为两个核心层面。首先,个体运用知识独立性的下降,与对群体智慧依附性的上升。这种个体独立性下降、对群体依附性上升的趋势并非孤立现象,而是从互联网、大数据、社交网络到今天大模型的一脉相承的历史潮流。在AI时代,这一趋势表现在,个体可以将原本需要自身成为多领域专家才能承担的“认知负担”,合理地转移到大模型这个“外脑”上。而与此同时,AI带来了群体智慧形态的升级:过去社交网络和大数据时代,群体的智慧是物理层面、非实时的聚合;AI时代,大模型对群体的智慧先整合再输出,带来的化学层面、准实时的融合。这可视为一种将认知负担向“外脑”的合理转移。
其次,个人自主判断的信心正在下降,而外部参考(他者)的价值和咄咄逼人的能力正在增强。个人信心下降的原因有二:其一,信息过载削弱了对自身结构性思考能力和判断力的信心。大模型使得获取参考资料变得极其容易,数量级从过去的几百上千篇跃升至百万篇。这导致个人在决策时,思考的不再是“论证是否充分”,而是“我是否穷尽了所有资料、所有维度”。这种因信息林林总总而来的不确定性,反而削弱了对自身结构性思维和判断力的信心。其二,“外脑”的侵入性增强。以大模型为代表的“外脑”,其影响力有时会增强到不恰当的、带有攻击性的地步。它就像一个“话痨”型的“尽职勤务兵”,不管问题是否合适,都会强行输出答案,对个人的思考形成干扰。
然而,上述影响不应被简单地视为“降智”或负面的。技术带来的影响是动态且辩证的,既有“升”的一面,也有“降”的一面,两者在未来可能相互转化,我们不应以静态的、二元对立的眼光去评判。诸如“知识外挂”或“知识外包”等标签,一旦被总结出来,就会像“混沌吸引子”一样吸附许多观念或意识形态。这类标签常带有批判性意味,不利于我们进行更深入的探究,例如“什么是好的外包?”或“平均化是不是一定是坏事?”等问题。
要探讨人与智能技术的关系,必须采用一个几十年的、跨越几代人的长远尺度来看待。在下一个技术爆发点(可能要说到量子计算)到来之前的几十年窗口期,是思考人机关系问题的关键时期。并且,需认识到过去百年的知识论基础已出现破灭:科学哲学等流派试图构建统一哲学的雄心已经破产,且各学科之间谁是根基的关系也出现了巨大裂痕,统一之梦无法实现。
在上述前提下,对人机关系的讨论应包含两个层面:一是想象未来人机分工的成熟稳态;二是探索从现状到达该稳态可能经历波折的路径。
对未来的想象不能再沿用基于三百年前笛卡尔主客二分法,或将世界进行分层 (如物理世界、观念世界 、人造 世界) 的旧理论框架,因为这些理论一定有其目光不及之处。我们需要看到一个新的世界的出现,即“机器世界”。这个世界的崛起,意味着未来生命的概念可能会被重新定义,从而诞生出“人造生命”或“机器生命”。讨论未来人机关系的第一步,首先要讨论这个“新世界”。人类通过神话、传说等叙事传统,一直在想象和创造“新物种”。如今,基因编辑、脑机接口、人工合成生命等生物科技的发展,使得改变人体乃至创造新物种成为技术上势不可挡的趋势,科幻小说中的“超能人”将来可能会出现。未来,在“纯种人”与“纯机器人”之间,会出现由不同比例合成的“赛博格”构成的模糊地带。即便在当下,佩戴眼镜、摄入化学合成药物等,也已使我们在一定程度上成为了“赛博格”。
未来,无人工厂的普及将催生全球性的“机器世界超主权结构”,它能够自成体系,摆脱现有的货币体系。农场、牧场等传统生产领域将实现无人化,人类将退出以物质转换为核心的生产领域。新物种的出现将彻底改变人类的生产、组织、生活、消费乃至繁衍方式。例如,人造子宫和体细胞克隆技术在带来解放的同时,也构成了对人类自然繁衍方式的“彻底剥夺”。通过脑机接口将数字足迹灌入克隆体,甚至可能实现“永世轮回”。当未来达到一个稳定状态时,新的赛博格将形成全新的心智结构和价值锚定。对于他们来说,我们这代人所锚定的“生存繁衍”的意义将完全改变,因为“生老病死”对他们而言已是远古人的故事。
探索从现状达到稳态的可能路径,涉及两条“绳索”。旧的绳索是“人类共识”,即基于人类物种的共同感,不断对现有共识进行突破、重塑和创造。而新的绳索则是“人机共识”,即人类需做好心理准备,接受机器可能拥有“自由意志”,并像对待驯化的动物一样,学会与这一人造新物种达成共识,做出让步。现有的“以人为中心”的原则 (如阿西莫夫三定律) 仍属于老绳索,可能无法适应未来。
从“人际共识”向“人机共识”的演进,是一个非常重要的线索,而这首先是一个需要想象的问题。当代人已形成一个集体共识,即我们的想象力是匮乏的,路径依赖太过严重,但同时它又是未来巨大的生存基础,创造力源于想象力。在AI可轻易完成学业任务、未来知识甚至可通过脑机接口植入的背景下,当前的应试教育、刷题卷已变得毫无意义。它只会扼杀天性,创造出无法适应未来生活的后代。
制定应对未来的对策,需要认识两大“天花板”。其一是物理天花板:在量子计算实现前,当前计算技术因能源和物理器件的限制而存在“算力天花板”,这为未来二三十年的现实想象划定了边界。其二是心理天花板,即当代的审美疲劳或生活倦怠。例如,地铁里复读机式的机械提示音,或超市里琳琅满目却无法匹配需求的商品,这些都体现着表面富足下的心理束缚。
应对这些挑战的唯一良药,可能是东西方文化的融合。这需要弥补西方文化因其有限的计算理论 (图灵) 和忽略意义的信息论 (香农) 而存在的根基不牢问题,以及东方文化虽有整体论优势但在“表征”和符号化上的短板。
在实践上,我们必须“穿新鞋、走新路”,这条新路的核心是“公共精神的复兴”。在相互依存的世界里,“公共领域”的范围可能会极大地扩大,今天私人领域的东西将来可能变成公共。关于公共领域的治理、行为规则、创造性,仍有很大缺陷,原因是对公共领域的想象受制于原来实体领域、物理领域的想象。“公共精神”的具体体现之一是“超级平台”的崛起。与已沦为垄断力量的旧平台不同,“超级平台”是“平台的平台”,其本质是一种“公共服务供应商”,用以解决跨平台协作等迫在眉睫的需求。
这一转变的背后是经济底层逻辑的颠覆:鉴于技术已让供给充足、需求可计算,不平等的核心原因是“错配”而非稀缺。因此,基于信息稀缺的亚当斯密式“交易逻辑”已过时,经济正转向以个人意愿 (intention) 为中心、以实时“分账”为形式的新逻辑。新经济的运行模式将从“先生产、后消费、再分配”的“串行逻辑”,转变为“边生产、边消费、边分配”的“并发逻辑”,且生产将成为无人化的公共事业。人的劳动将退出生产要素,人类的主要活动将从物质生产领域转向精神领域和创造性活动,这将带来宇宙观、世界观、价值观的颠覆式改变。
实现以意愿为中心的生产,需要依靠“意愿经济”的技术。其核心是VRM (Vendor Relationship Management) ,即一个能理解用户意图、跨平台执行任务的个人AI agent。因此,所有能捕捉意愿的人机交互场景都将成为必争的入口。同时,技术还能用于解决深层的社会价值冲突。例如,区块链技术通过其不可篡改的特性,可以技术性地“干掉信用”问题,建立一个靠谱人的联合体,从而放大价值认同,帮助社会走出传统共识泥潭。
总而言之,面对AI带来的深刻变革,我们必须摒弃过时的理论框架和二元对立的思维模式。唯有通过大胆的想象,探索人机共生的新形态,并通过融合东西方智慧,复兴公共精神,构建全新的经济与社会运行逻辑,我们才能在不可逆转的技术潮流中,为人类文明开辟一条通往繁荣与和谐的崭新道路。
本文来自微信公众号“腾讯研究院”(ID:cyberlawrc),作者:段永朝,36氪经授权发布。
相关推荐
在AI缔造的新知识时代,刷题和应试将不再有意义
ChatGPT的到来,意味刷题时代结束?
马斯克称未来将不再有手机只有Neuralink
马斯克:未来将不再有手机,只有Neuralink
大模型走捷径“刷榜”?
刷完 400 道 LeetCode 题后,我“悟”到了五大经验
不止于“刷题”,不止于“陪伴”:科大讯飞学习机AI能力再升级
AI时代,如何阻止意义崩塌?
谁在评价大模型?AI大模型评测榜单乱象调查
数千元的AI学习机是“智商税”吗?
网址: 在AI缔造的新知识时代,刷题和应试将不再有意义 http://m.xishuta.com/zhidaoview31405.html