首页 > 科技快讯 > AI再强，人类也是超人的桥梁

AI再强，人类也是超人的桥梁

晰数塔互联网快讯
2023-03-22 10:04

本文来自微信公众号：泰恩河谷（ID：VStoker），作者：泰恩河谷，原文标题：《是时候展现一下文科生 vs ChatGPT 的差距了…》，题图来自：《阿丽塔：战斗天使》

总有朋友吐槽我写的东西抽象又空洞，所以这是一篇练习习作，可以理解为搞笑属性拉到顶配的一篇文字脱口秀讲稿，大家要是觉得有趣或提高了易读性，请支持一下21世纪最先被 ChatGPT 替代的工种——公众号写手。

简单概括下本文的核心观点：

1. 人类是超人的桥梁。

2. 自然语言是有限的、被压缩的、冗余的，存在形式逻辑缺口的，但又是通用的、有效的，不要试图 Chat2一切，也不要期待未来是 100% 的 CUI（对话交互界面），但“Chat2协作”是必然趋势。

3. AI 能够以一种与维基百科或传统搜索引擎等现有信息资源截然不同的方式访问和综合网络信息，从而增强人类复合其集体思想和影响的能力。

4. 如果彻底让 AI 挣缰，在任意的内容平台自由创作，那么知识幻觉会更难以确认，甚至多到难以定义什么叫做“假”。

5. AI 即便非常强大，也应该被看做是一种人类能力增强的工具，需要人类来驾驶，也需要有选择未来能力的人去做交集的约束，这样的旅途才有未来……

一、狂欢吗？赛博朋克了

坦白说，最近除了感受到一级市场对国内大模型玩家的疯狂加注，一线投资经理与 FA 的压力狂欢外，还滑稽地看到“短平快”逻辑在两个领域的变现竞速赛——较为单薄的应用层，与单层信息驱动的二级市场。

当然，这段描述，大家权当我开个玩笑（毕竟轻松开场是一场脱口秀表演的基操）（完全没有说竞速赛不好的意思，金融大体上是变现波动的逻辑）（况且我还指望着二级大佬救济我的理想）。

真正要坦白的是，我（及我了解的周边朋友们）一度在主体焦虑中度过：时而觉得人性光辉，再不济“人类也是超人的桥梁”（尼采：这句话确实是我说的，虽然不是这个意思；马斯克：这句话我倒是也大体说过）；

“我突然意识到，你可以在某种程度上把人类看做为一个生物引导程序（Boot-loader），引出一种超级数字智能物种，人类社会是一段非常小的代码，没有他计算机就无法启动，人类的产生就是为了让计算机启动的，硅基生命（Ai）似乎不能自我演化，它需要生物（人类）作为前导才能进化，人类只是硅基生命的开启程序”——Elon Musk

时而又觉得不仅硅基未来不遥远了，赛博朋克、全民失业与存在危机都要奔涌而至，人们最终在商业与科技的双螺旋进步中，将人文与人本彻底抛之脑后。

赛博朋克起源于上世纪六七十年代的新科幻小说潮流，发端于八十年代，后逐渐成为一种亚文化，从小说渗透至动漫、电影、游戏、甚至建筑等多个领域。

赛博朋克是“控制论”与“朋克”的合成词，最核心的特色是“高科技、低生活”（High Tech，Low Life）。实体国家消亡，垄断公司控制财富，社会体系崩塌带来衰败与暴力，人与机械的分界模糊，边缘人类通过高科技逃避集体意识、实现个人自由，反乌托邦、悲观主义是这个未来的基调。

上一次有这种感受可能是看完《未来简史：从智人到智神》，也可能是看完一系列科幻电影，诸如作为生物电池的人类通过自以为是的觉醒帮助机器人完成一次又一次系统升级的《黑客帝国》，诸如讲述两个文明如何发展又悲壮毁灭的《三体》。只是从没有这样的情绪密度，让人强烈感觉未来已来，以失控的方式。

扯远了。镜头拉回此时此刻，从一个文科生的角度来聊聊 AI，准确地说应该是 AGI。

虽然我一度很难接受商业世界对社会种种的定义，“首当其冲”的便是人类平均水平。人类这种集体性的抽象概念从来都是一种规则，但站在白左精英视角可能就自然一些，很多群体从来没有真正获得话语权，怎么配得上人类二字呢。

二、自然语言的有限性

言归正传，最近在看 Reid Hoffman 的 Amplifying Our Humanity Through AI，对文字总结的最后一部分深受感触，也同时真正理解了科幻小说作者 Ted Chiang 起前段时间广为流传的那篇 Think of ChatGPT as a blurry JPEG of all the text on the Web。大概这就是人类脑神经连接的那一开悟瞬间。

先说为什么要特别提到模糊 JPEG 的概念，不仅是他指出的 LLMs 普遍只是对已有可用信息的包装，并没有创造真正新的东西，而是更前一步逻辑的，这些互联网文本（即组成 LLMs 的训练文本/数据）本就是一种不精确的，被压缩过的现实世界的单维度信息。

如果我们再前一步，那便可以让年少有为却又傲视群雄的维特根斯坦现身，说一说语言本身的有限性——语言很大程度上限制了我们表达现实与抽象世界的能力，比如哲学、世俗等均在语言边界之外，我们除了保持沉默别无他法（语言之外，保持沉默）。当然这个理论部分在他晚年被自我否定，但语言限制现实表达还是合理的。

那么，被多重压缩的数据即便被 ChatGPT 全部学完，也由于不精确导致它呈现合成能力、幻觉与其他错误的倾向（一定有人会反驳概率置信率，和内生性或系统性风险并不矛盾）。

题外话，顺延着这个思路，我们也应该重新审视一下自然语言交互到底应不应该、能不能够成为未来万能的交互方式（甚至 CUI/OS 底座）。事实上，我去年写过一段关于多模态/跨模态的内容，也在上周参与一场讨论时给现场观众讲了这样的一个笑话（或许我真的应该去做脱口秀），简单地说明这个问题特别合适。

还原一下现场：

我：大家都看过电影吧？

众人笑:)

我：那么想必大家都认识姜文吧？

众人再笑:)

我：一个记者曾经采访过姜文，“你这部电影主要讲什么的，能不能两句话给大家介绍一下？”姜文说，“我要是两句话能介绍清楚的话，我还拍电影干吗？”

回到下述这段文字描述，展开解释的意思即是，不同模态之间有着本质的思维与表达方式差异（这也是论证不同类型艺术为什么会存在并成为一种艺术类型的合理性所在，没看懂这句话的话，请再理解理解我讲的这个姜文笑话），但又同时只能通过人类语言来跨领域交流（比如游戏产业里的美术与策划交流主要还是依赖于语言），所以 Chat2跨模态协作是必然趋势。

但 Chat2创作并不合理，除非要通过自然语言的方式来降低专业性门槛，给小白一次斜杠青年的机会，让文化产业在成为文化垃圾堆的高速路上再加一把油、再放一把火。

这里我想再展开讲一讲自然语言的有限性。

总有人和我要杠自然语言的魅力，虽然我觉得我们聊的完全不在一个层面（大概就是你和对方讲食材，对方和你贫食谱），虽然我也经常被很多语言中的精巧设计所深深打动不能自己，但粗暴地把（或者试图/希望/期待把）自然语言直接投入生产确实是对过去人类文化发展的文化那什么命（不亚于说巨人，你把肩膀拿走，我要走自己的路！）。

都说了，宇宙如果能有一种交流语言，那肯定不是人类语言，而是数学，再进一步，数学中的那些符号也不重要，毕竟都是人类编出来的，而是符号已然形成的某种共识与符号空间中的位置表达，换句话说，符号是一种自然规律的人类共识结晶。

那么问题就是为什么要有这些符号？毕竟有人编就得有人学，为什么不能直接说自然语言，这样我们终端用户离场景不是更进一步吗？为什么要增加这种复杂度？是不是一种知识分子的普遍傲慢，非要搞一个专业圈子不带普通大众嬉戏呢？

进一步地，当我们大谈特谈自然语言交互多么美妙和振奋人心，势必是未来时，我想回到计算机发展的历史谱系分析中，计算机汇编语言、高级编程语言的设计一定也有它的合理性。

这篇文章（Chris Dixon | 计算机创造与哲学）很好地回答了这个问题，感兴趣请移步详细阅读。我大概概括一下这篇文章的内容：

如同笛卡尔“改造”欧几里得的几何学（通过标准代数标记法的数学文本，即 xyz 表变量，abc 表常量，数学用精准定义的形式规则操作符号，超越空间直觉，从图形转变为方程式，从而奠基微积分等发展）般，布尔通过精准代数符号“改造”了亚里士多德的逻辑学（逻辑结构的重要性，如著名的三段论），将逻辑从人类直觉中解放出来，由此创立一个新的学术领域，也是对现代世界的技术发展影响最大的学科——数理逻辑。香农展示了如何将逻辑映射到物理世界，而图灵则展示了如何用数学逻辑的语言设计计算机。

这段概述至少说明古典哲学中虽然通过自然语言能够表达某种正确或严谨的逻辑结构与空间直觉，但自然语言有它不可否认的形式逻辑缺口，这也是现代数学几次重大危机，以及重构经典数学的必要缘由（诸如理发师悖论，又称罗素悖论）。

当然，文末也提到好的层面（光明未来结尾）：

当然，作为一个文科生，我感受最深的是自然语言中的信息冗余性。之前朋友经常感慨我看书奇快，越是社科类的书看得越快，越是熟悉的作者看得越快，本质是因为人类文本中充斥着大量的结构性内容，为了保证形式或文体完整性的必要填充，但又和核心内容关联性不大，缺了又觉得奇怪或容易造成误会（这就类似于人类要说一些可能会引起对方不适的话时一定要加的那句“无意冒犯”）。

那么，总结一下，自然语言是有限的、被压缩的、冗余的，存在形式逻辑缺口的，但又是通用的、有效的，不要试图 Chat2一切，也不要期待未来是 100% 的 CUI（对话交互界面）。

我们要肯定逻辑与符号的价值，也要肯定这一批具有想象力与设计审美的产品经理们，相信他们能够基于大模型的能力，通过产品的社会工程方式，将终端用户（至少是部分有普遍需求的用户群体）伺候好。

三、准备好踏上旅程了吗？

当然上述提到 Hoffman 的文章并不是简单一提，而是确实最后一章节写得不错。

他首先指出“Chiang 所谓的 jpeg of the web 对 LLMs 合成能力的低估，毕竟重新包装现有信息也是人类创新的重要组成部分”，这点我很同意，毕竟创新本质上是元素的充足，只是看你在那个层面定义元素。

但我觉得有意思的是他对这种“合成能力”的解读：

“虽然现有网络包含着大量信息，但大部分是孤立的单独页面”，回答一个特定的问题可能不仅需要你搜索与匹配，还需要你再人工消化与理解后的归纳（举个简单的例子，我想知道所有评分在8分以上的科幻电影里出现了哪些大 boss），而现在能够通过 LLMs 来直接回答。

“更重要的是，它之所以拥有这种能力，是因为它能够以一种与维基百科或传统搜索引擎等现有信息资源截然不同的方式访问和综合网络信息。从本质上讲，GPT4 将大量非结构化的人类知识和表达的阵列组成一个更加连接和可操作的网络，从而增强人类复合其集体思想和影响的能力。”

不过，更更更有意思的是，他鲜明地指出 AI 对自己的定位非常“谦逊”（PS：以下翻译来自 DeepL）：

“GPT4 呈现的 AI 愿景与多年来对 AI 的普遍描述既微妙又截然不同。诚然，其中许多描述都来自好莱坞、科幻小说和新闻业，而不是来自致力于使高度智能机器成为现实的技术专家。也就是说，许多技术专家和高科技组织，包括 OpenAI，确实将目光投向了一种更具雄心的人工智能形式：可以完全自主运行的机器；能够像人类一样进行常识推理和自我意识的机器。

GPT-4 不是那样，至少现在还不是。目前，它既不是无所不知也不是万无一失的。相反，用它自己的话来说，它是一种工具，需要人类的谨慎、好奇心和责任感才能最有效地运行。”

最后一段虽然鸡汤，但也不落俗套，我必须放在这里让大家一起暖暖身子：

“当人类用户将 GPT4 视为副驾驶或合作伙伴时，它就会变得更加强大。您将 GPT-4 的计算生成性、效率、合成能力和扩展能力与人类创造力、人类判断力和人类指导相结合……在这种方法中，GPT-4 不会取代人类劳动和人类代理，而是会增强人类能力和人类繁荣。当然，这不是一种既定的思维方式，而是一种选择。”

“我写这篇游记既是为了鼓励人们接受这种选择，也是为了邀请人们探索这种选择可能发挥作用的不同方式。我们可以通过哪些方式使用 GPT4 在世界上取得进步？它如何符合人类通过技术创新使生活更有意义、更繁荣的古老追求？……我们如何在负责任的治理和智能风险之间找到适当的平衡点？

人类进步总是需要冒险、计划、勇气、决心，尤其是希望。……最重要的是希望。带着希望和信心面对不确定性是迈向进步的第一步，因为只有当你有希望时，你才能看到机会、潜在的第一步、一条新的前进道路。如果我们做出正确的决定，如果我们选择正确的道路，我相信在世界上做出积极改变的力量将获得前所未有的最大推动力。你准备好踏上这段旅程了吗？”

这段鸡汤也让我很轻易地回忆起某天傍晚的讨论，大概是以下的内容：

1. 你觉得技术进步一定会带来社会发展吗？（都是技术派）

2. 你对未来的社会有更美好的期许吗？那会有人文性吗？（是的）

3. 商业社会的成功和技术进步相关吗？那与对未来的社会期待是矛盾的吗？（前者相关，后者至少并不相关，资本逐利无社会属性）

4. 作为投资人是不是应该找交集呢？毕竟作为社会资金1%的杠杆，如果只追求技术创新或商业成功会不会太不负责任？（如果拥有选择的权力，便对应的会有一种社会道德责任；当然只追求纯粹的经济回报会是非常简单的逻辑，但我没办法做到这样，我认为这是一种“作恶”）

所以总结一下，AI 即便非常强大，也应该被看做是一种人类能力增强的工具（不要在这里和我辩论什么是人类，这是一个更庞大的话题），需要人类来驾驶，也需要有选择未来能力的人（至少看起来有）去做交集的约束，这样的旅途才有未来……不要做那 1 分钟忙碌的苍蝇。

四、但如果就是要摆烂呢？

但如果我们彻底摆烂、放手，让 AI 如挣脱缰绳的野马狂奔，走出 ChatGPT 的输出文本框，在任意的内容平台自由创作，会怎么样呢？

当然会有伟大的作品诞生，如同刘慈欣《诗云》所言，一万亿种排列组合会诞生一部新《三体》，但我不觉得那个时候人类还抱有审美；

更常见，或更容易想见的是难以确认的 AI 知识幻觉恣意流淌，大量假的链接、书籍，甚至多到你难以定义什么叫做“假”。

最重要的是，人类文化中那 1% 的精华（这里有一个笑话我一定要讲一讲，某个小说家曾经说过，虽然我写的小说不能成为那 1% 的瑰宝，但至少扩大了分母，让那 1% 更显珍贵）如同《仿生人会梦见电子羊》中的真实宠物一般弥足珍贵，但在正态分布情况下，人们会彻底沦陷在电子垃圾之中，内容以其百年难遇的平庸性加速生产。