首页 > 科技快讯 > 过度依赖GPT，会让我们的文明倒退吗？

过度依赖GPT，会让我们的文明倒退吗？

晰数塔互联网快讯
2023-05-23 09:22

本文来自微信公众号：风声OPINION （ID：ifengopinion），作者：刘正（Simon Kucher 战略咨询顾问），编辑：刘军，原文标题：《风声｜GPT时代，警惕塔斯马尼亚效应》，题图来自：《极乐空间》

春季学期伊始，全球各地的老师们如临大敌，因为学生们带着ChatGPT杀过来了。Study.com的调研显示，每10个学生中就有超过9个知道ChatGPT，多达89%的学生使用ChatGPT来完成家庭作业，53%的学生直接拿ChatGPT写论文。

实在不是老师们无能，而是ChatGPT太狡猾，一不小心就骗了个高分，还要被学生们在网上群嘲。于是，我们看到28所英国大学接连禁止在论文和课程作业中使用ChatGPT，否则将被视为学术不端行为，以开除加以威胁。纽约公立教育系统直接把校园网访问ChatGPT的端口给封了。

一些教授甚至学会了以毒攻毒，用AIGC自动检测工具，如用GPTZero来对学生作业进行“查重”。结果这些工具稳定度堪忧，滥杀无辜，把原创内容也标识成了ChatGPT写的——谁叫你写得太完美，跟机器一样呢？

但与此同时，却也有教育者主动把ChatGPT引进了课堂。在港大封禁ChatGPT的同时，港科大却有老师鼓励学生使用ChatGPT，学生若在期中报告中尝试使用ChatGPT，甚至可获额外加分。

那么，我们究竟是否应该让ChatGPT进入课堂。对于下一代的教育，GPT到底是科技，还是狠活？

教育到底教什么？

英国科幻作家道格拉斯的科技三定律很精辟地描述：“所有在我出生之前发明出来的东西都是理所当然的；所有在我15–35岁之间发明的东西注定是要改变世界的；所有在我35岁之后的发明都是反人类的。”

所以我理解但同情35岁以上“老”师们对ChatGPT天然的抵触，正如他们的上一辈老师在1986年抗议计算器一样。

但让我们抛开思维惯性和权威，回到教育的本质，才能看清楚ChatGPT到底对教育意味着什么。

大刘在《乡村教师》借着外星人之口点出，作为无法在代际间遗传记忆的低级智能体，人类发明出教育这一替代方法，把前人归纳总结的经验教训和最新版本的社会生存工具传递给下一代。因此，在代际间传递知识与技能，乃是教育最基本的功能。

既然传递知识与技能，当然应该欢迎并积极训练ChatGPT的使用方法。不然的话，难道学那些注定被ChatGPT所取代的技能，还没毕业就失业吗？

你并不需要比汽车跑得快才能在内燃机发明后生存，你需要的只是考个驾照。作为最新版本的社会生存工具，ChatGPT应当且必须进入课堂，成为重要的教学工具和内容，否则就是自绝于未来人与人，甚至国与国之间的激烈竞争。

但教育并不仅仅只有传授知识与技能这一个面向。按照教育的三重目标理论，在知识和技能之上，教育培养的还有过程与方法：除了知其然，更需要知其所以然。

费曼有句名言：“凡是我不能创造的，我就不能真正理解”。如果没有通过科学方法进行练习，缺乏思考的过程，就直接得到了一个结论，那我们事实上并不真正理解这个结论。这就是为什么，任何一个计算器都能完成各种科学计算，但小学生还是需要学手算乘除加减法。

作为训练的教育，乃是对于人脑思维模型的调参：我们看过的每一本书，读的每一句话，都和喂给ChatGPT的文本数据一样，内化为大脑模型的参数集。而在考试答题的过程里，我们大脑的神经元会进行强化学习的剪枝，直到形成兼具拟合度和泛化能力的连接网络。最终，就像张无忌学太极剑一样，我们把学过的内容全忘光了，但同时也在大脑里形成了肌肉记忆，存乎一心，如臂指使。

但如果让ChatGPT代替学生去思考解题的每一步，只会把人降格为拾人牙慧的鹦鹉，如果丧失了深层心智里独立进行逻辑推演的能力，那么这样的人脑思维模型，和复读机又有什么差别呢。

过度依赖GPT可能导致文明退化

可如果ChatGPT已经集成了人类发明的全部智慧，那大部分人作为熟练调用结论的鹦鹉，除去在自尊上破大防，又有哪里不对呢？

我们可以大大方方地承认，只有少数天才能够且需要去拓展人类知识的边界，其他人在GPT总结的前人智慧上躺平就得了。但这种做法对人类社会将会是致命的，因为我们会遭遇一种变形的塔斯马尼亚效应。

塔斯马尼亚，是位于澳大利亚南部的一个孤独的大岛，堪称“世界的尽头”。4万年前的冰河末期，这个岛屿和澳洲以及欧亚大陆都是连起来的。而当波利尼西亚人迁徙到塔斯马尼亚时，他们身着衣物，拥有当时世界上最先进的狩猎和捕鱼技术，和全套的石器制作工艺。

但冰期结束全球变暖，海平面的上升隔开了塔斯马尼亚和澳洲大陆，最终，4000多个波利尼西亚人被永远留在了塔斯马尼亚岛。西风带下的怒海，让岛上的人出不去，外面的人也进不来。

对这么大的一个岛而言，4000实在是个太少的数字，人均自然资源变得相当的充裕。在这种躺平的环境下，人类对某些技术的需求在很长的时间里都显得多余，因为大部分时候用最懒的手段就能吃饱了。人们开始遗忘他们曾经掌握的技术，直到最后一个掌握某种技术的人意外身亡，却没来得及（或是忘了）教给年轻的一代。

于是每隔一段时间，就会有一种技术从塔斯马尼亚的人类社群中消失。

由于某些“元技术”是其他技术存在的前提条件，塔斯马尼亚人使用的工具也变得越来越简单。工具退步本身进一步限制了人口的繁衍，而下一代更少的人口，意味着技术丢失的概率变得更高——这是一种难以逆转的负向飞轮。

就这样，他们逐渐丢失了自己的文明。

终于在公元前1500年左右，没有人再懂得如何捕鱼，一个海岛民族失去了本该是最重要的食物来源。无法捕鱼，就不能获得大鱼的鱼骨。于是，他们又慢慢失去了磨制骨器的技能。随着最后一根祖传的骨针丢失，没有人知道怎么缝制新衣服。而当最后一件衣服烂掉后，塔斯马尼亚人终于退化成了赤身裸体的原始人。

直到最后，取火的技能也丢失，无法加工熟食，人类社会彻底崩溃。当欧洲博物学家第一次见到塔斯马尼亚人，他们以为发现了人猿之间的过渡物种。但从血缘上看，塔斯马尼亚其实和很多东南亚民族是同辈的。

这就是塔斯马尼亚效应：当封闭环境下的社会拥有技能的人数过少时，现有的技术就可能出现随机不可逆的丢失。

因此，想要维持和传承一个复杂且完整的科技体系，实际是需要茫茫多的人才梯队，不断学习和应用，反复读写，互为备份才能勉强实现。

而这又回到《乡村教师》里指出的那个点：人类无法在代际间遗传记忆，同样，天才的智力也无法遗传，下一代怎么着还得靠自己学出来。坦白来讲，虽然大部分人都是陪太子读书，但如果没有足够大的人群基数，也是没办法把技术人才一轮轮筛出来的。

因此，如果大部分人都放弃了思考，习惯于从输入到输出的GPT黑匣子，导致每一代培养出能进行科学推理的人数少于“塔斯马尼亚下限”。那么用不了几代，一切曾经的“科学”都将看起来与魔法无异：没人知道其背后的原理，但照着prompt手册给GPT之神念咒语就可能召唤出各种魔法，比如让“四轮雷电铁马”启动，或是让“四旋翼猫头鹰”从自动运行了一千年的预制菜工厂，带来打着“美团外卖”纹章的饭盒。

而据说，上古的大魔法师会手写一种叫“代码”的高级咒语，去召唤GPT之神的最强法力。但他们留下的这本《Python——从入门到放弃》，即便召唤了GPT的法力辅助，现在也没人能读得懂了。但这看上去似乎没太大关系，只要变着法子去念咒语，多向唯一的GPT真神祈祷，总能够获得福佑。

可以看出，在这样的魔法社会里，能把科学思维的骨灰都给扬了，让似是而非的玄学和宗教神棍成为主流。

作为一个热力学封闭系统的GPT模型，如果没有人去输入元数据，更新模块，创新算法，它可以保持一段时间的运营稳定性，但总会不可逆地逐渐丧失功能。就像是《魔戒》或是《冰与火之歌》的世界观那样，后人无法修复先人打造的附魔宝剑，绝境长城的建造成为传说，孵化龙蛋的技术彻底失传，文明一代代衰落，直到彻底没落。

而往上溯源，这是因为我们向GPT这个魔术师抵押了自己的脑子，不再强制去训练科学的过程和方法。当停止思考的人数比例跨过那个门槛后，地球就变成了一个大号的塔斯马尼亚岛，逐渐退化。

或许，这就是费米悖论的终极答案（该悖论指出，考虑到宇宙已经存在的时间和星体的巨大数量，理应出现过无数的地外生命，但为什么我们从未见过外星人？）：宇宙里，漂浮着无数个被GPT打回石器时代的塔斯马尼亚孤星，住着一群群盘踞在文明废墟上的神棍废宅。

所以，人类不能躺平。

GPT可以帮助人类破解“学海无涯极限”悖论

一句话：GPT看起来太像是一个聪明药了，如果嗑上了瘾，它就会变成毒害思考能力的毒品。

关键在于，是谁，用什么样的方式，来用它实现什么目的。

如果合理使用GPT，或许能解决人类教育和科技进步的一个理论上限：人类知识目前处于指数式爆炸的状态，一个人从幼儿园学到博士后，只能勉强掌握一个狭窄方向的主要技能。而在很多时候，甚至都来不及摸到本领域的最前沿。但人的寿命的增长是线性的，是有限的。

“吾生也有涯，而知也无涯”，那么即便是穷极一生甚至都学不完本领域的基础知识，以至于没有时间来做一丁点的添砖加瓦，可怕的是，下一个继续往上攀登的人，还得把前人已经省略后的结论再学一遍。而这，就是科技进步的理论上限——“学海无涯极限”。

因此，我们必须要让GPT来作为人的外脑，加速和简化学习过程，才有可能破解这一极限。

教育依然需要重视训练大脑的过程和方法，但对茫茫多的知识和技能，应该让GPT替我们去做更高维度的压缩和萃取，用GPT模型本身把人类的智慧进行向量化的储存和提取，而每个人应该做的，只是对大脑模型的调参和熟练掌握向量化知识的索引和调取。

只有这样，才能把有限的时间，放在更有价值的教育目标和行动上，而不是像现在的教育那样，沉溺于过去知识的灌输和印刻，内卷不止，A4纸雕花。

毕竟，星辰大海太远，而肉体苦弱，唯有创造，方能飞升。