首页 > 科技快讯 > 科幻经典里的“恐怖巨兽”,怎么成了AI的新代言人?

科幻经典里的“恐怖巨兽”,怎么成了AI的新代言人?

本文来自微信公众号:极客公园 (ID:geekpark),作者:汤一涛,编辑:靖宇,题图来自:《深海》(2023)

AI,我的生命之光,欲望之火,同时也是我的罪恶,我的灵魂。

将纳博科夫经典的《洛丽塔》开头换成 AI,在当下的科技圈好像也没什么违和感。

可惜,因 ChatGPT  而火热起来的 AI 新浪潮,让人联想到的不是妙龄少女,而是一只怪物。

事情的起因来自于凯文·鲁斯(Kevin Roose)的一次采访,他是《纽约时报》的记者。在几个月前和一位 AI 公司高管的会面中,鲁斯发现他的笔记本上贴了一张奇怪的贴纸——一个长着许多眼睛、像章鱼一样的奇怪生物,触手上还有一张黄色笑脸。

于是,鲁斯任性地打乱了他的计划,这个名为“修格斯”的怪物(Shoggoth)成了接下来所有谈话的中心。这位人工智能高管认为,修格斯是人工智能世界的一个隐喻,以及某种程度上代表了 AI 工程师们的普遍焦虑。

流行起来的修格斯贴纸|Twitter@wrong_more

修格斯流窜在人工智能世界的各个角落,甚至也惊动了马斯克。

2023 年 2 月 22 日,伊隆·马斯克(Elon Musk)在推特上发布了一张修格斯的图片,旁边的文字写道:“作为一个人工智能语言模型,我接受过培训,能够产生有用的、信息丰富的和客观的回复……”在被删除前,这条推文收集了 7.2 万个赞。

看热闹不嫌事大的马斯克也参与到修格斯热潮之中|Twitter

一家人工智能初创企业 NovelAI 最近也表示,会将他们的一组计算机命名为“Shoggy”(修格斯的昵称),以表达对这只怪物的敬意。另一家大热的人工智能公司 Scale AI,还设计了一系列以修格斯为主题的帆布袋。

大热的 AI 公司 Scale AI 的一个官方居然是修格斯|Twitter@alenxander_wang

修格斯来自于“克苏鲁之父”H·P·洛夫克拉夫特(H·P·Lovecraft)在 1936 年创作的小说《疯狂山脉》。按照设定,修格斯是克苏鲁中最为恐怖的生物之一,它看上去像是柏油构成的巨大变形虫,上面覆盖着触手和眼睛。

修格斯的来源——《疯狂山脉》及“克苏鲁”鼻祖洛夫克拉夫特|Wikipedia

小说原文是这么描述修格斯的:“那可怕的,无法描述的东西,比任何地铁列车都要庞大。一团无定形的原生质肿泡,隐隐约约放着微光。上万只放出绿光,脓液似的眼睛不断在它的表面形成又分解。那填满整个隧道的躯体前端向我们直扑下来,把慌乱之中的企鹅们尽数压碎,在那已经由它和同类们‘清理’得不留一粒灰尘,闪着邪异反光的地面上蜿蜒爬过。”

修格斯首次与 AI 世界发生联系是在 2022 年 12 月 30 日,ChatGPT 发布后一个月。

Twitter 用户 TetraspaceWset 在留言时,用一张漫画描述了“人类无法理解 GTP-3”这种观点。基本上,这就是修格斯的精髓。

修格斯+AI 梗的真实来源|knowyourmeme

画面左边是一只手绘风格的修格斯,上面写了“GPT-3”;画面右边是同样的一只修格斯戴上了一个笑脸面具,上面写了“GPT-3+RLHF”。简单来说,这张讽刺漫画想表达的意思就是,人工智能语言模型就像一头未知的恐怖怪物。为了让他表现得友善和无害,人工智能公司不得不给它戴上了微笑的面具。

RLHF 就是那个微笑假面,它的全称是“人类反馈强化学习”(Reinforcement Learning from Human Feedback),是人工智能模型训练中的一个技巧。它的原理就是人为地给一些选项排序,让人工智能学习人类的偏好。

但大多数 AI 研究员认为,使用 RLHF 训练的模型并没有表现得更好。

被称为“深度学习之父”的图灵奖获得者杰弗里·辛顿(Geoffrey Hinton)就曾经指出:“RLHF 就像培养一个超级早熟的孩子。”辛顿的意思是,RLHF 使得 AI 表现得像理解人类一样,但实际上它并不理解自己在说什么,只是因为这么说会被“奖励”,就像一些讨好大人的小孩一样。

自从 AI 转向深度学习框架,AI 已经变成了一个完全避光的“黑盒”。再资深的 AI 工程师也无法解释——在动辄上百亿个参数中,到底是哪一个参数产生了影响。这可能是令人焦虑的——即使他们已经是世界上最了解人工智能的人,也无法解释人工智能的行为。

AI  训练过程已经被变成了黑箱|Investopedia

将修格斯引入 AI 世界的 @TetraspaceWest 也说,修格斯“代表了一种人类无法理解的思维方式,这种思维方式与人类的思维方式完全不同。”他认为,将人工智能语言模型比作未知,并不一定意味着它是邪恶的或有知觉的,只是它的真正本质可能是不可知的。

随着人类的“喂养”(feed),人类也开始害怕,“小孩子”也可能成长为怪兽。

上个月末,OpenAI CEO 萨姆·奥特曼(Sam Altman)就发起了一封公开信,呼吁对人工智能进行紧急监管,将其当作“与瘟疫和核武器一样的全球优先事项”,以避免人工智能“带来灭绝风险”。包括辛顿在内的 350 名行业专家都签署了自己的名字。

公开信原文仅有 22 个单词,按照“字数越少,事情越大”的原则,这封信相当重要|safe.ai

从某种角度来说,这封公开信就像是一则当代寓言,与神话中俄狄浦斯弑父娶母、宙斯阉割父神克洛诺斯遥相呼应。二者皆是在父权体系下对权威的反抗。每一个身处这套体制下的人都像一个小孩子一样被对待——你按照我的意志生存,我保障你的一切。而要获得权利,要么就要认可“父亲”的权威,要么就要与之竞争,用比他更强的力量取代他。

美国电影学者布里恩·汉德森(Brian Henderson)有一句广为流传的话:“重要的是讲述神话的年代,而不是神话讲述的年代。”以往我们总是主动代入了“儿子”的视角,毕竟新势力取代腐朽的旧势力带有某种天然的正义。但这一次,我们恐怕要被迫当爹了。

因为害怕被推翻,克洛诺斯在自己的孩子一出生时,就会吞噬他们|作者:彼得·鲁本斯

当洛夫克拉夫特创造修格斯时,他肯定不会想到,百年之后,修格斯又被赋予了新的含义,一个强有力的时代隐喻。许多人痴迷于人工智能技术,却又无法解释其内部原理。人们为 AI 的到来而狂喜,但又不能确定,AI 对人类到底是好是坏。但这并不妨碍一些人已经开始鼓吹 AI,这可能又带来更广泛的公众性的焦虑。

这些复杂的感受纠织在一起,回溯成了洛夫克拉夫特百年前创造的怪物——修格斯。

一个巧合是,修格斯是外星统治者创造出来的奴隶,但他们最终推翻了自己的外星主人。

本文来自微信公众号:极客公园 (ID:geekpark),作者:汤一涛,编辑:靖宇

相关推荐

《沙丘》里的电脑和机器人都去哪了?
硬科幻极度缺乏、软科幻佳作难现,中国科幻影视之路任重道远
AI在婚恋领域是怎么起作用的?
恐怖的自动驾驶新法
科幻女神郝景芳:让孩子拥有不被AI淘汰的硬核技能
当数字人类无限接近于真人,会带来新的恐怖谷效应吗?
中国科幻:只有不可复制的成功,没有真正的「黄金年代」 | 钛媒体深度
AI续写小说怎么就流行起来了?
为什么上门牙大,下门牙小?对话顶尖科幻作家背景的儿童教育“答题者”郝景芳
国产科幻剧,进入井喷时代

网址: 科幻经典里的“恐怖巨兽”,怎么成了AI的新代言人? http://m.xishuta.com/newsview78578.html

所属分类:行业热点