首页 > 科技快讯 > 想“战胜”虚假信息?人类需要更多“后浪”

想“战胜”虚假信息?人类需要更多“后浪”

编者按:本文来自微信公众号“腾云”(ID:tenyun700),作者:Peter 腾云特约作者集智俱乐部常驻作者,36氪经授权发布。

和虚假信息的斗争,是一场无限游戏。

在这场游戏中,玩家需要不断扩大自身力量,让自己所代表的理念传递下去。

我们的父辈,相比我们的祖辈更加聪明,这在心理学研究中被称为“弗林效应”。

然而在2018年的美国国家科学院学报上[1],通过对挪威1970至2009年间报考公务员的年轻人的对比,科学家们却发现了”反弗林效应“,即年轻人的平均智商,相比他们的父辈反而降低了。

关于“人类是否正在变傻”的争议从未停止。但当我们谈到假新闻问题的时候,我们必须关注一个更重要的问题——人类群体在变蠢吗?

虚假信息的大范围传播,无疑是降低群体智慧的重要原因。

例如,在新冠疫情下,相比听信各种谣言而拒绝戴口罩的美国人,国人展现出的群体智慧似乎相对更高,这部分解释了为何中国疫情能够得到及时控制。

其实冰冻三尺,绝非一日之寒。医疗健康领域向来都是谣言频出。

这十年间,因为“麻疹疫苗会导致孩子患上自闭症”这一虚假信息的持续扩散,导致美国婴儿的疫苗接种率大幅下降,绝迹多年的麻疹竟然在美国死灰复燃。而在“吸烟导致肺癌”成为主流观点之前,在烟草巨头的舆论操控下,仍有人质疑吸烟和肺癌之间不过是偶然关系(对该话题感兴趣的,推荐《Merchants of doubt》这本书,书中讲了如何美国的无良科学家是如何在主流科学界取得共识之后,仍然为了一己之私,损害对公众有益的政策的制定)。

如今,当GPT-3(GPT是Generative Pre-training Transformer的简称,2018年由OpenAI发布。由于使用了海量训练数据,它能够产生类似人类书写的大段文本。但其本身只是语言模型,并不具有对外部世界的深度理解。这样的文本生成工具能够洋洋洒洒地生成一篇虚假的论文。

当deepfake这样的自动化修图工具能够假造出一份专家的视频演讲。假消息生产者们无疑有了更强大的工具。

谣言传播有何规律,又该如何应对。本文希望结合一些新的研究提出思路。

假消息都是粗制滥造的吗?

不论技术手段如何进步,促成谣言传播的心理机制是相同的。

传统上,我们会认为虚假信息是粗制滥造的,但基于2019年的一项[2]对来自26个网站的260篇新闻的分析,说明从文字来看,虚假信息并不是低质量的——正是由于其本身写作的质量足够好,才能够经由平台高效传播。

虚假信息的价值,只是体现在其契合了特定的心理需求。

研究表明[3],虚假信息的传播,首先依赖于社交传播,毕竟大多数人希望自己能和身边的亲友保持相同的看法,人们也更愿意加入有亲友参与的社交平台;其次,如果一个信息能够激活接收者内置的叙事套路,那么就更容易被传播,如果新的消息不会引起认知失调,那么相比颠覆三观的信息,传播的可能性更大。

以上两点,意味着虚假信息的传递,往往出现在同质化的人群中[4],并在传播初期,由于从众效应的存在,会出现相信的人越多,传播越快的正循环[5]。

随着虚假信息的传播效力达到临界值,会造成社交网络的极化,即网络中不同人群的观点变得极端。

正如在新冠病毒的传播过程中,有特定的易感人群;在阴谋论在传播中,特定人群也更有可能相信各种类型的阴谋论言论[6]。

该研究通过问卷对受试者给出“阴谋论得分”,再比较得分最高和最低的两组,面对关于寨卡病毒的阴谋论——例如病毒是药企合成的、疫苗有害等——的相信比例,发现两组差异达数十倍。

而在社交媒体上,由算法自动发送信息的机器账户(social bot),对虚假信息的传递,也起到了推波助澜的作用[7]。人类用户会被虚假账号的信息操控,并转发相关推文。研究同时指出,打击机器账户,有助于减缓虚假信息的传播。

总结虚假信息泛滥的成因,正是当代社会的复杂度激增,使简化的世界观、直接的因果联系以及善恶两分的预设变成了部分人逃避真实的“厄里斯魔镜”或“风月宝鉴”。

不论东西方,借助魔镜,每个人都能看到并实现自己内心最真切的渴望,然而沉迷于虚拟的幻境,终究是无益于过好这一生的。

识别虚假信息,一定需要专业人士吗?

前文提到,科学新闻和阴谋论在不同时间段的传播效力不同。

科学新闻通常能迅速地达到了一个很高的传播水平,然而在其后的生命周期中,传播能力迅速降低。相反,阴谋论在最初的传播较慢,并且呈现出全传播周期越长,传到的人群规模越大的特征。这意味着可在阴谋言论的传播早期,对其及早铲除。

虚假信息的识别,不一定需要专业人士。通过众包机制,引入普通人的投票,也能够及时地去伪存真[8]。

为了保证众包策略的效率,可以引入信任打分,如果某人能够在特定领域的判断多次相同,那么该人的判断就应该被赋予更高的权重。

2018年,生物学及医学论文平台上pubmed已有两千八百万篇论文,这么多的论文,只有借助自动化工具,才能方便地查询出原始的信息来源,判断出衍生的信息,是否包含了曲解或夸大宣传。为此,需要构建知识图谱,表征不同概念之间的关系[9] ,并回答复杂的二阶问题。

游戏化也提供了新的思路。

2019年的一项大规模在线研究[10]表明,借助游戏化,可以帮助用户接种针对虚假信息的“疫苗”。

游戏中,玩家需要识别出不同类型的虚假信息,并赢得对应的6种勋章,下图的勋章分别对应不可信赖与阴谋论,网络喷子,极化信息,虚假的代入感,情感宣泄。通过让玩家在游戏中识别虚假信息,能够让其在真实生活中识别出虚假信息。

Bad News Game中的6种勋章

另一个通过游戏来对抗虚假信息的案例是The story loom[11],通过观察玩家如何选择不同证据来支持某一虚假言论,研究者考察虚假信息的连贯性和其传播效力之间的关系,找到虚假信息传递过程中最薄弱的一环。

如果能够提供不会与一个人的预设观念相冲突的信息,从而打击虚假信息的论据,就能够让本来不愿意走近真相的人接受一个更准确的观点。

前文分别从社会和个体层面,讨论如何识别出虚假信息,可以看成是阻断虚假信息的传播链,但更关键的是,在虚假信息传播前就对其进行干预、防患于未然。这需要普遍提升大众的科学素养。

然而仅仅让大众知道碎片化的科学知识并不利于科学的传播,更为关键的讲述科学的方法论[12]。例如,让更多人对“概率”有正确的认识,明白符合怎样的规范才能称之为科学实验,具有什么样的证据才能称之为“科学的”。

提升对科研过程的认知,能够让大众自动过滤掉巧合式的虚假信息。

对抗虚假信息:一场无限游戏

面对网络中越来越多的谣言,大众往往会指责提供消息的平台,认为这些巨头应当采用更好的算法,去识别出传播假新闻的账号。

然而,根据加州大学统计学家[13]在《The misinformation age》中指出的,平台加强对虚假信息的打击力度,其结果不能够根除虚假信息,反而会让造谣者的技艺更加提升。

正如抗生素的滥用造成了超级细菌,一味的打压造谣者,只会让谣言变得更具传播性,更加真伪难辨。

因此,不管是科普人士,还是对谣言泛滥感到不满的大众,都需要认识到,和虚假信息的斗争,是一场无限斗争,不能期待毕其功于一役或是找到万灵药,而是要采取“无限游戏”的心态,即授之以鱼,不如授之以渔。

在无限游戏中,最关键的是让游戏继续下去,为此,不应该关注短期的曝光量,而要关注长期的信任培养。

如同普通人,科学家的思考过程,也不是完美无瑕的,因此其结论,只可能是阶段性的接近真相,而不是等同于真相。在科普文中,不论是将科学神秘化,还是低幼化,都是不可取的。

《The misinformation age》这本书针对科普人士,提出的建议是直面科学本身的三个局限性,分别是有限的样本量,选择性的使用证据,带偏见的预设。

作者指出,只有坦诚的向大众沟通,才能在长期换来大众的信任。否则,一旦某项广为人知研究的结论被新的证据推翻,大众就会认为科学家作为一个整体缺少公信力,从而不愿信任科学。

除了构建信任,无限游戏玩家还需要扩大自身,让自己所代表的理念传递下去。

为此科普人士需要不断地培养“后浪”,普及传播技巧,降低传播门槛,同时让有志于科学传播的人,能够获得合理的报酬。

庄子渔父中讲到”处静息迹“的预言故事,正适合我们这个信息过载的时代——试图通过接收到更多更新的消息,来避免虚假信息,就如同畏影恶迹的愚人,“举足愈数而迹愈多,走愈疾而影不离身”。

对于个人来说,避免虚假信息,需要选择信息来源,并提升自己对虚假信息的警觉度,对于自己不熟悉的信息,主动批判性地追溯信息源头。 

参考资料 

[1] Flynn effect and its reversal are both environmentally caused

[2] Acerbi, A. Cognitive attraction and online misinformation. Palgrave Commun 5, 15 (2019). 

[3] News Feature: Finding a vaccine for misinformation Gayathri Vaidyanathan

[4]The spreading of misinformation online

[5] Echo chambers and viral misinformation: Modeling fake news as complex contagion

[6] Klofstad, C.A., Uscinski, J.E., Connolly, J.M. et al. What drives people to believe in Zika conspiracy theories?. Palgrave Commun 5, 36 (2019)

[7] Shao, C., Ciampaglia, G.L., Varol, O. et al. The spread of low-credibility content by social bots. Nat Commun 9, 4787 (2018).

[8] Fighting misinformation on social media using crowdsourced judgments of news source quality

[9]Opinion: Medical misinformation in the era of Google: Computational approaches to a pervasive problem

[10] The spreading of misinformation online

[11] N. Walter, S. Murphy, How to unring the bell: A meta-analytic approach to correction of misinformation. Commun. Monogr. 

[12]Science audiences, misinformation, and fake news

[13] The Misinformation Age: How False Beliefs Spread Cailin O’Connor, James Owen Weatherall

相关推荐

想“战胜”虚假信息?人类需要更多“后浪”
人工智能与人类博弈的时代到来之前,我们需要什么样的人才?
有情感的机器人需要人类的关心吗?
半导体“后浪”
微软发布最新打击虚假信息工具,可识别深度伪造视频
谷歌发布30页长白皮书 详述打击虚假信息努力
营销号为何批量炮制虚假信息?或是恶意流量黑产一环
地球温度越来越高,人类需要制冷新技术
迎接AI时代的到来,人类需要提高“情绪智力”
国外后浪都用它看《一剪梅》 TikTok为何海外爆火?

网址: 想“战胜”虚假信息?人类需要更多“后浪” http://m.xishuta.com/newsview30215.html

所属分类:互联网创业