首页 > 科技快讯 > 比飓风更可怕的，是一张AI 生成图片

比飓风更可怕的，是一张AI 生成图片

晰数塔互联网快讯
2024-10-14 12:10

本文来自微信公众号：极客公园（ID：geekpark），作者：Moonshot，原文标题：《比飓风更可怕的，是一张 AI 生成图片》

9月26日飓风「海伦妮」从佛罗里达州登陆美国，袭击美国南部多州多地，至今已造成超过230人死亡，「海伦妮」也已经成为2005年「卡特里娜」飓风以来，导致美国本土死亡人数最多的飓风。

与此同时，一张AI生成的照片，也在社交媒体上掀起轩然大波，甚至在下个月选举来临之前，引发了两党的「红蓝对决」。

到底是什么图片，能比飓风带来的影响更严重？

01、飓风营救or非洲秃鹫

共和党全国委员会的委员、Women for Trump的联合创始人Amy Kremer发在X上推文「这张照片深入脑海，令我心痛」，配图是一个楚楚可怜的小女孩，身着救生衣，在救生艇上眼中含泪抱着一只小狗。

这类聚焦在单一受害者，无辜的女童不得不躲避灾祸的照片，都非常容易调动起人们的同情心，就像那张《饥饿的苏丹》，瘦骨嶙峋的小女孩背后是一只紧盯着她的秃鹰，越战中躲避燃烧弹的《凝固汽油弹女孩》激起过无数年轻人的反战情绪，那张学习中的「大眼女孩」也让希望工程深入人心。因此这张「飓风中紧抱小狗的女孩」照片也在社交媒体上被大量转发。

但在情绪过后仔细再看，小女孩的手臂和腿部极度光滑且和肤色不符，头发也呈现非常奇怪的纹理，大拇指骨节也呈现怪状凸起。没错，这张照片是一张AI生成的图片。

在被评论区的人指出「假图」之后，Kremer直接发文开怼称「是啊，我是不知道这张照片是从哪来的，说老实话，哪儿来的无所谓。它已经永远烙印在我的脑海中了，有些人比这张照片所显示的经历还要糟糕得多。它象征着人们现在正在经历的创伤和痛苦。」换言之，她知道这张图片是假的，但她不在乎，因为她的目的不在于同情这位「AI女孩」，而是攻击执政党应对「海伦妮」飓风的失责。

因为类似的AI照片也被极右翼政客Laura Loomer、共和党KOL及特朗普支持者Buzz Patterson和Juanita Broaddrick转发，配文则是「我们的政府又让我们失望了」或「执政者抛弃了他们」。这些推文的传播量均已上百万。

AI假图片已经成了党派之间相互掣肘的政治工具，伴随着这张照片一同传播的还有各种阴谋论和假新闻，诸如「联邦紧急事务管理局正在准备把灾民财产充公」「当局在控制共和党支持州（飓风受灾州多为支持共和党的（红州）天气」。

相应的，Facebook上也流传着特朗普冒着洪水帮助居民的图片，当然也是AI合成的。该帖子在两天内被分享了超过16万次。

特朗普本人也在前不久泰勒·斯威夫特公开表态支持民主党总统候选人哈里斯后，在自己的X上发布了「Swifties for Trump」（支持特朗普的泰勒粉丝），附上的图片全是AI生成的假图。

这并不是特朗普第一次发AI假图，作为马斯克支持的候选人，特朗普不可能没有分辨AI内容的能力，毕竟不久前他还发布了他和马斯克一起跳舞的DeepFake AI合成视频。

但在碎片化的社交媒体平台，政客们不在意信息真假，不管是实拍还是AI生成的照片，只要有传播效力即可，造势才是社交平台上政治宣传的首要目的，感性的印象取代客观事实，「造谣一张嘴，辟谣跑断腿」的传播学原理在AI时代更猛烈地回响着。

02、谁在制造AI垃圾

但追根溯源，这些AI假内容是谁生成的，又怎么在各种社交媒体上广泛传播，能骗一个是一个的呢？

这张图加配文「亲手制作，谢谢大家的喜欢」在Facebook上收获了87万点赞，3.5万的评论，然而它是AI生成的一张假图片。

而喂给AI的原图，则是一个木雕艺术家Michael Jones和他创作真实存在的木雕狗，Jones的原帖只获得了1063个赞，110条评论，与AI假帖相去甚远。

同时，在Facebook上还流传着不同种族、性别、狗的品种的类似图片，它们的来源都是Jones的这张图，这意味着任何人都可以每小时用AI创造上百张以假乱真的图像，然后在社交平台上随即发布，总有几条能斩获不错的流量和曝光。其中，Facebook是重灾区。

去年底，科技网站404 Media的记者就发现，Meta旗下的Facebook上明显是AI生成内容的帖子数量激增，同时也扩散到Meta旗下的Threads。

为什么Facebook是重灾区？原因很简单：平台算法化赶上了用户老龄化。

在最近的一次财报电话会议上，Meta CEO扎克伯格告诉分析师，为了跟上TikTok等平台的变化，Facebook向用户算法推荐的帖子数量翻了一倍，推荐帖子现在约占用户主页的30%。

然而据OBERLO调查机构的数据显示，Facebook 25岁以上用户占比达到77.4%，其中35岁用户以上占比达到46.6%。对于大量出生在前互联网时代，可能在中年才开始使用社交媒体和智能手机的中老年人来说，理解AI是什么都费劲，更别提鉴别AI内容了。

8月由斯坦福互联网实验室发布的论文《垃圾内容和骗子如何在Facebook上利用人工智能生成的图像来增加受众》也在测试中发现，他们用AI生成的图像总共获得了数亿次曝光。AI生成的图文帖通常是标题党配合夺人眼球的图片，比如一个断腿的小孩子举着牌子说「祝我生日快乐」就能收获7万点赞和3000条评论。用户的评论也能显示出他们并没有意识图片是由AI生成。

而且算法推荐就像一个上升的螺旋，研究者发现，在点进几个AI生成内容帖后，哪怕没有关注和点赞，后续自己的主页也会推送越来越多的AI帖。已经有一些活人用户在Reddit上辣评「Facebook已经变成刷不完的Midjourney AI照片墙了。」

骗流量之外，AI假图片还想骗钱，比如就像上面显示的木雕狗，可能帖子里就会附赠「购买同款木制品」的链接，实际上并不存在这些产品，又或者会把观众引流到其他广告网站，像上面最火的木雕狗帖，点开评论区就发现置顶了一条宠物用品的销售链接。

更吊诡之处在于，许多照片可能正是用Meta AI所生成，Meta AI的目的之一就是让照片以假乱真，然而这些照片骗过了自己的用户，矛盾至此转换成了流量的循环。

AI生成垃圾内容影响的不仅是「老龄化」的Facebook，就连曾经以高质量文本内容出名的「美版知乎」Quora，都不得不面对AI生成内容去稀释社区内容质量的现状。

更糟糕之处也在于，现在许多AI生成图片正在和现实牢牢捆绑在一起，就比如海伦妮飓风尚未平息，但在AI假图被识破后，每个用户都会质疑每一张照片的真实性，哪怕它是基于现实的实拍照片，在经过大量假内容稀释后，都要面临「真假美猴王」自证清白的窘境。

巴以冲突、美国大选、巴西洪水、海伦妮飓风……这些现实生活中真实发生的天灾人祸，在碎片化、简介信息、图文为主且注重高度时效性的内容社区来上，战地记者的实拍图收到的浏览量可能远比不过AI生成的假图片。

而这些内容往往都针对毫无戒心的老年人，他们基于同情心，贡献了自己的点赞和转发，不知不觉中却成了算法的帮凶。而这些AI的养料则是基于原创但不被看见的艺术家。

而作为具有重要责任的社交平台，例如Meta，则陷入了AI的自我「矛盾之战」：用户使用Meta的AI工具生产出虚假信息和垃圾信息，将其发布到Meta平台，而Meta的AI团队则需要通过技术鉴别到底哪些是真实图片，哪些是AI生成的。

其中的讽刺耐人寻味——AI生成技术团队越进步，审核和鉴别团队就越难做。

在垃圾信息已经充斥互联网的当下，AI生成工具的诞生，无疑再次为网络垃圾化的进行提供了加速度。如果无法解决这个挑战，被「困在系统中」的不仅仅是用户，后者平台，而是所有人。