AI深度伪造日渐猖獗 社交媒体成虚假信息传播温床
本文源自:智通财经
在人工智能(AI)技术快速发展的同时，通过这种新技术生成的深度伪造(deepfakes)信息在大型社交平台上的传播及其可能带来的风险引发了许多人的担忧。
AI深度伪造最常见方式是AI换脸技术，以及语音模拟、人脸合成、视频生成等。它的出现使得篡改或生成高度逼真且难以甄别的音视频内容成为可能，观察者最终无法通过肉眼明辨真伪。
这种AI深度伪造信息通常在社交媒体上传播，并被用于诈骗。例如，此前，一则由AI深度伪造生成的假泰勒·斯威夫特(Taylor Swift)带货广告在社交媒体Facebook上传播。在这则广告中，由AI深度伪造生成的假泰勒·斯威夫特坐在钢琴前，向大家推销法国高端炊具品牌Le Creuset，并表示作为她的“新年大放送”，会向20位粉丝免费赠送一套炊具。当受害者被引导至虚假网站后，会被要求支付9.96美元的运费，但号称免费赠送的厨具不会真的送出去。
美国商业改善局去年曾警告，通过深度伪造进行的诈骗正在增加。该机构表示：“在购买商品之前，请花一点时间重新检查帖子和社交媒体账户，这些照片和视频很可能是假的，如果你购买了不合格或不存在的产品，你就会损失金钱(通常比你想象的还要多)。”
AI深度伪造还可能生成与政治人物有关的虚假音视频内容，通过在Facebook、X(前身为Twitter)和TikTok等社交媒体上广泛传播并扰乱大选。尽管OpenAI首席执行官Sam Altman在本周的一次会议上表示，该公司“非常专注于”阻止ChatGPT等工具被政治滥用，但社交媒体在这些深度伪造信息的传播方面发挥的重要作用仍值得密切关注。
对于Facebook、X和TikTok等社交媒体来说，如何应对深度伪造信息是一个重要课题。Facebook此前已选择增加广告和页面的透明度，这有助于让研究人员、记者或者任何人扮演监督者，以确保广告不会被滥用于传播错误信息、压制投票或者其他粗略的行为。这一举动值得X和TikTok学习。此外，这些社交媒体还需要更新其对深度伪造信息的政策，并在监管利用政治人物的深度伪造广告方面做得更好。
发布于：北京
相关推荐
微软发布最新打击虚假信息工具，可识别深度伪造视频
美国国会听证会探讨“深度伪造”风险及对策
ChatGPT或成传播网络谣言最强工具？
为AI生成内容“正名”：从“深度伪造”到“深度合成”
AI“深度伪造”内容泛滥 Ins上惊现扎克伯格假视频
Facebook训练AI欺骗人脸识别系统，推动解决深度伪造问题
微软打击深度伪造，为 AI 生成的图像和视频加上“身份证”
人们明明害怕虚假信息，为何却越来越爱用社交媒体看新闻？
印度政府希望WhatsApp公开用户信息
换脸已不算事儿，能换整个身体的AI伪造技术马上就来了
网址: AI深度伪造日渐猖獗 社交媒体成虚假信息传播温床 http://m.xishuta.com/newsview105897.html
