首页 > 科技快讯 > 美国大选临近,Facebook宣布将“严打”换脸视频

美国大选临近,Facebook宣布将“严打”换脸视频

(原标题:美国大选临近,Facebook宣布将“严打”换脸视频)


澎湃新闻记者 陈宇曦 综合报道

美国大选前夕,美国社交巨头Facebook(脸书)宣布严打换脸视频。

1月7日,据路透社报道,Facebook宣布,将移除deepfake视频(即换脸视频)以及其他被人工操控的视频,旨在遏制美国大选前的错误信息传播。但一些意在模仿和讽刺的视频不在移除之列。

Facebook在1月6日于公司博客上发布了上述消息。Facebook介绍,操纵视频可以使用简单的技术,比如Photoshop,或者一些运用AI技术和深度学习技术的复杂工具来实现,后者通常体现为deepfake,即换脸视频。

Facebook介绍了如何处理deepfake的做法,包括调查AI生成内容和欺骗行为(比如虚假账户),与学术界、政府和产业界进行合作。

具体而言,当视频满足以下两个标准时,将会被移除,一是视频经过编辑后,误导人们认为该视频的人说出了一些话,但实际并没有;另一个是使用人工智能或机器学习产品,对视频进行内容整合、替换或叠加,使得视频看上去是真实的。

Facebook称,与现有政策一致,如果音频、照片或视频违反了其社区标准,包括裸露、暴力、仇恨言论等,将从平台上移除。

不符合移除标准的视频也会由独立第三方事实检查员进行审查,如果照片或置评被认定为虚假或部分虚假,Facebook将减少在新闻feed流中的分发。

Facebook介绍,该公司也在进行操纵内容的识别工作,其中,deepfake是最具有挑战性的部分。在2019年9月,Facebook发起了Deep Fake检测挑战,鼓励世界各地的人们对deepfake检测进行研究,创造更多开源工具。

华尔街日报称,借助深度学习和人工智能,计算机生成的视频变得越来越逼真,甚至更难以检测,这些换脸视频可能很有趣,但会对人类生活带来破坏性的后果。在今年的美国总统大选之前,社交媒体公司承受着越来越大的压力,被要求在网站上消除虚假或误导性内容。

路透社指出,Facebook长期以来被政客批评其内容政策,民主党人谴责Facebook拒绝对政治广告进行政治审查,共和党人则指责该公司歧视保守派观点。

Facebook此次移除换脸视频的做法,也被指存在漏洞。Facebook称,其禁止deepfake的政策不会拓展到模仿或讽刺的内容中,或仅为了省略和改变顺序而被编辑的视频。华尔街日报认为,这会使得公司处于不得不决定哪些视频是讽刺视频,而哪些不是的状态。

一个案例是,美国众议院议长南希·佩洛西(Nancy Pelosi)一段被编辑过的视频不在移除之列,据华尔街日报介绍,在去年,佩洛西的这段视频被广泛分享,视频被人为编辑放慢了速度,改变了语调,是她说话的感觉变为模棱两可。

Facebook表示,由于使用了常规剪辑,该视频不属于deepfake,但该公司仍因为该视频被人为故意操作而减少了其分发。这一做法则招致了广泛批评,Facebook此次推出的“新政”也因此充满争议。

相关推荐

美国大选临近,Facebook宣布将“严打”换脸视频
美国2020大选临近,抖音海外版禁止投放政治广告
悬赏1000万美元,打假AI换脸,Facebook发起Deepfakes检测挑战赛
推特发布首个反Deepfake策略草案:换脸一时爽?推文火葬场
AI换脸产业链调查:女星定制换脸视频1分钟20元起
最前线 | AI 换脸视频不能随便玩了,新规明年起施行
不雅视频将女明星换脸成主角售卖:涉多重违法
美国大选将至,Facebook的虚假新闻还会继续影响政治选举?
45位女明星的换脸视频卖49元,AI换脸产业链的隐患令人担忧
“跨国视频造假窝点”曝光!帮AI揪出99%换脸视频

网址: 美国大选临近,Facebook宣布将“严打”换脸视频 http://m.xishuta.com/newsview15895.html

所属分类:互联网创业