最前线 | AI 换脸视频不能随便玩了，新规明年起施行
从换脸技术 Deepfake 初次在论坛出现，到“神奇女侠”盖尔·加朵的脸被嫁接到成人片女星身上，再到换脸应用 ZAO 一夜间风靡朋友圈，仅仅只过了两年。
基于深度学习的 AI 换脸技术正在创造出越来越多真假难辨的视频。但与此同时，AI 造假技术也在滋生恐慌，这背后是关于隐私、真实、版权等等悬而未决的问题。
监管已经跟了上来。11 月 29 日，国信办引发了《网络音视频信息服务管理规定》（以下简称“规定”），提到了对深度学习视频内容的管控。
规定第 11 条指出，网络音视频信息服务提供者和使用者利用基于深度学习、虚拟现实等的新技术新应用制作、发布、传播非真实音视频信息的，应当以显著方式予以标识；不得利用基于深度学习、虚拟现实等的新技术新应用制作、发布、传播虚假新闻信息；转载音视频新闻信息的，应当依法转载国家规定范围内的单位发布的音视频新闻信息。
也就是说，普通人和服务商发布非真实 AI 音视频时，要以显著方式标清它运用 AI 技术进行了二度创作，且不得使用它制作假新闻。
在视频分享网站 Bilibili 上，能看到大量素人 UP 主制作的 AI 换脸视频。徐锦江、凌潇肃、倪大红、范伟、赵本山等人的形象是最受欢迎的换脸模版。这些视频大多以娱乐为目的，制作水平不一，使用的视频背景大多是影视剧“名场面”。虽然创作者一般都会标清内容运用了 AI 换脸技术，但常常会被评论调侃（夸赞）为“拿原片出来骗人”。
“黑寡妇”的脸被换在了佟湘玉的头上 图片来源：bilibili
徐锦江的脸被换在了雷神的头上 图片来源：bilibili
除此之外，规定还对服务商提出了额外要求，包括“展开安全评估”、“部署非真实音视频鉴别技术”、“及时停止传播未显著标识的非真实 AI 音视频内容”、“建立健全辟谣机制”等。新规将于明年 1 月 1 日起施行。
作为一项“天生带有攻击性”的技术，Deepfake 从诞生之日起就伴随着惊叹声和质疑声。相比国内，海外互联网平台对于此类“非自愿内容”的展示似乎得更严苛一些。
2018 年 1 月 31 日，Gfycat 从其站点中删除了所有 Deepfake 内容。同年 2 月，Reddit 与 Pornhub 也宣布因违反“非自愿色情”政策而禁止此类内容。同月，Twitter 表示将暂停涉嫌发布未经许可的 Deepfake 内容的帐户。2018 年 9 月，Google 也将“非自愿合成色情图片”添加到了其禁令列表中。
2016 年 6 月，一段以 Facebook CEO 马克·扎克伯格（Mark Zuckerberg）的脸为素材的 Deepfake视频在 Facebook 和 Instagram 上传播，Facebook 随后表示，他们不会从其平台中删除 Deepfake 内容，但这些视频会被第三方标记为伪造，然后被降低优先级。
题图来源：bilibili
相关推荐
最前线 | AI 换脸视频不能随便玩了，新规明年起施行
AI换脸产业链调查：女星定制换脸视频1分钟20元起
AI 换脸、声音篡改等，明确写入新版《民法典》
AI换脸一时爽，小心赔到家底光
AI换脸一时爽，侵权违法小心赔到家底空
最前线 | Snapchat也推出换脸功能，但监管仍是红线
“跨国视频造假窝点”曝光！帮AI揪出99%换脸视频
45位女明星的换脸视频卖49元，AI换脸产业链的隐患令人担忧
国内首个监管“AI换脸术”规定出台，防得住技术作恶的人吗？
AI换脸调查：淫秽视频可定制女星，700部百元打包卖
网址: 最前线 | AI 换脸视频不能随便玩了，新规明年起施行 http://m.xishuta.com/newsview13939.html
