首页 > 科技快讯 > 从一夜爆红到全民声讨，AI换脸应用ZAO究竟做错了什么？

从一夜爆红到全民声讨，AI换脸应用ZAO究竟做错了什么？

晰数塔互联网快讯
2019-09-02 08:25

编者按：本文来自微信公众号“腾讯深网”（ID：qqshenwang），作者马关夏，36氪经授权发布。

“仅需一张照片，出演天下好戏”。这是近日刷爆朋友圈的换脸应用ZAO逢脸造戏的广告语。从刷屏走红到质疑不断，ZAO仅仅用了一天时间。

对ZAO的质疑主要来自AI换脸存在的伦理道德风险，以及ZAO产品本身对用户隐私和相关信息的保护程度。

“AI换脸并不是新技术。”一位长期研究人脸识别和分析技术的专业人士告诉《深网》，AI换脸所使用的核心技术是人脸关键点检测GAN（生成式对抗网络模型），这项技术目前已相对成熟，ZAO的换脸功能使用“deepfake”+移动端优化就可以做到，不过并不确定ZAO是否使用了“deepfake”的开源代码。

“deepfake”是国外一项开源AI换脸软件。据《智东西》报道，2017年12月，国外某ID名为“deepfakes”的Reddit论坛用户首次将自己制作的AI换脸视频发布在了网络上。当时“deepfakes”把情色电影里的女主角换成了盖尔·加朵等好莱坞明星。由于大量受害者的投诉，Reddit论坛迫于压力封杀了“deepfakes”的账号，不过这次封杀却让“deepfakes”直接开源了其AI换脸项目的代码。

女明星“出演”情色电影里的女主角，AI换脸存在的伦理道德风险可见一斑。但这仅仅是ZAO被质疑的冰山一角。

01.用户协议争议

AI换脸技术存在的伦理道德风险已经让用户对换脸应用有所顾忌，ZAO用户协议中关于个人和他人肖像权授权的界定，更是直接引爆了外界的质疑。

“ZAO的用户协议太离谱了”“简直是霸王条款”有用户在阅读ZAO的用户协议后这样说到。

ZAO的用户协议中关于用户必要授权的部分包含如下条款：

“1) 在您上传及/或发布用户内容之前，您同意或者确保实际权利人同意授予“ZAO”及其关联公司以及“ZAO”用户全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利，包括但不限于可以对用户内容进行全部或部分的修改与编辑（如将短视频中的人脸或者声音换成另一个人的人脸或者声音等）以及对修改前后的用户内容进行信息网络传播以及《著作权法》规定的由著作权人享有的全部著作财产权利及邻接权利；”

“2) 如果您把用户内容中的人脸换成您或其他人的脸，您同意或确保肖像权利人同意授予“ZAO”及其关联公司全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利，包括但不限于：人脸照片、图片、视频资料等肖像资料中所含的您或肖像权利人的肖像权，以及利用技术对您或肖像权利人的肖像进行形式改动；”

一位微博认证为@法山叔的知名法律博主这样解释他对以上两项法律条款的理解，“根据协议内容，该app除了可免费使用并修改你的肖像，还可以将它任意授权给自己想授权的第三方，当做信息进行贩卖。所以当有一天，你在zao或者其它关联平台上发现你的脸被随意变换、不再属于自己的时候，你想起诉zao，不好意思，它会拿出这个协议来堵你的嘴，告诉你你自己早已同意。”

“比如现在你将杨幂的脸换成自己的脸，你除了要保证自己永久、不可撤销地把自己的肖像免费给zao使用，还要保证杨幂同意zao及关联公司使用她的肖像...这么做，就是因为自己没钱拿到明星们的授权，日后侵权，它们可以将锅甩给你们。”

此外，ZAO的用户协议中还包含关于用户侵权的条款：

“7) 若您侵害他人名誉权、肖像权、知识产权等合法权利的...ZAO 可以诉诸行政执法机构或司法机关，追究相应法律责任。若因您违反本协议或 ZAO 平台的其他规则导致任何第三方损害的，您应当独立承担法律责任并承担损害赔偿责任；zao 及其关联公司遭受损失的，您也应当一并赔偿。”

《深网》就相关条款咨询北京德恒律师事务所徐凯律师，徐凯对《深网》表示，“该协议存在两个层面的问题。

1，该协议涉嫌违反《网络安全法》确立的合法、正当、必要三原则，超过必要限度，其收集利用用户信息的相关行为可能导致行政处罚，具体参照网络安全法第四十一条、六十四条。

2，该用户协议为在线格式合同，一旦进入司法诉讼程序，该条款有可能因为未明确向用户说明或者违反《网络安全法》等众多原因而归于无效。”

或许是受舆论影响，9月1日上午，《深网》发现ZAO已对用户协议的部分条款作了修改。

从一夜爆红到全民声讨，AI换脸应用ZAO究竟做错了什么？

02.是否存在隐私泄露风险？

“ZAO 可能很危险的… 别看你今天玩得开心，过段时间就有可能你的支付宝被盗刷脸了？不过这事儿很难怪 ZAO，谁让你认知浅薄了呢？”8月31日，李笑来在微博上这样说到。

从一夜爆红到全民声讨，AI换脸应用ZAO究竟做错了什么？

质疑ZAO存在信息泄露风险的不止李笑来，“有手机号，有面部图像，通过技术合成，犯罪分子可以替你和你的家人通话。”有网友在使用ZAO后这样评价。

外界的担忧并非空穴来风。从ZAO的产品形态来看，在App手机实名注册的情况下，用户需要进行FACE ID的上传和存储，而且考虑到用户要进行社交分享，这就很可能存在隐私信息泄露的风险。

有观点认为，ZAO或许应该向用户做出如下解释：

1、用户图像、FACE ID如何传输和存储的，加密等级如何，监守自盗或者被黑产盗库的可能性有多大，如何预防？

2、账户、手机号、密码、FACE ID存放的逻辑是怎样的，是否能够有效防范黑产的用户画像和定位？

3、一旦发生隐私泄露，基于用户FACE ID、手机号等核心信息，用户其他财富账户被盗刷的几率有多大？

由于工商信息显示，ZAO公司两名核心人员王力和雷小亮均为陌陌高管，公司股权关系也与陌陌有关，因此，《深网》就以上相关问题询问陌陌内部相关人士，不过并未得到回应。

“AI 换脸视频有可能破解刷脸支付吗？”对于这个问题，支付宝公开回应称“目前，网上各类换脸软件有很多，但不管换的有多逼真，都是无法突破刷脸支付的。

“刷脸支付”采用的是3D人脸识别技术，在进行人脸识别前，也会通过软硬件结合的方式进行检测，来判断采集到的人脸是否是照片、视频或者软件模拟生成的，能有效地避免各种人脸伪造带来的身份冒用情况。此外，在进行人脸识别后，部分用户还需要输入与账号绑定的手机号进行校验，进一步提高了安全性。”

一位业内人士也向《深网》表示，“用换脸软件盗刷支付在技术上不可行。”

03.ZAO能火多久？

据称ZAO一夜爆红后，已经吸引了大批风投机构的关注，不过在考虑机会之前，首先需要想清楚的是ZAO能火多久？

从一夜爆红到全民声讨，AI换脸应用ZAO究竟做错了什么？事实上，ZAO并非第一款在国内走红的换脸软件。今年7月，一款名为FaceApp的俄罗斯变脸应用就曾在迅速走红。这款使用神经网络编辑照片的软件，可以将照片中的人脸变老、变年轻、变性感等等。短时间内，无论是明星还是普通网友都开始分享自己的“老年”照片。FaceApp也从国外火到了国内。

七麦数据的统计显示，7月19日，FaceApp一度位居国内App Store免费应用榜第1名，但FaceApp的热度随后迅速下降，截止8月30日，FaceApp在App Store免费应用榜的排名已下滑至600名左右。

从一夜爆红到全民声讨，AI换脸应用ZAO究竟做错了什么？这也是包括FaceApp这类换脸应用在内的很多爆款应用普遍面临的问题，这些应用往往快速蹿红又快速沉寂。如何延长自己的生命周期，是ZAO目前需要考虑的问题。

而目前来看，ZAO面临的主要挑战，除了用户和监管层面对伦理道德风险和隐私保护的担忧，还有产品层面视频版权、肖像权的争议，以及商业模式的困扰。

ZAO产品可以对影视剧片段进行换脸，这可能涉及到影视剧著作权、版权等问题。

2018年3月，原国家新闻出版广电总局下发的《关于进一步规范网络视听节目传播秩序的通知》规定：“坚决禁止非法抓取、剪拼改编视听节目的行为，并严格管理包括网民上传的类似重编节目，不给存在版权问题、内容问题等的剪拼改编视听节目提供传播渠道。”这导致很多影视类改编账号陷入版权纠纷，其中包括知名影视博主谷阿莫。

尽管ZAO声明不享有素材的商业版权，但并不能完全避免版权纠纷。此前，北京商报曾就谷阿莫版权纠纷采访中闻律师事务所合伙人赵虎，赵虎指出：“在原作的基础上进行二次创作，应该得到原作著作权人的许可，如果未经许可就使用了原作内容，就非常有可能构成侵权。”

北京德恒律师事务所徐凯律师对《深网》表示，“以互联网方式使用演员肖像的，涉嫌侵犯演员的肖像权；如果未经许可复制、网络传播影视剧短视频，则同时侵犯影视剧著作权人的著作权。”

由于ZAO产品可以对明星/名人表情包进行换脸，著作权之外，ZAO也需要关注是否涉嫌侵犯明星/名人的肖像权。

此外，ZAO在商业模式方面的挑战也不小，因为看似功能单一的AI换脸背后，是一个十足的烧钱机器。

“当（前）服务器制作量过大，请稍后再试。”8月31日，ZAO火爆朋友圈的第一天，有用户想要生成一段AI换脸视频，却遭遇了服务器繁忙提醒。

据微博认证为“ZAO官方助手”的用户此前一晚在微博上称，“这个月花700万租的服务器，今晚已经消耗1/3了。明天如果继续火爆，我们只能做严格一些的限制。”由此估算，ZAO每天仅服务器的花费可能就超过数百万元，而且随着用户规模的增长，花费还将上升。

据了解，ZAO使用的AI服务器集成了GPU/TPU/FPGA等模块。一位业内人士向《深网》介绍，现在一个标准的网络优化型服务器的费用是每月88元，而GPU计算型服务器最便宜的也需要2928元。