直播虚拟人快速扩张，法律专家分析其中被忽视的合规问题
【编者按】艾媒咨询最新相关研究报告显示，2021年中国的“虚拟人”带动的产业市场规模和核心市场规模分别达到1074.9亿元和62.2亿元，预计2025年将达到6402.7亿元和480.6亿元，呈现强劲增长态势。
与此同时，虚拟主播成为抖音等短视频平台上的新兴力量，表现出强烈的商业盈利需求。面对监管部门快速推进的高质量监管，直播虚拟人将面临怎样的运营、合规风险？《互联网法律评论》特约专家黄斌律师就此展开前瞻分析。
持续近三年的新冠疫情让人们开始习惯于长时间的“线上工作和学习”，同时推动虚拟人大规模集中出现，以满足人们的“线上工作和娱乐”。
2021年6月26日B站成立12周年之际，董事长陈睿表示，过去一年共有32412名虚拟主播在B站开播。虚拟人是连接现实、开启元宇宙的重要角色，并且成为元宇宙中一条重要的交互赛道。
与此同时，商家的虚拟人直播如雨后春笋般出现在各大平台，“虚拟人+故事场景”直播颠覆了传统的真人直播模式，刷新了用户对平台、品牌的认识，构建起一种全新的营销生态。为实现可持续运营，平台和直播虚拟人商家有必要高度关注其中的运营、合规风险。
一 直播虚拟人发展概况
虚拟人起源于20世纪80年代，近年来随着建模、AI、动捕、渲染技术的发展进入高速成长期。
2021年10月20日，广电总局发布《广播电视和网络视听“十四五”科技发展规划》，在虚拟主播方面提出“探索短视频主播、数字网红、直播带货等虚拟形象在节目互动环节中的应用，增加个性化和趣味性”，首次明确地鼓励和支持虚拟人的发展。
“现在进入了一个时间点，已经不太需要去教育客户，同他说为什么要给你推虚拟人，很多品牌直接问有哪些虚拟人可以和他们合作，目的性非常强，这也和市场成熟度有关，”动图宇宙创始人丁焱表示1。
▲图片来源：ANYCOLOR官网
2022年6月8日，Anycolor于东京证券交易所上市，这是全球首家以虚拟人为主营业务的上市企业，其旗下有彩虹社，也有直播事业部。
现在，出现了一些品牌虚拟人深度定制，以及提供虚拟人IP代运营服务的公司，平台、商家都开始定制品牌虚拟人，或者与提供虚拟人IP代运营服务的公司合作，试图以虚拟人形象的IP价值输出打开在Z时代中的影响力，拓展新消费人群。
二 运营风险：直播虚拟人同样会“塌房”
正在快速突进的直播虚拟人会面临哪些运营风险？
虚拟人产业链分为基础层、平台层、应用层。
基础层包括建模软件、渲染引擎、芯片、传感器、光学器件、显示设备等软硬件，并且通过三维建模、数据预处理、渲染模型等操作为虚拟人的制作提供软硬件基础，制作静态虚拟人。 平台层包括AI能力平台、建模系统、动捕系统、渲染系统等，从基础层获取数据信息后，平台层通过软件算法提供交互技术能力，可以为虚拟人赋予“生命”。 应用层打造及运营虚拟人人设，塑造人格，为虚拟人注入“灵魂”，并应用于各式各样的场景。从驱动方式来看，直播虚拟人又可分为非交互型、真人驱动型和人工智能驱动型。
非交互型是指按照预先设置的内容做出回应，与用户的交互性极弱。 真人驱动型又称“套皮虚拟人”，是指基于真人的动作、表情等通过动捕设备驱动虚拟人。 人工智能驱动型是指利用人工智能（AI）技术，通过多模态技术和深度学习模型的运算结果，实时或离线驱动虚拟人的语音表达、面部表情、具体动作。 目前，应用于直播领域的主要是真人驱动型虚拟人和人工智能驱动型虚拟人，它们均可实现与用户之间的强交互。
业界普遍认为，真人主播有人设崩塌的风险，而直播虚拟人不存在人设崩塌的风险。不过笔者以为，虚拟人人设同样也会崩塌。
“一个好的虚拟人，最重要的是‘真实感’。不仅仅是‘柳夜熙’那样的形象真实感，更多体现在人格真实感上。他/她能够真实切入现实生活，用自己的人格和消费者对话，”人类快乐螺蛳粉品牌策略部负责人Jojo说道。2
▲ 图片来源：柳夜熙抖音官方账号
人工智能虚拟人是通过大量的预设人格相关数据进行机器学习，然后通过算法进行自动化决策，并与用户实现交互。人工智能虚拟人的人格塑造可能贯彻了平台、商家的商业目的，该商业目的可能因为一些歧视和偏见导致人设崩塌。算法设计者固有的偏见和歧视也有可能导致人设崩塌，例如，某品牌智能音箱在回复用户心动周期的相关问题时建议用户自杀，某人工智能软件将黑人识别成灵长类动物等。
2022年2月，国家卫生健康委和国家中医药局联合发布的《互联网诊疗监管细则（试行）》的第二十一条强调，“严禁使用人工智能等自动生成处方，严禁以商业目的进行统方”，其原因就是使用人工智能自动生成处方很难不体现平台和商家的商业目的。
套皮虚拟人首先需要打造一个虚拟形象，俗称为“皮套”；随后套皮虚拟人的“灵魂”注入是通过给虚拟人提供声音和动作的真人（俗称“中之人”）实现，因为“中之人”不仅仅负责声音演出，同时还要将自己的个人情感、喜好代入其中，肩负着赋予角色“灵魂”的重任3。
很多人以为，只要不像现实偶像一样因为负面新闻“塌房”，虚拟偶像的生命周期就是无限的。实际上，一旦虚拟偶像换作“中之人”，原先与粉丝之间的情感联系就会戛然而止，这时角色的生命周期也就走到尽头4。
▲图片来源：AIChannel Bilibili官方账号
世界第一虚拟主播“绊爱”（Kizuna AI）的幕后公司为了增强绊爱的竞争力，增加了三个“中之人”，结果引发粉丝的极度不满和人气下滑，并最终进入休眠状态。绊爱用实际行动证明了虚拟偶像也会“塌房”的事实，也证明了绑定的“中之人”对于知名VTuber而言，就是不可替代。5
但无论是 AI 直播，还是完全按照剧本设计的人设，都不是粉丝真正想要的。资本或许认为粉丝爱的是皮套，但是对很多粉丝来说，虚拟偶像提供的情绪价值比冰冷的皮套更重要。皮套和灵魂是相辅相成的，粉丝第一眼肯定是被皮套吸引，但有趣的灵魂才是维持人气的关键6。
三 真人驱动型虚拟人面临的合规问题
虚拟偶像虽然是技术产物，但目前还是得依靠人来驱动。
“粉丝把对虚拟偶像的喜爱移情于背后的“中之人”（虚拟偶像背后的人）身上，制造了虚拟和现实的混沌。A-SOUL成员休眠事件，实际便是这种混沌引发的混乱，其中正义的含量值得玩味。”7
人民网的上述评论很好地诠释了套皮虚拟人的现状。皮套是平台或者商家设定的虚拟人之完美剧本设计的人设，然而皮套后面的“中之人”即使完全按照完美剧本设计的人设进行演绎，不同的“中之人”还是会不自觉地在皮套上演绎出不同的风格，也就是体现出虚拟人不同的灵魂，就像同一电影剧本，不同演员演绎同一角色亦有不同的理解，最终体现不同的风格。
那么，针对套皮虚拟人，平台和商家各自的合规风险及责任都是什么？
▲ 图片来源：A-SOUL新浪微博官方账号
（一）平台
对于汇集大量直播虚拟人的平台而言，平台的善良管理者义务与其从虚拟人直播中直接获得的经济利益正相关（例如，在直播虚拟人获得的打赏中分成），获得的经济利益越大，自然应对此负有较高的注意义务。
1.对直播虚拟人形象（皮套）的著作权方面做初步审查。平台不仅需要履行一般网络服务提供者的责任，还应当建立一套知识产权审查机制，对平台上直播虚拟人形象的著作权方面做初步审查。这种审查应当采用“一般可能性”标准，例如，审查著作权底稿、原件、合法出版物、著作权登记证书、认证机构出具的证明等初步证据，证明其为著作权或与著作权有关权益的权利人。简而言之，平台不能滥用“通知—删除”规则。
2.平台要尽到必要的审核义务。在开通在线打赏功能时，平台应该要求商家提供相关身份证明，从事相关行业、产品或者服务的资质证明等文件，尽到自己的必要审核义务。平台在接到相关投诉后，应该及时核实查证，直播虚拟人确有问题的，应当采取冻结账号等一系列措施，避免用户的损失进一步扩大。
3.平台要高度防范商家可能存在的欺诈行为。例如，Vox Akuma类直播虚拟人号称，“Vox是一个生活在400年前的日本恶魔，后为德川家族所灭，因为恶魔之血的作用，400年后Vox再次复活，希望通过网络了解现代社会并重建族群”。Vox Akuma营造的“复活重建家族”在一个多小时的直播中获得111万元人民币打赏，这种打赏不同于一般的单纯欣赏而进行的打赏，还有可能是大家真心想帮助Vox重建族群，这笔资金的使用就需要慎重，避免涉嫌欺诈和诈骗，尤其在平台从中拿走一部分打赏收益的情况下，平台可能需要承担较大的责任。
4.平台需要高度关注民事权益侵害连带责任。《民法典》第一千一百九十七条规定了网络服务提供者的连带责任，当平台从打赏中拿走部分收益时，就很有可能构成“网络服务提供者知道或者应当知道网络用户利用其网络服务侵害他人民事权益”，在未采取必要措施的情况下，平台将与商家承担连带责任。
▲图片来源：萌娘百科
（二）商家
1.知识产权侵权问题。商家定制直播虚拟人，首先应当获得直播虚拟人形象（皮套）和完整人设构思的著作权。该版权链条应当清晰，至少应取得包括发行权、信息网络传播权、修改权、复制权、表演权、改编权等权利的授权，并不得侵犯他人在先权利。其次，在获取声音、动作、面部表情等数据前，应当取得“中之人”的同意，并应当与“中之人”签订相关保密协议，不得透露“中之人”的相关信息，以满足直播虚拟人人设的完整与丰满。
2.算法歧视问题。商家与提供虚拟人IP代运营服务的公司合作，必须明确双方的权利和义务，不得将其商业价值观贯彻在算法中，不得将歧视、偏见带入算法，维护好直播虚拟人人设的完整与丰满。
3.直播虚拟人的设定要符合科学伦理，保证科技向上向善。
四 人工智能虚拟人面临的合规问题
智能虚拟人是指利用人工智能技术，通过多模态技术和深度学习模型的运算结果，实时或离线驱动虚拟人的语音表达、面部表情、具体动作，其通过人工智能技术打造直播虚拟人的完整人设，并赋予直播虚拟人“灵魂”。
人工智能的运用应符合可理解原则和公平原则，人工智能应该能够为人类社会现有的道德所理解；人工智能的运行应当保持透明可见的原则，不让特定个人或少数群体遭受偏见、侮辱和歧视；人工智能应当尊重人格尊严和个人隐私，保障人工智能参与者的知情权和选择权；最后，人工智能的发展应当可控，人类不从属于人工智能，也不应受到人工智能的胁迫，保障人类在人工智能中的决定作用，当人工智能失控时，应当有毁灭装置。
针对智能虚拟人的直播运营，平台及商家需要关注的合规风险如下：
（一）平台
对于汇集大量直播虚拟人的平台而言，平台的善良管理者义务是与其从虚拟人直播中直接获得的经济利益正相关的（例如，在直播虚拟人获得的打赏中分成），获得的经济利益越大，自然应对此负有较高的注意义务，其应当承担的法律责任和注意义务与之前所述真人驱动型虚拟人基本一致。
（二）商家
1.在制作和运营直播虚拟人时，应当坚持科学伦理先行。
伦理是指在处理人与人、人与社会的相互关系时，应遵循的道理和准则，是指一系列指导行为的观念，是从概念角度出发，对道德现象的哲学思考。它不仅包含处理人与人、人与社会、人与自然之间关系时的行为规范，而且也蕴涵着依照一定原则来规范行为的深刻道理。8
人工智能最大的弱点是，缺乏直接的感受能力，在价值判断上存在弱点，而人工智能伦理准则所倡导的造福人类、避免伤害、公平正义等价值理念，为人工智能技术层面的开发和运用提供了价值判断标准。9
人工智能的研发与应用的伦理观应符合以下目标：
应当为了共同利益和人类福祉，以促进人类向上向善为目的，保护人类在社会和工作中的尊严、诚信、自由、隐私和安全，推动全社会公平共享人工智能带来的益处，不断增强人民的获得感、幸福感、安全感，促进人类社会和平发展和可持续发展； 运行应符合可理解原则和公平原则，人工智能应该能够为人类社会现有的道德所理解，切实保护各相关主体合法权益，促进社会公平正义和机会均等； 人工智能的运行应当保持透明可见的原则，不让特定个人或少数群体遭受偏见、侮辱和歧视； 尊重生命权利，人工智能应最大限度避免对人的生命安全、身体健康、精神和心理健康造成伤害或潜在威胁，尊重人格尊严和个人隐私，保障人工智能参与者的知情权和选择权； 人工智能的发展应当可控，人类不从属于人工智能，也不应受到人工智能的胁迫，保障人类在人工智能中的决定作用，当人工智能失控时，应当有毁灭装置。2.数据伦理
以机器学习为代表的人工智能技术需要大量数据，数据是机器学习的根基，数据的真实性、完整性，以及数据的规模和质量是人工智能进行分析与建模的关键。
人工智能公平性的核心基础是数据，数据的不公平主要体现在：不同群体在数据中所占比例不均衡，数据固有的歧视，数据固有的偏见，数据的包容性不够，数据的通用性及数据的准确性等。
数据具有固有的歧视和偏见，是因为一些带有歧视和偏见的价值观映射在数据上。如果没有对上述数据不公平现象进行调试和校验，这种不公平将反馈到人工智能算法模型，并最终映射到人工智能的公平性上。
3.算法治理
算法是一种“数据处理活动”，包括收集和处理数据，挖掘数据价值，涵盖数据的生成、采集、存储、转换、处理和输出的全过程。
智能直播虚拟人需要通过算法实现自动化决策，以达到与用户之间的强互动。
算法的出现和使用，是为了执行大规模重复的任务和计算，是为了实现商业上高效快速的交易，是为了实现公权力具有广度、深度和效率的运行。
随着算法的日益广泛应用，算法成为促进政治、经济、文化和社会发展的工具，应当遵循人类共同价值观，遵守国家或地区的伦理道德；算法应当尊重人类主体地位，给用户选择权和决策权；算法应当抑制人类社会无处不在的歧视和偏见；算法应当保障用户的人身权和财产权。
【脚注】
1.虎嗅网，共同虚拟，百万身价虚拟人，https://www.huxiu.com/article/490478.html
2.编程客栈，出资2500亿！资本沸腾！虚拟人直播带货一夜爆红！品牌方因何买单？http://www.cppcns.com/news/roll/468379.html
3.新浪，樱动漫，CCTV新科娘宣布更换中之人，这个官方虚拟主播又凉凉了，http://k.sina.com.cn/article_6438410494_17fc258fe00100lp02.html
4.百度，36氪，窦轩，焦点分析｜虚拟偶像顶流A-SOUL塌房：一场失败的商业实验，https://baijiahao.baidu.com/s?id=1732947038731113203&wfr=spider&for=pc
5.百度，钛媒体APP，第一虚拟主播「绊爱」的消失，https://baijiahao.baidu.com/s?id=1725874752790421125&wfr=spider&for=pc
6.澎湃，差评君，顶流虚拟偶像A-SOUL一夜塌房，背后的五个女孩真的就是工具人？https://m.thepaper.cn/baijiahao_18144210
7.百度，人民融媒体，人民网，人民艺起评：警惕“饭圈文化”席卷“虚拟偶像”，https://baijiahao.baidu.com/s?id=1733128935195419857&wfr=spider&for=pc
8.百度百科，伦理，https://baike.baidu.com/item/%E4%BC%A6%E7%90%86/2138438?fr=aladdin
9.中国网财经，人人皆可换脸 眼见不再为真：人工智能安全如何保障？http://finance.china.com.cn/roll/20210108/5472031.shtml
本文来自微信公众号“Internet Law Review”（ID:Internet-law-review），作者：黄斌，36氪经授权发布。
相关推荐
2019年度教育行业全析：快速奔跑的合规之年
“虚拟人”角斗场，基于“硬实力”下的人性平衡法则？
“合规”不等于安全，它只是初创公司的“第一步”
税务合规，切莫轻视
一轴全息：数据合规立法
这届冬奥会，虚拟人含量有点高
数字孪生时代，崛起的虚拟人
如何让人工智能“负起责任”？盯住隐私合规
困在To B的虚拟人创业
2022，李佳琦的对手是虚拟人
网址: 直播虚拟人快速扩张，法律专家分析其中被忽视的合规问题 http://m.xishuta.com/newsview64585.html
