腾讯安全护航AIGC全链路内容安全，已有多场景落地实践
AI生成违法违规内容、AI换脸诈骗、AI错误信息诽谤、AI侵权……如何应对AIGC时代的内容安全风险？
6月19日，腾讯云披露行业大模型方案进展，正式公布MaaS（Model-as-a-Service）能力全景图，助力企业打造专属的行业大模型。在安全保障方面，腾讯云在问题侧、模型侧、答案侧三个层面进行敏感信息过滤和规避。同时，依托腾讯二十余年的安全经验和天御大数据能力，提供AIGC全链路内容安全解决方案，确保大模型可信、可靠、可用。
AIGC带来丰富创造力的同时，也带了全新的内容安全挑战。相对过去以PGC、UGC为主的内容，AIGC时代的内容安全内涵与外延均有显著变化。今年4月，国家网信办发布《生成式人工智能服务管理办法（征求意见稿）》在黄暴政恐违禁、防止歧视、版权保护、虚假信息防范、个人隐私保护等方面均有明确要求。
据了解，腾讯安全AIGC全链路内容安全解决方案，提供包含审校服务、安全专家服务、机器审核服务、版权保护服务四大能力板块，覆盖AIGC类应用从模型训练到内容生成到事后运营全过程的内容安全建设。
AIGC内容安全新挑战不仅体现在“天文级”的数据体量，处理的内容也更加复杂。以模型阶段为例，除了典型的特征标注外，对标注文本的通顺度、逻辑性、连贯性也有较高要求。在内容生成阶段,新型AI 伪造、虚假、违背伦理、不适内容、未成年人等违规内容，以及AI 问答产生专业性内容，都超出传统内容风控的范畴。
腾讯安全依托过去20多年的安全运营经验，积累了万亿级的违规样本以及十几种定制识别服务，可以结合行业场景，为企业的内容安全建设“量体裁衣”。此外，腾讯安全天御风控还和对象存储、云直播、云点播、实时音视频等云上工具打通，企业在云上一次接入，即可完成全套内容安全审核，大幅提升效率。
AIGC的快速发展也引发了黑灰产的新一轮的攻击，利用AI换脸、批量生成版权内容套现获利。对此，腾讯安全做了专项优化,在AIGC引发的版权保护难题上，腾讯安全基于版权资产统一ID库,助力企业进行版权原创性筛查；此外，腾讯安全还提供“检测、比对、维权”的全链路版权保护服务。腾讯安全从2019年9月起，对B站平台上UP主上传的原创视频进行版权监测服务，累计监测作品500余万部，累计发现侵权链接近3000万条，发起维权近百万次，维权成功率达98%。
目前，腾讯安全在AIGC内容安全领域已有多个场景实践落地，为文生文、文生图、医疗级视频内容、长小说文本等类型企业提供内容安全服务，护航生成式人工智能健康发展。
雷峰网
发布于：广东
相关推荐
36氪首发｜前完美世界资深安全总监创业，「持安科技」通过产品和服务帮客户持续落地零信任
大族机器人全新升级“防爆协作机器人”，为安全生产护航
腾讯教育推出企微管家，提供教培行业全链路服务
《2022产业互联网安全十大趋势》发布，宏观态势、安全实践、技术演进成重点关注维度
一文读懂机密计算SGX：区块链、AI技术的一把安全锁
36氪首发｜专注软件供应链安全领域，「悬镜安全」完成B轮数亿元融资
中国远洋海运集团5G全场景应用智慧港口；5G网络智慧会务护航中国国际数字经济博览会 | 36氪5G创新日报0906
面向新兴科技场景提供安全服务，「深信科创」获千万天使轮投资
36氪首发 | 「悬镜安全」完成A轮战略融资，腾讯产业生态投资领投，红杉中国继续加持
36氪首发｜推出全链路压测「ForceCop」，「数列科技」获A轮6000万人民币融资
网址: 腾讯安全护航AIGC全链路内容安全，已有多场景落地实践 http://m.xishuta.com/newsview79409.html
