微软将用 AI 过滤 Xbox 的不当内容，反欺凌，更友好
编者按：本文来自“爱范儿”app，编辑|冷思真，36氪经授权发布。
“口吐芬芳”是一个互联网时代诞生的词语。
这个词似乎来自 JOJO 的奇妙冒险系列第四部中，广濑康一的替身 ACT3 遇到困境时会逐字逐句说出「S.H.I.T」一词。之后该系列的狂热粉丝们开始以 S.H.I.T 替代骂人，或许是因为该词会被敏感词系统屏蔽，后来变为了「口吐芬芳」。
在饭圈非友好微博交流，体育比赛死忠讨论区，游戏 battle 现场，每个人或许都会「口吐芬芳」。而作为一个全球知名的在线游戏、数字媒体服务平台，Xbox Live 从来都不缺「口吐芬芳」的人。
现在，微软终于决定主动出击了。他们发现仅在事后对不良行为进行处理是不够的，他们决定采取一种更为积极主动的方式去屏蔽敏感不当内容——消息过滤器。这个过滤器支持 21 种语言的过滤，它不仅能屏蔽特色「国骂」，也能分为「友好、中等、成人、未过滤」进行过滤设置。
最高级别的过滤器为所有未成年的游戏玩家默认开启，它将尽最大可能屏蔽攻击性语言；中等过滤器允许一些友好的垃圾话，当也会尽忠职守地屏蔽攻击性和带有歧视的语言；成人版过滤器则要宽容得多，只会屏蔽那些一直有较强攻击性的语言。
▲ 内容屏蔽展示
当然，在选择你觉得适合自己使用的过滤器后，你也可以为朋友和特定的人进行不同的设置。不管是讨厌某位玩家而为他特别开启「友好」过滤器，还是和朋友们打游戏时总是放飞自我选择不过滤，都有较高的自由度。
家长也能通过微软的家庭设置来管理过滤器的不同级别，Xbox One、Xbox Game Bar 以及适用于 Windows 10、iOS 和 Android 的 Xbox app 中均将支持此过滤功能。
目前过滤器还在内测之中，但微软已经计划在今年秋季晚些时候向所有用户推出这个新工具。
微软的 Xbox 业务负责人 Dave McCarthy 表示，在游戏中，语境是一个非常重要的因素。如果你在战斗类游戏中谈论歼灭敌人或战斗那大多没什么问题，但你要在一个田园类游戏或换装类游戏中这么说很可能就带有威胁恐吓的意味。
为此，Dave McCarthy 和团队也一直在研究将 AI 和关键词过滤工具相结合，更好地识别信息上下文语境。
▲ 图片来自：unsplash
文本过滤还只是一个开始，下一个计划或许是语音过滤。或者更进一步说，微软的目标是能直接完成游戏直播中的敏感词过滤。
毕竟在游戏里打字骂人的虽多，开着语音就疯狂输出的也不少，这其中就有不少「过界」内容。为此，微软研究院开发了语音转文字的功能，可实时转写音频，Xbox 部门未来也可能使用这一功能。
不过这还处于早期阶段。Dave McCarthy 表示「我们正在寻找其他人工智能技术来解决更多的语音过滤问题，比如情绪检测和上下文检测。」
▲Dave McCarthy
不管是在技术难度上还是隐私层面的保护上，想要实现这一切都不容易。Dave McCarthy 在接受The Verge采访时就表示 Xbox Live 不是一个言论自由的平台，每个人在这其中享有一定的自由度，但平台依旧有一定限制。
如果我们真的要释放行业的潜力，让这个美好的媒介走进每个人的生活，那就没有这些不当内容的空间。
封面图来自pexels。
相关推荐
微软将用 AI 过滤 Xbox 的不当内容，反欺凌，更友好
以色列公司「L1ght」获1500万美元种子轮融资，利用AI过滤在线有害内容以保护儿童
微软宣布停止监听Xbox用户，称已经“不再必要”
微软断供中国？人家只是更新Xbox法律争议条款而已
E3 前的枪声：Google和微软错位的云游戏大战
Xbox部门主管Phil Spencer称玩家对VR的呼声不高
Facebook、YouTube都会遇到的内容审核难题，今日头条是怎么解决的？
微软为何不遗余力推行会员制
TikTok在美国被强制要求出售，微软为何此时出手？
云游戏爆发前夜，微软、谷歌、腾讯各出奇招
网址: 微软将用 AI 过滤 Xbox 的不当内容，反欺凌，更友好 http://m.xishuta.com/newsview11309.html
