DOITAPP
DOIT数据智能产业媒体与服务平台
立即打开
DOITAPP
DOIT数据智能产业媒体与服务平台
立即打开

网易云安全:直播用户量爆发,智能化风控成趋势

近日,第二届移动视频生态发展论坛在上海举行,200余位来自视频直播的行业领袖和技术专家就视频直播趋势变化、直播内容监管与规范、视频内容IP价值的发掘和重塑等主题展开探讨。

网易云安全(易盾)产品总监王博受邀出席论坛,并发表了关于“视频直播行业内容安全现状与实践”的演讲,他认为当下直播运营者在内容监管方面往往会遇到风险、成本、技术、效果等困境,而在内容安全解决方案上,做到有机整合、人工智能、内容风控这三点尤为重要。此外,网易云安全正式面向企业客户开放了其内容安全智能系统,这一系统在云安全服务领域处于业内领先。

网络直播爆发的同时,内容监管问题日益凸显

2016年被誉为“中国网络直播元年”,上半年网络直播用户规模就已经达到了3.25亿,占网民总体的“45.8%”,中国直播市场的总量超过了 250 亿元。网络直播作为一种新的大众传媒方式开始全方位走入公众视野。

一个新行业野蛮增长之后,暴露的是约束条件的不健全。“进入2017年,直播遇到新挑战,内容监管就是其中之一”,王博说,“仅2016年7月,文化部查处关闭的直播房间数超过2万、涉及网络主播超1.6万”。

随着国家在直播内容方面的收紧,有关部门对直播内容提出了要24小时监管、建立内容审核机制,包括录播先审后发,以及主播实名认证等要求。王博认为,在如此严格的内容监管要求下,直播运营者或COO往往会遇到以下四个方面的困境——风险、成本、技术、效果。

风险层面:如果某直播运营团队在内容审查方面经验比较少,往往会出现触犯法规高压线,轻则停站,重则关站。

成本审核:如果是自建7×24小时的审核团队,一般来说90后团队管理难度大、人员流动非常频繁,这会导致成本居高不下。

技术成本:无论是内容监管,还是文本反垃圾,采取自研技术时间周期长且成本也非常高。

效果不佳:垃圾清理不干净,极大可能会影响用户,因此造成用户流失。

控制违规内容,最好从源头解决

在直播内容黄、暴、广告日益严峻的情况下,打造纯净网络空间显得尤为迫切。在本次论坛上,王博根据网易20年的反垃圾技术经验,总结出了以下三点重要经验——有机整合、人工智能、内容风控。

有机整合是指必须有一个完整的、功能齐全的内容管控系统。“网易在做内容安全方面,对整个业务流程中每一个环节都有把控。举个例子来说,用户注册到登陆再到发表一些内容——包括图片、文本、音频、视频,我们都会做内容防护,确保最后的内容是纯净、安全的。”王博说。

借助人工智能。单纯靠人工解决审核问题,已经无法满足视频直播高流量的需求,人工智能在此环节中起到很大作用,让机器做机器做的事情,让人做人做的事情。在此方面,网易云安全(易盾)会通过机器学习进行语意分析及智能关键词分析,来判断发表的内容是否涉黄、涉暴、涉及谣言等。

内容风控,在反垃圾方面如果是事后做,会比较被动。反垃圾更为高效的手段在于运营者在源头或者垃圾没有产生之时,做到提前预知。王博表示,网易云安全(易盾)可以通过对用户行为的大数据分析,形成用户画像,能提前预知该用户是否产生诈骗行为。

据王博介绍,目前网易云安全(易盾)已经为疯播、全聚星、栗子直播、鱼泡泡等多家视频或直播客户提供反垃圾服务。针对直播行业,网易云安全(易盾)推出了专业的主播身份认证功能、直播挂机检测和直播黑屏检测功能等。随着视频直播用户内容递进式爆发,视频平台的内容安全能力走向系统化、智能化已经成为趋势。

此外,网易云安全(易盾)还推出有内容反垃圾、行为式验证码、注册保护服务、登陆保护等服务,已为众多UGC、PUGC平台提供内容安全和业务安全防护服务,为企业降低人力和技术成本,其相关技术已经处于业内领先。

未经允许不得转载:DOIT » 网易云安全:直播用户量爆发,智能化风控成趋势