DOITAPP
doit数据智能产业媒体与服务平台
立即打开
DOITAPP
doit数据智能产业媒体与服务平台
立即打开

以 AI 正视听 腾讯云国内首批通过可信云内容安全认证

1月16日,由中国信息通信研究院指导,云计算标准和开源推进委员会承办,云计算开源产业联盟支持的”严守红线,共筑安全-内容安全的管与控”的云计算安全沙龙在北京召开。来自中央机关、国家部委、中国移动集团信安中心等内容安全专家及40多家相关企业代表,围绕“文字、图片、音频、视频”违规信息识别方面进行技术分享。

会上,中国信息通信研究院发布了国内首批内容安全解决方案评估成果,腾讯云计算(北京)有限责任公司成为首批通过评估的企业之一。加上本次认证,腾讯云目前已获得21项可信云认证,包含云主机服务、块存储服务、云数据库服务、本地负载均衡等,成为可信云体系认证中最全云厂商之一。

(腾讯云首批通过试点评估测试证书)

国内首批通过可信云内容安全认证,累计达成21项认证记录

为落地《中华人民共和国网络安全法》中对用户发布信息的管理要求,云计算标准和开源推进委员会云安全工作组根据”严守红线”的安全方针,组织电信运营商、云计算服务提供商、安全厂商的相关技术专家,编制并发布了”可信云”系列标准《基于云计算的业务安全风险解决方案技术要求 第1部分:内容安全》。

本次会议上,中国信息通信研究院云大所云安全专家王敬宇对该标准进行了解读,该标准规定了内容安全解决方案的功能要求、性能要求、自身安全功能要求,云计算服务提供商和安全厂商的内容安全解决方案,其在功能设计、产品研制、能力评估等方面均可参照此标准执行。

为了将标准落到实处,中国信息通信研究院于2018年11月开展了国内首个云计算行业的内容安全解决方案评估,腾讯云等三家厂商作为首批企业参与了此次评估,并最终通过测试。

据中国信息通信研究院云大所何友斌介绍,为了确保评估质量,评估专家精心准备了多样化的文本、图片、音频、视频测试样本,包含涉黄、血腥、暴恐等内容大类,并对测样本进行了复杂处理。评估过程中发现,腾讯云等厂商主要使用深度学习技术训练监测模型,并结合已知违规样本的分类标签技术对海量数据户进行实时监测,在节约人工审核成本的同时,大幅度提高了违规内容识别的准确率和查全率,并有效降低了误判率。本次评估,客观、真实地反映解决方案的水平,为企业选择和部署内容安全解决方案提供值得信赖的参考和依据。

智能AI+人工审核 腾讯云破解“鉴黄界最大难题”

腾讯云安全策略专家周耀辉也在大会现场分享了腾讯云内容安全的策略:基于四大场景的六类违规内容识别,通过“智能AI+人工审核”一站式解决目前网络中违规内容的问题。而正是在这套策略的指导下,腾讯云解决了“鉴黄界公认的最大难题”——音频鉴黄。

对于网络上传播的色情恶意内容,图像鉴黄技术很好的打击了大部分色情图像和视频内容,但在一些短视频、直播等场景中,还有一些色情内容以音频方式传播,用以规避图像维度的打击。尤其是音频的信噪低、时长短、信道复杂等因素,进一步加剧了内容审核者的挑战。

对此,腾讯云天御在文本、图片鉴黄的基础上,研发了基于音频的鉴黄系统,让腾讯云的整套鉴黄解决方案更具突破性。其中,在针对海量正负样本的训练上,除了应用深度学习模型之外,腾讯云天御还针对线上的识别数据持续进行人工抽检覆盖和漏过情况,并将正负样本进行标注用于系统优化,让音频鉴黄系统更智能。目前该系统已在腾讯云的点播、直播等业务中上线使用,进一步提高色情内容检出率。

暴力、血腥、黄赌毒不良社会导向违规内容的传播,严重影响网络环境的清朗健康发展,本次可信云标准的发布以及首批通过评估认证企业的公布,将有效促进内容安全行业向更高的标准提升,同时也将对整个产业生态的有序发展起到积极的推动作用。

未经允许不得转载:DOIT » 以 AI 正视听 腾讯云国内首批通过可信云内容安全认证