“内容管理进化”?全球视频直播巨头直击审核难

一场视频行业的监管风暴即将来临!

近来,儿童动漫视频领域一度成为传播不良信息的重灾区。据监管部门通报,自2017年底开始,一些以唐老鸭、蜘蛛侠等经典卡通角色为主角,经过“二次创作”的“邪典”动画片,已通过互联网流入国内多家视频网站。

通常,“邪典”动画片隐藏于“亲子”、“早教”等的合法外衣之下,实则传播暴力、涉黄等诸多儿童不宜的内容。

2018年2月6日,全国“扫黄打非”办公室组织腾讯、快手等16家互联网公司,就网络有害出版物特征值共享数据库召开年度第一次工作会议。

会议围绕处置清理儿童“邪典”动画视频等方面工作,对各公司落实企业主体责任,特别是中小学在寒假和春节期间加强自律清查提出要求,一场监管风暴来临。

文化“洋垃圾”频频入境

根据通报,广受社会关注的广州胤钧贸易有限公司制作传播儿童“邪典”动画视频案件,已交由广州市天河区公安机关刑事立案查处。

自此,由境外传入并经“汉化”后大范围流入中国,毒害中国儿童的“儿童邪典片”呈现阶段性打击成果,彰显出政法执法部门对此类视频的“零容忍”态度。

2017年底,西方主流媒体曝光“艾尔莎门”事件(“邪典”视频中的主角为《冰雪奇缘》女主角艾尔莎公主而得名),迅速引发西方社会激烈的争论。

在视频领域,如何鉴别并审核此种可能骗过机器算法甚至人工审核的视频,一时成为争论的焦点。

此类问题并非YouTube独自面对,中国互联网领域面临更多、更棘手的相关问题。数据显示,中国正以7.51亿网民数位居世界第一,普及率达55.8%,美国以近3亿网民人数居第二。

更值得重视的是,在硬件(智能手机)和软件(4G网络、WIFI)的发展及普及下,中国移动互联网已进入“井喷式”发展阶段,甚至在农村地区,儿童用手机刷视频的场景也随处可见。

在中国视频网站中,“儿童邪典”视频事件也掀起层层波澜。多家媒体曾对此报道称,这些“洋垃圾”入境后,竟然开始被“本土化”,不仅有国外视频“搬运”后的汉化,还有各仿制拍摄、制作的视频生产。随着互联网大数据和算法的客观作用,这些视频可能会“越看越多”,甚至“永远看不完”。

全球视频业面临“审核边界”

截至发稿时,国内相关视频发布平台均已进行整改下架。尽管搜索关键字仍可看到相关视频留下的蛛丝马迹,绝大部分已经无法打开观看,但留给业界的是审核难题。

“关于视频审核,就我所知,行业已在积极推进。”一名业内算法工程师坦言,“更困难的是直播审核。”

中国互联网协会相关人士也指出,“(在直播平台上)由于主播的直播行为具有即时性的特点,也给平台方的审核带来一定难度。”

短视频内容审核已是“全球性难题”。“儿童邪典”事件发生后,YouTube的 CEO Susan Wojcicki曾表示,2018 年公司将把人类审查员的数量增至 10,000 名,以遏制不良内容。

但形势依旧不容乐观。海外知名媒体BuzzFeed NEWS通过采访发现,YouTube 系统仍存在不少问题,并存在一些令人难以理解甚至有时自相矛盾的评级准则。

来自业界、学界及法律界人士并非杞人忧天。当前,腾讯、阿里巴巴、滴滴等成为全球互联网标杆企业的同时,以快手为代表的短视频平台正在迅速崛起,不仅吸引到巨大的流量,引起资本界的瞩目,其内容审核难度更大、技术要求更高。

在视频内容的审核和管理当中,最基本的要求必须遵循国家相关的法律法规,但审核工作中却存在“模糊地带”。

据业内人士举证说,猴子是不是可以当宠物养、海龟是不是可以随意捕捞?诸如此类问题都曾触发广泛社会争议。根据《中华人民共和国野生动物保护法》的规定,中国并没有允许个人饲养宠物猴。这意味着,无论是否是在合法商贩处购买,均属于违法行为。

在公众舆论看来,此类问题却是“稀松平常”。只要搜索网络,诸如“女子公园遛猴子,个人饲养宠物猴属于违法行为(图)”等新闻并不鲜见。

无疑,中国社会各界需要达成广泛的共识,以在法律、道德、价值观甚至审美等多个维度上实现最精准的界定和最有效的平衡。

领跑“内容管理进化论”

根据官方介绍,快手是一家日活用户已过亿、人均日使用时长超过一个小时的短视频平台,每天有1000多万条原创短视频上传,累计超过40亿条原创视频。

2018年1月28日,快手通过微信公众号披露违规用户及内容处罚情况透露,该平台1月份平均每天清理违规内容超过42万条,每天处置有效视频类举报1.8万条。

由此,短视频内容管理工作之巨可窥见一斑。

 

“对执法机关来说,应该建立多部门的联合监管机制,形成强有力的监管,对涉及儿童的影视视频等应该细化分类管理,实施分级制度。”女童保护基金管委会委员、《中国经济周刊》记者徐毫曾撰文指出,“对网络平台来说,也应该完善自查机制,畅通举报渠道,强化反应机制,充分利用技术筛查和人工干预,决不能让有害的内容传播,更不能为了“流量”而不顾道德法律。”

作为短视频领域的领头羊,快手已经走在内容管理的前列。近日,快手联合浙江大学达成协议,共同探寻视频领域内容管理的规则这一“世界性课题”。

无疑,快手将借助浙江大学在公序良俗方面的学术积累,为整个短视频行业摸索出一条可行道路,并对内容管理提供空前完备的规则借鉴。

业内普遍认为,就短视频内容管理,短视频平台积极联手科技界、学界进行深入研究和探索,这确系一次有益的尝试。

近年来,针对涉及暴力、色情等违法有害内容零容忍,快手建有数以千计的人力和服务器组成的7x24小时全职内容评级团队。

此外,快手还成立行业首家“社区自律委员会”,邀请知名学者、媒体人和普通用户共同参与对快手的监督;在平台内设置了完善的用户“一键举报”功能,并在网站首页进行公示24小时举报电话及邮箱。

“我们已建立了业内领先的多级处罚手段和标注体系,并已取得初步成效,同时也正在借助外部力量,联合社会各界相关机构一起推动短视频内容管理的课题研究。”快手一名负责人透露。

作为一家注册用户数亿的平台,快手的影响力越来越大,正积极担负平台管理责任和更多的社会责任,成为短视频领域规范发展的标杆。

欢迎分享、点赞与留言。本作品的版权为南方周末或相关著作权人所有,任何第三方未经授权,不得转载,否则即为侵权。

{{ isview_popup.firstLine }}{{ isview_popup.highlight }}

{{ isview_popup.secondLine }}

{{ isview_popup.buttonText }}